DeepFake和DeepNude:低級需求催生的AI應用是有原罪的

可能你對DeepFake這個詞不太了解,但是對下面這幾張圖一定很眼熟。

左邊一張圖就是前段時間大火的楊冪版黃蓉,右面一張圖是凱奇訪談自己這兩張圖片講述的都是一件事情:AI換臉,這一話題曾引起廣泛討論。

AI換臉最先在發生在尼古拉斯凱奇上,一開始還是趣味性的惡搞。但後來故事的走向就變了味道。艾換臉被別有用心的用在了成人電影裡,很多知名女星深受其害。楊冪版黃蓉可以說是凱奇故事的國內版本。一經推出,因其毫無PS痕跡的效果在國內引起了廣泛的關注。

他也坦承在事件被報導後有很多人想找他做視頻換臉,其中絕大多數都涉及違法犯罪換臉哥在微博上說道:“版權的問題使我已經深深的認識到錯誤和自己的無知“。

而最近的DeepNude,更是讓人惱火.DeepNude是一個基於深度神經網絡的應用程序,可以實現一鍵脫衣的功能。之前這款應用提供客戶端版和網頁版,你可以選擇支付50美元付費使用,也可以選擇使用免費版,區別是免費版獲得的圖片會出現較大水印。

這款應用在上線幾個小時以後,便遭遇下架。隨後DeepNude的開發者也在微博上宣布永久關閉相關服務。並表示他們在幾個月前創建了這個娛樂項目。曾一度以為這款應用的傳播在可控範圍內。事實上這款應用並不是很完善,它只適用於特定的照片。他們從沒想過它會像病毒一樣傳播開來,以至於後來無法控制。

 

 

社會對這些AI換臉應用的態度

 

在DeepFake引發的討論中,大家對換臉的應用還是有兩個態度的。首先肯定了技術無罪,以及換臉的確可以滿足大眾的某些娛樂性需求。其次便是更大程度上的擔憂,因為無法預知誰會利用這項能力做什麼事情。所有的這些都是潛在的風險。但是DeepNude的出現就是輿論一邊倒了。誠然這個軟件很受一些人的歡迎。據說雖然這個APP專業版的費用是50美元,仍然有不少人願意為其買單。

社會對DeepFake的態度是質疑,對DeepNude的態度是聲討。他們引發了對不合理使用AI技術的擔憂。技術無罪,但技術在不合理使用的情況下產生的負面影響是不容忽略的。有專業律師點名AI換臉將產生侵犯肖像權和名譽權的問題。顯然DeepNude在這一點上更是有過之而無不及!

對於這些偽造的圖像和視頻,有些政府已經出台了專門的法案打擊DeepFake技術。除了政策層面,有很多技術手段可以幫我們識別這些假視頻假照片。研究者已經開發一些專門的算法用於識別這些造假技術。雖然最新算法的檢測精度高達97%,但另外3%的錯識別依然會導致大量的照片流出,引發嚴重的後果。

 

AI轉臉技術無罪,但不要做為惡者的幫兇

技術的價值在於可以滿足大眾特定的需求。一個重要的前提是這個需求必須是正當的。任何事物都有其兩面性,AI也不例外。在AI技術快速發展的今天,AI的能力在很多方面都超過了普通人的水平。但AI技術的不合理使用所帶來的負面影響,也越來越使人擔憂了.DeepFake和DeepNude就是最典型的例子。 低級需求催生的AI應用是有原罪的,應該慎之再慎。

在移動AI時代,技術的應用門檻變得很低。這也就導致在根本上沒有辦法杜絕這種“技術的不合理使用”情況。尤其是平台的出現,更是加劇了這種不可控性。 “破綻:風口上的獨角獸”一書中有這樣的觀點:平台模式擁有與生俱來的缺陷:品控例如,作為平台淘寶很難解決假貨問題,滴滴很難解決司機犯罪的問題.AI技術同樣如此,公司規模越大,用戶越多,越難杜絕不合理使用技術的情況。

由於社交的特殊性,社交渠道越來越被幾家巨頭壟斷。大家都在同一個社交平台上。臉譜的用戶有將近20億,國內的第一社交軟件微信的用戶也在6億左右。在此背景下,信息能以一種從未有過的方式瞬間傳遞至海量用戶.AI技術也是如此,諸如DeepFake,DeepNude之流,將使用這項技術的門檻降得如此之低,任何人只需要有台電腦,有部手機就可以。這如何不讓人擔憂。

匹夫無罪,懷璧其罪,技術無罪,濫用有責,重在監管。如果沒有辦法控制技術不被濫用情況下,是不是先暫停一下,不要立刻做大規模的推廣。等到監管措施完備了在進行推廣,這是不是更合適更負責的做法呢。技術愛好者本著對技術的好奇與熱愛而做適當的研究自然沒有什麼問題,但是一定要意識到技術傳播中的不可控性和潛在風險。作為大的技術平台更應謹慎面對此類低級需求。

不要邪惡。也不要無意中成為惡者的幫兇。集中精力做些對大眾,對社會真正有價值的事情不好嗎。

相關文章: