AI黑產，越來越猖獗了
最近，國內某Cosplay（角色扮演）博主發現自己發布在網絡上的正常照片被人用AI修改成了裸照，這樣的情況還不止她一個。在網絡上，不少人以5元一張的價格叫賣這些AI裸照，並且表示60元就能打包买到60多名博主的“裸照”。
隨着“AI”來到普通人生活裏的，有越來越真假難辨的色情內容，有不斷被侵犯的個人隱私，以及默默生長的黑色產業。
這樣的黑色產業鏈，正在越來越猖獗。但是，令人畏懼的事情，還不止於此。
01
AI黑產由來已久。
最开始，是一名叫"Deepfakes"的用戶在Reddit上發帖，稱其完成了一個機器學習模型，借助這個模型，开發者可以任意更換視頻中的人臉。
模型公布後，立刻引起了巨大的轟動。盡管這一技術可以用在許多其他方面，但是色情內容無疑是第一驅動力。
網絡上隨即开始出現大量使用Deepfakes合成的色情視頻，其中不少視頻女主角的人臉被替換爲斯嘉麗·約翰遜、蓋爾·加朵等大牌女星。
這樣的發展迅速引起了相當大的爭議，帖子很快被刪除，但是這項技術產生的影響並未消失。
2019年，又有一名开發者在GitHub上公布了一項類似Deepfakes的技術——DeepNude，利用這項技術，开發者可以一鍵移除照片中女性身上的衣服。
很明顯，這項技術惡意應用了機器學習技術，違反了GitHub平台的相關規定，很快就被GitHub下令封禁。
這項技術的开發者也表示這項技術所帶來的影響始料未及，停止DeepNude的發版更新，並給付費會員退款。
不管是Deepfakes還是DeepNude，這兩項技術的應用範圍還比較有限，對於非技術人員的門檻較高，並沒有引起太大面積的濫用。
不過隨後，一系列AI換臉軟件在國內風生水起，ZAO、去演、顏技和AI換臉，其中最爲熱鬧的就是ZAO。
號稱“僅需一張照片，出演天下好戲”，ZAO利用一張正面照，就能爲生成十分真實且靈動的最長可達一分鐘的視頻。很快，大量用戶湧入app，AI換臉也一時吸引了相當多的關注。
但很快，ZAO的霸王條款和隱私泄露等問題遭到人們質疑，其發行公司陌陌也隨機遭到工信部約談。這一短暫的熱潮，很快熄滅。
對於AI換臉，人們既興奮又憂慮。但是，AI能做到的不止這些。
同樣在2019年，3月，有詐騙犯利用AI仿造了某能源公司母公司CEO聲音，成功誘騙公司高管向其轉账24.3萬美元（約175萬人民幣）。
這家英國能源公司的首席執行官接到詐騙犯電話時，以爲自己正在與德國總公司CEO進行通話，因爲對面的AI合成音甚至有一些德國口音。
在受騙人轉账後，黑客甚至和他進行了第三次電話會議，催促他付款，他這才感到懷疑，進而發現被騙。
雖然AI換臉、AI脫衣以及AI語音和視頻這些技術早已有之，但是相關事件一直處於偶發狀態。
三四年後，隨着ChatGPT的火熱，這些技術再次回到大家的視野，甚至變得更加逼真，更加低門檻。
相比之前的“無心之失”，現在，AI已然形成了一條黑色產業鏈。
上遊不法分子通過AI技術生成圖片，再將圖片打包成合集，成套售賣。除了現成的圖片，不少人還提供AI脫衣的服務，只需要兩塊錢，這些人就能把收到的照片導入AI軟件，進而一鍵制造虛假的“裸照”。
除了AI脫衣，AI詐騙也在越來越普遍。
今年5月，山東警方破獲一起詐騙案。受騙人在收到冒充他的親戚的信息後，還收到了他打來的視頻，盡管在7秒的視頻中連线有些許卡頓，但是聲音和樣貌都讓受騙人確認了對方的身份，進而向對方账戶轉账。
近一段時間以來，這種案例屢見不鮮。福州某科技公司法人代表郭先生，也因爲AI僞造的微信視頻，在短短十分鐘內，就被騙了430萬。
越來越強大的AI帶來的奇妙體驗和巨大危機，使得AI的發展，好像也變成了雙刃劍。
02
一直以來，“AI威脅論”都不缺少擁躉。
最近剛剛進軍AI領域的馬斯克早在2020年就曾說過，AI對於人類將是巨大威脅。在ChatGPT獲得巨大關注後，馬斯克還是秉持這一觀點，認爲ChatGPT展示了AI的先進，但AI對人類也是更大安全隱患。
馬斯克認爲，AI安全需要立法保護，無論是飛機、汽車還是醫療，任何先進技術都可能威脅人類安全，而AI對於人類來說，則是一個更大的安全隱患。
事實也確實如此。
過於強大的AI正在取代人類的崗位。
今年4月，知名公關及廣告服務商藍色光標流出郵件，稱管理層決定無期限全面停止創意設計、方案撰寫、文案撰寫、短期僱員四類相關外包支出。藍色光標也很快回應表示郵件內容屬實。
不過，根據郵件內容來看，雖然部分原因是爲了給全面擁抱AIGC打下基礎，但藍色光標這一舉動實際也是爲了降本增效。
相比文案工作被GPT取代的擔憂，其實更早陷入被AI取代憂慮的行業反而是原畫師。
早在ChatGPT出現之前，AI繪畫已經出現，並一出現就在畫手圈掀起了軒然大波。
AI繪畫實際上是靠大量學習畫師發布在網絡上的作品來進行深度學習，進而產出相對應畫風的產品，熟悉的人，甚至能看得出AI繪畫參考的是哪一個畫師。因此，最开始伴隨AI繪畫的爭議其實是版權問題。
然而隨着AI繪畫日益發展，日漸精美且高效，關於AI取代人工的討論开始興起。
老累、禾野、烏合麒麟、花椰菜等畫圈比較有名的畫師都曾因爲關於AI繪畫的討論登上微博熱搜。
有人認爲，低端畫法終究會被AI取代，並且他樂於看到這種改變，也有人對此表示擔憂。但是不管怎么說，AI帶來的改變，確實已經开始了。
走在科技前沿的深圳地鐵，前段時間已經被網友發現宣傳畫疑似AI制作，網友甚至表示能夠猜出提示詞。
圖源：小紅書
前不久，知名遊戲公司遊族也傳出，要“一刀切”裁掉所有應屆生，不管是收到offer還是已經籤約，甚至是已經在實習的應屆生，都面臨毀約。
盡管大面積毀約可能來自於遊族的組織架構調整，但更大的可能，是在降本增效的要求下，AI的進展迅速。因爲使用AI，遊族4月2D美術外包成本降低約25%，到年底還可能實現更大程度的成本下降。
遊族並不“孤單”，在遊戲行業，已經有不少遊戲公司开始停止外包分鏡插畫，換用midjourney等AI工具作爲替代方案。
盡管目前AI並不能自主創作有自己的風格的產品，導致行業內對此接受度還比較低。但是毫無疑問，隨着AI對於人類畫作進行深度學習，越來越多有着“自己”風格的AI繪畫產品也並不遙遠。
投資銀行高盛（GoldmanSachs）曾發布報告，隨着AI技術的突破，預計全球將有3億個工作崗位被生成式AI取代，其中律師和行政人員所受影響最大。受影響最小的，反而是對體力要求較高的職業或戶外職業，例如建築和維修工作。
人類曾經以爲，AI可以取代人類完成枯燥單調的工作，那么人們就可以用這些時間來吟詩作對寫詩繪畫，然而現實是，AI取代了人類吟詩作對寫詩繪畫，人類還是只能做無聊單調的工作。
甚至，AI的發展就建立在人類的血汗工廠上。
爲了去除AI中的有害信息，各大公司都需要聘用標記員來標記有害信息。
OpenAI就在2021年底與第三方公司SAMA籤署合同，僱傭肯尼亞的廉價勞動力爲性侵犯、仇恨言論和暴力的文本描述打上標記。
合同中稱，OpenAI向SAMA支付12.5美元的時薪，但是底層的標記員時薪不超過2美元，最低檔只有1.32美元，折合人民幣也只有9元，還需要每天工作9小時，閱讀並標記150-250段文字。
圖源：OpenAI
然而長時間面對大量負面內容，給這些員工帶來了極大的心理壓力，甚至患上了嚴重的PTSD。相比傳統的媒體平台或者視頻平台的審核員，這些標記員要面臨更多和更快的負面信息席卷。
低廉的人力被僱來爲AI鋪路，最後，被訓練好的AI逐漸取代了人類。
03
結語
就在最近，爆火的生成式AI產業正式迎來首個監管文件。網信辦等七部門近日發布了《生成式人工智能服務管理暫行辦法》，並將從2023年8月15日起施行。
不少從業者都表示，這個監管文件來得正是時候。
在監管下，部分AI黑產可能會遭到打擊，利用AI來進行非法行爲的人，也將會受到應有的懲罰。
但是AI帶來的更深的危機還沒有解決，也不可能被徹底解決。
DeepNude被下架後，人工智能與機器學習權威專家吳恩達曾發推，很高興看到DeepNude消失，人們應當把能力用在更有價值的地方，去推動世界的發展。
AI確實推動世界發展了，卻並沒有完全朝着人們希望的方向發展。
正如不少人反對當初畫師老累對於畫師高端和低端的劃分一樣，不管人的能力如何，都不該被簡單地劃分爲階層，然後任由低端的人才被AI取代。
更加重要的是，一個不可控的技術，最終必定會造成災難。
而AI的發展，現在還在人類控制之中嗎？
格隆匯聲明：文中觀點均來自原作者，不代表格隆匯觀點及立場。特別提醒，投資決策需建立在獨立思考之上，本文內容僅供參考，不作爲任何實際操作建議，交易風險自擔。
標題：AI黑產，越來越猖獗了
地址：https://www.iknowplus.com/post/15220.html
