2015 年, Google 宣布將釋出開發 AI 演算法的內部工具 TensorFlow, 進而改變了全世界的 AI 研究與發展方向. 用 Google 執行長的話來說, AI 科技的影響力可能如電力般深遠, 而 Google 提供的工具是開放, 免費的, 入門 AI 的門坎也從博士學位降低到只需要一台筆電.
但 TensorFlow 的力量, 現在已經超出 Google 的控制. 兩年多來, 學術界和矽谷用 TensorFlow 締造不少引人注目的成果, 但匿名 Reddit 論壇用戶 deepfakes 成了最新焦點.
Deepfakes 以 AI 軟體為基礎, 打造了幾乎能自動無縫縫製任何臉部影像到影片的功能. 你可以輕易想象這會被拿來做什麼事. 《Motherboard》報導, 這個軟體被拿來把任何人的臉 (例如女明星或臉友) 放上色情片女演員的身體.
《Motherboard》首先披露消息後, Deepfakes 創造了自己的 subreddit, 累積 9.1 萬多名訂戶. 另一名 Reddit 用戶 deepfakeapp 也釋出一個叫做 FakeApp 的工具, 讓任何人都可以下載這個 AI 軟體, 自行使用. 目前 Reddit 已經禁了這個社群, 理由是這違反了該網站對於非自願色情的規範.
根據 FakeApp 的使用指南, 這項軟體是以 TensorFlow 為基礎打造的. Google 員工曾以稍微不同的設定和主題, 用 TensorFlow 做過類似的事, 訓練演算法從塗鴉中產生影像. Deepfakes 認為這還有許多好玩的用法, 例如把尼可拉斯凱吉的臉放到各種不同電影, 但我們知道, 訂閱該討論區的 9.1 萬玩家都是為了 A 片.
TensorFlow 這項開源資源帶來許多有益人類的成果, 例如可能偵測出癌症的演算法, FakeApp 的存在則代表著開源的黑暗面.
Google (還有微軟, 亞馬遜, 臉書) 都鬆綁了許多技術力, 開放全世界使用, 現在任何人都可以下載 AI 軟體, 盡情實驗, 創造, 這代表可以假造政治演說 (使用會模仿聲音的 AI) , 也能產生假的報複性色情影像. 所有數字媒介都是一連串 1 和 0, AI 則能透過巧妙安排產生出原本不曾存在的東西.
由於這個軟體可以直接在一台計算機上獨自運作, 當軟體離開伺服器, 大型科技公司也就喪失了控制權. 開源理念的教條, 也代表這些公司無需對後果感到愧疚或覺得有責任.
換臉 A 片風波也不足以改變現狀, 因為免費軟體對這些企業來說是門好生意, 讓更多人研發 AI. 每家大型科技公司都陷入儘可能爭搶 AI 人才的爭奪戰, 愈多人湧入這個領域愈好. 這些免費勞工會寫出程式碼, 啟發新產品, 幫忙找出 bug, 修正程序, 大學也會訓練大學生和研究生使用這個軟體, 提供一個好管道, 增加熟悉公司內部工具的新人才.
AT&T 先進科技副總裁吉爾柏 (Mazin Gilbert) 說: 「大家過去 5 年都在談機器學習的大突破, 但真正的大突破不是演算法, 其實演算法跟 1970, 1980, 1990 年代沒兩樣, 真正的突破是開源. 」
「開源降低了入門障礙, 所以現在口袋最深的不再是 IBM, 而是 Google 和 Facebook. 」
隨著輿論對 AI 開發倫理的重視, 開源軟體議題也複雜化. Google 目前提供的工具, 並非用來創造《魔鬼終結者》的天網 (Skynet) 等恐怖威脅, 但依然可能造成真正的傷害. Google, 微軟等提供開源 AI 架構的企業一直大聲疾呼 AI 倫理的重要性, 也讓旗下科學家展開相關研究, 但這些公司並未提供任何下載免費軟體的指導原則, 像 TensorFlow 官網就沒有任何倫理相關的指南說明.
讓 AI 不再開源似乎也不是理想的解決方法, ArXiv, Github 等網站免費分享的資訊, 代表相關人士可以發現潛在的陷阱並要求問責. 由於這項核心科技的開發人員不會願意為換臉 A 片的出現負責, 責任將落在這些影像分享的平台. 例如, Gfycat 刪除所有 deepfakes 製作的 GIF 動圖, Reddit 禁止該討論區, PornHub 也表示一發現有類似影片也會刪除. 但 deepfakes.club 網站依然存在於主要社交平台之外.
換臉 A 片不但傷害了被換臉的女明星, 也貶低了 A 片女演員的專業作品, 把她們當成「可替換的」, 在她們不知情, 不同意, 不能控制的情況下散播這些數字操縱; 這項科技可以允用在名人身上, 不可避免地當然有人會拿來使用在一般人身上, 如班花 , 同事, 小孩, 同學, 前女友, 做為一種報複性色情手段, 數字性騷擾將進入黃金時代, 任何女性只要被拍太多照片都得疑心, 更不用說上傳照片到社群網站時得多加思考許可權問題.