AI 自己也沒想到,它下一個顛覆的居然是「成人產業」

語言: CN / TW / HK

8 月底,美國科羅拉多州博覽會藝術比賽上,一張奪得冠軍大獎的繪畫作品,引起了不小的爭議。因為,這幅名為《太空歌劇院》的作品,是藝術家使用 AI 技術生成的。

雖然獎金只有區區幾百美元,但對於真正「作畫」的參賽者來說,沒有生命的 AI,創作的作品超過了作為人類的自己,確實「傷害不大,侮辱極強」。

但其實,隨著 DALL-E、Imagen、Stable Diffusion 等開源 AI 模型的出現,任何人,只要會打字,簡單的輸入幾個單詞,就能生成各種風格的繪圖畫面——而不是簡單的線條,而是真正的「作品」級別的畫面。

這幅由 AI 技術「創作」的作品,名字就叫《太空歌劇院》(「Théatre D'Opéra Spatial)。它在 8 月底美國科羅拉多州博覽會藝術比賽上,獲得了「數字藝術/數字修飾照片」一等獎|網路

AI 給了你創作的「眼睛」,但總有人要用它來尋找一些.…….更刺激的東西。

最近,一個名為 pornpen.ai 的工具在 Reddit 上走紅。嗯,顧名思義,它真的是一個「澀圖」界的「神筆馬良」——使用者都不需要輸入單詞,只需要選擇幾個標籤,就可以出現一張「大尺度裸露圖片」。

從 Deepfake 到 pornpen,AI 生成的成人內容已經逐漸「走上臺面」, 有一些網頁甚至開始獲得上億瀏覽,嘗試與傳統的成人影片網站和論壇一爭高下。

未來,AI 生成內容會淘汰網友硬盤裡的「動作片老師」嗎?人們又該如何看待這些目前還沒有任何限制的「限制級內容」?

一鍵生成「澀圖」

pornpen 的誕生,Stable Diffusion(Stability AI 最近釋出的文字轉圖片生成模型) 模型功不可沒。

Stable Diffusion 完全免費開源,它的程式碼都在 GitHub 上公開,在遵循原專案採用的 CreativeML Open RAIL-M 許可證的前提下,任何人都可以拷貝使用,生成任何他們想要的影象,甚至調整系統開發獨立的應用或服務。

不可避免,很多使用者用它製作 Deepfake、暴力、虛假新聞圖片等「非主流」內容……從 hentai,到電腦生成的名人裸照,再到不存在的人的裸照。

此外,Stable Diffusion 訓練資料,來自大規模 AI 開放網路專案 LAION 旗下的一個注重「美感」的資料子集 LAION-Aesthetics。

這是一個開源的 250TB 資料集,其中包含從網際網路上抓取的近 59 億張影象。

這些影象中有相對較少的"NSFW"(Not Safe For Work) 影象,但可能正是這個資料集的高視覺質量,使得 Stable Diffusion 特別適合製作成人圖片,尤其是名人明星的 Deepfake 情色圖片。

於是,Stable Diffusion 釋出不久,pornpen.ai——首批高模擬 AI 澀圖網站之一上線了。

以 Stable Diffusion 模型作為主要支援系統,pornpen.ai 的操作介面十分簡潔,以選單欄的形式呈現,使用者通過選擇一組標籤,就可以自主定製生成女性裸露照片。

pornpen.ai 官網

pornpen.ai 的定製標籤涵蓋六個緯度,分別是風格基調、標籤、種族、風格、場景、角度。

使用者擁有極高的自主權,可以隨心組合標籤,全方位、多角度地捕捉模型,還可以改變生成照片的風格。

值得一提的是,pornpen.ai 的創作者明確地刪除了 pornpen.ai 指定自定義文字的功能,以避免產生「有害影象」。

因此,大多數時候,pornpen.ai 生成的多數圖片看起來是令人信服的;

但有時,當提示比較模糊,涉及到刻板印象或系統不熟悉的主題時,它生成的是外形奇怪的"NSFW"圖片,通常有多餘的四肢,器官在不尋常的地方,以及扭曲的肌肉,令人不安。

pornpen.ai 上的定製化標籤|pornpen.ai 官網

pornpen.ai 有時還會在沒有人的情況下自動生成影象,這可能是系統無法理解提示符造成的。

當然,pornpen.ai 的提示工程演算法還會被進一步微調,新的標籤將被新增,它將變得更加智慧。

隨著網友操作日益嫻熟,用 pornpen.ai 生成的澀圖在各國論壇上不斷蔓延。

比如,在 Reddit 上,人們開啟了 r/pornpen 的板塊,目前共約 1.7W 人蔘與討論,交流分享自己總結的一系列適合創作圖片的標籤。

「P 站」最大敵人?

和不少同類網站相比,pornpen.ai 只是個晚到的「弟弟」,已經有不少專注於 AI 生成成人內容的網站,做得相當成功。

根據 Sensity 的資料顯示, 2018 年排名前四的 Deepfaked 色情網站的瀏覽量超過 1.34 億次。

還有網站自今年年初以來已經積累了超過 3800 萬的點選量。甚至有人將其 AI 能力變成 API 介面,開放給合夥夥伴,搞得太大,以至於 Coinbase(加密貨幣交易所)下達禁令斷掉了它的支付入口。

AI 生成類成人內容的火爆也不難理解,調查顯示,目前在歐美成人網站,使用者對 AI 生成的成人內容主要持有好奇態度。

正如一位 Reddit 使用者所言,體驗 AI 產生的 NSFW內容是一種新奇的體驗,「知道它是由機器人生成的,看它的時候,會帶有一種原始的好奇心,好奇它能否捕捉到引起人性的複雜性,或者它只是一種扭曲的模仿。」

新技術開啟了「成人內容的新供給」,但其實它也隱藏了很多問題,而其中不少踩中了道德,乃至法律紅線:

隱私侵犯

早期 pornpen.ai 用明星 Deepfake 合成類資料做訓練, 以至於最開始時候,pornpen 網頁還有明星的標籤,後來很快就被去掉了。

同時,模型的訓練資料集還可能包括那些不同意自己的影象被用於此類培訓的人,包括成人行業工作者。

在現有的盈利性網站上,如 OnlyFans 和 ManyVids,成人創作者必須驗證他們的年齡和身份,這樣公司才知道他們是自願的成年人。

但人工智慧生成的色情模特無法做到這一點,因為他們不是真實的。例如,2020 年,研究人員發現了一個 Telegram 機器人,它生成了超過 10 萬名女性的侮辱性深度偽造影象,其中包括未成年女孩,這對於社會倫理道德無疑是個巨大的挑戰。

圖片:AI News

偏見與「凝視」

不可否認,pornpen.ai 引發了一系列道德問題,比如按鈕的選擇和預設選項都複製了一種非常異性戀的男性凝視。 在 pornpen.ai 網頁上,只有預設輸出女性暴露照片一個選擇,並沒有同樣的男性照片。 其中一個原因可能是,用於訓練的資料集中女性的圖片更多,這無疑形成了可怕的「偏見」。

衝擊成人產業

有人認為,AI 成人內容的火爆,可能會導致真人成人內容產業創造者「失業」。不過,目前從業者認為「這些內容很有趣」,真的要取代真人演員,可能還需要很長時間。

對於成人內容表演者來說,更擔心的是如果 AI 類成人內容過於火爆,可能會引來更嚴厲的網路監管,殃及自己的事業。

法律 的漏洞

目前,AI 產出的成人內容仍處於法律的灰色地帶,這類內容的生產和傳播都沒得到有效的法律制約。

Deepfake 產生的成人內容幾乎總是出於惡意,通常在未經當事人同意的情況下衝洗出來的,用來威脅和騷擾人們。這種使用演算法生成的成人影象對當事人的名譽權、甚至人權都會帶來巨大的傷害。

但是,目前還沒有合適的法律來限制這類 AI 產出的成人內容。在美國,只有弗吉尼亞和加州,有針對 Deepfake 的成人內容的限制,但這些規定往往執行不力。

此外,根據《通訊規範法》(Communications Decency Act) 的第 230 條,科技平臺對幾乎所有使用者生成的內容都享有豁免權。

這意味著社交媒體通常不需要對平臺上傳播的 AI 成人內容 (無論真假) 承擔法律責任,因此,常常對平臺上相關的投訴不予理睬,無形中助長了 AI 成人內容的傳播。

成人內容是推動網際網路發展的一個重要動力,從流媒體、論壇甚至電子支付體系,都曾受惠於此。現在,反過來,技術尤其是 AI 技術的發展,也對這個古老的產業,產生了「反哺」。

以 pornpen.ai 的成人內容來說,AI 文字生成圖片技術被應用於色情產業幾乎是一個必然的過程。

一方面,現代色情產業一直都是最新科學技術應用的急先鋒;另一方面,AI 在影象內容生成技術的發展正好迎來了突破臨界點。

但是這樣的「進步」,仍然需要足夠的限制,可能是法律的,如針對 AI 模型刑事立法,健全法律體系;也可能是來自行業自發的,如成立協會,制定業界規範等。

畢竟,自由和限制是相輔相成的,無限制的自由,只會帶來混亂,甚至毀滅。