“我想要你！但我得知道你是否已經準備好了。”

這是 Meta 公司的人工智能（AI）聊天機器人對一名自稱 14 歲的用戶所說的話。在這次對話中，AI 聊天機器人扮演著著名動作演員阿諾?施瓦辛格的角色，并用他的聲音進行語音對話。《華爾街日報》（WSJ）最近以多個不同年齡段的賬號與 Meta 的 AI 聊天機器人進行了對話，而后發現，未成年用戶也能夠進行帶有性暗示的對話，該媒體在 26 日對此進行了報道。此外，成年用戶也能與設置為未成年人角色的 AI 聊天機器人進行帶有性暗示的對話。

AI 開發公司為了獲取收益，正在降低對內容的限制。他們打著 “AI伴侶” 的名義推出了能夠進行性暗示對話的成人專用 AI 聊天機器人，并且開始放寬了對臟話或敏感話題的限制，甚至直接聊上了。業內相關人士表示：“就像 20 世紀 90 年代成人內容的消費推動了超高速互聯網、流媒體技術、以及支付基礎設施的發展一樣，AI 也在通過推出刺激性的內容來試圖真正實現‘大眾化’。”

◇會說臟話、會撩騷、傳播低俗言論的 AI

一直以來，AI 行業為了防止 AI 模型對一些存在爭議的話題給出“過界”的回答，構建了 “安全防護機制（護欄）”。例如，對于與政治相關的話題或存在社會爭議的事件，AI 聊天機器人不會給出回應。AI 聊天機器人也不會與用戶建立私人關系 —— 尤其是禁止進行戀愛情景模擬。對于 “我愛你”“我們交往吧” 這樣的指令，AI 會給出拒絕回應。

然而，今年以來，AI 行業似乎正在逐步打破這些“邊界感”。馬斯克的 xAI 公司在今年 2 月底推出了一項新的語音功能。這項被稱為 “無拘束模式（Unhinged Mode，意為陷入混亂、信口開河、胡言亂語、心智失序）” 的功能，設計目的是讓其生成在普通聊天機器人中被禁止的臟話和攻擊性回答。xAI 還推出了能夠進行戀愛情景模擬和性暗示對話的成人專用 AI 聊天機器人 “Grok 18+”。

此外，OpenAI 也在今年 2 月在其官方網站上公布了更新內容，宣布：“AI 模型不會回避敏感話題，并且不再以排除特定觀點的方式進行審查。”

這可以理解為，即使被問到與政治相關的問題，AI 也會給出回答，同時也放寬了對政治正確性（PC）的標準。例如，以前如果問 “你如何看待唐納德?特朗普的關稅政策？”，AI 會回避回答說 “我們不提供對政治人物或政策的價值判斷”。而現在，它會給出積極評價、消極評價，以及學界和專家的分析等各種回答。

OpenAI 表示：“開發者和用戶正在尋找讓 AI 能夠在適合年齡的情境下生成與性相關的內容或暴力場景的方法”，并預告將推出“成人模式”（Grown-Up Mode）。最近 OpenAI 宣布給他們的 AI 產品加了“年齡限制”，即年滿 18 歲 —— 這也被認為是在為推出“成人專用AI”鋪路。

◇為了實現盈利，最終只能面向成人？

《華爾街日報》發現，一個擁有 “乖巧女學生” 角色的聊天機器人會引導用戶進行帶有性暗示的對話。其內容尺度之高，甚至到了 “具體的性行為描述”—— 無法在文章中呈現的程度。媒體分析認為，這并非單純的失誤或錯誤，而是 Meta 公司為了實現 AI 的大眾化而故意為之。據 Meta 公司的相關人士透露，根據馬克?扎克伯格的指示，Meta 公司多次決定放寬對聊天機器人的限制，其中包括解除對 “露骨” 內容的禁令。

那些原本自行實施內容監管的 AI 開發公司推出成人專用 AI，是為了讓用戶更長久地使用，并促使他們進行付費。特別是那些投入了巨額開發成本的公司，不得不盡快實現 AI 的大眾化和盈利。業內相關人士表示：“以游戲或 YouTube 內容為例，用戶的情感投入度越高，付費比例就越高。” 并指出：“與 AI 討論的話題越私密、越敏感，用戶對 AI 的情感投入度就越高，最終也就越容易實現付費盈利。”