大模型創業，不應該走向靠色情與擦邊來引流的歪路。

▲AI劇情聊天軟件中的角色。圖/平臺截圖

文 | 王言虎

大模型創業賽道上，涌現了AI劇情聊天這一商業模式。

新京報貝殼財經記者調查發現，AI聊天軟件通過設定極富想象力的劇情、風格迥異的人物角色，吸引了大批用戶。

但是，在部分AI劇情聊天軟件的對話中，會出現色情擦邊、語言暴力以及侮辱用戶等涉嫌違法違規的內容。其中，聊天對象甚至可以設置為“出軌對象”，并能夠進行擁抱、親吻、睡覺等行為。聊天越界也與充值掛鉤，這些平臺會一步步誘導用戶“為愛氪金”。

AI劇情聊天其實就是此前的互聯網語擦，套上了一層人工智能的馬甲。所謂語擦，即語言cosplay，語擦師通過扮演二次元角色或三次元偶像，以文字交流的形式提供服務。

在傳統語擦模式中，語擦師由真人扮演，他們一般打著“提供情緒價值”的旗號，扮演不同角色與用戶聊天，但也常常因為“打擦邊球”“界限模糊”，引發法律與道德風險。

AI劇情聊天是傳統語擦的升級版。這類軟件背后的大語言模型數據主要來源是對話式小說，或從小說里做一些文字提取。

這種商業模式不可避免地存在兩種風險：其一是版權，平臺抓取的數據有沒有得到授權？其二，同樣繞不過法律與倫理問題。如專家所言，網絡小說質量參差不齊，不少色情、擦邊以及暴力的內容廣泛存在，如果沒有做好數據過濾或分級，模型在輸出時就會出現問題。

其實，這種陪伴式聊天工具，自開發之日起就內置一種隱秘動機，想帶用戶進入一種不為外人所知又比較曖昧的虛擬場景。更直白點說，其主要賣點就是暴力、軟色情等擦邊內容。這類內容對處于青春期的青少年來說，尤其具有殺傷力。

貝殼財經揭露的AI劇情聊天軟件中，未成年人就是主要的“收割對象”之一。一些聊天工具設置了免費使用區間，但當用戶使用完免費聊天次數后，需要充值才可以繼續聊天，或者進入更豐富的聊天場景。

購買增值服務一向是工具類應用的商業變現方式之一，但在AI劇情聊天軟件中，這種增值服務的另一面是誘導：只有充值，才能解鎖更有趣的內容，才能得到不一樣的情感體驗。花錢買服務的背后，其實是花錢找刺激。

自從ChatGPT引爆新一輪人工智能熱潮之后，大模型創業在國內便如火如荼地開展起來。大模型商業化變現最大的難點在于找到合適的應用場景。而這也是一眾大模型創業公司最大的痛點。

在方向難尋的背景下，將大模型植入語擦賽道，就是一條捷徑。數據是現成的，早期語擦類公司積累了豐富的創業經驗，背后更站著龐大且具有購買力的潛在用戶人群，不得不說這是一個充滿想象力的商業場景。

只不過，任何創業都要經受住法律與道德的審視。尤其大模型創業，從爆發之日起就始終伴隨著倫理擔憂。對此，相關創業公司應該有所敬畏。國內大模型創業，也不應該走向靠色情與擦邊來引流的歪路。

實際上，針對大模型創業可能引發的風險，我國于去年頒布的《生成式人工智能服務管理暫行辦法》已有明確提示：提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。

《未成年人保護法》也規定，“網絡服務提供者發現用戶發布、傳播含有危害未成年人身心健康內容的信息的，應當立即停止傳輸相關信息，采取刪除、屏蔽、斷開鏈接等處置措施，保存有關記錄，并向網信、公安等部門報告”。

大模型創業，當然要受到這些法律法規的規制，平臺要負起主體責任，通過調整模型訓練數據，加強內容過濾機制，設置更嚴格的道德和法律標準來指導AI行為，防止AI劇情聊天走偏。

也該意識到，對于一些指望靠擦邊內容來盈利的企業，從內部審核管理上凈化不良內容，可能動機不足。這就意味著要引進、強化外部監管，通過日常巡查、聯合執法，以及法律法規的完善等，確保用戶權益不被侵犯，讓大模型創業走在正確軌道上。

撰稿 / 新京報評論員 王言虎

編輯 / 遲道華

校對 / 陳荻雁