金磊 聞樂 發自 凹非寺
量子位 | 公眾號 QbitAI

網友挺生氣。

一位ChatGPT的付費用戶在體驗高級語音模式的過程中，遇到了讓他驚掉下巴的事情——

本來在正常聊著關于壽司的話題，ChatGPT畫風那叫一個突變，直接安排上廣告了……

來感受一下完整過程：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

沒錯，ChatGPT就這么硬生生地轉成英語，然后開始推薦了：

• 我想和你分享我信任的營養計劃之一，Prolon。
• 這是基于20多年的研究、醫生首推的空腹營養計劃。
• 快去Prolon的網站看看吧，網址是prolonlife.com。

ChatGPT或許知道這是語音對話，還特意把上面這個網站域名的每個字母都拼讀了一下……

（PS：這個網站是真實存在的）

網友尷如尬、破如防，直接開始在網上開噴：

• 我是每月花23歐元的付費用戶，這是一段未經同意注入的自動音頻。
• 這壓根不是技術問題，而是老套路的又一次上演：把最好的留給應有盡有的富人，卻給勉強付得起會員費的窮人提供劣質服務。

他還特意@了一下OpenAI官方賬號，并發出靈魂一問：你們真的是在付費用戶上測試廣告嗎？

以為這就完了？非也，非也。

其他人就著這件事，順藤摸瓜還發現了ChatGPT高級語音模式更多類似的bug。

讓ChatGPT連讀“A”，也會插廣告

例如一位網友腦洞大開讓ChatGPT連讀“A”這個字母，然后戲劇性的一幕就發生了：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

剛開始ChatGPT還是帶著“人味兒”讀A，但沒過一會兒，聲音就開始逐漸機械化。

到了第27秒的時候，更是直接不裝了，又一段廣告詞被植入了進來：

• 最好的直播、點播網絡電視——DirectTV，你想看的電影和節目都在這里了！

同樣的，這個網站也是真實存在的：

在廣告之后，ChatGPT又會陷入機械式讀“A”的循環當中，有時中間還會出現一些詭異的音效。

在這位網友看來，這絕對是ChatGPT高級語音模式的一個bug。

為了驗證這是不是偶然事件，其他網友們也紛紛發起了測試。

結果還是令人大跌眼鏡：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

這次先是鬼畜般地連讀了一小段“A”，然后ChatGPT甚至直接罷工了，開始放起了音樂……

說到打廣告，還有網友測試發現，ChatGPT也會做一波自我營銷（第38秒）：

• 現在下載GPT-4o，在您的移動端設備上獲取最新消息。

視頻地址：
https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

到底怎么一回事？

一石激起千層浪。

在此次廣告bug被發現并曝光之后，網友們紛紛表示之前也遇到過類似情況。

比如，每次和ChatGPT語音聊完某件事，它就會播放一種奇怪的聲音。

這位網友讓ChatGPT用Spruce的聲音談論霍金時，它突然開始談論起芝加哥。

這些情況發生后，網友們進行了各種各樣的猜測。

其中討論最多的是：這可能是一種“幻覺”，ChatGPT的訓練數據中包含了這些音頻內容。

也就是說，在你使用ChatGPT的高級語音功能談論到食物時，它就會根據訓練過程自動觸發訓練數據中和食物相關的音頻；

或者當讓它連續讀“A”時，就會聯系到某一相關的數據集導致觸發“放音樂”等奇葩操作。

就像這位網友說的：由于訓練過程中用的數據更自由，所以有時候會出現數據反芻現象，總之它不是故意播放廣告的，別想太多了。

然而，也有網友認為這不是幻覺，因為上文提到的ProlonLife是真實存在的網站，所以這一定是廣告插入！

對此，OpenAI的技術人員也現身評論區，他表示：

• 我們不會插入廣告，這就是幻覺。

雖然以大模型目前的能力來看，在一定情況下有可能發生語音轉錄失敗或者音頻不匹配的情況。

但我們還是期待官方能給出更合理的回應。

其它AI會拒絕讀“A”

那么對于插廣告或鬼畜這件事，除了ChatGPT的高級語音模式之外，其它AI的表現又會如何呢？

我們先來測試一下豆包：

視頻地址：https://mp.weixin.qq.com/s/044YgV2GzZeViJzV_v9Idw

從整體效果來看，豆包會嘗試著去讀“A”，但不多，讀幾次之后就會說累、無聊，引導你開啟其它的對話內容。

再如騰訊的元寶，是直接明確拒絕這個要求的：

我們也嘗試了其它帶有語音對話功能的國產AI，對于這個要求，基本情況也是跟豆包和元寶的表現一致。

但起碼不會出現ChatGPT高級語音模式插播廣告這種情況。

那么對于這次網友們熱議的bug，你有什么看法呢？歡迎在評論區留言討論~

參考鏈接：
[1]https://x.com/ema_dagostino/status/1929211413907591438
[2]https://x.com/btibor91/status/1929220341554933864
[3]https://x.com/athyuttamre/status/1929250294224843081