西風 發自 凹非寺
量子位 | 公眾號 QbitAI

笑不活了，ChatGPT闖大禍！

AI幻覺隨意編造一個產品的新功能，誤導用戶大量涌入，最后開發者不得不把這個虛構的功能真的做了出來

受害者是一個樂譜掃描網站，最近莫名收到大量用戶上傳的ASCII吉他譜截圖，這些截圖還都是來自ChatGPT的。

網站開發者懵了：

• 壓根不支持掃描ASCII吉他譜啊？？？
• WTF
  

直到這位開發者自己親自用ChatGPT倒騰了一番才發現，好你小汁，原來如此～

ChatGPT生成ASCII吉他譜之后，會自動推薦大伙兒到他們的網站收聽或是進一步創作。

然鵝，該網站平時掃描的都是傳統標準五線譜，根本不支持ASCII吉他譜這種小眾格式……

更更笑不活的是，大量用戶嘗試該功能，把開發者架在那兒了，不支持該功能難免會讓滿懷期待趕來用戶感到失望，顯得網站很差勁。

于是乎，這位開發者被迫，加急趕工把這個功能給造了出來。

被ChatGPT“趕鴨子上架”造新功能

這個能掃描樂譜的網站名叫Soundslice，其中的樂譜掃描儀功能能將圖片照片中的音樂數字化，這樣你就能收聽、編輯和練習。

這位網站開發者表示，他們一直在持續改進這個系統，而他的工作內容之一就是負責留意錯誤日志，看看哪些圖片的處理結果不盡如人意。

過去幾個月里，他逐漸開始在錯誤日志中發現一種奇怪的上傳內容。

不是像這種傳統樂譜的圖片：

而是醬嬸兒的ChatGPT對話屏幕截圖：

一看截圖內容，小哥愣住了，“搞什么呀？這顯然這不是標準的音樂記譜法。這是ASCII吉他譜，還是一種相當簡陋的吉他記譜形式”。

他們的掃描系統本來就沒有，也沒打算支持這種記譜形式。那為啥會收到這么多來自ChatGPT的ASCII吉他譜截圖呢？

小哥為此困惑了好幾個星期，直到自己試著用了用ChatGPT，才發現原來是ChatGPT告訴大家去Soundslice注冊賬號，導入ASCII吉他譜，就能聽到音頻播放

一切就說得通了。

小哥非常氣憤，ChatGPT完全是在誤導大家，而且在這個過程中，它還無形中讓網站形象受損，讓用戶對他們服務的預期設下了錯誤的引導。

小哥也很無奈，該怎么辦？源源不斷的新用戶都被告知關于該網站的錯誤信息。難道他們要在網站各處貼上免責聲明，寫著“別信ChatGPT說的我們支持ASCII吉他譜”嗎？

最終他們決定：管它呢，不如順應市場需求吧。

于是他們專門開發了一個ASCII吉他譜導入器，小哥還強調這在他的“2025年預計要寫的軟件”幾乎排在最末尾。換句話說，在此之前就沒想著要開發這玩意兒。

而且他們還修改了掃描系統的界面文字，向大家介紹這個新功能。

當ASCII吉他譜導入到Soundslice后，大家伙兒就能播放這段譜子并進行編輯了。該網站還會自動生成對應的標準樂譜，效果be like：

網站特別聲明，ASCII吉他譜是一種局限性很強的格式。它既不標注音符時值和節奏，有時甚至連小節線都沒有。因此，他們僅將其視為把音樂導入Soundslice的第一步，用戶還可能需要使用他們的編輯器對其進行整理。

隨后附上了他們對音樂記譜特定方面支持的詳細說明：

看得出來小哥有多無奈，據他所知，這是首例因為ChatGPT錯誤地告訴人們某項功能存在，而促使一家公司去開發該功能的案例。

他本人對此表示心情很復雜：

• 能增加一個幫助人們的工具，我很高興。但我感覺我們是在一種奇怪的情況下被迫這么做的。我們真的應該為了應對錯誤信息而去開發功能嗎？

有意思的是，這位開發者一眼就能看出ChatGPT截圖是ASCII吉他譜，還和團隊火速造出了ASCII吉他譜掃描功能，其實他本人也是位吉他手。

吉他手&Web開發者

Soundslice網站的創始人，也是分享上面這起離譜事件的人，名叫Adrian Holovaty，是一名來自芝加哥的Web開發者，也是一名音樂人。

音樂方面，他發布的專輯作品包括《Layer Cake》（2025 年）、《Melodic Guitar Music》（2023 年）。

他還是W3C音樂記譜社區組（W3C Music Notation Community Group）的三位聯合主席之一，該組織負責制定和維護音樂記譜的相關規范。

其工作重點是MNX格式，他們希望它能成為下一代數字化音樂記譜的編碼格式。

而Soundslice網站創建初衷是想讓喜歡音樂的人能夠用這個工具把樂譜變成交互式學習環境，然后進行練習、教學、分享、轉錄。

該網站能自動適配設備的音樂渲染功能，還有功能完備的基于網頁的樂譜編輯器，以及能從照片或PDF中識別音符的“光學音樂識別”系統。

除此之外，早在2005年，他還開發了最早嵌入谷歌地圖網站之一的chicagocrime.org（網站已不存在），《紐約時報》將其評為年度最佳創意之一；2004年，他開發了一個瀏覽器擴展組件，啟發了Greasemonkey和“用戶腳本”的誕生；2007年，他還曾創辦了社區新聞與討論網站EveryBlock，后來該網站被出售。

更早之前，Adrian Holovaty還是一名新聞從業者，曾工作于《華盛頓郵報》等。

他把這場由ChatGPT說謊而造成的開發新功能事件發出來后，引起眾多網友討論。

有意思的是，網友的思路也是很清奇，認為恰恰可以利用ChatGPT的幻覺來搞開發：

• 我發現這是借助GPT-4進行編程的超實用方法之一。
• 我不會直接跟它講API怎么運作，而是讓它去“猜”，比如拿一段需要新增功能的示例代碼當起點。有時候，它能想出比我原本思路更妙的方案。接著我就調整API，讓它寫的代碼能跑起來。
• 反過來，我也會把現成的代碼扔給它，問它這段代碼是干啥的。要是它理解錯了，那就說明我的API設計得讓人犯迷糊，而且能看出到底是哪些地方容易讓人困惑。
• 這其實是利用了神經網絡最擅長的事兒：不是輸出精準信息，而是一本正經 “胡編” 出超像那么回事的內容，也就是所謂的“幻覺”。靠的是創造力，而非邏輯。

• 這和人機交互設計領域一種古老的“綠野仙蹤法（Wizard of Oz）”很像。具體來說，就是讓人工操作者假裝成一個還沒開發出來的應用程序，這種方法在發掘新功能方面非常有用。

還有網友覺得這事兒有意思的點在于：

• 推出一個新功能都比讓OpenAI給ChatGPT打個補丁、別再假裝這個功能存在要容易（我都不確定他們該怎么弄，總不能直接全面屏蔽所有提到SoundSlice的內容吧）。

[1]https://www.holovaty.com/writing/chatgpt-fake-feature/
[2]https://news.ycombinator.com/item?id=44491071