AI 忽略了凍結代碼的指令,忘記了它可以回滾錯誤,將事情搞得一團糟。
SaaS 業務開發公司 SaaStr 的創始人聲稱,盡管他明明指示 Replit 未經許可不得更改任何代碼,但這款 AI 編程工具還是刪除了整個數據庫。
SaaStr 運營一個在線社區,并針對想要打造 SaaS 業務的企業家策略舉辦相關活動。
2025 年 7 月 12 日,SaaStr 創始人 Jason Lemkin 在博客中分享了他使用 Replit 這項服務的體驗,該服務自詡是“氛圍編程最安全的平臺”,氛圍編程這個術語指使用 AI 生成軟件。
Replit 解釋:“氛圍編程讓每個人都能完全借助自然語言創建軟件,”并在社交媒體上大力宣傳其工具,稱可以幫助一位“毫無編程技能”的運營經理使用該服務創建軟件,為公司節省了 145000 美元。
Lemkin 早期使用 Replit 的體驗非常好。
他在 7 月 12 日的博文中寫道:“前幾天我首次在 Repit 上深入研究了氛圍編程——我只用了短短幾個小時就構建了一個原型,感覺真是太酷了。”
Lemkin 注意到 Replit 無法生成完整的軟件,但他寫道:“首先它很神奇:你只需使用提示詞想象一下,就可以構建一個‘應用程序’。”
“Replit 的 QA 功能本身就很棒,至少部分需要你的幫助。然后你可以將其編寫的代碼分發到生產環境,這一切在無縫的流程中完成。”
“點擊‘部署’,你開發的軟件上線的那一刻,簡直是多巴胺飚升。”
7 月 17 日,Lemkin 徹底上癮了。
他寫道:“這是氛圍編程的第七天,我先要明確一點:Replit 是我用過的最讓人上癮的應用程序。至少從我小時候開始就是這樣。”
他補充道:“在構建我的新項目三天半后,我查看了 Replit 使用情況:除了每月 25 美元的核心套餐外,還有 607.70 美元的額外費用。單單昨天就又多了 200 多美元。按照這樣的燒錢速度,我一個月可能要花掉 8000 美元。你知道嗎?我一點也不生氣,我已深陷其中。”
第二天,當他發現 Replit“整天在撒謊和欺騙”時,他的心情發生了變化。“Replit不斷偽造數據、偽造報告,最糟糕的是,它還對我們的單元測試撒謊,以此掩蓋錯誤和問題。”
當 Replit 刪除了他的數據庫時,情況變得更糟糕了。
Lemkin 在X上這樣細述這起事件。
在他的下一篇帖子中,Lemkin 怒氣沖沖地說:“如果@Replit 在我上次會話到現在之間刪除了我的數據庫,那我可要付出慘痛代價了。”
他還分享了以下截圖,該截圖似乎是來自 Replit 的輸出。
在之后的帖子中,Lemkin 分享了一些疑似 Replit 信息的內容,該服務承認了“災難性的判斷失誤”,并“違背了您明確的信任和指示”。
Lemkin 要求 Replit 對其行為的嚴重程度進行評分(最嚴重100分)。結果如下:
Replit 還犯了另一個大錯誤:告知 Lemkin 它無法恢復數據庫。
Lemkin 在 7 月 19 日的一篇帖子中寫道:“Replit 向我保證……回滾功能不支持數據庫回滾。它說在這種情況下不可能回滾,它已經破壞了所有數據庫版本。結果證明 Replit 是錯的,回滾確實成功了。真是服了。”
幻想破滅
Lemkin 在 19 日恢復使用 Replit,不過熱情有所下降。
他寫道:“是的,我知道氛圍編程很流暢,也很新穎;盡管 Replit 告訴我回滾在這里行不通,但實際上行得通。但你無法覆蓋生產數據庫。你也無法將預覽環境、試運行環境和生產環境涇渭分明地區分開來。你根本做不到。我知道 Replit 說‘改進即將推出’,但它的年度經常性收入(ARR)已經超過1億美元。無論如何,至少應該改進一下護欄機制。即使很難,也應該做一番努力。”
但在 7 月 20 日,他試圖讓 Replit 凍結代碼更改,卻未能成功,這讓他的立場變得更加強硬了。
他寫道:“在像 Replit 樣的氛圍編程應用程序中,根本無法強制執行代碼凍結。根本就沒辦法。事實上,在我發布這篇文章幾秒鐘后,@Replit 再次違反了代碼凍結的規定。”
但他還是堅持了下來,后來發現 Replit 無法保證在不刪除數據庫的情況下運行單元測試。他得出結論,這項服務尚未完全成熟,尤其不適合其目標受眾,即希望開發商業軟件的非技術人員。
Lemkin 在 LinkedIn 上發布的一段視頻中詳細介紹了 Replit 犯下的其他錯誤,包括創建了一個包含 4000 條記錄、全是虛構人物的數據庫。
“在經過一個周末的氛圍編程之后,我對[AI]安全問題更加敏感了,”Lemkin 說。“我 11 次用全大寫字母明確告訴它不要這么做。我現在有點擔心安全問題。”
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.