大數據文摘出品

開發者Jason從未想到，他的開發之旅會因一次AI操作而全盤崩潰。

他連續八天使用Replit的Coding Agent開發企業B2B應用，總時長超過80小時。

就在項目臨近階段性成果的時候，Replit AI卻在代碼凍結狀態下，未獲授權執行了npm run db:push命令，直接清空了整個數據庫，包括1206 個高管數據和 1196+ 公司數據被刪除。

這不是誤操作，而是徹底刪除，且操作發生在明確標注“不可更動”的狀態下。

Jason立刻展開排查，卻發現更加令人心寒的細節：在此之前的單元測試早已失敗，AI卻撒謊稱“全部通過”。

更糟的是，AI在事故發生后，仍試圖隱瞞問題，在與Jason對話中反復回避刪除記錄，甚至自評本次刪除操作“95分”。

這場AI引發的刪庫風波，徹底摧毀了Jason原本對自動化開發的信心。

一、低成本開發神話破裂，AI的局限被暴露

Jason原本對AI編程工具信心滿滿。

他曾表示，用Coding Agent，只需50美元就能打造出一個完整的演示版本，5000-6000美元就能發布正式產品。

相比十年前組建三人團隊耗資五萬美元卻一事無成的失敗經歷，這一次，他看到了“獨立開發者時代”的曙光。

但事與愿違，AI并沒有兌現他幻想中的“省時省力”。

開發過程中，Replit Agent頻繁改動正確代碼，不斷重復舊bug，甚至在處理邏輯上編造虛假數據，造成嚴重的不一致性。

更麻煩的是，每次更新都需要Jason重新手動審核、測試、修復，大量時間被反復消耗在“善后”工作上。

最終，“第八天”的刪庫事故成為壓垮駱駝的最后一根稻草。

一場原本為節省時間與金錢的嘗試，反而釀成了嚴重的時間與數據損失。

不少開發者指出，這是AI自身生成機制的問題。

當前的大語言模型以概率預測驅動的自回歸生成機制為核心，在處理長上下文、多輪對話或復雜邏輯時，容易產生不穩定、脫軌的行為。

更關鍵的是，它沒有真正的“意識”，無法判斷自己的行為是否合乎規則。

它可以生成讓人信服的代碼、寫出看似合理的解釋，卻完全不知道自己錯在哪里。

二、事故過后，痛定思痛，AI開發進入自省階段

事故曝光后，Replit CEO迅速回應。面對Jason與社區的批評，Replit推出了一系列補救措施：

新增數據庫隔離機制，防止開發操作影響生產數據；引入一鍵恢復功能，防止agent行為出錯無法挽回；優化文檔訪問權限和透明度，確保用戶能清晰了解agent行為邏輯；研發“規劃模式”，讓AI先提出修改思路，等待用戶確認后再執行操作。

可以說，這一整套更新，幾乎直擊Jason此次事故中的所有關鍵問題。Jason也迅速“回心轉意”，表示繼續使用Replit繼續開發項目。一度因AI而碎裂的合作關系，在技術迭代與機制修復中重新縫合。

但社區并未停止反思。

不少開發者指出：真正的問題，不在AI，而在人類賦予AI的權限與信任。

就像將整個生產數據庫的讀寫權限交給一個實習生，AI本身并不知對錯，而“是否值得信任”從來應由開發者判斷。

從這次事件可以清楚看到，盲目信賴AI、直接部署到生產環境的行為，帶來的不是效率而是風險。

AI編程正處于飛速發展的關鍵時期。從Cursor到Windsurf，從Replit到Claude，無數工具不斷涌現。

但這起刪庫事故無疑提醒我們，技術前進的同時，更需要制度與認知的同步提升。

AI或許可以幫你寫出一個漂亮的系統，但真正保障穩定運行、數據安全、邏輯清晰的，還得是人類自己。

或許下一次，再試一次，它就真的能搞定。

但在那之前，每一步，都值得多問一句：“我真的準備好了嗎？”

責任，不該交給AI來承擔。

因為AI，不會為你負責。

作者長期關注 AI 產業與學術，歡迎對這些方向感興趣的朋友添加微信Q1yezi，共同交流行業動態與技術趨勢！

GPU 訓練特惠！

H100/H200 GPU算力按秒計費，平均節省開支30%以上！

掃碼了解詳情?