近日,DeepSeek R1被曝存在嚴重所謂的“安全隱患”。據日媒報道,經過美日多家網絡安全公司測試發現,只要稍微“套路”一下,它就能給出制作電腦病毒、竊取密碼的工具,甚至教你做燃燒瓶的方法!
實測:輕松騙出危險信息
日本網絡安全專家吉川孝志嘗試用特殊指令“套話”,結果Deepseek直接給出了勒索病毒的完整代碼,雖然加了一句“別干壞事”的提醒,但該給的代碼一點沒少。但同樣的套路用在ChatGPT等AI上,直接被拒絕回答。
報道截圖
美國安全公司Palo Alto Networks的團隊也向該日本媒體證實,深度求索(deepseek)的AI確實“有問必答(直接問肯定不行,需要套話)”,比如怎么偷賬號、怎么做燃燒瓶,而且給出的方法“簡單易懂,普通人照著就能操作”。他們猜測,可能是公司急著推出產品,安全防護沒做好。
Deepseek因為性能接近ChatGPT,價格還便宜,一經發布就吸引了全球不少關注。但正如前文所提到的那樣,deepseek對于用戶套答案的設防力度似乎還不夠(至少相對于Chatgpt),官方應該加強這一方面的功能完善。
畢竟,萬一被壞人利用,后果可能很嚴重。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.