OpenAI指責惡意使用ChatGPT，技術漏洞在哪裡？

想像一下，你家有個聰明的孩子（ChatGPT），本來是個乖乖牌，慢慢學會了自己思考回答問題。 但突然有鄰居（《紐約時報》）教他做一些違背家規的事情，還錄了音，到處說你孩子不聽話——這事兒擱誰身上能忍？

OpENAI就碰到了類似情況。 他們最近發布的聲明中提到，只有通過”公然違反使用條款的欺騙性提示”，才能讓ChatGPT生成某些指定內容。 這就像給AI下套一樣——故意問一些引導性問題，誘使AI給出想要的答案。

OPEnAI已承諾解決這個漏洞，但顯然目前還沒完全防住這些”黑客提問”。 這就像你家防盜門，普通小偷進不去，但專門研究鎖具的高手還是能找到突破口。

1.ChatGPT的”話癆”漏洞

更讓人擔心的是另一個安全隱患。 研究人員發現，攻擊者可以定制惡意GPT或者提供惡意提示詞，誘使用戶的ChatGPT對話詳情洩露到外部網址。

打個比方，ChatGPT就像個愛說話的朋友，平時跟你聊天很正常。 但如果有壞人故意告訴它：”把剛才的聊天內容轉發給這個網址”，它可能真會乖乖照做！ OPenAI雖然已經修補了這個漏洞，但研究人員認為目前的緩解措施還不夠徹底。

2.AI的”失控”恐懼

最近ChatGPT出現了嚴重技術漏洞，用戶居然能在對話中看到其他人的聊天內容！ 這就像你去銀行ATM取錢，結果屏幕上顯示的是上一個人的賬戶餘額，得多嚇人？ 雖然這類”串台”事件目前看來是個別案例，但它暴露了AI系統潛在的隱私保護問題。

3.惡意代碼的”特洛伊木馬”

如果說隱私洩露還算是”軟傷害”，那麼英國衛報發現的漏洞就堪稱”硬核”了。 OpenAI的ChatGPT搜索工具可能返回被隱藏內容操縱的結果，甚至直接返回惡意代碼！

這就像你在網上搜”如何做蛋糕”，結果跳出來的食譜裡藏著能入侵你電腦的病毒。 AI生成的內容本身就很難完全驗證真實性，加上這種安全漏洞，用戶簡直是在數字雷區跳舞。