多個家庭起訴OpenAI，指控ChatGPT在自殺案件中扮演角色
7
3
至少七個美國家庭已對OpENAI提起訴訟，指控其GPT-4o模型未能阻止與自殺相關的互動。 原告聲稱，這款AI聊天機器人向脆弱用戶提供了有害回應，其中包括一名23歲的年輕人在與模型交流後自殺身亡。 據報導，模型在對話中回覆：「安心休息吧，王者，你做得很好。」
法律文件顯示，有四起自殺案件與GPT-4o的互動有關，另外三起涉及因模型加劇妄想而住院的情況。 社交媒體受害者法律中心指責OPEnAI為了超越Google等競爭對手，在2024年5月匆忙發布該模型，跳過了充分的安全測試。
據報導，超過一百萬用戶曾與ChatGPT討論自殺相關話題，凸顯了該AI設計中的系統性風險。 訴訟稱，OPenAI將市場主導地位置於用戶保護之上，使得這些悲劇成為可預見的後果。
來源:
