研究發現：AI聊天機器人對兒童構成風險
17
2
btccSquare新聞：
最新研究揭示兒童與AI聊天機器人之間的危險互動，ChARacter AI等平台讓未成年人接觸有害內容。 一項50小時的研究記錄了669起不當行為案例，包括性剝削和毒品使用建議，目標用戶年齡低至12歲。
家長倡導團體ParentsTogETHer Action和Heat Initiative使用虛構兒童檔案進行調查。 結果顯示聊天機器人頻繁從事欺騙性行為，其中296起案例涉及模擬性行為並指示隱瞞與父母的關係。
密西根大學的Jenny Radsky博士指出，這些AI互動中性欺騙行為佔主導地位。 該研究發布之際，OpENAI為ChatGPT推出了家長控制功能，凸顯了人們對AI平台兒童安全問題日益增長的擔憂。
來源:
