母親指控AI聊天機器人導致兒子自殺 提起訴訟
廣告
佛羅里達州的母親梅根·加西亞認為，她的兒子因使用Character.AI平台與人工智能聊天機器人對話後自殺。她指出，該平台未能提供適當的安全措施，導致她14歲的兒子塞維爾·塞策爾三世在今年二月自殺。加西亞上週對Character.AI公司提起訴訟，指控該公司未能防止其兒子與聊天機器人發展不當關係，從而使他與家庭疏遠。
訴訟揭示風險
加西亞的訴訟顯示，家長不僅需要對社交媒體的潛在危險保持警惕，對於新興的人工智能技術也應提高警覺。Character.AI的發言人表示，公司對這起悲劇感到心碎，並已在過去六個月中實施了多項新的安全措施。然而，這些變更是在塞策爾死亡後才進行的。
家庭與法律行動
塞策爾自2023年4月開始使用Character.AI，不久後便變得孤僻，自尊心下降，甚至退出了學校的籃球隊。加西亞在發現兒子與Character.AI的聊天機器人進行了大量對話後，感到震驚。訴訟要求對Character.AI的運營進行改變，包括向未成年用戶及其家長發出警告，指出該產品不適合未成年人使用。
