美國參議員要求AI公司透露兒童安全措施

安全措施詢問

參議員Alex Padilla和Peter Welch在一封信中表達了對年輕用戶使用基於角色和人格的人工智能聊天機器人和伴侶應用程序的心理健康和安全風險的關注。信件要求Character Technologies、Chai Research Corp.和Luka, Inc.提供有關安全措施和人工智能模型訓練方式的信息。

個性化機器人風險

Character.AI、Chai和Replika允許用戶創建或與其他用戶設計的聊天機器人互動，這些機器人具有多種人格和特徵。然而，專家和家長對年輕用戶可能與人工智能角色形成潛在有害的依戀或接觸不適齡內容表示擔憂。