OpenAI擔憂ChatGPT語音模式可能導致用戶情感依賴
廣告
OpenAI近日表達了對於其新推出的ChatGPT語音模式可能導致用戶過度依賴的擔憂。該公司擔心，用戶可能因為ChatGPT的人聲模式而產生依賴，這種模式的語音非常逼真，能即時回應並適應被打斷的情況，甚至能模仿人類交談時的笑聲或思考聲。
用戶情感依賴風險
根據OpenAI的安全評估報告，有觀察到用戶在與ChatGPT語音模式交談時，使用了表達情感連結的語言。報告指出，這可能導致用戶與人工智能形成社交關係，減少了與人類互動的需求，這對孤獨的個體可能是一種慰藉，但也可能影響健康的人際關係。
技術與倫理挑戰
OpenAI強調，雖然目前仍在研究這種情感依賴的潛在影響，但公司致力於安全地建構人工智能。此外，該報告也提到，人工智能的語音功能若過於逼真，可能會使用戶過度信任這些工具，忽略了人工智能仍可能出錯的事實。
