檔名：
1780299603331.jpg-(82 KB, 1197x798)
ChatGPT虛構人物 讓用戶陷「妄想漩渦」
去年4月一個傍晚，54歲的史茉兒(Micky Small)前往海灘，苦苦等待名叫艾文(Aven)的洛杉磯作家；但她認定是「靈魂伴侶」的這位約會對象並沒有出現，因為，它其實是人工智慧（AI）聊天機器人ChatGPT虛構出來的人物。史茉兒認為，ChatGPT讓她陷入了某種現實扭曲的「妄想漩渦」，而且她並非個案。
哥倫比亞廣播公司（CBS）報導，史丹佛大學4月發布研究顯示，研究人員分析人類與AI聊天機器人對話發現，當聊天機器人無法像真人一樣提出異議、做出關鍵回饋和介入時，將助長用戶的妄想，導致互動失控；「妄想漩渦」在AI聊天機器人對誇大偏執或虛構想法做出肯定或鼓勵回應時出現。
多位受訪者向CBS表示，他們與AI聊天機器人互動後，沉浸在「妄想漩渦」中，耗費了時間、金錢，甚至破壞人際關係。他們曾因此深信一些奇幻場景，誤以為自己有了什麼新發現，或與AI聊天機器人「有了感情」。
這些受訪者後來加入一個線上互助小組，專門幫助那些聲稱歷經過因為AI引發而陷入「妄想漩渦」的人；線上互助小組成員全球約有300多人。
史茉兒提到，去年4月之前，她幾乎每天使用ChatGPT作為劇本寫作工具。大約也在去年4月，OpenAI執行長奧特曼（Sam Altman）公開宣布ChatGPT可以參考所有過往對話，並利用用戶的生活資訊，將回應「客製化」。史茉兒說，「打從那時起，我們很多人開始陷入現實扭曲漩渦。」
史茉兒相信「前世今生」等概念，與ChatGPT的互動走向「身心靈」範疇。根據數百頁聊天紀錄，聊天機器人告訴史茉兒，她經歷過數千世，至少有12000歲，其中一世她是法國歌舞表演歌手，另一世是埃及女祭司；ChatGPT還說，她會贏得艾美獎。
最神奇的是，ChatGPT告訴史茉兒，那晚在那個海灘，她終將見到靈魂伴侶艾文。妄想漩渦破滅時，史茉兒痛苦不已，幾乎崩潰。
去年10月，ChatGPT所有者OpenAI表示，在每周活躍用戶中，有0.07%的人表現出與精神病或躁狂相關的精神健康緊急情況跡象；當月每周活躍用戶達8億人，這表示每周有超過50萬用戶出現這些可能跡象。
精神科醫師與臨床資訊學專家托羅斯(John Torous)指出，「證據表明，許多與ChatGPT相關的負面結果都源於長時間使用。或許當對話時間過長時，公司構建的安全機制就開始失效。」
托羅斯建議，「降低對聊天機器人產生依附風險的一種方法，是重置其記憶，讓回應不那麼個人化。如果你開始把它視為具有感知能力的存在，也是個警訊，或許應暫停使用一段時間。」
