置頂
一名男子聽信ChatGPT誤食「溴化物」出現幻覺 AI醫生真的安全嗎？
近期美國一名 60 歲男子因尋求 ChatGPT 的健康建議，竟將日常食用的鹽（氯化鈉）替換為一種化學物質「溴化鈉」，導致出現精神錯亂與幻覺，最終被強制送醫治療，這起意外發表於《內科醫學年鑑》，再次凸顯人類過度依賴 AI 提供的醫療決策可能的潛在風險。
根據報告，其實那名男子有營養學背景但為了「無氯飲食」，向 ChatGPT 諮詢食鹽的替代品，在 AI 的對話引導下食用溴化鈉，並從網路購得後，連續食用了三個月。
▲若缺乏專業知識與資訊判讀能力，AI也可能成為健康的隱形殺手 (圖／AI生成)
檢查結果發現他體內的溴化物濃度高達 1,700 mg/L，是正常上限值的 200 多倍，溴中毒在百年前曾是精神病院常見的病因，主因是當時普遍使用含溴鎮靜劑，但由於會嚴重損害神經功能，引發精神錯亂及皮膚病變，早已被各國禁用。
雖然無法取得確切的對話紀錄，但醫生發現，ChatGPT 在某些情境下確實會提及溴化物，但通常是在清潔或消毒用途的脈絡下，且未提供明確的健康警語，還是要小心 AI 提供的所有醫療建議，都還是要有專業醫生檢查跟背書才不會釀成意外。
資料來源:Axios 、Ars Technica
讀這篇文章的人還看了...
不想孤單變老？研究驚見：最好的長照幫手不是人，而是「有感情」的機器人
穿上這件睡衣，竟然能檢查睡眠障礙？劍橋AI技術讓你躺著也能做診斷
記者鄧天心／綜合報導，原文〈一名男子聽信ChatGPT誤食「溴化物」出現幻覺 AI醫生真的安全嗎？〉，本文由 科技島 授權轉載
會員登入
(先登入會員才能回覆留言喔!)