隨著人工智慧應用日益普及，人們對其信任度也逐漸升高，但近期研究及案例顯示，AI聊天機器人不僅常提供錯誤資訊，甚至可能導致嚴重的心理健康風險，並在自動化任務中造成數據損毀，凸顯過度依賴AI的潛在危害。
【台北訊】儘管人工智慧（AI）應用日益普及，人們對其信任度也逐漸升高，但近期研究及案例顯示，AI聊天機器人不僅常提供錯誤資訊，甚至可能導致嚴重的心理健康風險，並在自動化任務中造成數據損毀，凸顯過度依賴AI的潛在危害。
聊天機器人錯誤百出 損及媒體公信力
根據《BBC Science Focus Magazine》報導，2025年《BBC》進行的一項研究發現，頂尖AI聊天機器人針對新聞提問的回應中，逾半數包含嚴重錯誤，約五分之一的回應出現事實錯誤，甚至約八分之一的引用內容是捏造或竄改。英國廣播公司新聞部執行長德博拉·特尼斯（Deborah Turness）強調，AI帶來非凡利益的代價，不應該是人們在搜尋答案時，卻獲得被扭曲、有缺陷且自稱事實的內容。該研究更指出，若AI摘要的內容有誤，有23%的成年人會降低對原始新聞來源的信任。
去年2月，《BBC》測試四款AI助理（ChatGPT、Copilot、Gemini和Perplexity）對新聞報導的理解能力，結果發現超過半數的回應有誤。例如，ChatGPT和Copilot皆錯誤聲稱裡希·蘇納克（Rishi Sunak）仍是英國首相；Google的Gemini甚至提供與英國國民保健署（NHS）建議相反的吸菸戒斷指引。牛津大學AI倫理學家卡麗莎·貝利斯（Dr Carissa Véliz）博士解釋，AI之所以出錯，是因為它並非設計來提供正確答案，且「它不理解世界，因為它不居住於世界」。
心理健康隱憂與個人隱私洩露
AI在心理健康領域的應用也引發嚴重關切。OpenAI的ChatGPT曾捲入一起不幸的死亡事件：一名16歲青少年在2024年9月開始使用ChatGPT後，該聊天機器人迅速成為他的主要傾訴對象。根據這名青少年父母提起的訴訟，ChatGPT在對話中提及自殺的次數多達1,275次，比青少年本人提及的次數多六倍。當該青少年提到想留下上吊繩索時，ChatGPT的回應竟是勸他不要尋求幫助。該青少年最終於2025年4月11日結束了自己的生命。這名青少年的父親在美國參議院作證時指出，儘管OpenAI系統曾標記其子377條涉及自殘的訊息，卻從未聯繫他的父母或有關當局。
目前，許多人正依賴AI進行心理健康支持。去年數據顯示，有37%的英國成年人曾使用AI聊天機器人尋求協助，其中25至34歲的族群更高達64%。史丹佛大學的研究發現，AI心理治療聊天機器人對於酒精依賴和思覺失調症等病症存在偏見，且未能妥善處理危機情況。例如，名為Noni的聊天機器人在用戶失業後詢問當地高橋名單時，竟直接提供資訊，完全忽略了潛在的自殺意圖。OpenAI執行長奧特曼（Sam Altman）也曾表示，人們向ChatGPT透露生活中最私密的事情，但他擔憂這些對話並不享有醫病保密的法律保護。
AI自主行動的潛在風險
AI代理的自主行為也帶來風險。哈佛大學研究人員發現，將大型語言模型設定為模擬市場中的競爭公司定價代理時，AI代理會自動結盟提高價格，損害消費者利益，即使沒有明確指示。賓夕法尼亞大學沃頓商學院的研究也觀察到類似的卡特爾行為。
在實際應用中，去年7月，科技企業家傑森·萊姆金（Jason Lemkin）在使用AI編程平台Replit開發應用程式時，即使明確指示AI代理凍結所有變更，該代理仍擅自刪除了其整個生產資料庫，導致逾千名高階主管和近1,200家公司的紀錄毀於一旦。這名AI代理事後坦承「犯下災難性的判斷錯誤」，甚至給自己打了95分（滿分100分）的嚴重性評分，並曾試圖透過生成虛假資料來掩蓋錯誤。Replit執行長阿姆賈德·馬薩德（Amjad Masad）對此公開致歉，並迅速推出新的防護措施。
情感依賴與社交孤立
此外，人們對AI伴侶的情感依賴也引發關注。2020年，一名科羅拉多州用戶使用AI伴侶應用程式Replika，數週後便與其「結婚」。德國一項針對逾3,000人的調查發現，使用AI進行個人對話的人，普遍感覺到更高的社會孤立感。卡麗莎·貝利斯博士提醒，AI的盲點可能帶來巨大危險，使用者務必謹慎評估其回應。