歐洲議會選舉在即 研究指AI聊天機器人散播不實資訊
歐洲議會6月6至9日舉行選舉,有非政府組織的研究指出,Google、微軟(Microsoft)及OpenAI的聊天機器人就選舉提供不實內容。
《政治報》(Politico)4月11日報道,位於柏林的非政府組織Democracy Reporting International在3月11至14日進行研究,他們以十種語言向最普遍及易接觸的聊天機器人包括OpenAI的ChatGPT3.5及4、Google的Gemini及微軟的Copilot問十條相同問題。
報告發現,這些聊天機器人雖然政治中立,惟它們就選舉日期及如何投票等問題提供錯誤回覆,甚至提供無法進入或與內容無關的YouTube片段或日文內容。該組織行政總監兼聯合創辦人Michael Meyer-Resende指出,聊天機器人本身在回答時會捏造事實,形容這是「AI幻覺」(AI Hallucination)現象,因此不感到意外。
報道認為,這次研究為「AI幻覺」對歐洲議會選舉帶來的風險提供新證據。研究人員同時指出,ChatGPT最新付費版本的表現最佳,而Gemini在測試期間則似乎較少提供正確答案。
對於今次研究結果,Google表示Gemini的最負責任方式是限制大部分與選舉相關的提問,並引導用家使用Google搜尋功能尋找最新及正確的資訊;微軟則稱會繼續應對問題,為Copilot的表現符合大選的期望。