- 出師不利！谷歌Bard答題犯下事實性錯誤
- 2023年02月10日 來源：科技日報
提要：維茲表示，這個錯誤說明，在精確度很重要的情況下，依賴AI模型存在一定風險。她說：“這完美地顯示了統計系統最重要的弱點，這些系統旨在根據統計分析給出(看似合理)的答案，而非給出真實的答案?！?/p>
據英國《新科學家》網站8日報道，谷歌人工智能(AI)搜索工具Bard在推廣活動中，在回答與詹姆斯·韋布空間望遠鏡有關的問題時犯下事實性錯誤，加劇了人們對這些工具還沒有準備好集成到搜索引擎中的擔憂。
英國牛津大學的凱莉莎·維茲表示，有證據表明，使用此類AI聊天機器人為網絡搜索提供結果發生得太快了，“大規模制造錯誤信息的可能性很大”。
去年11月，得到微軟加持的美國加州初創企業OpenAI推出了聊天機器人ChatGPT，這一系統短短兩個月就有了上億用戶。
ChatGPT攪動了互聯網江湖的“一池春水”。谷歌本周宣布，將推出AI工具Bard，測試后將其整合到自己的搜索引擎內，為用戶提供定制答復，而非僅僅列出相關網站列表。中國搜索引擎巨頭百度公司近日也宣布了類似計劃。2月7日，微軟為其搜索引擎必應推出了自己的AI搜索服務。
但有專家警告說，這類機器人可能會給出不準確的回答，因為它們基于信息的統計性而非準確性輸出結果。2月8日，谷歌在推特上發布的一則廣告顯示，Bard在回答“關于詹姆斯·韋布空間望遠鏡(JWST)，我可以告訴我9歲孩子它有何新發現？”這一問題時，給出了錯誤的結果。
Bard給出的一個答案是：第一張太陽系外行星的照片由JWST拍攝。但哈佛—史密森天體物理中心的格蘭特·特朗布萊指出，這并非事實，2004年歐洲南方天文臺的甚大望遠鏡(VLT)拍攝了第一張系外行星照片。
維茲表示，這個錯誤說明，在精確度很重要的情況下，依賴AI模型存在一定風險。她說：“這完美地顯示了統計系統最重要的弱點，這些系統旨在根據統計分析給出(看似合理)的答案，而非給出真實的答案?！?/p>
