DoNews1月13日消息，據(jù) The Verge 報(bào)道，Google 已針對部分醫(yī)療搜索請求停用了 AI 概覽（AI Overviews）功能。
此前《衛(wèi)報(bào)》發(fā)布的一項(xiàng)調(diào)查顯示，該功能在回應(yīng)特定醫(yī)療咨詢時(shí)提供了誤導(dǎo)性甚至完全虛假的信息，專家稱這些結(jié)果「令人震驚」且「危險(xiǎn)」。
在《衛(wèi)報(bào)》披露的案例中，Google 的 AI 概覽曾錯(cuò)誤建議胰腺癌患者避免食用高脂肪食物。
專家指出，這一建議與醫(yī)學(xué)常識(shí)背道而馳，因?yàn)樵擃惢颊咄ǔＰ枰邿崃匡嬍?，錯(cuò)誤的飲食建議可能增加患者的死亡風(fēng)險(xiǎn)。另一個(gè)案例則涉及關(guān)于肝功能測試的虛假信息，可能導(dǎo)致患有嚴(yán)重肝病的用戶誤認(rèn)為自己身體健康。
截至昨天上午，針對如「肝臟血液檢測的正常范圍是多少？」等問題的 AI 概覽功能已被完全禁用。
Google 發(fā)言人 Davis Thompson 表示，公司在健康等主題的 AI 概覽質(zhì)量上投入了大量資源，絕大多數(shù)信息是準(zhǔn)確的。
他在一份聲明中稱：「我們的內(nèi)部臨床醫(yī)生團(tuán)隊(duì)審查了被分享的案例，發(fā)現(xiàn)在許多情況下，這些信息并非不準(zhǔn)確，且得到了高質(zhì)量網(wǎng)站的支持?！?/p>
他同時(shí)補(bǔ)充，在 AI 概覽缺失上下文的情況下，Google 將致力于進(jìn)行廣泛改進(jìn)，并根據(jù)政策采取相應(yīng)行動(dòng)。
這并非 Google AI 概覽功能首次引發(fā)爭議。此前，該功能曾因建議用戶「在披薩上涂膠水」以防止奶酪滑落，以及建議「吃石頭」而遭到廣泛批評并面臨多項(xiàng)訴訟。
