來源：未央網

　　英國倫敦勞合社（Lloyd’s of London）近日推出一款面向人工智能（AI）技術故障風險的保險產品。

　　據《金融時報》5月11日報道，這款名為“AI責任險”的保單由初創公司Armilla承保，旨在為企業因AI產品性能問題（如聊天機器人出錯或產生“幻覺”虛假信息）導致客戶或第三方提起訴訟時，提供法律索賠費用保障。報道指出，盡管企業積極引入AI提升效率，但客服機器人等工具因“幻覺”產生的錯誤已引發多起尷尬且代價高昂的事件。

　　正如此前分析所示，AI幻覺可能引發嚴重后果：企業若基于錯誤信息決策，可能導致經濟損失、聲譽受損。而當AI系統參與決策時，責任歸屬成為棘手問題。“如果流程中移除人類，或人類將責任轉交給AI，誰來承擔錯誤后果？”AI解決方案公司NILG.AI首席執行官Kelwin Fernandes近期接受采訪時發問。

　　現實案例印證了風險所在：今年初，英國維珍理財（Virgin Money）因聊天機器人對用戶使用“virgin”一詞提出指責而公開致歉；加拿大航空（Air Canada）則因聊天機器人與客戶對話時編造虛假折扣政策被告上法庭。Armilla表示，若法院認定加航聊天機器人性能未達預期，其保單將覆蓋打折機票帶來的損失。

　　針對AI幻覺風險，勞埃德銀行（Lloyds Bank）首席數據與分析官Ranil Boteju坦言：“在最初12到18個月里，這是我們最擔憂的問題。”該行采取審慎策略——“在確信防護措施可靠前，不會直接向客戶開放生成式AI功能”，初期僅將AI應用于后臺效率提升，并安排人工實時監控。

　　原作：pymnts 譯者：高旭 原文來源：PYMNTS

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：秦藝