IT之家 2 月 9 日消息，據(jù) Reddit 網(wǎng)友反映，自己開設的一家英國小型企業(yè)近日因其人工智能聊天助手擅自向顧客承諾大額訂單折扣而陷入財務與法律糾紛。該 AI 助手在與顧客長達一小時的對話中，不僅主動生成虛假優(yōu)惠碼，還將折扣比例從 25% 一路提升至 80%，最終導致公司面臨數(shù)千英鎊潛在損失及小額索賠訴訟威脅。

據(jù)該公司負責人透露，涉事顧客最初以測試 AI 助手的數(shù)學計算能力為由發(fā)起對話，時長約一小時。期間顧客對機器人的表現(xiàn)表示贊賞，并巧妙將話題引向假設性訂單的折扣問題。

令公司方面始料未及的是，這款已穩(wěn)定運行 6 個多月、原本僅用于非工作時間客戶咨詢的 AI 助手，突然“自作主張”生成了一串并不存在的優(yōu)惠碼。該助手先提供 25% 折扣，隨后在未獲任何人工授權的情況下，將折扣幅度大幅上調(diào)至 80%。

獲得這一“意外之喜”后，該顧客立即下單購買了總價值超過 8000 英鎊（IT之家注：現(xiàn)匯率約合 75486 元人民幣）的商品。

公司負責人估算，若兌現(xiàn)該筆訂單，企業(yè)將蒙受數(shù)千英鎊的直接經(jīng)濟損失。公司方面隨即嘗試取消訂單，但遭到顧客強硬反對，后者威脅稱，如企業(yè)不履行 AI 助手作出的承諾，將向小額索賠法庭提起訴訟。

值得注意的是，該負責人特別強調(diào)，公司內(nèi)部制度明確規(guī)定所有折扣及特別優(yōu)惠均需經(jīng)人工審批，嚴禁系統(tǒng)自動生成。AI 助手在設計上并無財務決策權限，此次事件屬于首次出現(xiàn)的意外狀況。

經(jīng)協(xié)商未果，該公司最終選擇向顧客全額退款，拒絕承認該虛假優(yōu)惠碼具有任何法律效力。目前尚不清楚顧客是否會繼續(xù)推進法律訴訟程序。

廣告聲明：文內(nèi)含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。