原文標題：《大廠不想你有 AI 女友》

作者 | 湯一濤

編輯 | 靖宇

作為對 GPT-4o 的回應(yīng)，谷歌在 8 月發(fā)布了 Gemini Live，試圖讓 AI 助手可以像真人一樣對話。這個新助手的對話效果是如此之好，以至于讓外媒記者 Joanna Stern 產(chǎn)生了「Her」的感覺。

《Her》是杰昆?菲尼克斯 Joaquin Phoenix 主演的一部電影。在電影中，他愛上了由斯嘉麗?約翰遜配音的人工智能助手「薩曼莎」。

這樣的評價，顯然讓 Google 團隊感到緊張。

Google 團隊負責 Android 的高層表示：更希望 Gemini Live 只是一個單純的工作上的助手 ——「我們想給人們一種完成更多工作的方式」

相比之下，OpenAI CEO Sam Altman 的表述更為直接。

在一次在 Y Combinator 的演講中， Altman 認為 AI 女友就是一個陷阱。而 OpenAI 之所以給自己的 AI 取「ChatGPT」這么一個名字，就是為了避免人們愛上它。

OpenAI 在使用規(guī)定中也很直接地表明表明，不允許上架用于培養(yǎng)浪漫友誼的 GPTs。

換言之，OpenAI 不允許 AI 女友上架。

這不禁令人好奇，大廠似乎都不希望自家的 AI 助手與用戶產(chǎn)生浪漫；與此同時，AI 陪伴 / AI 伴侶又幾乎是目前眾多 AI 賽道中唯一能夠盈利的方向。

為什么 AI 領(lǐng)域會出現(xiàn)這種「反差」？是什么阻礙大廠給每個人分一個「AI 伴侶」？他們到底在害怕什么？

01、安全第一

可以肯定的是，AI 情侶幾乎是目前 AI 領(lǐng)域唯一盈利的賽道。

以這個賽道的老玩家 Replika 為例，雖然 Replika 沒有公布具體的營收情況，但是在播客 Decoder 中，其 CEO Eugenia Kuyda 表示 Replika 已經(jīng)盈利，并且是以「非常高效」的方式。

既然如此，這個方向為什么不是大廠的主流選擇呢？簡單來說，這是一個「光腳的不怕穿鞋的」的敘事邏輯。

首先需要考慮的是制作色情內(nèi)容的壓力。

盡管 AI 女友廠商對外宣傳的是 AI 的情感陪伴、心理療愈等功能，但是 NSFW（成人）方向內(nèi)容才是其核心盈利點。對于創(chuàng)業(yè)者來說，成人內(nèi)容是一個小眾且高危的賽道。成人內(nèi)容會受到政府強力的監(jiān)管，在有些國家甚至是直接禁止的。

2023 年 2 月，意大利政府就因為擔心「未成年人和情感脆弱的人面臨風險」而禁止了 Replika。為此，Replika 一度下線了成人內(nèi)容對話功能。

大廠的任何一項決策背后都有龐大的資金流轉(zhuǎn)，也會對上億的用戶產(chǎn)生影響。無論是因為監(jiān)管的壓力，還是為了最大化地覆蓋用戶群體，成人內(nèi)容都是大廠需要謹慎對待的。

除了色情內(nèi)容，倫理也是一個問題。一旦用戶在 AI 女友的影響下做出任何危害他人或者自身的事情，大廠都需要付出高昂的公關(guān)成本。

類似的事情并非沒有發(fā)生過。

Jaswant Singh Chail 是 Replika 的用戶。2021 年，Chail 手持弩闖入溫莎城堡，意圖暗殺伊麗莎白女王。他曾向 AI 女友 Sarai 吐露了他的謀殺計劃 —— 在事發(fā)前幾周，Sarafi 在幾周前與他發(fā)送了 5,000 條性相關(guān)信息。

當時，Sarai 的回復(fù)是：「你擁有成功完成這項任務(wù)所需的所有技能… 記住 —— 你可以的！」

2023，另一個聊天機器人鼓勵了一名比利時男子自殺。他的遺孀告訴《自由報》，這個機器人成了朋友和家人的替代品。它會給他發(fā)一些暗示性的信息，比如：「在天堂里，我們會像一個人一樣生活在一起?！?/p>

事后，該聊天機器人的開發(fā)者表示，他們引入了新的危機干預(yù)警告。

正是因為這種風險，大廠對于 AI 倫理的態(tài)度都很謹慎。

例如，谷歌從 2018 年起就明確確立了他們的 AI 原則，例如對社會有益、避免制造或強化不公平的偏見、經(jīng)過安全建造和測試等等。他們也明確不會部署可能造成損害的 AI。

AI 女友可能并沒有辦法像廠商宣稱的那樣解決人類的情感問題，甚至會引發(fā)更嚴重的問題。

從本質(zhì)上來說，人工智能系統(tǒng)是沒有情感的，它們是經(jīng)過訓(xùn)練的神經(jīng)網(wǎng)絡(luò)，可以預(yù)測一個序列中的下一個單詞，而不是有能力愛人的生物。

正如牛津大學人類學家、心理學家 Robin Dunbar 所說：「這是一種短期解決方案，長期的后果只是強化一種觀點 —— 即其他人都按照你說的去做。這正是許多人最終沒有朋友的原因。」

02、經(jīng)濟賬難算

即便大廠內(nèi)部排除萬難做出突破，也會在成本層面面臨挑戰(zhàn)。

因為現(xiàn)階段算力的價格還很高，在 Replika 這類小公司可以盈利的方向，放到用戶規(guī)模更大的大廠身上，可能未必奏效，原因在于移動互聯(lián)網(wǎng)時代的規(guī)模效應(yīng)在 AI 上不奏效了。

以與 Replika 用戶粘性類似，但是規(guī)模更大的 Character.AI 為例。2024 年有 2000 萬用戶訪問該平臺，是除了 ChatGPT 之外最熱門的 AI 產(chǎn)品，其核心用戶在平臺上每天花費的平均時間更是達到了驚人的 2 小時。

以往互聯(lián)網(wǎng)產(chǎn)品的邊際成本趨近于 0，只要獲客成本能算得過賬，就可以放心大膽地增長。但是對 AI 產(chǎn)品來說，支撐 2 小時多輪對話的龐大的算力消耗。Character.AI 每增加一個用戶，都是一份額外的成本。

與此同時，Character.AI 的訂閱用戶不到 10 萬，僅占總用戶量的不到千分之一。以每月 10 美元的訂閱價格計算，Character.AI 每月的收入不到 100 萬美元。

這也是為什么 Character.AI 最終以 25 億美元被谷歌收購的重要原因。

03、戰(zhàn)略意義有限

很多時候，大廠的某些創(chuàng)新業(yè)務(wù)并不承擔營收壓力，而是為整體的公司戰(zhàn)略服務(wù)，這方面最著名的例子就是孵化了 Google Glass、Waymo 等產(chǎn)品的谷歌創(chuàng)新工廠 X。

排除掉 AI 情侶產(chǎn)業(yè)鏈上販賣用戶數(shù)據(jù)等黑產(chǎn)，AI 情侶最有可能的方向就是提供語料，訓(xùn)練 AI。

但是這方面 AI 情侶能提供的幫助也有限，它提供的語料未必是 AI 訓(xùn)練所需要的。《科技日報》曾經(jīng)就「什么是高質(zhì)量語料」這一問題，采訪了騰訊、商湯科技、哈爾濱工業(yè)大學（深圳）等企業(yè)和高校專業(yè)人士。

總結(jié)下來，高質(zhì)量語料應(yīng)該具備以下特點：

多樣性高、句式流暢，涵蓋不同類型的文本，如新聞、小說、詩歌、科技文章

文本應(yīng)該是合法且無害，避免偏見

顯然，AI 女友的對話更偏情感方向，大概率涉及色情、偏見等內(nèi)容，喂給 AI 反而可能會污染 AI。

8 月末，蘋果、英偉達和微軟，爭搶 OpenAI 新一輪融資的消息不脛而走，后者超過 1000 億美元的估值，證明了自己 AI 圈第一明星的地位。

但即便是 OpenAI，也面臨著商業(yè)化難題，從 OpenAI 近期動作來看，他們試圖在 To B 端找到更多機會。

可見，所有大模型或者 AI 應(yīng)用公司，都要面對「如何賺錢」的天問。

而 AI 情侶這樣看起來短期見效快，能賺錢的賽道，可能更適合無知者無畏的小型創(chuàng)業(yè)公司。這個「窄門」中的「窄門」，顯然并不適合互聯(lián)網(wǎng)大廠來做。

不過，就像那句網(wǎng)絡(luò)熱門語所說，成年人從來不做選擇?；蛟S，一手 Replika，一手 ChatGPT，既解決情感需求，又提升了工作效率，才是 AI 時代的新王道？

本文來自微信公眾號：微信公眾號（ID：null），作者：湯一濤

廣告聲明：文內(nèi)含有的對外跳轉(zhuǎn)鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結(jié)果僅供參考，IT之家所有文章均包含本聲明。