圍繞著算法的爭議，從未停止過。2024 年，這個爭議被推至高潮。

推薦算法，興起于互聯(lián)網(wǎng)初期，近幾年已發(fā)展至應用巔峰，也是早期阿里、字節(jié)等互聯(lián)網(wǎng)公司的重要增長引擎。

簡單來說，算法做的是數(shù)學題。一位不愿具名的內(nèi)容平臺技術負責人向鳳凰網(wǎng)科技表示，“優(yōu)秀的算法，往往得益于精密且循環(huán)往復的調參”。

打開購物平臺，你可以從數(shù)億的商品中迅速選出自己想要的那款；打開外賣軟件，平臺可以精準為你匹配餐品和外賣騎手；打開短視頻 App，你可以準確獲取感興趣、有價值的內(nèi)容，這一切的一切，都與推薦算法密不可分。

與技術從業(yè)者的關注點不同，普通人對算法的控訴，多集中于信息繭房、算法沒有價值觀、大數(shù)據(jù)殺熟等。

當算法已與普通人的生活息息相關，也產(chǎn)生了一個更為致命的拷問，平臺會放縱算法無限向一個方向發(fā)展嗎？特別是，為了追求商業(yè)上的收益，會讓算法往失控的方向發(fā)展嗎？

多位在抖音、小紅書等平臺有過任職經(jīng)歷的相關從業(yè)者認為，算法的“黑盒”在于，多數(shù)人所負責的只是“點”，很難有人能縱覽全貌，這讓處在“點”上的人，覺得算法就像一個黑盒。

前述技術負責人認為，算法和背后的設計者之間一直有一個天平，而算法工程師負責把這個天平調節(jié)到最佳的位置?！敖^對不可能存在一直往某一個方向傾斜的情況，推薦是一個很復雜的事情，我們要把生態(tài)維持好，一定是多樣性平衡，而且我們會有非常多的手段去調控算法”。

針對算法的治理行動，這些年也從未停止。而新一輪的算法治理，目標正是進一步實現(xiàn)算法導向正確，算法公平公正，算法公開透明等。

現(xiàn)在，我們有必要打開這個黑盒。

推薦算法雖已不神秘，但各大平臺基于自身的資源建立的護城河，仍舊拉開了身位。在我們與各大互聯(lián)網(wǎng)公司的溝通中，不難發(fā)現(xiàn)一個默契的共識，在算法技術的推行以及生態(tài)的治理中，最受關注的公司仍舊是抖音。

為此，我們向抖音集團副總裁李亮發(fā)出了對話邀約。

據(jù)李亮分享，抖音、頭條推薦算法的原理和行業(yè)相比并無特殊之處，不同的是每個平臺為算法定制的目標，即更看重什么。抖音更為看重的指標是用戶的長期留存。

其認為，信息繭房一詞在推薦算法誕生前就已出現(xiàn)，從商業(yè)邏輯上來講，平臺沒有動力去制造所謂的“繭房”，也最有動力打破“信息繭房”。

由于算法作為一個“數(shù)學天才”，本身無法理解社會學、心理學、傳播學等多領域的現(xiàn)象，特別是在評論區(qū)，“一些爭議話題視頻下面經(jīng)常會有不同的觀點，甚至對罵，這些交互數(shù)據(jù)，包括評論、點贊、點踩、舉報等，會給算法一種交互很激烈、很熱鬧的信號，可能會讓視頻獲得更多流量”。

這自然是一種不健康的發(fā)展方向，抖音則會用內(nèi)容生態(tài)和運營的辦法，糾偏算法不合理的地方，降低不友善爭議流量的比例。

李亮也表明，利用不實信息、極端、對立言論博流量，是抖音持續(xù)打擊和治理的。他也相信，生態(tài)治理最終也將對平臺的健康發(fā)展有所助益。

以下為鳳凰網(wǎng)科技《浪潮》與李亮的對話，在不改變原意的情況下，經(jīng)編輯發(fā)布：

“抖音的算法并不神秘”

• 《浪潮》：對于科技和互聯(lián)網(wǎng)行業(yè)來說，算法是一項很關鍵的技術，尤其是推薦算法，你覺得它創(chuàng)造了哪些價值？

李亮：推薦算法是信息過載時代解決信息獲取效率的工具，如今已存在于人們衣食住行的方方面面。比如電商平臺是商品推薦，外賣平臺是商家推薦，OTA 平臺是民宿、酒店、機票推薦。

在視頻行業(yè)，算法把相關內(nèi)容推薦給可能感興趣的用戶，實現(xiàn)信息找人，信息在這個過程中得到高效率、更精準的分發(fā)。當信息連接到感興趣的人，就會產(chǎn)生更大效益，比如說今年史鐵生的《我與地壇》在抖音上翻紅，非常多 00 后的網(wǎng)友重讀史鐵生，也帶動這本書的銷量增長，而傳統(tǒng)書店將暢銷書擺放在更顯眼的位置，也是一種“推薦算法”。

推薦算法讓信息高效分發(fā)，給小眾內(nèi)容、普通人更多被看到的機會，促進知識普惠，農(nóng)技精準傳播，寶藏小店被發(fā)現(xiàn)，農(nóng)產(chǎn)品走出大山等等，都是推薦算法給各行各業(yè)帶來的價值。對用戶來說，推薦算法降低信息獲取成本，可以減少因瀏覽大量無效數(shù)據(jù)而造成的時間、精力浪費，拓展新的興趣。

• 《浪潮》：外界總說抖音的算法神秘，實際上是否如此？抖音采用的也是協(xié)同過濾這類經(jīng)典推薦算法嗎？還是已經(jīng)歷經(jīng)了幾番迭代，升級的重點是什么？

李亮：推薦系統(tǒng)是非常多算法和策略的集合，協(xié)同過濾是其中重要的一種，現(xiàn)在業(yè)界主流的推薦系統(tǒng)依然會采用協(xié)同過濾的技術思路，但在實現(xiàn)的細節(jié)上，例如如何利用協(xié)同數(shù)據(jù)做好向量表征的學習，如何把這種向量表征用在內(nèi)容推薦上，學界和業(yè)界一直在迭代。除了上述技術思路，我們也會應用其他有效的算法，例如過去我們做過對視頻內(nèi)容本身進行理解而進行的推薦，現(xiàn)在學界業(yè)界也有很多基于大模型的推薦的嘗試。

總體上說，抖音推薦算法的原理和行業(yè)相比并無特殊之處，不同的是每個平臺為算法定制的目標，即更看重什么。抖音真正的北極星指標是用戶的長期留存，所謂北極星指標，就是指引大方向的指標。留存是一種“人數(shù)”上的概念，也就是我們希望有更多人使用抖音，更多人認可抖音。長短期不僅僅是時間上的不同，在結果上也會有不一樣的導向，比如長期留存會更關注興趣探索、長期使用，而短期留存會更關注點贊、完播時長等目標。

• 《浪潮》：普通人對于算法的爭議點還在于，目前平臺沒有主動給大家更多樣化的算法制度選擇，比如可以選擇按時間順序來排列，抖音是否考慮過更多樣化的算法模式，這背后有什么技術難點嗎？

李亮：我們所生活的社會處于信息過載狀態(tài)，任何一個體量還可以的內(nèi)容平臺，每天新增的內(nèi)容供給遠遠超過個人所能消費的，按時間順序排列不現(xiàn)實。目前抖音的算法中有興趣探索機制，幫助用戶探索等多元多樣的內(nèi)容，抖音也提供了關閉個性化推薦算法選項，推薦的內(nèi)容是非個性化的，是一種平臺大部分人喜歡的內(nèi)容推薦算法，而非個性化喜歡。

“平臺最有動力打破信息繭房”

• 《浪潮》：有人說信息繭房是因為人性本惰，不愿意思考，所以主動接受了算法投喂的信息，這才是思維固化的真相，你怎么看待這個觀點？

李亮：“信息繭房”這個詞在推薦算法成熟之前就出現(xiàn)了，算法不是“信息繭房”形成的先決因素。

現(xiàn)在普遍對“信息繭房”的擔心，其實是所謂的信息偏食，即信息來源單一。事實上，每個渠道分發(fā)信息都有局限性，比如公眾號關注列表來源于我們自己的喜好，過去門戶網(wǎng)站是根據(jù)編輯的價值判斷，朋友圈的信息則是被我們的好友關系過濾。只看公眾號，門戶或者朋友圈，都會陷入所謂的“繭房”。但實際上，大部分人都是看朋友圈，也看抖音，也看新聞客戶端，信息來源是很綜合的。

另外從商業(yè)邏輯上來講，平臺沒有動力去制造所謂的“繭房”，也最有動力打破“信息繭房”，業(yè)界和學界的研究都表明了多元化內(nèi)容有益于用戶的長期留存。

• 《浪潮》：抖音都做了哪些更具體的事情？

李亮：我們從幾方面來做這件事：

1）抖音的內(nèi)容分發(fā)機制并不只是推薦，還包括搜索、社交分享和熱點熱榜。這些分發(fā)機制都是非興趣推薦的。以熱榜為例，會展示當天重要的新聞事件，在話題內(nèi)容會匯集事件的最新進展，平衡不同的、理性的觀點，幫助用戶了解事件的全貌；

2）抖音加強了社交推薦的機制，用戶可以長按視頻，點擊“推薦”，這條視頻就會被分發(fā)給抖音內(nèi)的好友，并顯示是“xxx 推薦”，這種社交推薦是對興趣推薦的豐富和補充；

3）抖音的算法中有興趣探索機制，幫助用戶探索更多元內(nèi)容，例如某個用戶只表現(xiàn)出對音樂類視頻感興趣，平臺會通過算法挖掘和音樂相關的品類，試探性地為用戶推薦美術、舞蹈等類型的視頻，幫助用戶探索其他興趣點。另外，雖然用戶的興趣點是多元的，但是總是有大興趣點和小興趣點，在推薦時我們會給小興趣點更多的權重，避免總是給用戶推薦同一類型的內(nèi)容。

4）抖音會刻意做多樣化推薦，避免越推越密集。比如用戶對萌寵感興趣，簡單來說，在不考慮多樣性的情況下，這個用戶可能會被連續(xù)推薦 3 個寵物貓和 2 個其他內(nèi)容，在考慮多樣性情況下，用戶只會被推薦一個寵物貓視頻，增加內(nèi)容的多樣性。

5）用戶可以通過對內(nèi)容或者賬號點擊“不感興趣”，以及在內(nèi)容管理工具里面設置自己的內(nèi)容偏好來更好的優(yōu)化、掌控自己的推薦。

從人性上講，思考、學習、接受不同觀點，本身就是困難的，但用戶可以通過與算法的交互，優(yōu)化算法表現(xiàn)，讓算法成為我們工作和生活的幫手，比如對不感興趣的內(nèi)容多點“不感興趣”，有目的的主動搜索，用戶搜索的內(nèi)容對于推薦結果也會有較大影響。

• 《浪潮》：算法其實很難去理解情緒化的東西，比如很難理解什么是友善，可能會把對立、情緒化的內(nèi)容當成是一種“友好互動”，進而去進行更多推薦分發(fā)，這個情況真實存在？

李亮：一些爭議話題視頻下面經(jīng)常會有不同的觀點，甚至對罵。如果單純根據(jù)互動數(shù)據(jù)做推薦會產(chǎn)生這類問題，是不健康的。所以抖音的推薦機制，會把這類問題考慮進去，我們不希望不友善的討論內(nèi)容得到更多分發(fā)。綜合包括評論、點贊、點踩、舉報在內(nèi)的信號，降低不友善爭議流量的比例。

• 《浪潮》：這個糾偏過程具體是怎么操作的？

李亮：糾偏機制分幾個層面展開：第一層是對“不友善”言論的進一步刻畫，把是否存在攻擊對立性表達作為評論審核的一個重要問題項，把對立性言論（嚴重的例如侮辱謾罵 / 仇恨性言論，中度的例如對立貶損，輕度的例如否定與指責）納入評論處置范疇。我們有相關數(shù)據(jù)統(tǒng)計，今年以來，相關的言論在社區(qū)獲得的曝光量已經(jīng)下降了 43%。

第二層是對整體對立性評論氛圍作為一個治理對象，當評論區(qū)整體出現(xiàn)了多方對立情緒，多方觀點以不友善的表達方式爭執(zhí)不休時，我們會截停一部分的視頻流量。

第三層，在視頻層面，對于通過制造對立 / 放大負面情緒等方式博眼球的行為也有明確的管控，在視頻流量的上漲過程中，我們會為其設置多輪流量關卡，審核其是否“值得”這么多的流量，可以說，這背后是平臺運營為算法導航。

• 《浪潮》：所以“算法鼓勵憤怒”其實是一種不正確的說法？

李亮：這里可能包含了比較復雜的社會學、心理學、傳播學問題，比如極化現(xiàn)象、回聲室效果，學術界已經(jīng)有比較多的研究，比如就有研究發(fā)現(xiàn)用戶在社交媒體上接觸到對立觀點后，不但沒有反思、修正自己的觀點，反而讓他們變得更加極端、更加憤怒。

從平臺視角看，我們希望用戶有機會看到多樣的視頻和評論。但同時，我們會嘗試理解視頻和評論的“煽動性”，對于不實或引導用戶發(fā)表極端觀點的視頻，會限制流量的分發(fā)；對于煽動仇恨、對立的評論，也會限制評論的曝光；對于客觀理性表達的視頻 / 評論，才會得到正常的推薦分發(fā)和曝光。

“生態(tài)治理長期來看對平臺有助益”

• 《浪潮》：算法雖然是一個極其高明的“數(shù)學天才”，但在很多時候，算法都算計不過人心。我們也了解到非常多人會利用算法的這些特點，以致于滋生灰黑產(chǎn)。你之前介紹過很多次某營銷號案例，這是目前抖音在算法治理方面遇到的最經(jīng)典問題之一嗎，這個問題是從什么時候開始爆發(fā)的？

李亮：是的。算法通?；谠O定的規(guī)則、數(shù)據(jù)和模型來運行。它能快速處理海量的數(shù)據(jù)和復雜的模式識別。然而類似百準數(shù)據(jù)潘某某的營銷號往往會利用一些狡猾的手段來創(chuàng)作內(nèi)容。比如，營銷號可能會使用表面看起來正常，但實際上帶有誤導性的標題、文案和發(fā)布策略，迎合算法對熱度、關鍵詞、用戶興趣等因素的偏好，通過制造虛假的熱度，如刷贊、刷評論或者是在內(nèi)容中故意夾雜一些容易引起算法關注但內(nèi)容不實的信息。這種情況下，算法最初可能會因為這些營銷號的行為符合部分規(guī)則而給予一定的推薦，從而可能導致誤判。

營銷號問題在互聯(lián)網(wǎng)上長期存在。這類賬號一方面編造虛假信息，如炮制明星緋聞，致使不實消息泛濫；另一方面過度營銷，推送劣質廣告，惡意刷量以博眼球。這不僅破壞了用戶的優(yōu)質體驗，也侵蝕平臺內(nèi)容生態(tài)，攪亂信息傳播秩序，讓平臺健康環(huán)境面臨挑戰(zhàn)。利用不實信息、極端、對立言論博流量，是抖音持續(xù)打擊和治理的。

• 《浪潮》：營銷號的治理牽扯的問題是什么？

李亮：首先我們明確打擊不實信息，嚴格封禁反復發(fā)布不實內(nèi)容的賬號。治理不實言論涉及多方面復雜因素，是一個長期工作，保障各方權益與平臺健康發(fā)展，也主要涉及一些考量：

其一，證據(jù)收集不易。封禁營銷號需充分證據(jù)證明其不實，遵循確定信息源、核實真實性并留存記錄等嚴格程序，證據(jù)不足直接封禁易引發(fā)法律糾紛，賬號所有者可能以平臺違反服務合同、侵犯用戶權益、造成經(jīng)濟損失等理由起訴。

其二，我們會根據(jù)情節(jié)情況分級進行治理。區(qū)分炮制謠言和無意識傳播，區(qū)分信息的危害程度，做出相應的管理。

• 《浪潮》：但是營銷號的不實言論長期困擾著一些企業(yè)和個人，我們之前也聽到過一些聲音，覺得在抖音投訴這些營銷號沒有專人對接，一般情況下都是走平臺化的投訴通道，這是不是因為抖音在相關問題的治理上有一套自己的流程方法？

李亮：關于是否專人對接的問題，我們認為核心還是不實內(nèi)容能得到有效、及時的處理。

抖音對平臺不實信息，首選會做主動的發(fā)現(xiàn)和治理。針對不實信息，尤其是社會信息，專業(yè)知識等影響較大的內(nèi)容，會通過站內(nèi)挖掘，站外監(jiān)控，風險互通等渠道，主動進行不實信息的線索發(fā)現(xiàn)，由專門搭建的相關專業(yè)團隊進行內(nèi)容研判，對明確的不實信息錄入不實信息庫，發(fā)起回查和其他處置干預。依托這樣的信息庫算法能力，目前我們會對站內(nèi)疑似的高風險不實信息進行召回和人工識別等進一步判斷，在明確為不實信息后，會對新增和存量內(nèi)容都做處置。

同時我們還在積極發(fā)現(xiàn)其他虛假不實類內(nèi)容的特征，比如同質化批量發(fā)布“一眼假”的內(nèi)容，針對這些內(nèi)容特征構建算法能力，進行風險發(fā)現(xiàn)，從而提升對虛假不實類內(nèi)容的治理能力。

抖音對于不實言論主要采用平臺化的投訴處理流程，包括投訴受理、初步核實、深入調查（如有必要）、處理決策與執(zhí)行、反饋與監(jiān)督等環(huán)節(jié)。

抖音平臺上有海量內(nèi)容，通過標準化和規(guī)?；幚砟芰Γ軌虼_保大量的投訴得到有序處理，提高處理效率。這種規(guī)?；奶幚矸绞揭脖阌谄脚_收集和分析數(shù)據(jù)。平臺可以通過統(tǒng)計不同類型賬號不實言論的投訴頻率、涉及的行業(yè)領域等信息，來更好地了解問題的分布，從而有針對性地優(yōu)化治理策略。平臺化投訴通道避免了人為因素可能帶來的不公平。平臺化流程是基于預先設定的規(guī)則來運行的。這些規(guī)則適用于所有的投訴案例，確保了每個投訴都能在相同的規(guī)則下得到公正的審核。

同時，對于謠言多發(fā)的輿情敏感企業(yè)，抖音會重點關注相關涉企不實信息，侵權舉報后臺如識別到相關舉報信息，會轉至高優(yōu)受理隊列，相比常規(guī)隊列能加快 4-6 個小時的處置時間。內(nèi)部還建立了跨部門溝通機制，減少信息傳遞的偏差，我們還專門培養(yǎng)了熟悉特定企業(yè)謠言的“專家”員工，以便能及時對情況進行研判處置。我們有統(tǒng)計數(shù)據(jù)，11 月抖音累計受理網(wǎng)絡涉企侵權舉報 18425 件，處置賬號 935 個，有效舉報 11300 件，投訴成功率約 61.3%。

• 《浪潮》：算法治理其實是一個全球難題，有的平臺被質疑算法出發(fā)點是提升用戶的參與度，而根據(jù)實驗，讓參與度提升的最有效辦法就是讓人憤怒，為了追求使用者的參與者，算法就決定散播一些“駭人聽聞”的內(nèi)容，它本質上是高層的一些決策導致了算法應用的走向，這個情況抖音有沒有碰到過？

李亮：上面也提到過，抖音的算法目標是長期收益，所有的優(yōu)化迭代都圍繞著這個目標，看長期效果。抖音更關注“用戶長期對平臺的認同”。事實上我們發(fā)現(xiàn)，用戶參與也分很多種類型，比如利用爭議誘導情緒而引發(fā)的評論并不能帶來長期收益，就不會成為抖音關注的目標，比如“駭人聽聞”的內(nèi)容很可能是刻意博流量，是抖音明確要打擊治理的，對這類生態(tài)問題的打擊并不會帶來平臺長期留存的下降，反而平臺是更有收益的。

本文來自微信公眾號：鳳凰網(wǎng)科技，原標題《獨家對話抖音集團李亮：平臺沒動力制造“繭房”》

廣告聲明：文內(nèi)含有的對外跳轉鏈接（包括不限于超鏈接、二維碼、口令等形式），用于傳遞更多信息，節(jié)省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。