出品｜達(dá)摩財(cái)經(jīng)

高深莫測(cè)的人工智能算法并不是科技巨頭口中美好的“烏托邦”。為了流量和商業(yè)利潤(rùn)而不顧后果，制造信息繭房、鼓勵(lì)謠言和仇恨，最終可能指引人類走向錯(cuò)誤的道路，帶來(lái)未曾預(yù)見的災(zāi)難，歷史學(xué)家、哲學(xué)家尤瓦爾·赫拉利（Yuval Harari）在新書《智人之上》中發(fā)出了上述警告。他最終指出：如果沒(méi)有缺乏強(qiáng)有力的修正機(jī)制，無(wú)意識(shí)又極為強(qiáng)大的人工智能算法將帶來(lái)前所未有的惡果。

無(wú)論我們是否同意赫拉利的悲觀預(yù)測(cè)，智能算法對(duì)現(xiàn)實(shí)世界的影響越來(lái)越大都是不爭(zhēng)的事實(shí)。農(nóng)夫山泉?jiǎng)?chuàng)始人鐘睒睒今年遭遇的網(wǎng)暴就非常直觀，最近這位中國(guó)首富終于忍無(wú)可忍，公開向算法的違規(guī)問(wèn)題“開炮”，要求制造惡意謠言的網(wǎng)絡(luò)平臺(tái)向自己道歉。

11月24日，“網(wǎng)信中國(guó)”正式發(fā)布：中央網(wǎng)信辦、工信部、公安部以及國(guó)家市場(chǎng)監(jiān)督管理總局等四部門，于11月12日聯(lián)合發(fā)文，決定開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)。

具體來(lái)看，在專項(xiàng)行動(dòng)的工作方案中，將深入整治“信息繭房”、誘導(dǎo)沉迷問(wèn)題列為首要任務(wù)。要求嚴(yán)禁推送高度同質(zhì)化內(nèi)容誘導(dǎo)用戶沉迷。不得強(qiáng)制要求用戶選擇興趣標(biāo)簽，不得將違法和不良信息記入用戶標(biāo)簽并據(jù)以推送信息，不得超范圍收集用戶個(gè)人信息用于內(nèi)容推送。

同時(shí)，要提升榜單透明度并打擊操縱榜單行為。要求全面公示熱搜榜單算法原理，提升榜單透明度和可解釋性。完善榜單日志留存，提高榜單算法原理可驗(yàn)證性。

此外，防范盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益；嚴(yán)禁利用算法實(shí)施大數(shù)據(jù)“殺熟”；增強(qiáng)算法向上向善服務(wù)保護(hù)網(wǎng)民合法權(quán)益，落實(shí)算法安全主體責(zé)任等任務(wù)也列為本次專項(xiàng)行動(dòng)重點(diǎn)任務(wù)。

本次專項(xiàng)行動(dòng)持續(xù)時(shí)間近三個(gè)月，至2025年2月14日，將按照組織企業(yè)自查自糾、核驗(yàn)企業(yè)自查情況、深入評(píng)估治理成效、開設(shè)舉報(bào)受理渠道幾項(xiàng)工作分步開展。

在方案中，監(jiān)管部門還明確了本次專項(xiàng)行動(dòng)的目標(biāo)。最終將實(shí)現(xiàn)網(wǎng)站平臺(tái)算法導(dǎo)向正確、算法公平公正、算法公開透明、算法自主可控以及算法責(zé)任落實(shí)。

總體來(lái)看，本次監(jiān)管部門對(duì)互聯(lián)網(wǎng)算法綜合治理發(fā)出了擲地有聲的聲音。本次專項(xiàng)行動(dòng)將重點(diǎn)整治同質(zhì)化推送營(yíng)造“信息繭房”、違規(guī)操縱干預(yù)榜單炒作熱點(diǎn)、盲目追求利益侵害新就業(yè)形態(tài)勞動(dòng)者權(quán)益、利用算法實(shí)施大數(shù)據(jù)“殺熟”、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等重點(diǎn)問(wèn)題，督促企業(yè)深入對(duì)照自查整改，進(jìn)一步提升算法安全能力。

知名企業(yè)家竟成網(wǎng)暴受害者

鐘睒睒這次亮相的地點(diǎn)是在江西贛州信豐，這是贛南臍橙的核心產(chǎn)區(qū)，也是著名的“老蘇區(qū)”。早在20年前，鐘睒睒就帶領(lǐng)農(nóng)夫山泉進(jìn)入當(dāng)?shù)胤N臍橙、設(shè)工廠，中間走過(guò)彎路但始終沒(méi)有放棄，不考慮成本的投入對(duì)幫助當(dāng)?shù)剞r(nóng)民共同富裕起到了重要作用。

截至2023年末，農(nóng)夫山泉已經(jīng)與信豐當(dāng)?shù)睾献鞴麍@超20萬(wàn)畝，與約4000個(gè)果園建立了合作，改善約4萬(wàn)名農(nóng)民家庭的收入，上下游惠及約10萬(wàn)人口。鐘睒睒表示：“農(nóng)夫山泉不是一家賣水的企業(yè)，而是一家農(nóng)業(yè)企業(yè)”、“我這樣的企業(yè)家就應(yīng)該解決產(chǎn)業(yè)問(wèn)題”。扶持產(chǎn)業(yè)，與農(nóng)民同頻共振，同時(shí)幫助提升國(guó)家的競(jìng)爭(zhēng)力，這是農(nóng)夫山泉對(duì)“共同富裕”的理解和實(shí)踐。

但就是這位充滿社會(huì)責(zé)任感的知名企業(yè)家，今年初意外遭受了一場(chǎng)鋪天蓋地的網(wǎng)暴。

在被傳播了無(wú)數(shù)遍的圖文信息和短視頻里，有人說(shuō)農(nóng)夫山泉產(chǎn)品包裝上的山麓圖片是富士山，有人說(shuō)它紅色的瓶蓋是日本國(guó)旗，甚至有人把鐘睒睒的照片PS上小胡子說(shuō)是日本人。盡管這些網(wǎng)絡(luò)言論一眼看上去就立不住腳，但絲毫沒(méi)有阻礙它們?cè)谔摂M空間匯聚成洶涌惡意，吞噬掉了所有理性和真相。

一輪又一輪的口誅筆伐里，農(nóng)夫山泉的包裝飲用水在半年內(nèi)營(yíng)收大挫18%，公司市值在持續(xù)被網(wǎng)暴近半年后蒸發(fā)了2100億港元，鐘睒睒95歲的母親在網(wǎng)絡(luò)惡意最濃的時(shí)候憤懣離世，直到現(xiàn)在，在網(wǎng)絡(luò)平臺(tái)上搜索“鐘睒睒+日本”，排名靠前的搜索結(jié)果里依然有“鐘睒睒不像中國(guó)人”、“鐘睒睒日本人還是中國(guó)人”這樣的信息。

11月20日，鐘睒睒在贛州信豐農(nóng)夫山泉臍橙工廠發(fā)表演講，被問(wèn)到離世的母親時(shí)潸然淚下。他對(duì)網(wǎng)絡(luò)謠言和網(wǎng)暴進(jìn)行了深度思考后得出結(jié)論，那些“有組織地引流、限流，沒(méi)有原則、隨心所欲地刪稿，對(duì)流量及其謠言以金錢獎(jiǎng)勵(lì)與激勵(lì)，把網(wǎng)絡(luò)變成技術(shù)、算法，變成了玩弄民眾智商的游戲”的網(wǎng)絡(luò)平臺(tái)， 才是最大的責(zé)任者。

“天天罵我的普通人也是受害者，真正制造惡意的是那些掌握技術(shù)和資源的人。”鐘睒睒將矛頭直指平臺(tái)，正是網(wǎng)絡(luò)平臺(tái)的算法在鼓勵(lì)情緒對(duì)立，從中源源不斷獲得流量和商業(yè)利益。

算法成了網(wǎng)絡(luò)噴子的制造者

網(wǎng)絡(luò)平臺(tái)究竟應(yīng)不應(yīng)該對(duì)網(wǎng)絡(luò)暴力承擔(dān)責(zé)任？過(guò)去，科技巨頭往往用“避風(fēng)港原則”來(lái)規(guī)避自己的責(zé)任，將責(zé)任推脫給具體的“博主”、“主播”、“自媒體”，認(rèn)為他們是各個(gè)平臺(tái)上一切仇恨與謊言的源頭。

但赫拉利恰恰對(duì)此做了深度研究，認(rèn)為這都是科技巨頭的謊言。他在新書里指出，科技巨頭的算法發(fā)現(xiàn)，只要激起人們的怒火就能提升參與度。通過(guò)推薦驚駭?shù)年幹\論，同時(shí)無(wú)視理性的內(nèi)容，美國(guó)的“臉書”、“油管”等網(wǎng)絡(luò)平臺(tái)吸引了越來(lái)越多的流量。那些想博人眼球的主播發(fā)現(xiàn)，發(fā)布滿是謊言、讓人憤慨的視頻就會(huì)受到算法青睞，視頻就會(huì)被推薦給觀眾、自己就會(huì)人氣飆升獲得收益，網(wǎng)絡(luò)噴子就這樣被算法“訓(xùn)練”出來(lái)。

值得注意的是，傳統(tǒng)的信息傳播渠道中，還會(huì)有專門的工種去驗(yàn)證、審核信息的真實(shí)程度，以及價(jià)值導(dǎo)向是否正確，但當(dāng)算法成了信息的最終把關(guān)人和分發(fā)者后，真實(shí)、導(dǎo)向和責(zé)任感似乎成了最不重要的衡量指標(biāo)。“社交媒體算法只把人看成礦井，想要開采更多的注意力。人類有豐富的情感，如愛、恨、憤慨、喜悅、困惑，但算法把一切簡(jiǎn)化成一件事——參與度。”赫拉利發(fā)現(xiàn)。

這一切都是為了商業(yè)利益。“臉書”在2019年的內(nèi)部文件中就承認(rèn)“仇恨言論以及分裂性言論與錯(cuò)誤信息，正在影響世界各地的社會(huì)……我們的核心產(chǎn)品機(jī)制，如病毒式傳播、推薦與提升用戶黏性，正是此類言論在臉書平臺(tái)盛行的重要原因。”、“這種事之所以發(fā)生，是因?yàn)槲覀兂鲇谏虡I(yè)目的而刻意推動(dòng)的。”、“以參與度為標(biāo)準(zhǔn)對(duì)有較高風(fēng)險(xiǎn)的話題進(jìn)行排序，會(huì)導(dǎo)致不正當(dāng)激勵(lì)與誠(chéng)信問(wèn)題。”

現(xiàn)實(shí)世界中，算法制造出來(lái)的“惡意”頻結(jié)“惡果”。2023年5月，武漢一名小學(xué)生在被老師的車撞傷后不幸離世，他的母親趕到學(xué)校，僅僅是因?yàn)榛说瓓y，沒(méi)有大哭大鬧，就被人網(wǎng)暴成“過(guò)于淡定”“想當(dāng)網(wǎng)紅”。最終這位本就經(jīng)歷了喪子之痛的年輕母親，在被算法“推薦”出來(lái)的巨大惡意里，選擇了在兒子離世的10天后從24層高的地方墜樓身亡。

科技巨頭曾經(jīng)承諾技術(shù)提供提高生產(chǎn)力、給人類社會(huì)帶來(lái)美好的未來(lái)，但顯然，如果人工智能驅(qū)動(dòng)的算法強(qiáng)大而不受控制，技術(shù)的鐘擺被狠狠甩了出去后，當(dāng)鐘擺再度彈回來(lái)時(shí)，總會(huì)有什么東西被砸得稀碎。

“算法猛獸”要有監(jiān)管約束

盡管科技巨頭總是強(qiáng)調(diào)算法沒(méi)有價(jià)值觀，但當(dāng)網(wǎng)絡(luò)平臺(tái)以經(jīng)濟(jì)利益至上、經(jīng)濟(jì)利益又是從流量中來(lái)，算法顯然不能沒(méi)有價(jià)值觀。科技巨頭必須投資推動(dòng)鼓勵(lì)說(shuō)真話的“善意”機(jī)制。

在鐘睒睒的邏輯里，謠言的傳播者和制造者是同罪的。他認(rèn)為農(nóng)夫山泉這樣制造型企業(yè)，如果生產(chǎn)了不合格產(chǎn)品，就需要承擔(dān)法律責(zé)任，互聯(lián)網(wǎng)企業(yè)如果為了博取流量而放縱虛假信息傳播，從而從中盈利，那它也是在放縱不合格產(chǎn)品的流通，需要承擔(dān)法律的責(zé)任和人類文明的責(zé)任。

這也成了鐘睒睒呼吁約束平臺(tái)的原因。他說(shuō)：“任何文明都是有度的，當(dāng)某一種文明的力量過(guò)度的時(shí)候，那一定是對(duì)其他弱勢(shì)群體的傷害。但強(qiáng)者和弱者永遠(yuǎn)是存在的，互聯(lián)網(wǎng)的強(qiáng)者在約束他人的過(guò)程當(dāng)中，也同時(shí)必須約束自己。”

科技巨頭的算法權(quán)力越來(lái)越大。算法究竟是根據(jù)什么原則來(lái)屏蔽哪些聲音、放大哪些聲音，不能是一個(gè)黑箱，需要公開透明，這越來(lái)越成為社會(huì)的共識(shí)。赫拉利也指出：“要是企業(yè)用憤怒來(lái)吸引我們的注意力，就得清楚坦陳自己的商業(yè)模式。如果算法會(huì)系統(tǒng)性地屏蔽與該企業(yè)立場(chǎng)不同的視頻，用戶也該有權(quán)得知。”

11月24日，中央網(wǎng)信辦等四部門聯(lián)合發(fā)文開展“清朗·網(wǎng)絡(luò)平臺(tái)算法典型問(wèn)題治理”專項(xiàng)行動(dòng)，對(duì)一些需要持續(xù)加強(qiáng)治理的算法平臺(tái)典型問(wèn)題重拳出擊，其中也點(diǎn)出了算法要公開透明。“優(yōu)化檢索、排序、推送等規(guī)則的透明度和可解釋性，預(yù)防和減少爭(zhēng)議糾紛。以適當(dāng)方式公示算法推薦服務(wù)的基本原理、目的意圖、主要運(yùn)行機(jī)制等，確保簡(jiǎn)單、清晰、可理解。”

監(jiān)管部門對(duì)算法加強(qiáng)持續(xù)治理，這是一場(chǎng)“及時(shí)雨”。

?END?