編者按

當今，在數(shù)智化浪潮中，算法已深入社會的各個角落，影響著人們生活的方方面面。結(jié)合此前四部委開展的網(wǎng)絡平臺算法典型問題治理專項行動，財聯(lián)社與《科創(chuàng)板日報》今日推出“算法治理”專題特稿報道。

報道旨在從算法領(lǐng)域的現(xiàn)象與問題，從對策到長久解決之道，全面深入地剖析當前網(wǎng)絡平臺存在的算法亂象，期望能進一步引發(fā)各界對算法合理運用與有效治理的關(guān)注與思考，助力構(gòu)建健康、有序、向善的網(wǎng)絡生態(tài)環(huán)境。

本篇為“算法治理”特稿第一篇。

《科創(chuàng)板日報》12月10日訊（記者 黃心怡）你以為是在自主選擇，但實際被算法所主導。

很多人今天可能都有這樣的感覺：當閱讀某個文章后，App會不斷推送相似的內(nèi)容；當搜索過某個話題后，打開另一個App，也會看到與話題相關(guān)的信息自動推薦給你……

我們生活在一個前所未有的“算法時代”，在便利了工作和生活的同時，“信息繭房“的現(xiàn)象也隨之出現(xiàn)。

算法讓人們陷入了由數(shù)據(jù)編織的無形信息系統(tǒng)之中，商業(yè)化逐利的算法推送，導致人們獲取的信息越來越單一化、同質(zhì)化，這也為偏見的放大提供了土壤。人群被劃分為不同的群體，也就是不同層級的“信息繭房”中，極端情況下相互之間觀點對立、水火不容，導致社會的分裂和隔閡加劇。

▌警惕算法編織的信息繭房

需要指出的，計算機科學與信息技術(shù)發(fā)展帶來的算法，很大程度上改善了我們的生活和工作。無論是在日常生活、工作勞動、信息獲取還是休閑娛樂方面，算法都極大地提高了效率并帶來了便利。

然而，算法在互聯(lián)網(wǎng)世界中的無處不在，也可能引發(fā)一些問題。以“信息繭房”為例，這是美國學者凱斯·桑斯坦在2006年出版的《信息烏托邦》一書中提出的概念，指個體如果關(guān)注自我選擇的或能夠愉悅自身的內(nèi)容，同時減少對其他信息的接觸，時間一長，就會像蠶一樣桎梏于自我編織的“繭房”之中。

以短視頻平臺為例，流量至上的內(nèi)容推薦，導致平臺為了追求流量和用戶停留時間，算法會優(yōu)先推薦那些容易吸引眼球、具有爭議性或娛樂性強的內(nèi)容，而這些內(nèi)容往往質(zhì)量參差不齊。 另外，平臺根據(jù)用戶的瀏覽行為、點贊、評論等操作給用戶打上興趣標簽，然后通過協(xié)同過濾算法推薦相似內(nèi)容。但這可能導致用戶只能看到自己感興趣的內(nèi)容類型，如喜歡美食視頻的用戶，平臺就持續(xù)推送各種美食視頻，使其錯過其他領(lǐng)域的優(yōu)質(zhì)內(nèi)容，視野逐漸變窄。

此外，算法在推薦時主要依據(jù)數(shù)據(jù)指標，如播放量、點贊數(shù)、評論數(shù)等，而對內(nèi)容的真實性、專業(yè)性、客觀性等質(zhì)量因素缺乏深入評估。這就導致一些虛假信息、謠言、低質(zhì)量甚至有害的內(nèi)容也可能因數(shù)據(jù)表現(xiàn)好而被大量推薦，誤導用戶，影響網(wǎng)絡環(huán)境的健康發(fā)展 。

▌價格歧視與大數(shù)據(jù) “殺熟”

中國社會科學院財經(jīng)戰(zhàn)略研究院研究員劉誠表示， 當前信息繭房有兩層含義：一是出自引流等目的，平臺讓用戶看到其想看的信息。二是出于賣貨等目的，讓用戶看到平臺想讓其看到的信息。這層含義里面注入了“平臺意志”，是平臺主動做出的信息設計。

從這兩層含義的關(guān)系來看，前者是手段，為了投其所好，吸引用戶、做大流量；后者是最終目的，把流量兌現(xiàn)為商品交易總額（GMV）。劉誠認為，平臺作為一個個獨立運行的企業(yè)，由于追求經(jīng)濟利潤最大化。那么其經(jīng)濟影響是，平臺可能會基于信息壟斷對用戶進行信息歧視。

“大數(shù)據(jù)殺熟”與價格歧視，正是常見的為追求利潤最大化，而導致的算法變成了“算計”。在算法機制下，消費者在在購買商品或服務時面對不同的價格。同樣的商品或服務，老用戶的價格可能會比新用戶更高。

不久前，京津冀三地的消協(xié)組織發(fā)布了大數(shù)據(jù)營銷差異化現(xiàn)象調(diào)查結(jié)果，超過四成的消費者明確表示曾遭遇“大數(shù)據(jù)差異化營銷”。調(diào)查中，對外賣類平臺標價22元的糖烤板栗、米麻薯進行購買體驗，結(jié)算價格出現(xiàn)了4元至22元的波動，價格差異超過售價的80%；結(jié)合短視頻/直播平臺11位消費者的親身體驗，對售價79元的蘇泊爾1.7升全自動安全超大容量燒水壺電熱水壺進行調(diào)查，結(jié)算價格呈現(xiàn)出49元至79元的波動，價格差異接近售價的40%；對在線民宿類平臺進行調(diào)查，結(jié)算價格呈現(xiàn)8%的價格差異。

除了大數(shù)據(jù)殺熟外，電商平臺會根據(jù)用戶的瀏覽和購買記錄來推薦商品，這雖然在一定程度上方便了用戶查找相似商品，但也容易導致信息繭房。比如，平臺認為某年輕女性用戶的消費能力較低，就只給她推送低價商品，而不展示一些高品質(zhì)但價格稍高的商品，限制了用戶的選擇范圍。

此外，算法通常會傾向于推薦那些銷量和點擊率高的商品，這可能導致小眾但有特色的商品難以獲得曝光機會，用戶也更容易集中關(guān)注到大眾熱門商品，從而陷入同質(zhì)化的信息環(huán)境，難以發(fā)現(xiàn)一些符合自身個性化需求但非熱門的商品。

▌打破信息繭房刻不容緩

上海交通大學數(shù)據(jù)法律研究中心執(zhí)行主任何淵對《科創(chuàng)板日報》表示，算法帶來的信息繭房現(xiàn)象，會導致認知視野受限，人們的思維變得狹窄，難以進行全面、客觀的思考，影響對事物的準確判斷。同時，創(chuàng)新往往源于不同領(lǐng)域知識的碰撞和融合，信息繭房限制了人們接觸新思想和觀念的機會，不利于創(chuàng)新思維的培養(yǎng)。

知名經(jīng)濟學者盤和林也指出，對于個人而言，信息繭房會限制對信息的接收。由于沒有充分的信息，人們會造成情緒偏激和決策失誤。“比如，有些人因為推送各種保健品而被誤導、上當。有的年輕人被推送某種潮流玩具而深陷其中，形成沉迷。最終，很多人會因為信息繭房失去信息篩選，辨別能力，也失去系統(tǒng)學習能力?！?/p>

從整個社會來看，信息繭房還可能會加劇觀點撕裂和社會分層。由于不同的人群看到的信息不同，并在算法推送下反復強化自身認同的觀點，無法接觸到差異化的內(nèi)容和更全面的視角。

久而久之，在不同人群之間構(gòu)建起一道信息墻，導致觀點變得單一、狹隘，同時極端化的聲音可能會越來越大，對內(nèi)高度抱團，對外高度差異，不同立場之間的對立變得難以化解。

“在信息繭房造成的后果中，社會和諧穩(wěn)定受威脅、觀點撕裂和社會分層是最嚴重的現(xiàn)象。因為它們直接影響到社會的穩(wěn)定和團結(jié)，可能導致社會矛盾的激化和長期的社會問題?！焙螠Y認為。

如何建立有效機制打破逐利性算法帶來信息繭房，何淵表示，可從以下幾個方面采取措施:

一是從政府監(jiān)管的角度出發(fā)，優(yōu)化政策設計，既能讓用戶獲得優(yōu)質(zhì)的信息推送服務，又避免過多同質(zhì)信息推送導致的信息繭房問題。

二是推動算法的多元化，引入基于內(nèi)容的協(xié)同過濾方法，結(jié)合用戶興趣點與內(nèi)容特征推薦系統(tǒng)中加入多樣和新鮮的信息，打破信息孤島。

三是增強算法透明度，提高算法推薦的透明度，讓用戶能夠了解算法推薦的內(nèi)容和機制，增強用戶對算法的理解和控制能力。

四是提升用戶AI素養(yǎng)，加強用戶對算法應用的了解，提高用戶評估算法影響及應對算法操作的技能，增強用戶自主選擇性。

五是強化平臺算法責任，讓平臺承擔社會責任。通過這些措施，可以有效地打破信息繭房，促進信息的多樣性和開放性，增強社會的和諧與穩(wěn)定。

盤和林則表示，要將算法推薦的決策權(quán)還給用戶?！坝捎脩魜磉x擇是否使用推薦算法，算法可以推薦某一類信息，也可以是通過算法找到新的信息，也可以不要算法直接瀏覽。其次，提供多元化信息渠道，允許多元化的聲音。及時引導人們正確辨別信息是很有必要的。”