①在平臺內(nèi),商業(yè)利益最后會轉(zhuǎn)化成員工KPI考核,實施算法的人更要緊的是完成商業(yè)目標(biāo)而無暇顧他; ②對于四部門算法治理專項行動,業(yè)內(nèi)人士認(rèn)為“至少把游戲規(guī)則定下來了”。在遵守好監(jiān)管的準(zhǔn)則前提下,從不同角度出發(fā)優(yōu)化的算法準(zhǔn)則,反而能讓算法不在單一的方向跑出公序良俗與法治的邊界。
編者按
當(dāng)今,在數(shù)智化浪潮中,算法已深入社會的各個角落,影響著人們生活的方方面面。結(jié)合此前四部委開展的網(wǎng)絡(luò)平臺算法典型問題治理專項行動,財聯(lián)社與《科創(chuàng)板日報》今日推出“算法治理”專題特稿報道。
報道旨在從算法領(lǐng)域的現(xiàn)象與問題,從對策到長久解決之道,全面深入地剖析當(dāng)前網(wǎng)絡(luò)平臺存在的算法亂象,期望能進一步引發(fā)各界對算法合理運用與有效治理的關(guān)注與思考,助力構(gòu)建健康、有序、向善的網(wǎng)絡(luò)生態(tài)環(huán)境。
本篇為“算法治理”特稿第二篇。
《科創(chuàng)板日報》12月10日訊(記者 張洋洋) 有關(guān)算法亂象和治理的討論,近期在農(nóng)夫山泉創(chuàng)始人鐘睒睒炮轟短視頻平臺對謠言不作為導(dǎo)致其被攻擊,四部門聯(lián)合開展網(wǎng)絡(luò)平臺算法典型問題治理專項行動,達到了高潮。
曾在國內(nèi)一家頭部互聯(lián)網(wǎng)公司擔(dān)任金融業(yè)務(wù)算法總監(jiān)的王耀(化名),在后來的跳槽的過程中,拒絕了一家信貸企業(yè)高薪拋來的橄欖枝。
“他們算法落地的業(yè)務(wù)場景主要就是催收,這會有一定的道德壓力?!蓖跻嬖V《科創(chuàng)板日報》記者。當(dāng)算法介入業(yè)務(wù),實施算法的人需要根據(jù)商業(yè)目標(biāo)去做優(yōu)化。這意味著算法是以商業(yè)利益為導(dǎo)向,而不能以實施者的喜惡或道德標(biāo)準(zhǔn)為準(zhǔn)繩。
王耀說,部分被催收者本身已是金融營銷的受害者,再用算法去做這類工作,他覺得是“道德包袱”。但他也不可能與企業(yè)的商業(yè)目標(biāo)對抗,將公司利益優(yōu)先的算法變成有道德的算法,畢竟“我的道德不是別人的道德”。
王耀將算法導(dǎo)致的負(fù)面影響,總結(jié)為平臺商業(yè)目標(biāo)導(dǎo)致的“系統(tǒng)冷漠”。
在平臺內(nèi),商業(yè)利益最后會轉(zhuǎn)化成員工的KPI考核,實施算法的人更要緊的是完成商業(yè)目標(biāo)而無暇顧他。而無論是對算法的治理還是用于治理的算法,對商業(yè)組織是一種成本投入,這與平臺的商業(yè)目標(biāo)間存在商業(yè)邏輯上的背離。
我國的算法治理自2021年開始,三年來,相關(guān)法律法規(guī)不斷完善。這期間各項政策措施陸續(xù)出臺,王耀早已習(xí)慣了算法的治理。對于四部門最新的算法治理專項行動,王耀等業(yè)內(nèi)人士認(rèn)為至少“游戲規(guī)則定下來了”,監(jiān)管治理總是會讓算法朝著良性方向發(fā)展。
▍工具還是 “操控者”?
從瀏覽器搜索結(jié)果到醫(yī)療服務(wù),從推薦內(nèi)容并在一定程度上影響用戶審美趣味和消費行為,從金融投顧到實行投資決策在極短的時間內(nèi)賺錢或賠錢,算法——解決問題或完成任務(wù)的指令集——如今已經(jīng)應(yīng)用在現(xiàn)實生活中的方方面面。
與生活息息相關(guān)的另一面則是,如今談?wù)撍惴?,隨之而來的也包括大數(shù)據(jù)殺熟、信息繭房、誘導(dǎo)沉迷等負(fù)面議題。
以推薦內(nèi)容為例,批評者將負(fù)面后果歸因于,算法在不為公眾可見的背后“操縱”,放大或掩蓋某些審美趣味、影響用戶的消費選擇,從而導(dǎo)致過度沉迷和“信息繭房”等負(fù)面作用。
作為一項技術(shù),算法并不是一開始就是眾矢之的的。
章駿(化名)曾在國內(nèi)頭部物流企業(yè)擔(dān)任算法工程師,至今仍在算法一線從業(yè)。
作為從業(yè)者,章駿提到,算法產(chǎn)生的功能包含多種,如圖像識別、商品推薦、信息推薦等。以算法推薦信息為例,其最初是信息過濾的工具,在互聯(lián)網(wǎng)高速發(fā)展時期,信息爆炸的時代,起到注意力聚焦的作用。
“但在后來解決問題的過程中,從業(yè)者發(fā)現(xiàn)調(diào)一下指標(biāo)或者參數(shù),就能更好的讓客戶留在軟件里。”章駿說,對于公司而言,引流或者做利潤都是它的核心KPI,以業(yè)務(wù)為導(dǎo)向的話,就會驅(qū)使算法去優(yōu)化,往留存用戶等方向做迭代。
章駿有一段從業(yè)經(jīng)歷是在一家互聯(lián)網(wǎng)公司,他說,那時候公司每年要花上億資金購買數(shù)據(jù),這些數(shù)據(jù)包括用戶的個人數(shù)據(jù)、行為數(shù)據(jù)等,算法要做的,就是對這些數(shù)據(jù)進行分析,最后進行推送。
章駿還有一段經(jīng)歷是一家外賣平臺。他舉了個例子,具體的算法優(yōu)化,此時要做的就是給用戶分組,做用戶畫像,比如哪些是價格敏感型,哪些是高客單價,這樣即便是同一個地區(qū),甚至是同一個學(xué)校的兩個人,被推送的商品都是不一樣的。
當(dāng)一個公司能夠捕捉到用戶大量行為和數(shù)據(jù),并且?guī)砭薮蟮睦麧櫍袠I(yè)會自然而然的往這個方向走。在章駿看來,算法的應(yīng)用深入,是互聯(lián)網(wǎng)行業(yè)這十幾年高速發(fā)展的商業(yè)自驅(qū)性行為。
“作為一項工具,算法本身是中立的,只是一些業(yè)務(wù)上的目標(biāo)設(shè)置跟數(shù)據(jù)來源,會影響到它最后的行為結(jié)果?!彼f。
▍商業(yè)自驅(qū)下的“系統(tǒng)冷漠”
算法從一個專業(yè)的技術(shù)概念到如今輿論爭議的焦點,大多數(shù)中國人對它的認(rèn)知經(jīng)歷了一個逐步深化的過程。2020年的《外賣騎手,困在系統(tǒng)里》一文,讓算法問題真正意義進入到公眾視野并使其成為眾矢之的。關(guān)于算法的各項監(jiān)管政策,也在此之后逐步出臺。
在四部門最新的算法專項整治行動當(dāng)中,重點整治的問題有,“信息繭房”誘導(dǎo)沉迷、違規(guī)操縱干預(yù)榜單炒作熱點、大數(shù)據(jù)“殺熟”、盲目追求利益侵害新就業(yè)形態(tài)勞動者權(quán)益、算法向上向善服務(wù)缺失侵害用戶合法權(quán)益等。
上述曾在國內(nèi)一家頭部互聯(lián)網(wǎng)公司擔(dān)任金融業(yè)務(wù)算法總監(jiān)的王耀把算法導(dǎo)致的上述系列問題,總結(jié)為商業(yè)目標(biāo)導(dǎo)致的“系統(tǒng)冷漠”。
這里的“冷漠”,一方面是員工考核的KPI壓力?!霸谏虡I(yè)組織里的算法員工,他工作的優(yōu)化的目標(biāo)可能是點擊,可能是存留,也可能是用戶的互訪,他無暇顧及其他,比如復(fù)核平臺的內(nèi)容是否符合事實?!?/p>
另一種“冷漠”來自平臺與依賴平臺獲取流量的人之間的博弈。平臺需要用戶帶來流量帶來點擊活躍生態(tài),但與此同時,如果這些用戶生產(chǎn)的內(nèi)容是劣質(zhì)的,點擊都是低效率的,帶不來真正的用戶停留和用戶聯(lián)系,甚至違法亂紀(jì),平臺又需要去處理低質(zhì)內(nèi)容。
王耀將此形容為,平臺就像開了一個集市,用戶來“擺攤”,平臺還得維護秩序,謹(jǐn)防“假冒偽劣”,以確保每一個擺攤的用戶都是“良心商家”。
“但平臺的優(yōu)先項是盡可能做大總銷量,清除假冒偽劣并不是它的核心KPI”。王耀說,在互聯(lián)網(wǎng)行業(yè),如今業(yè)務(wù)的比拼已是汪洋紅海,流量涉及真金白銀的收入,包括算法在內(nèi)的各種治理是成本投入,這是一種商業(yè)邏輯上的背離,所以另一種“冷漠”的情況就會出現(xiàn)。
盡管如此,在當(dāng)前的互聯(lián)網(wǎng)平臺內(nèi)部,算法也不能沒有底線。
王耀說,最基本的合規(guī)要求,比如金融產(chǎn)品不允許承諾收益,不允許有一定的漲跌預(yù)測等。在內(nèi)容平臺,大型企業(yè)也會配備專門的內(nèi)容安全算法團隊,且規(guī)模不小,對違法亂紀(jì)問題進行審核。一部分企業(yè)如今還會越來越重視ESG(環(huán)境、社會和公司治理),這也是公司重視內(nèi)部治理的一種。
▍“游戲規(guī)則定下來了”
我國的算法治理自2021年開始,當(dāng)時國家互聯(lián)網(wǎng)信息辦公室、中央宣傳部、公安部等九部委聯(lián)合印發(fā)《關(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導(dǎo)意見》(下稱《指導(dǎo)意見》)。
按照上述《指導(dǎo)意見》,我國將利用三年左右時間,逐步建立治理機制健全、監(jiān)管體系完善、算法生態(tài)規(guī)范的算法安全綜合治理格局。
三年來,相關(guān)法律法規(guī)不斷完善,然而公眾對算法的感知與治理要求之間仍存較大差距。
對于四部門最新的《關(guān)于開展“清朗·網(wǎng)絡(luò)平臺算法典型問題治理”專項行動的通知》,作為從業(yè)者的王耀和章駿均認(rèn)為對行業(yè)來講是好事,“至少把游戲規(guī)則定下來了” 。
根據(jù)這次專項行動安排,有關(guān)部門將在2025年1月底評估企業(yè)自查自糾情況。2025年2月14日前完成專項行動實施成效總結(jié),“全面評估《指導(dǎo)意見》印發(fā)以來的算法治理舉措及取得的積極成效,深入分析難點問題,制定今后一段時期的務(wù)實舉措”。
在互聯(lián)網(wǎng)行業(yè)多年,見證《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等政策陸續(xù)出臺實施,對于涉及算法的各項治理規(guī)定,王耀說他已經(jīng)“習(xí)慣了”。
怎么樣才是一個好的算法?算法的底線是什么?王耀說,現(xiàn)在還很難達成“好算法”的共識,或者說算法的“好”無法限定為一個單一目標(biāo)。
“各平臺調(diào)性不同,利益標(biāo)準(zhǔn)不一,只要在遵守好監(jiān)管的準(zhǔn)則前提下,從不同角度出發(fā)優(yōu)化的算法準(zhǔn)則,反而能讓算法不在單一的方向跑出公序良俗的邊界,比如既要有提升活躍用戶活躍的目標(biāo),也要有提升用戶體驗的目標(biāo),還要有保障內(nèi)容質(zhì)量和合規(guī)性的底線要求等。”