北方財經全媒體見習記者吳立洋實習生李紫瑄北京報導
9月10日,在人力資源社會保障部等四部門維護新就業形態勞動者勞動保障權益舉行平臺企業行政指導會當天,美團公司首次公開關于騎手配送時間的估算規則,介紹了預估送達時間背后的算法邏輯。在此之前本地外賣系統,各外賣平臺因為對騎手配送時間要求過為嚴苛而廣受社會非議。
2020年9月8日,《外賣騎手,困在系統里》一文引起了輿論對于算法系統性欺壓騎手的高度關注,去年5月,清華社會學博士2018年加入廣州一騎手團隊送了五個月外賣,其基于這一田野調查的論文詳盡論述了平臺對騎手的“勞動控制”機制,再度喚起了對公眾對平臺算法的指責。
算法猶如一個巨大的暗箱,平臺的終端用戶除了難以窺其概貌,也得不到有關算法的解釋,不信任因而不斷累積,公開算法的呼聲也越來越強烈。
在國家對平臺和資本監管力度持續加強的背景下,美團首先作出了回應。
美團公開部份算法
9月10日,美團在其官方微信公眾號上發布了一篇名為“讓外賣配送算法更透明,讓更多聲音參與改變”的推文。該文章公布了美團外賣訂單頁面顯示的預估抵達時間會在四個測算結果中取時間最長的一個,這四個結果分別是基于訂單詳情、區域供需等信息,基于城市地理及通行特點,基于出餐、到店、騎行、交付四段時間累加,以及基于不同配送距離所估算的時間。
文中還表示,美團正在進行兩項持續迭代的調整,以進一步減輕騎手的壓力。一是會在異常場景下,例如在店家常年出餐慢、惡劣天氣、節假日單量劇增、小區難步入等情況下為騎手提供時間補充,二是在部份異常場景下,將“預估抵達時間”變為“預估抵達時間段”。
“但這只是整個配送算法中的策略部份,美團只公開了從什么維度對配送時間進行估算,具體的細節并沒有公開,畢竟這個策略也沒哪些特殊性,產品設計的時侯考慮這種誘因是再正常不過的了。”廣州某人工智能企業算法工程師在接受21世紀經濟報導記者專訪時強調,“這篇文章更多不是在公開技術,而是解釋自己沒有榨取外賣員,說究竟就是一種姿態的抒發。”
美團選擇作出這樣的表態并非空穴來風,外賣平臺的算法問題已經遭受非議。
上述的報導和研究直指將算法應用于外賣配送員管理的倫理困局,即平臺為了達到效率最大化所設定的一系列苛刻算法,從派單,配送時間測算,路線規劃,到賞罰規則等等,都給外賣員的工作帶來了巨大的壓力和風險,但是零工經濟模式下一旦出現人身意外,外賣員的勞動權益無法得到保障。
近些年來,國家有關部門的注重和監管也不斷發力。7月26日,市場監管總局,國家網信辦、國家發展變革委、公安部、人力資源社會保障部、商務部、中華全省副總會,共七個部門聯合印發《關于落實網路餐飲平臺責任著力維護外賣送餐員權益的指導意見》,強調不得將“最嚴算法”作為考評要求,通過“算法取中”等形式,合理確定訂單數目、準時率、在線率等考評要素,適當放寬配送期限,還督促平臺及第三方合作單位為完善勞動關系的外賣送餐員訂購社會保險。
8月27日,國家互聯網信息辦公室發布了關于《互聯網信息服務算法推薦管理規定(征詢意見稿)》公開征詢意見的通知,要求算法推薦服務者要以適當方法公示算法推薦服務的基本原理、目的意圖、運行機制等,接受社會監督。
“這可以看成是一場提早進行的危機公關。”上海學院新聞與傳播大學副院長洪長暉在接受21世紀經濟報導記者專訪時表示,美團之所以公開算法規則,與其說是在讓自身的運作變透明,毋寧說是在回應社會關切,回應社會對騎手與平臺之間非均衡關系的關切,回應社會對互聯網平臺對用戶、員工權益保障的關切。
美團回應了,但公眾對算法的擔憂被解答了嗎?
洪長暉覺得,美團部份地公開配送時間的算法決策,能部份回應公眾指責,卻不會打消所有疑惑的聲音,“尤其是當騎手或消費者權益遭到損害的極端個案再度出現時,指責聲音會再度放大。”
配送時間的優化策略被公之于眾,卻還有無數個把外賣騎手“困在系統里”的算法,例如配送路線的系統導航是否合理、騎手聽到的要求送達時間與用戶聽到的預估達到時間是否一致,店家出餐慢、消費者不合理要求導致的后果是否由騎手承當等等問題仍然隱藏在算法暗箱中。
算法公開難點何在
從美團所公開估算規則,到相關的論文、報道花費了調查者大量的精力才摸透了外賣平臺算法的一些底層邏輯,都透漏出了算法公開的復雜與困難。
算法作為關系到其核心商業利益的技術,遭到層層專利的保護,并不會輕易公開和轉讓。北京某通信設備制造商算法工程師介紹,“算法是用計算機解決問題的一套程序、指令,原創的算法模型經過反復驗證可以正常運行,這就產生了技術壁壘,不公開的重要誘因就是為了避免競爭對手研究和破譯”。
可算法公開并非完全沒有先例,“已經成熟,你們都在研究,且不會對公司的技術壁壘導致影響的算法內容,還是會有公開的。”前述杭州算法工程師表示,例如美團技術團隊仍然在其官網上撰寫文章,進行一些介紹算法構成和實現原理的技術分享,省略技術細節,目的是讓行業社區曉得美團現今做到哪些程度了。而在面向開源及私有軟件項目的托管平臺上,一些企業也會公開個別算法的源代碼,公開技術細節,以供交流學習。
然而這種技術分享、源代碼公開的形式對于非編程專業的公眾和監管部門來說卻無法具備實際的參考價值:多位受訪專家向記者表示,一個平臺的算法常常由一個技術團隊編撰完成,每人只負責一個小部份,因而組成一個完整的算法系統,這個系統可以依托數據集實現自我迭代與優化,該過程也被稱為機器學習。數據集隨著用戶的下降不斷更新,擁有千萬甚至億級用戶的平臺,都會有著十分復雜的數據集,因而算法模型也會迭代得愈加復雜,而且不受人工控制。
其結果就是算法工程師本人可能都難以解釋整個算法系統的概貌,公眾和監管部門就愈加無法理解清楚其工作原理,并判定算法是否存在程序編撰或則機器學習的歧視,偏見,殺熟,侵害隱私等問題。
值得注意的是,當前算法的復雜性問題促使了另一種算法公開形式的形成——以易理解的方法解釋算法。并且美團公開的“預計抵達時間”計算規則又反映了對于算法的解釋是有模糊空間的。按照中國人民學院法大學副院長丁曉東在其論文《論算法的法律規制》中的論述,“基于大數據的算法與可解釋性所要求的因果關系詮釋具有完全不同的邏輯”,因而對算法的解釋也是困難的。
怎么推動算法透明化
算法公開的法律監管早已開始推動。前述網信辦8月27日發布的關于《互聯網信息服務算法推薦管理規定(征詢意見稿)》,規定了算法推薦服務提供者應該制訂并公開算法推薦相關服務規則,應該以明顯方法告知用戶其提供算法推薦服務的情況,并以適當方法公示算法推薦服務的基本原理、目的意圖、運行機制等。
廣州申倫律師事務所律師夏海龍介紹,此部門規章即將實施后即具有法律效力,是人民法庭審理相關案件的重要根據,才能要求企業進行算法公開,并且對于公示方法卻沒有統一和具體的方式或格式要求。
被稱為“史上最嚴數據保護細則”的歐共體《通用數據保護細則》也規定了公司要以清晰平實的語言,提供有關個人隱私信息處理過程的解釋,并且仍然沒有明晰具體要解釋哪些內容、怎樣解釋,才是一個不會侵害專利的、對用戶和監管方有意義的解釋。
可見法律層面對于怎樣具體推動算法透明化仍在摸索當中,另一方面,學界對此已有眾多研究。丁曉東在《論算法的法律規制》中指出,算法公開并非是通常性的算法構架或源代碼的公開與解釋,而應該是有意義和有特定指向的決策體系的公開,也就是重點公開相關算法與數據對主體會帶來什么影響。
“例如(可以公開)有關數據主體的相關數據的變化會對其決策形成什么方向性變化,什么被用于訓練的數據記錄與數據主體的數據最為相像,數據主體被歸納為某種類別的主要特點是哪些,系統對數據主體進行分類的信任區間多大。”丁曉東在論文中引用了愛德華茲和維勒的剖析。
與此同時,普通用戶就能剖析被公開的算法,算法透明化才更有意義。洪長暉對于怎樣提高公眾對算法的理解能力,也給出了自己的看法,“首先要迸發起用戶了解算法的熱情本地外賣系統,其次要從整體上提高用戶的知識素質,尤其是數據素質,也就是人們通過讀取、理解、創建和傳遞數據,并把它們作為信息提取下來的一種能力。大致上,這些能力越高,對算法公開的呼聲就越高,對算法規則理解就越到位。”
免責聲明:部分文章信息來源于網絡以及網友投稿,本站只負責對文章進行整理、排版、編輯,出于傳遞更多信息之目的,并不意味著贊同其觀點或證實其內容的真實性,如本站文章和轉稿涉及版權等問題,請作者在及時聯系本站,我們會盡快為您處理。