日前，“外賣勇士困在系統里”的文章引爆同學圈，“算法壓迫勞動力”的觀點引起了網友的高度關注，也引起了平臺系統、外賣員、消費者等不同主體的反省與改進。怎么認識算法系統的“效率至上”？怎樣通過整治現代化填補算法缺陷？復旦學院人工智能國際整治研究院副教授梁正院長撰文對此進行了深入剖析，全文將于近日《國家整治》周刊刊發。
算法缺陷及其形成的問題
以外賣配送系統為例，外賣平臺借助大數據剖析估算最優配送路徑，極大減短了騎手的配送時間，提升了配送效率。但也存在眾多問題，有些問題是算法本身缺陷所造成的，有些則是因其他社會問題與算法相隨而形成。
算法程序中可能存在不盡合理之處。算法中的程序幾乎是算法控制者單方設定的，雖然程序中可能有不盡合理之處，算法相對方也只能被動接受。比如，外賣配送系統中設定了騎手等級，騎手須要通過每日登入APP、分享約請有禮活動鏈接、上傳健康證、完成各類訂單配送等方法獲取晉升等級所須要的積分。其中也有減分項目，例如配送超時減3分，獲得一星差評或不滿意評價減5分等，甚至一個差評或延時會直接交納騎手工資。在這些規則之下，配送時間成為十分重要的考評指標，騎手面臨很大壓力。雖然這種規則在人性化、合理智上還值得商榷，但騎手只能被動適應，接受算法規則的約束，甚至對算法形成依賴。
算法容易使個體喪失自主性。自泰勒提出標準化管理模式以后，工作逐步被標準化和簡單化，工人操作的自由度減少了，簡單重復的動作讓人越來越像機器。正如媒體以前報導的富士康鞋廠的情況一樣，在高度標準化的生產中，工人的工作效率以秒來估算，工人常常處于高度隱憂和沉悶之中。算法的運行與此相像，算法具有隱蔽性和高度專業性的特點，每位參與算法的個體就是一個數據節點，在算法高速運轉中，個體只能被動接受信息并執行算法命令。騎手屬于勞動密集型的職業，須要花費大量精力，若只受算法支配而失去自主性，她們作為勞動者的休息權則未能得到保障。同時，騎手與社會其他群體具有緊密聯系，一旦發生車禍除了會傷害自己，就會傷及別人。從這一點來看，保障騎手休息的權力也在一定程度上意味著保護社會公共利益。如美國對長途車輛司機有嚴格規定，三天只能工作12小時，否則會遭到嚴厲懲罰；網約車平臺Uber將美國司機的工作時長限制為每晚10小時，為了強制執行，Uber會制止司機在應該休息的時間登入應用；國外網約車平臺嘀嘀也有類似措施。
僅靠算法的自我迭代未能有效解決問題。算法的設計其實可以在物理邏輯上做到完美，但缺少對人性和社會環境的綜合考慮，從“真空”環境中誕生的算法本身帶有機械性。在外賣配送算法中，為了追求效率，可以對所有妨礙誘因進行優化，把配送時間不斷壓縮。但若果由于估算最優路徑而忽略了實際公路狀況、實時天氣狀況和新村管理情況等影響誘因，估算結果常常都會不確切，算法不斷迭代的過程也就可能演弄成了加強騎手困難的過程。實際上，其他社會誘因會深刻影響算法的運轉情況。現實中常常可以見到，因為城市交通違章取締、電動車限速標準執行不夠嚴格，大量違章、超速電動車上路等現象。倘若這種公共安全規則可以得到嚴格執行，造成騎手在客觀條件下難以在30分鐘內送達，都會使得平臺修改時間預期，給騎手更修身的配送時間，并且也會調整消費者的預期，讓整個配送體系處于合理的時間預期之內。不僅交通規則外，一些新村的管理也須要調整，如一些商務樓、醫院、小區等不容許騎手步入，騎手只能在外等待或則步行送餐，最后造成送餐延后。倘若忽略這種問題，單靠算法本身的迭代是未能有效解決問題的，但是算法的整治也不是單純整治算法本身。
算法整治的路徑
為應對上述算法的缺陷，可以從內部的算法自我優化與外部的監督規范中找到解決路徑。
設計算法應當走出“真空”接受社會實驗。算法背后是代碼，代碼是“冰冷”的，沒有人文體溫，忽略人性的算法未能為人類帶來福祉。在現行外賣配送算法中，假如騎手因碰巧誘因實現了快速送餐，算法還會提供獎勵，讓騎手接到更多訂單。這樣一來，騎手出于利益最大化的動機，肯定會追求速率越快越好，訂單越多越好，由此深陷惡性循環。為了防止速率成為惟一的審視誘因，算法評價機制中也應當引入其他審視誘因，例如為從來沒有發生交通車禍的騎手提供獎勵，引導騎手愈發注意安全。
制訂算法規則須要多方參與盡量避開不合理之處。基于機器學習的算法具有“黑箱”特征，算法相對方難以即使法規則提出建議或意見，只能被迫“追趕”算法設定的目標。多方參與規則制訂是正當程序的必然要求外賣配送系統，例如一些電商平臺推出“規則議會”，平臺上的買賣雙方都可以通過眾議院機制就規則制訂發表意見。也有學者提出算法解釋權，即賦于主體知曉及理解算法運行邏輯的權力。該觀點覺得，遭到手動化決策不利影響的人應有權知曉決定的內容與理由，并擁有申述和辯解的機會。算法解釋權是賦于個體對抗“算法權利”的重要裝備，由于個體知悉算法規則后才能就其不合理之處提出建議，并參與到規則的擬定之中。
應對算法的負外部性須要多種公共新政互相補充。算法實際是嵌入在社會的多樣應用場景中的，須要找準算法的角色，研判其在社會決策中的療效與地位。對算法的整治應當尊重語境與場景，由于各個場景所牽連的主體、外部誘因和行為規范都不相同。因而，不能將算法視為單純的技術問題進行整治，而要匹配不同新政工具進行綜合整治。對于“困在系統”中的騎手，國家應當注重對這部份人群勞動權益的保障，非常是休息、薪酬、安全等合法權益。2020年我國將“網約配送員”正式列入國家職業分類目錄，對該類新職業人群的勞動權益保障舉措也應當跟上。外賣平臺應當參照其他平臺的措施，設置強制騎手休息的規則，保障騎手安全，因而維護社會安全。為了應對騎手闖紅燈、超速等問題，交通管理部門也應當嚴格制訂和執行交警規則，對騎手進行外部約束。社區管理部門也應參與其中，對外賣、快遞進社區等管理規范進行構建細化，如容許騎手安全送餐，或則配置取餐柜等，減輕騎手“最后一公里”送餐難的問題。
為算法構建法律監管與道德約束機制。2017年1月，法國計算機商會專門發布了算法整治倫理原則，囊括利益相關者責任、救濟機制、算法使用機構責任、鼓勵可解釋算法研制、數據整治、算法審查要求、實時檢測責任等七個方面的內容。2019年4月，日本參議長提出《2019年算法問責法案》，要求英國聯邦貿易委員會對企業進行算法審查。歐共體也在《人工智能時代：確立以人為本的歐共體人工智能戰略》《通用數據保護細則》和《人工智能道德準則》等多個文件中，注重人工智能的倫理問題，指出以價值觀引導人工智能技術的發展。為此，須要從外部規范的角度為算法制訂倫理標準，并完善相應的倫理審查制度。非常是在算法設計和研制的標準、規則和透明度等方面頒布法律規范，并完善算法問責機制，保障個體權力，包括算法解釋的權力、更正或更改數據的權力、退出算法決策的選擇權等。
算法整治的理念
整治算法須要以基本原則和理念為指導，并按照情況的變化適時調整算法整治的具體方式。
算法整治應堅持利益平衡原則。利益平衡既包括算法內部所涉主體之間的利益平衡也包括算法使用者與社會公眾之間的利益平衡。外賣平臺聯接了店家、消費者及騎手，一般外賣平臺將消費者放在首位，而店家次之。在這些機制下，平臺為了消費者的滿意只能“壓迫”騎手。實際上，有時消費者提出的配送要求客觀上難以實現，或則店家出餐慢造成騎手配送延后，這種誘因就會造成算法的失效。算法使用者應當平衡好這三方的利益，對算法的整治也應當平衡好企業與社會公眾之間的利益，在尊重企業逐利天性的基礎上為算法立規矩，保證算法在正確的軌道上運行，只有這樣才不會因噎廢食。
算法整治應堅持人本主義。在算法時代，尊重個體主體性、自治性和人格尊嚴一直是發展底線，算法整治也應當重視保護人類尊嚴、公民權力以及社會公正。非常是要加強對弱勢群體的關注，防止“數字鴻溝”，實現實質公正。可以通過加強企業社會責任的形式在算法整治中彰顯人文主義，例如從社會福利的角度評估企業在關愛弱勢群體、保護用戶隱私、尊重個體人格以及勞動者休息權力等方面做出的努力。
其實，算法整治是一項常年工程，算法在不斷演化，對算法的整治也應當不斷迭代，其中算法問責機制、算法評估機制、算法監督機制都是須要繼續討論的重要話題。對算法的整治不應局限于算法本身，而是須要將算法嵌入到整個社會體系中評估，剖析算法運行所牽連的各個環節，以體系化的思維為算法向善提供解決方案。
由于微信修改了推送規則，推文不再按時間線顯示外賣配送系統，假若不點『在看』或者沒有『星標』，就可能看不到我們的新鮮推送了！
原文標題|怎樣通過整治現代化破解算法缺陷
作者|復旦學院公共管理大學院士、清華學院人工智能國際整治研究院副教授梁正
新媒體編輯|羅婷
上一篇：餐飲公司微信點餐小程序設計報告
免責聲明：部分文章信息來源于網絡以及網友投稿，本站只負責對文章進行整理、排版、編輯，出于傳遞更多信息之目的，并不意味著贊同其觀點或證實其內容的真實性，如本站文章和轉稿涉及版權等問題，請作者在及時聯系本站，我們會盡快為您處理。
