國家網信辦等四部門聯合釋出的《網際網路資訊服務演算法推薦管理規定》，3月1日起正式施行。對於普通使用者而言，演算法摸不著也看不懂，卻在廣泛影響著我們透過各種平臺獲取網際網路資訊服務。
演算法無處不在 濫用問題不斷
演算法推薦技術透過抓取使用者日常的使用資料，分析得出人們的行為、習慣和喜好，進而精準化地提供資訊、娛樂、消費等各類服務。提供便利的同時，近年來，“大資料殺熟”、流量造假、誘導沉迷等不合理應用也給我們的生活帶來煩惱。由北京大學網際網路發展研究中心與網際網路公司聯合釋出的《中國大安全感知報告（2021）》顯示，有七成受訪者感到演算法能獲取自己的喜好、興趣從而“算計”自己，近五成受訪者表示，在演算法束縛下想要逃離網路、遠離手機。
中國資訊保安研究院副院長 左曉棟：
這些服務的推送是網路服務提供者給我們定製的，那麼定製就容易產生濫用，輕則損害我們個人的權益，嚴重的就會危害國家安全，因此演算法推薦必須要進行規範。
《規定》明確，應用演算法推薦技術，是指利用生成合成類、個性化推送類、排序精選類、檢索過濾類、排程決策類等演算法技術向用戶提供資訊。各類提供演算法推薦服務的網際網路公司幾乎都在監管範圍內，如各類短影片平臺、電商平臺、社交平臺及餐飲外賣平臺等。
為了打破演算法摸不著也看不懂的“黑箱”，《規定》明確要求保障使用者的演算法知情權和演算法選擇權，應當向用戶提供不針對其個人特徵的選項，或者便捷的關閉演算法推薦服務的選項。
《規定》要求演算法推薦服務提供者應當堅持主流價值導向，積極傳播正能量，建立完善人工干預和使用者自主選擇機制，不得利用演算法實施影響網路輿論、規避監督管理以及壟斷和不正當競爭行為。
不得實施差別待遇 劍指大資料“殺熟”
近年來，一些企業利用個人資訊搞大資料“殺熟”，對不同群體進行差別定價，實行“價格歧視”，讓消費者十分反感。對此，《規定》又將如何破解呢？
浙江紹興的胡女士透過某商旅平臺定購了一家酒店房間，結賬時發現，透過平臺支付的房費比該酒店實際房價高近一倍，而她是該商旅平臺的高階會員，本該享受8。5折優惠。胡女士懷疑商旅平臺透過她此前的消費行為，存在“大資料殺熟”的行為，將商旅平臺告上法庭。去年7月，法院一審對原告退一賠三的請求予以准許。這起案件被眾多媒體稱為“大資料殺熟”第一案。
同樣的送餐時間、地點、訂單、外賣平臺，會員卻比非會員多付錢；同時同地打同類型車到同一目的地，某打車平臺曾被使用者發現熟客反而收費更高，類似的消費投訴多有發生。對此，《規定》提出，演算法推薦服務提供者向消費者銷售商品或者提供服務的，應當保護消費者公平交易的權利，不得根據消費者的偏好、交易習慣等特徵，利用演算法在交易價格等交易條件上實施不合理的差別待遇等違法行為。
中國資訊保安研究院副院長 左曉棟：
有的平臺就會說，這個演算法是我的智慧財產權，是我的商業秘密，我不能公開。這些說辭都不能成立了，平臺的演算法要保證必要的透明性。專家強調，《規定》還明確保障使用者的選擇權、刪除權等權益。透過向用戶提供不針對其個人特徵的選項，或向用戶提供便捷的關閉演算法推薦服務的選項，並提供選擇或刪除針對其個人特徵的使用者標籤的功能，避免消費者被演算法“算計”。
保護勞動者合法權益 避免被演算法所“困”
此外，在《網際網路資訊服務演算法推薦管理規定》中要求，演算法推薦服務提供者向勞動者提供工作排程服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，相關情況，再來了解一下。
2020年9月，一篇名為《外賣騎手，困在系統裡》的文章備受關注。文章描述了在外賣平臺系統的演算法與資料驅動下，外賣騎手的配送時間不斷被壓縮，而騎手在強大的系統驅動下，為避免差評、維持收入，不得不在現實中選擇逆行、闖紅燈等做法。不少外賣騎手錶示，幾十層的高層樓宇，電梯一等就是十幾分鍾甚至更長，但這樣的客觀情況，並沒有被“算法系統”考慮進去。
清華大學人工智慧國際治理研究院副院長 梁正：
由於機器還在發展階段當中，針對一些勞動工作場景，把決定權力交給機器，有很大的潛藏的公平性、可靠性的風險。網際網路平臺最佳化演算法主要透過大資料分析演算法模型計算出業務經營的最佳策略，與此同時，與演算法相配合的還有一整套嚴格的績效考核機制，一旦違背部分演算法規則，則會在考核中失去“優勢”，並可能帶來了一些惡性應對行為。對此《規定》專門提出，演算法推薦服務提供者向勞動者提供工作排程服務的，應當保護勞動者取得勞動報酬、休息休假等合法權益，建立完善平臺訂單分配、報酬構成及支付、工作時間、獎懲等相關演算法。
確保演算法公開透明 嚴防刷量控評影響輿論
僱傭網路“水軍”實施流量造假，鼓動“飯圈”粉絲互撕，刷量控評，一些演算法推薦服務提供者干預熱搜，影響網路輿論的現象讓人詬病。3月1日施行的《網際網路資訊服務演算法推薦管理規定》將給這類影響網路輿論的“黑手”戴上“緊箍咒”。
在娛樂行業，部分流量明星動輒可以拿到上億甚至十幾億的商業回報，明星商業平臺無所不用其極地製作話題、進行炒作，任何可以引發粉絲關注討論的行為，甚至是粉絲之間的網路罵戰，都是商業團隊常規的策劃內容。品牌方也深諳此道，甚至運用手段刻意製造不同粉絲的矛盾，掀起罵戰來博眼球、拉流量。
3月1日正式實施的《網際網路資訊服務演算法推薦管理規定》，要求演算法推薦服務應遵循公開透明的原則，鼓勵演算法推薦服務提供者綜合運用內容去重、打散干預等策略，最佳化規則透明度和可解釋性。建立健全演算法機制機理稽核、科技倫理審查、使用者註冊、資訊釋出稽核等管理制度，不得利用演算法操縱榜單、控制熱搜等干預資訊呈現。
中國資訊保安研究院副院長 左曉棟：
我們看到的內容有可能會越來越偏離公正，偏離中立，被人為地或者是背後有演算法在引導的情況，那麼就需要進行必要地干預。
對外經貿大學數字經濟與法律創新研究中心執行主任 張欣：
原則上告訴我們說這些設計人員不能去開發這樣的演算法，如果進行了這樣相應的行為怎麼辦？這一次的管理規定當中非常明確提出要去承擔相應的責任。
防止誘導沉迷消費 保護特殊群體利益
如何防止誘導使用者沉迷、過度消費，保護未成年人等特殊群體的權益？針對這些訴求，3月1日施行的《規定》也進行了精細化的規定。多位專家表示，建立健全科學的監管體系，形成演算法治理長效機制，將是確保《規定》落到實處的核心要義。
《規定》提出，演算法推薦服務提供者應當定期稽核、評估、驗證演算法機制機理、模型、資料和應用結果等，不得設定誘導使用者沉迷、過度消費等違反法律法規或者違背倫理道德的演算法模型。
針對未成年人，《規定》提出，演算法推薦服務提供者不得向未成年人推送可能引發未成年人模仿不安全行為和違反社會公德行為、誘導未成年人不良嗜好等可能影響未成年人身心健康的資訊，不得利用演算法推薦服務誘導未成年人沉迷網路。《規定》還要求，演算法推薦服務提供者向老年人提供服務的，應當保障老年人依法享有的權益，充分考慮老年人出行、就醫、消費、辦事等需求，按照國家有關規定提供智慧化適老服務。
監管如何落地落實？《規定》明確，事前監管，確立演算法備案、演算法評估等制度；區分監管，確立分級分類的思路；系統監管，建立多元共治的局面。專家認為，《規定》著力完善治理體系，實現事前事中事後全流程、全鏈條監管。演算法推薦服務提供者如違反相關規定，會被處以警告、通報批評、罰款等，必要時還將給予治安管理處罰和追究刑事責任。
中國資訊保安研究院副院長 左曉棟：
強調主體責任非常重要，因為平臺是演算法推薦的使用者，因此只有把平臺的責任壓實，那麼平臺才有自覺性去落實法律法規的要求。
責編：史健 | 稽核：李震 | 總監：萬軍偉