“算法審查”是保證合法合規(guī)經(jīng)營的重要一步
時間：2022-12-31
作者：沈艷 等
數(shù)據(jù)確權制度
《數(shù)據(jù)二十條》首要的創(chuàng)新是提出數(shù)據(jù)資源持有權、數(shù)據(jù)加工使用權、數(shù)據(jù)產(chǎn)品經(jīng)營權“三權分置”的產(chǎn)權制度，這個創(chuàng)新性的安排切合數(shù)字經(jīng)濟的特點。
數(shù)據(jù)要素形成過程中的參與方比較多，這意味著數(shù)據(jù)很難像土地、勞動和資本那樣清晰地確定所有權?！叭龣喾种谩钡漠a(chǎn)權制度，不糾結于數(shù)據(jù)“歸誰所有”這一傳統(tǒng)視角，而是從數(shù)據(jù)的三種形態(tài)出發(fā)，明確對應的持有權、加工使用權和經(jīng)營權；以“三權分置”為主線，從公共數(shù)據(jù)、企業(yè)數(shù)據(jù)和個人數(shù)據(jù)這三個維度，界定“誰的數(shù)據(jù)”；同時也明確確權依據(jù)是“數(shù)據(jù)來源和數(shù)據(jù)生成特征”，這就讓數(shù)據(jù)來源方、數(shù)據(jù)處理方、數(shù)據(jù)使用方的權益得到了保障。
《數(shù)據(jù)二十條》提出的數(shù)據(jù)資源、數(shù)據(jù)和數(shù)據(jù)產(chǎn)品這三種形態(tài)，是確立產(chǎn)權分置制度的基礎。通過準確理解數(shù)據(jù)的特性與功能，可以進一步明確“數(shù)據(jù)三態(tài)”的含義：數(shù)據(jù)資源包含了存在于公共機構、自然界、企業(yè)、個人等多方的可以數(shù)據(jù)形式記錄的信息；數(shù)據(jù)產(chǎn)品是采集、清理和加工數(shù)據(jù)資源所形成的成果；數(shù)據(jù)資產(chǎn)則是數(shù)據(jù)產(chǎn)品應用于經(jīng)營活動時的形態(tài)。
數(shù)據(jù)流通和交易制度
《數(shù)據(jù)二十條》的另一個重大突破是基于數(shù)據(jù)要素的特征，提出了一個全流程的合規(guī)與監(jiān)管規(guī)則體系。這一文件系統(tǒng)地回答了數(shù)據(jù)交易和流通中的六大問題：一是什么樣的數(shù)據(jù)可以流通；二是怎樣評估數(shù)據(jù)質量；三是數(shù)據(jù)流通需要哪些軟硬件準備；四是數(shù)據(jù)流通在什么樣的場所完成；五是數(shù)據(jù)如何定價；六是如何實現(xiàn)數(shù)據(jù)質量控制。
這個框架充分考慮了數(shù)據(jù)要素不同于傳統(tǒng)生產(chǎn)要素的特征在供給、需求和交易環(huán)節(jié)造成的挑戰(zhàn)。數(shù)據(jù)包含個人隱私和商業(yè)機密，還具有非排他性、非競爭性和非耗竭性，同時信息不對稱的矛盾十分突出，因此數(shù)據(jù)無法像土地、勞動和資本那樣在市場上流通。
所以，要建立健全的數(shù)據(jù)交易市場體系，需要解決數(shù)據(jù)供給方、數(shù)據(jù)需求方以及數(shù)據(jù)交易環(huán)節(jié)中的困難。最突出的問題可能是數(shù)據(jù)有效供給不足、品牌數(shù)據(jù)缺乏。數(shù)據(jù)需求不少，但是交易或流通收益少、合規(guī)風險和安全風險大，導致數(shù)據(jù)供給方不想賣、不敢賣。除了有效供給不足，數(shù)據(jù)方也存在尋找合適數(shù)據(jù)難、貨比三家難、內外整合難和安全保障難等問題。另外在交易環(huán)節(jié)，還存在數(shù)據(jù)交易機制不順暢的問題，例如數(shù)據(jù)交易爭端難以解決等。
《數(shù)據(jù)二十條》從增加有效供給和提高數(shù)據(jù)交易效率這兩個維度破局，同樣具有很強的創(chuàng)新性，而且也留下發(fā)展空間。在交易場所方面，關注點主要放在“統(tǒng)籌構建規(guī)范高效的數(shù)據(jù)交易場所”，提出“引導多種類型的數(shù)據(jù)交易場所共同發(fā)展，突出國家級數(shù)據(jù)交易場所合規(guī)監(jiān)管和基礎服務功能”。在可預見的將來，可能需要特別重視場外交易的重要性，其至少可作為正規(guī)交易所場內交易的重要補充。
目前比較常見的數(shù)據(jù)交易模式有三類：第一類是點對點模式，主要是企業(yè)之間自發(fā)簽訂合同對數(shù)據(jù)或數(shù)據(jù)開發(fā)進行交易；第二類是數(shù)據(jù)中介，其中最常見的是數(shù)據(jù)經(jīng)紀商作為中介對接數(shù)據(jù)交易的供需雙方，一方面收集并開發(fā)數(shù)據(jù)，另一方面根據(jù)特定需求提供數(shù)據(jù)或與數(shù)據(jù)相關的增值服務；第三類是數(shù)據(jù)集市模式，作為數(shù)據(jù)交易的平臺，數(shù)據(jù)交易所是數(shù)據(jù)集市模式的一種形式。
從全球經(jīng)驗來看，數(shù)據(jù)集市不容易做，規(guī)模也小。據(jù)Maximize Market Research統(tǒng)計，2021年全球數(shù)據(jù)中介交易額約為2572億美元，預計2029年將達3657億美元；而Grand View Research的統(tǒng)計顯示，2021年全球數(shù)據(jù)集市的市場規(guī)模為7.8億美元（其中B2B數(shù)據(jù)集市占據(jù)了58%的收入份額），預計2030年將達50.9億美元。另外，有大量數(shù)據(jù)集市失敗或關閉的例子，比如微軟的Azure Data Market（-2018）、Kasabi（2010-2012）、奧地利的Data Market Austria、Swivel.com等。
目前數(shù)據(jù)交易的主流模式是依托于品牌數(shù)據(jù)經(jīng)紀商的數(shù)據(jù)交易。在美國，許多行業(yè)都有典型的數(shù)據(jù)經(jīng)紀商，比如Corelogic涵蓋了美國99%以上的住宅與商業(yè)地產(chǎn)數(shù)據(jù)。
數(shù)據(jù)交易困難的癥結在于信息不對稱程度高、信任不容易建立，好的交易模式必須有效解決這個問題。點對點模式可行，因為這種模式之下供需雙方見面，供需直接匹配；數(shù)據(jù)經(jīng)紀商占主導，因為中介可以幫助降低信息不對稱、增加信任；數(shù)據(jù)交易所進展有限，因為數(shù)據(jù)產(chǎn)品比較難標準化，除非交易所兼做數(shù)據(jù)商或者引入大量數(shù)據(jù)商?，F(xiàn)在數(shù)據(jù)交易市場體系剛剛開始建立，不妨讓“有效市場”和“有為政府”共同發(fā)揮作用，如果數(shù)據(jù)商有能力解決問題，那就不必過分糾結場內還是場外，當然，對場外交易也要做到監(jiān)管全覆蓋。
探索算法審計制度
《數(shù)據(jù)二十條》提出數(shù)據(jù)治理的目標是“打造安全可信、包容創(chuàng)新、公平開放、監(jiān)管有效的數(shù)據(jù)要素市場環(huán)境”，并首次提到要建立“算法審查”制度。算法對于數(shù)字經(jīng)濟中經(jīng)營效率的提升和信用風險的管控作出了重大貢獻。與此同時，算法黑箱、算法歧視等問題時有所聞，關鍵是數(shù)字經(jīng)濟企業(yè)的大部分合作者和消費者無法判斷算法的公平性，監(jiān)管部門真正做到穿透式監(jiān)管也面臨挑戰(zhàn)。因此，“算法審查”是保證合法合規(guī)經(jīng)營的重要一步。
但《數(shù)據(jù)二十條》并沒有明確說明算法審查誰來做、怎么做。算法治理的核心有三個層面，一是企業(yè)自我實行合規(guī)管理并制定科技倫理準則，堅持科技向善的導向；二是建立算法備案機制，起碼可以對監(jiān)管部門做到規(guī)則透明；三是監(jiān)管部門或受委托的第三方定期或不定期組織算法審計，也可以在收到其它市場參與者投訴的時候啟動審計。未來一條可行的路徑是由監(jiān)管部門設定規(guī)則、市場機構具體執(zhí)行的“算法審計”。
算法審計是指收集有關算法在特定環(huán)境中使用時的數(shù)據(jù)，并據(jù)此評估算法的合法性和公平性。美國總統(tǒng)辦公室在2016年發(fā)布的一份報告就明確了推動算法審計的方向。從業(yè)界經(jīng)驗看，頭部審計公司也積極參與到算法審計中，如德勤對外尤其是對政府客戶推出的算法審計服務，設立了算法審計師并明確算法審計工具箱等安排。中國可借鑒國際經(jīng)驗，進一步明確算法審計的路徑、具體框架和評估尺度，構建算法審計制度。
算法審計一般有兩種思路，一種重視算法代碼透明化，另一種重視對輸入輸出和對結果的評估。算法代碼透明化的安排，要求企業(yè)提供核心算法程序，由獨立第三方企業(yè)或者公共機構直接評估算法程序是否合理。這一安排的弊端在于，其可能會因為涉及被審計企業(yè)的核心商業(yè)機密而被拒絕，而審查機構也無從知曉被審計企業(yè)提供的算法是否就是實際使用的算法。在重視輸入輸出和結果的審計安排中，輸入審計是指要求平臺明確，在個性化服務的時候，依據(jù)的是哪些重點維度。輸出審計是指要求平臺報告依據(jù)算法，如算法最主要追求的是什么樣的目標；同時要求平臺報告算法相關成效，并評估相關成效。
算法使用機構應該從多個維度報告算法安排：一是預測或優(yōu)化目標以及具體指標，闡明算法設計對不同利益相關方的利益的考量；二是算法訓練和評估及選擇中用到的數(shù)據(jù)，包括數(shù)據(jù)的搜集、排除和代表性；三是算法技術，特別是不同技術的比較與選擇；四是算法運行效果，包括預測精準度和利益相關方的利益；五是個人信息保護和數(shù)據(jù)安全方面的安排。
另外，算法審計可以考慮一些基本的指標，包括歧視性、有效性、透明度、直接影響、安全性和可獲得性等。當然，在具體的執(zhí)行過程中可以根據(jù)業(yè)務的特點對評估指標做一些特定的選擇與安排。
通過為算法在上述維度及其分項按照合規(guī)程度打分，可以幫助利益相關方和社會公眾對平臺的算法合規(guī)程度有全面的了解，從而推動企業(yè)有更高的積極性用合規(guī)的算法來推動自身發(fā)展、推動中國數(shù)字經(jīng)濟的健康成長。
作者系CF40特邀成員、北京大學數(shù)字金融研究中心副主任沈艷、CF40學術委員會主席、北京大學數(shù)字金融研究中心主任黃益平，文章不代表CF40立場。
未收藏
