摘要：在數(shù)字經(jīng)濟生產(chǎn)中，信用評分算法對主體利益產(chǎn)生比傳統(tǒng)征信技術(shù)更深遠的影響。當(dāng)前信用評分算法制度存在利益與風(fēng)險失衡問題。信用治理動態(tài)調(diào)整使得信用治理機制具有規(guī)范互動的不確定性。需要樹立規(guī)范技術(shù)運行、激勵技術(shù)創(chuàng)新的共識，運用算法規(guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯，在“融通并行”理念引導(dǎo)下，形成新型信用評分算法治理方案。算法規(guī)制用于識別與測量信用評分算法風(fēng)險、實現(xiàn)風(fēng)險合理分配之目的。產(chǎn)品責(zé)任制度為信用評分算法運用中的主體權(quán)益分配達成較為明確的預(yù)期且需做現(xiàn)代化調(diào)適。前者為后者的適用提供缺陷檢測時點與降低缺陷認定困難。平臺可利用信用評分算法規(guī)制的具體內(nèi)容做出有利于己的證明，獲得一定的技術(shù)創(chuàng)新激勵。

　　關(guān)鍵詞：信用評分；個人征信；算法規(guī)制；信用治理

　　當(dāng)前，信用法治建設(shè)不斷深入開展。培育與發(fā)展征信市場對數(shù)字經(jīng)濟發(fā)展十分重要，也是未來信用治理的重點工作。2021年，《征信業(yè)務(wù)管理辦法》首次將互聯(lián)網(wǎng)平臺生產(chǎn)的信用評分納入監(jiān)管范疇，展現(xiàn)了一定的官方立場。信用評分是個性化推送、篩選排序等下游商業(yè)行為的基礎(chǔ)。信用評分算法運行存在難以避免的偏差，容易導(dǎo)致不利后果的彌散，產(chǎn)生錯上加錯的惡性循環(huán)。隨著算法逐步滲入社會經(jīng)濟生活的方方面面，各種算法在技術(shù)動因、運行機理、風(fēng)險挑戰(zhàn)與損益界定方面存在顯著的差異，必然導(dǎo)向不同的法律回應(yīng)路徑。信用治理機制具有獨特的規(guī)范互動性?，F(xiàn)行制定法難以對信用評分算法施加有效的約束與激勵。我國首部有關(guān)算法規(guī)制的《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》，也僅是強調(diào)對信用評分算法應(yīng)用后的算法推薦行為予以規(guī)制。有鑒于此，本文力圖構(gòu)建算法規(guī)制結(jié)合產(chǎn)品責(zé)任的信用評分算法雙軌治理方案，合理協(xié)調(diào)主體權(quán)益，科學(xué)分配技術(shù)風(fēng)險，形成具有針對性的制度安排。

　　一、信用評分算法的現(xiàn)實治理圖景

　　信用評分算法運行中產(chǎn)生的信用判斷偏差，既可造成個人的實際損失，也可影響個人的預(yù)期利益。與傳統(tǒng)征信技術(shù)比較，信用評分算法運用更容易產(chǎn)生主體利益沖突問題。當(dāng)前，信用評分異議數(shù)以十萬計，法律能夠提供的救濟措施卻是滄海一粟。信用評分算法治理主要涉及的征信管理制度、個人信息保護制度、產(chǎn)品責(zé)任制度與責(zé)任保險制度在利益分配與風(fēng)險承擔(dān)上存在不同程度的失調(diào)。

　?。ㄒ唬┬庞迷u分算法運行中的利益沖突

　　信用評分算法運行通過人工編程由參數(shù)驅(qū)動，基本流程包括數(shù)據(jù)采集與篩選、統(tǒng)計模型開發(fā)與優(yōu)化等。在信用評分算法設(shè)計、生產(chǎn)、應(yīng)用與優(yōu)化的過程中，方法選擇、樣本處理、權(quán)重設(shè)置、變量取舍都取決于技術(shù)專家的主觀判斷。具體言之，信用評分算法運行偏差及其后果可歸納為兩個基本類型。

　　第一，直接導(dǎo)致個人經(jīng)濟損失的信用評分算法偏差。大數(shù)據(jù)技術(shù)能夠?qū)崟r采集數(shù)據(jù)，在理論上能夠避免人工操作的失誤，卻可能被設(shè)計為“拋棄”標(biāo)識符中的細微差異，在數(shù)據(jù)轉(zhuǎn)換為機器識別碼時出現(xiàn)“視而不見”的問題，造成個人的直接經(jīng)濟損失。例如，Trans Union曾因未能區(qū)分相差一位數(shù)字的兩個社會安全號碼，而將兩個人的壞賬與信用檔案混淆數(shù)年之久，導(dǎo)致其中信用本應(yīng)良好的個體以更高價格獲取生活必需的產(chǎn)品與服務(wù)。又如，低芝麻信用分個人無法在阿里健康合作的公立醫(yī)院獲得預(yù)先診療、延后付費服務(wù)，在急癥發(fā)作時可能不得不承擔(dān)更高額的私人醫(yī)療費用。

　　第二，影響個人預(yù)期利益實現(xiàn)的信用評分算法偏差。在信用評分算法的開發(fā)、設(shè)計與優(yōu)化過程中，首先要求對信用做出主觀定義，將信用程度劃分為多個層級。為避免個人成為“統(tǒng)計學(xué)推論下的合理受害者”，需通過重設(shè)變量、權(quán)重與臨界點等多種方式調(diào)整統(tǒng)計模型。此外，為保證樣本的動態(tài)平衡、盡量反映個體的信用特征，還需對數(shù)據(jù)重新抽樣。上述因素使得信用評分算法偏差難以避免。由此導(dǎo)致的信用誤判將顯著地影響個人未來可能獲得的財產(chǎn)利益與經(jīng)濟機會。實踐中，六年仍未畢業(yè)的博士研究生會被判斷為“缺乏自控力”，被劃為低信用程度個體，面臨更嚴苛的授信條件與較高的借貸利率。

　　從技術(shù)角度還原信用評分算法偏差的形成過程，其難度極大。信用評分算法通常作為商業(yè)秘密保護。據(jù)報道，芝麻信用分開發(fā)團隊有百余名工作人員，僅核心成員了解算法系統(tǒng)內(nèi)核。Zest Finance亦在專利申請書中對其信用評分算法采用的變量做模糊處理。學(xué)者大多從外部視角觀察統(tǒng)計模型的一般規(guī)律，倒推獲得信用評分算法運行機理與潛在風(fēng)險的知識。至于何種變量最為重要，模型如何計算，計算結(jié)果是否準(zhǔn)確，均難以確定。信用評分算法無法排除主觀價值判斷。開發(fā)者通過統(tǒng)計等方法增加中間層次進行模型擬合，之后還會不斷地新增變量。信用評分算法偏差實際面臨無法解釋的技術(shù)困境。技術(shù)專家的介入有助于緩解兩類信用評分算法偏差，同時也將更多的人工干預(yù)整合進機器學(xué)習(xí)。這使得信用評分算法運行成為區(qū)別于傳統(tǒng)征信技術(shù)、人機緊密結(jié)合、平臺利益與個人利益交錯的復(fù)雜活動。傳統(tǒng)征信技術(shù)所要預(yù)測的目標(biāo)一般只是個人信貸賬戶在未來特定時期內(nèi)“變好”“變壞”“維持中性”的概率。用于建立統(tǒng)計模型的變量都是經(jīng)濟意義上的有關(guān)交易細節(jié)、行為特征的客觀記錄。與之相對，信用評分算法源于平臺在網(wǎng)絡(luò)環(huán)境中控制風(fēng)險、傳導(dǎo)信號的商業(yè)需求。信用評分算法運行中的信息不對稱程度越高，越有利于平臺的經(jīng)濟利益。其使用平臺控制的各類信息數(shù)據(jù)，廣泛地用于社會經(jīng)濟領(lǐng)域。不僅直接影響個人的既得利益，還會帶來強化不利的持續(xù)性后果。故信用評分算法相比傳統(tǒng)征信技術(shù)，對主體利益具有更加深遠的影響。

　　截至2022年1月10日，在“百度知道”以“芝麻信用申訴”為關(guān)鍵詞可檢索到逾31萬條結(jié)果，以“芝麻信用修復(fù)”為關(guān)鍵詞可檢索到逾17萬條結(jié)果。個人發(fā)現(xiàn)信用評分算法輸出不恰當(dāng)?shù)男庞迷u判結(jié)果時，大多無法獲得法律救濟。僅在第三方提供的信息確實有誤、不可抗力、他人冒用、系統(tǒng)錯誤四種情形中，方能獲得平臺提供的有限救濟。值得反思的是，出于回應(yīng)魏則西事件、滴滴大數(shù)據(jù)殺熟事件、朱燁訴百度案等社會焦點問題的考慮，《個人信息保護法》《電子商務(wù)法》《民法典》已經(jīng)開始重點治理商業(yè)營銷算法應(yīng)用行為。當(dāng)前，信用評分算法尚未引發(fā)較大的風(fēng)險事件，信用評分算法運行中的利益沖突未能獲得足夠關(guān)注。

　?。ǘ╋L(fēng)險分配與利益協(xié)調(diào)的制度失衡

　　平臺生產(chǎn)的信用評分不僅為數(shù)字經(jīng)濟活動傳導(dǎo)風(fēng)險信號，也是數(shù)字信用共治的有效工具。信用評分具有一定的公共物品屬性。信用評分算法治理既是公法上的命題，也是私法上的命題。其主要涉及征信管理制度、個人信息保護制度、產(chǎn)品責(zé)任制度與責(zé)任保險制度等法律規(guī)范（參見表1）。其中，前兩類制度一般統(tǒng)稱為個人征信制度。四類制度規(guī)范在回應(yīng)信用評分算法運行的特定技術(shù)風(fēng)險時，不同程度地存在主體利益保護不周延、技術(shù)風(fēng)險分配不均衡問題。

　　1.個人征信制度的風(fēng)險分配失衡

　　第一，征信管理制度回避風(fēng)險分配。《征信業(yè)務(wù)管理辦法》是最新頒布的核心規(guī)范。該辦法第50條將以信用信息服務(wù)、信用服務(wù)、信用評分、信用評級、信用修復(fù)為名義提供征信服務(wù)的行為納入適用范疇，但并未對此做出詳細解釋。立法文本與立法起草說明中回避了大數(shù)據(jù)應(yīng)用對個人征信究竟造成哪些變與不變的分析，而是在用語上去除“大數(shù)據(jù)”的痕跡，采取刻意犧牲精確來成就表面的“大數(shù)據(jù)化”，以維持其征信統(tǒng)一監(jiān)管法的風(fēng)格。這反映出舉棋不定的立法態(tài)度，不利于保證立法技術(shù)和立法語言的邏輯性、精確性與可操作性。進一步分析，監(jiān)管活動本質(zhì)上是根植于專業(yè)技術(shù)開展的、效率與分配相分離的決策活動。監(jiān)管者不應(yīng)是中立的規(guī)則制定者。監(jiān)管活動應(yīng)當(dāng)采取促進各方主體協(xié)商的合理形式。中國人民銀行作為征信管理制度的制定者、實施者與監(jiān)督者，傾向于采取最有利于增進公共利益的立場。出于金融監(jiān)管活動的獨特性，中國人民銀行在征信監(jiān)管活動中還存在以指標(biāo)、目標(biāo)、統(tǒng)計、認證等模式取代法律規(guī)范的明顯傾向。以征信管理制度為主導(dǎo)的信用評分算法制度設(shè)計，容易模糊政治決策與經(jīng)濟決策的界限，忽視平臺對信用評分算法享有的經(jīng)濟利益。

　　第二，個人信息保護制度不適當(dāng)?shù)販p輕平臺的風(fēng)險成本?！秱€人信息保護法》能否直接適用于信用評分算法存疑，還在行為指引方面顯著缺失針對性。該法對個人信息自動化處理行為適用的一般規(guī)則作出規(guī)定。其中，第24條與第55條分別提出信息處理者應(yīng)當(dāng)向信息主體履行告知與說明義務(wù)，與透明、公正、公平、合理、事前評估的義務(wù)。根據(jù)該法第73條對自動化決策的界定，上述條款僅是針對完全由計算機程序開展的分析、評估、決策情形而設(shè)。信用評分算法的設(shè)計、開發(fā)、應(yīng)用與優(yōu)化均是難以剝離人類決策的復(fù)雜行為，故存在一定的個人信息保護法律適用問題。

　　2.產(chǎn)品責(zé)任制度的利益協(xié)調(diào)偏差

　　信用評分算法是否構(gòu)成《民法典》《產(chǎn)品質(zhì)量法》《消費者權(quán)益保護法》意義上的“產(chǎn)品”，是決定其能否適用產(chǎn)品責(zé)任制度的根本因素。立法尚未明確規(guī)定信用評分算法是否構(gòu)成“產(chǎn)品”。理論上也暫未形成統(tǒng)一的觀點。信用評分算法是人的發(fā)明創(chuàng)造，未完全脫離“物”的范疇。能夠規(guī)?；a(chǎn)、銷售與應(yīng)用的算法，其開發(fā)者一般具有更強的風(fēng)險控制能力與成本承擔(dān)能力。將信用評分算法納入“產(chǎn)品”范疇，還有助于激勵缺陷檢測行為，鼓勵技術(shù)創(chuàng)新。因此，對信用評分算法適用產(chǎn)品責(zé)任制度具有一定的合理性，但是存在相當(dāng)?shù)倪m用困難。整體來看，信用評分算法與自動駕駛汽車代表的可大規(guī)模工業(yè)化生產(chǎn)的人工智能產(chǎn)品差異較大，其從設(shè)計開發(fā)到優(yōu)化應(yīng)用并不是從無形到有形的過程，難以通過現(xiàn)行產(chǎn)品責(zé)任制度預(yù)防風(fēng)險與權(quán)衡利益。

　　第一，信用評分算法缺陷與責(zé)任的認定異常復(fù)雜。與自動駕駛汽車不同，信用評分算法一般不存在制造缺陷與說明缺陷，卻可能存在設(shè)計缺陷、警示缺陷與跟蹤觀察缺陷。其中，設(shè)計缺陷不一定是明顯的漏洞而更可能是推斷的漏洞。用于訓(xùn)練信用評分算法的信息數(shù)據(jù)往往形成于特定的歷史背景，“帶有特定場景中的歧視烙印”。信用評分算法缺陷難以依賴已知的技術(shù)標(biāo)準(zhǔn)識別，其與偏差結(jié)果之間未必具有直接關(guān)聯(lián)關(guān)系。開發(fā)者常能依據(jù)《產(chǎn)品質(zhì)量法》第41條進行發(fā)展風(fēng)險抗辯，將有失理性的技術(shù)創(chuàng)新行為不恰當(dāng)?shù)睾戏ɑ?。而個人不具備與之相當(dāng)?shù)募夹g(shù)能力，難以就信用評分算法缺陷與損害后果之間的因果關(guān)系作出證明。

　　第二，產(chǎn)品責(zé)任制度只救濟受害人遭受的實際損害。信用評分算法偏差不僅造成實際經(jīng)濟損失，更將致使個人喪失未來的經(jīng)濟機會。傳統(tǒng)征信的法律救濟較少關(guān)照預(yù)期利益。這是由于，傳統(tǒng)征信的基礎(chǔ)法律關(guān)系是民事法律關(guān)系，適用填平性賠償原則。當(dāng)交易發(fā)生在個人與金融機構(gòu)之間時，個人權(quán)益屬于金融消費者權(quán)益范疇。法律無需再對預(yù)期利益提供特別保護。而信用評分算法開發(fā)者與個人具有實質(zhì)不平等的關(guān)系。其中的個人權(quán)益與平等民事主體權(quán)利存在本質(zhì)區(qū)別，也不必然屬于金融消費者權(quán)益范疇。保護個人預(yù)期利益的考量應(yīng)當(dāng)被納入信用評分算法治理之中。產(chǎn)品責(zé)任制度對此存在局限。

　　第三，嚴格責(zé)任歸責(zé)原則難以適應(yīng)數(shù)字經(jīng)濟的發(fā)展需求。對信用評分算法適用嚴格責(zé)任可能對開發(fā)者過于苛責(zé)。產(chǎn)品責(zé)任適用嚴格責(zé)任原則的理念，建立在早期僅有產(chǎn)品制造缺陷的司法判例基礎(chǔ)上。研究發(fā)現(xiàn)，嚴格責(zé)任的設(shè)計和運用與技術(shù)創(chuàng)新密切相關(guān)，容易導(dǎo)致較高的法律成本，不利于激勵企業(yè)大膽地實施創(chuàng)新行為。由開發(fā)者預(yù)知與防范信用評分算法運行可能引起的所有危險，易使開發(fā)者承擔(dān)過于嚴格的責(zé)任內(nèi)容，犧牲其技術(shù)創(chuàng)新積極性，最終將不利于信用評分算法的更新迭代。

　　3.責(zé)任保險制度的調(diào)整功能喪失

　　信用評分算法不應(yīng)適用責(zé)任保險制度。信用評分算法的保險責(zé)任認定、保險費率與賠付費率認定均存在困難。保險責(zé)任認定需滿足產(chǎn)品缺陷、損害后果與因果關(guān)系三項要素，同樣存在因缺乏直接因果關(guān)系而產(chǎn)生的責(zé)任認定問題，喪失迅速賠償而無關(guān)損害的制度優(yōu)勢。此外，保險行業(yè)定價的基本原則是：大量收集被保險人的各類信息，依據(jù)被保險人的風(fēng)險預(yù)期，由專業(yè)人員就收益與風(fēng)險做出極為精細的測算，得到最終的價格。被保險人的風(fēng)險預(yù)期包括索賠概率、索賠成本、價格承受能力等因素。而信用評分算法偏差所導(dǎo)致的收益與風(fēng)險很難以貨幣計量。保險公司亦面臨缺乏科學(xué)論證的巨大壓力，難以發(fā)揮責(zé)任劃分與定損賠償?shù)慕?jīng)驗優(yōu)勢。

　　更為重要的是，信用評分算法責(zé)任保險可能加劇我國保險業(yè)的整體成本。在世界范圍內(nèi)，人工智能產(chǎn)品的保險成本呈現(xiàn)不斷攀升的趨勢。德國《道路交通法第八修正案》將系統(tǒng)故障導(dǎo)致人員傷亡事件的最高賠償額由500萬歐元提升至1000萬歐元。美國的商業(yè)實踐也顯示，無過錯保險制度的成本遠超預(yù)期。我國則面臨著壓降保險業(yè)整體成本的迫切需求。自2016年起，保險業(yè)不當(dāng)創(chuàng)新現(xiàn)象頻發(fā)。因保險資金涉及公眾利益并可能引發(fā)系統(tǒng)性風(fēng)險，自2018年以來的監(jiān)管重點是化解前期遺留的金融安全重大問題，促使保險資金運用回歸收益穩(wěn)定、回收期長的實體經(jīng)濟領(lǐng)域。

　　信用評分算法責(zé)任保險的創(chuàng)設(shè)與我國保險業(yè)的現(xiàn)實需求相悖。信用評分算法運行涉及大部分互聯(lián)網(wǎng)使用者。將開發(fā)者納入信用評分算法強制責(zé)任保險的投保主體范圍，雖然能夠救濟個人的損失，但保險公司此時只是承擔(dān)一種過渡角色。其必須向個人提供損害補償，又將因取得代位求償權(quán)，面向微觀經(jīng)濟行為的眾多主體而產(chǎn)生巨額費用。相比之下，2021年底中國保險行業(yè)協(xié)會發(fā)布的《新能源汽車商業(yè)保險專屬條款（試行）》則允許保險公司就智能輔助駕駛軟件的承保獲得額外收益?？梢园l(fā)現(xiàn)，自動駕駛汽車的責(zé)任保險機制更加成熟，其可通過費率改革等多項制度的配適，實現(xiàn)壓降保險行業(yè)綜合成本的目標(biāo)。

　　綜上，有關(guān)信用評分算法的治理呈現(xiàn)出顯著的利益分配與風(fēng)險承擔(dān)失衡。就個人而言，個人實際損失在產(chǎn)品責(zé)任法律層面一般可獲救濟，但是救濟機制的啟動受到科學(xué)認識的制約而存在困難。同時，侵害預(yù)期利益才是信用評分算法運行中的重大風(fēng)險所在，卻難以受到產(chǎn)品責(zé)任制度的調(diào)整。就平臺而言，現(xiàn)行制度存在全有或全無、兩極分化的利益保護弊端。在信用評分算法運行中，當(dāng)平臺的經(jīng)濟利益受到忽視時，其承擔(dān)的義務(wù)內(nèi)容和風(fēng)險成本就難以合理設(shè)置。

　　二、“融通并行”治理理念的提出

　　信用評分算法運行帶來新的技術(shù)風(fēng)險，引發(fā)風(fēng)險的再分配與利益的重新協(xié)調(diào)。需要通過算法規(guī)制與產(chǎn)品責(zé)任的結(jié)合，彌補難以深入信用評分算法細枝末節(jié)的缺憾，實現(xiàn)信用評分算法治理的整體進化。概言之，有效的信用評分算法治理方案應(yīng)當(dāng)實現(xiàn)算法規(guī)制與產(chǎn)品責(zé)任的“融通并行”。

　?。ㄒ唬┧惴ㄒ?guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯

　　信用治理一直處于調(diào)整與漸進的過程。信用治理機制只能在特定的文化、經(jīng)濟、制度條件下維持暫時的均衡狀態(tài)。信用治理機制具有豐富的內(nèi)涵，既包括與信用相關(guān)的強制規(guī)范，也包括有關(guān)信用的其他規(guī)范。在強制規(guī)范的干預(yù)與擴張下，其他規(guī)范自身不斷進行調(diào)整，最終往往也會融入強制規(guī)范。這正是信用治理規(guī)范互動性的反映。

　　算法規(guī)制與產(chǎn)品責(zé)任相結(jié)合，能夠為信用評分算法的治理實踐提供具有實用性的制度條件。算法規(guī)制難以單獨發(fā)揮作用，其就問題解決方案討價還價尋求重疊性共識，本質(zhì)上是一種相機行事的規(guī)制措施，難以在復(fù)雜活動中客觀地取舍創(chuàng)新活力與主體利益。將新興技術(shù)風(fēng)險通過裁斷行為后果的方式固定下來，有利于推動技術(shù)的理性運行，也有助于應(yīng)對信息社會技術(shù)水平突飛猛進的現(xiàn)實。而產(chǎn)品責(zé)任滯后于新興技術(shù)的發(fā)展水平，是幾乎每一社會文化環(huán)境中都會出現(xiàn)的正?，F(xiàn)象。算法規(guī)制注重經(jīng)驗事實的認知和驗證，有助于通過行為邏輯的塑造，對新興技術(shù)施加可操作的約束措施，發(fā)揮制度規(guī)范的激勵功能。

　　算法規(guī)制與產(chǎn)品責(zé)任的“融通并行”，不可避免地存在多種價值觀與規(guī)制效能整合的劇烈挑戰(zhàn)。故更應(yīng)形成一些基本共識，減少規(guī)范互動帶來的不確定性。最首要的共識應(yīng)當(dāng)是促進信用評分算法的規(guī)范運行。信用評分算法運行有別于一般信息處理行為，是在整個社會范圍內(nèi)發(fā)生的信息固定、評價與傳遞。只有信用評分算法規(guī)范運行，才能在信息公開與信息保護之間尋求價值平衡。除此以外，還應(yīng)重視平臺在信用治理領(lǐng)域的技術(shù)創(chuàng)新潛力，促進個人征信市場的錯位互補與繁榮發(fā)展，彌補管理型政府治理機制對社會活力與創(chuàng)造力的犧牲。兩者并重方可有效地發(fā)揮信用治理機制的約束與激勵功能。

　　基于此，算法規(guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯有助于改善主體技術(shù)水平差異引發(fā)的利益與風(fēng)險失衡狀態(tài)。信用評分算法起源于商業(yè)需求，更多地運用于商業(yè)領(lǐng)域，只有在信用聯(lián)合懲戒的特殊場景中才可能具備公法規(guī)范的直接適用空間。信用評分算法難以有效治理的根本原因是運行機理與實施標(biāo)準(zhǔn)不易為個人獲知。這加劇了信用評分算法侵害個人權(quán)益的現(xiàn)實風(fēng)險。算法規(guī)制結(jié)合產(chǎn)品責(zé)任的治理邏輯能夠突破信用評分算法的認知困境，以程序化的實施標(biāo)準(zhǔn)揭開技術(shù)面紗與提供救濟渠道。產(chǎn)品責(zé)任更多地修補破損的社會結(jié)構(gòu)，預(yù)防信用評分算法風(fēng)險的功能相對有限。算法規(guī)制則有助于落實與細化激勵措施，防范信用評分算法發(fā)展中的各類風(fēng)險。

　　兩種規(guī)范各自利弊共存。算法規(guī)制重在事前預(yù)防與事中干預(yù)。其直接作用于信用評分算法的設(shè)計、生產(chǎn)、應(yīng)用與優(yōu)化過程，使信用評分算法的運行變得透明，令難以窺見的技術(shù)行為變得有跡可循。個人就信用評分算法享有的權(quán)利并不構(gòu)成私法上的絕對權(quán)，而是個人信息保護體系中的若干權(quán)能。這些權(quán)能具有典型的軟法性質(zhì)，存在救濟能力匱乏的問題。產(chǎn)品責(zé)任作為調(diào)整私主體法律關(guān)系的成文規(guī)范，旨在事后彌補損害。其為個人提供明確的權(quán)利基礎(chǔ)與有效的損害救濟，卻無力深入信用評分算法運行的各個細節(jié)。

　　兩者在規(guī)范方式、結(jié)構(gòu)、功能、目的方面互為補充（參見表2）。算法規(guī)制并不挑戰(zhàn)產(chǎn)品責(zé)任，而是為產(chǎn)品責(zé)任的有效性提供識別與量化風(fēng)險的必要知識，向個人提供更充分的防御手段和更豐富的救濟途徑，從而在根本上解決信用評分算法運行對個人預(yù)期利益帶來的危險。產(chǎn)品責(zé)任也須通過算法規(guī)制確立的行為準(zhǔn)則，為主體利益協(xié)調(diào)提供制度支持。在這個意義上，兩者具有整合形成新型信用評分算法治理方案的可能。

　?。ǘ┲荚诜稚L(fēng)險的算法規(guī)制框架

　　風(fēng)險在脫離主觀價值判斷后，才具有對比、選擇與接受的意義。算法規(guī)制框架是分散信用評分算法運行風(fēng)險的務(wù)實選擇。其有利于將事前難以獲知的技術(shù)細節(jié)還原為合理性問題，利用正當(dāng)程序嵌入治理實踐。

　　1.信用評分算法規(guī)制框架以有限的算法透明為原則

　　信用評分算法規(guī)制框架可在技術(shù)創(chuàng)新與風(fēng)險預(yù)防之間實現(xiàn)基本的平衡關(guān)系。為防止“刷信”“炒信”等違法行為，避免評價結(jié)果失真，信用評分算法不對外公開實屬國際慣例。本文認為應(yīng)對信用評分算法適用有限透明原則。

　　第一，結(jié)合信用評分算法的影響范圍、平臺的競爭優(yōu)勢與市場地位等因素，以不公開為原則，以公開為例外。StateofWisconsinv.EricL.Loomis案可以提供一些鏡鑒（見Statev.Loomis，881N.W.2d749(2016)，No.2015AP157-CR，decidedon2016-7-13）。因限制準(zhǔn)入而形成壟斷地位或國家財政資金支持的信用評分算法，其性質(zhì)更接近公共物品，能夠?qū)€人信用做出帶有國家公信力的價值判斷。例如，中國人民銀行征信中心開發(fā)的信用評分算法，百行征信與樸道征信開發(fā)的信用評分算法，其關(guān)涉知情權(quán)與監(jiān)督權(quán)等基本權(quán)利，應(yīng)當(dāng)在一定程度上降低保護標(biāo)準(zhǔn)，向社會公開，受到更加充分的公眾監(jiān)督。而大型平臺開發(fā)的信用評分算法，應(yīng)當(dāng)限定于向特定行政主體公開，通過行政備案方式實現(xiàn)算法透明，確保信用評分算法始終處于可監(jiān)督、可理解、可預(yù)測的狀態(tài)。新興平臺開發(fā)的信用評分算法，出于激勵創(chuàng)新目的，可以考慮僅向自律組織注冊，實現(xiàn)一定程度的算法透明。

　　第二，以信用評分算法的解釋性說明為披露內(nèi)容，而非其源代碼。對于平均理性自然人而言，披露源代碼并無助于理解信用評分算法如何運行。以解釋性說明為主要披露內(nèi)容，正是對普通人也有權(quán)了解信用評分算法之需求的適當(dāng)回應(yīng)。歐盟GDPR第12條算法規(guī)制條款亦是將“透明性”理解為“可解釋性”。參考《人工智能投資顧問監(jiān)管指南更新》，信用評分算法的解釋性內(nèi)容一般可包括功能介紹、假設(shè)條件、理論局限、固有風(fēng)險、設(shè)計者與管理者說明、所有權(quán)、潛在利益沖突、歷次測試與調(diào)整情況。

　　2.信用評分算法規(guī)制框架以保護人的自主性為基點

　　從人認識、理解、防范與拒絕承受算法風(fēng)險的基本需求來看，算法結(jié)果拒絕權(quán)能與算法解釋請求權(quán)能最突出地體現(xiàn)個人在信用評分算法面前的主體地位。

　　第一，算法解釋請求權(quán)對個人自主性的形成與維護具有不可替代的作用。從信任生產(chǎn)機制的角度來看，個人有理由期待在信用評分算法發(fā)生錯誤與危害風(fēng)險時，平臺以負責(zé)任的態(tài)度迅速作出回應(yīng)。就救濟機制的啟動條件而言，只有算法解釋請求權(quán)可由個人完全基于自己的立場啟動。就權(quán)利行使成本而言，算法解釋請求權(quán)要求既向個人解釋信用評分的形成過程，也向個人提供有關(guān)信用評分調(diào)整方式與調(diào)整影響的行為指引，避免信用評分糾紛直接進入行政干預(yù)或司法救濟環(huán)節(jié)，有效節(jié)約社會資源。

　　第二，算法結(jié)果拒絕權(quán)向個人直接賦予人類干預(yù)、價值衡量與結(jié)果修正的機會，避免其淪為信用評分算法的“純粹客體”?？紤]到信用評分算法的動態(tài)演化，算法結(jié)果拒絕權(quán)的行使需要受到直接重大影響條件和正當(dāng)理由豁免情形的限制。前者應(yīng)結(jié)合個人利益受侵害的潛在危險、信用評分算法的市場占有率等因素判斷。后者則要求平臺不得違反個人信息保護規(guī)則，除非法律明確做出規(guī)定。

　　以保護個人自主性地位為基點，還能夠引申出一個由多種算法規(guī)制工具組合而成的信用評分算法規(guī)制框架。該框架在解釋、驗證、評估、問責(zé)等多種算法規(guī)制工具之間建立起有機聯(lián)系，協(xié)調(diào)與跨越不同的規(guī)制安排，形成一定的規(guī)制結(jié)構(gòu)，保障普通人也有機會理解信用評分算法的技術(shù)原理，事先做出保護自身權(quán)益的適當(dāng)安排。算法規(guī)制工具可大致分為算法監(jiān)督工具與算法問責(zé)工具兩種類型，每一類中又可開展更加細致的分層設(shè)計。

　?。ㄈ?quán)衡主體利益的產(chǎn)品責(zé)任制度

　　主體利益需要通過相對固定的權(quán)利義務(wù)結(jié)構(gòu)加以權(quán)衡。以產(chǎn)品責(zé)任制度協(xié)調(diào)信用評分算法運行中的主體利益，既具有必要性也具有多方面的可行性。

　　就其必要性而言，信用評分算法具備高度的行動能力，卻與平臺的價值和行為綁定。信用評分算法在運作方式上比普通產(chǎn)品更具復(fù)雜性，在致害范圍上比普通產(chǎn)品更具擴張性，與平臺的關(guān)系也較普通產(chǎn)品更為緊密。由平臺作為設(shè)計者與開發(fā)者承擔(dān)信用評分算法產(chǎn)品責(zé)任，是“成本-效益”經(jīng)濟分析的結(jié)果。產(chǎn)品責(zé)任會施加私人成本。例如，信用評分算法缺陷的識別與解決均需要相應(yīng)的支出。通過設(shè)置產(chǎn)品責(zé)任誘導(dǎo)最適合進行“成本-效益”分析的主體承擔(dān)信用評分算法缺陷的代價，達到帕累托最優(yōu)結(jié)果，是實現(xiàn)主體利益協(xié)調(diào)的必然選擇。

　　在其可行性方面，信用評分算法的運行過程大體對應(yīng)著產(chǎn)品的設(shè)計、生產(chǎn)、制造、流通與優(yōu)化過程。嚴格責(zé)任歸責(zé)原則可以最大程度杜絕信用評分算法缺陷的發(fā)生與存續(xù)，督促責(zé)任主體盡可能地在信用評分算法運行中保持審慎。產(chǎn)品缺陷的責(zé)任承擔(dān)方式大多可適用于信用評分算法致害場合，如賠償損失、消除危險、排除妨礙、警示與懲罰性賠償。此外，“發(fā)展風(fēng)險抗辯”的免責(zé)事由在一定程度上亦有助于維護平臺的經(jīng)濟利益。

　　產(chǎn)品責(zé)任制度雖能達成較為明確的利益分配預(yù)期，卻存在不可避免的利益協(xié)調(diào)偏差。產(chǎn)品責(zé)任制度不足以獨立回應(yīng)信用評分算法運行帶來的危險，需針對信用評分算法運行，在以下兩方面做出一定的現(xiàn)代化調(diào)適。

　　在判斷標(biāo)準(zhǔn)方面，現(xiàn)行產(chǎn)品缺陷的判斷標(biāo)準(zhǔn)難以直接辨識信用評分算法缺陷。傳統(tǒng)上，產(chǎn)品缺陷的不合理危險與未達到技術(shù)標(biāo)準(zhǔn)兩項判斷依據(jù)均與產(chǎn)品的質(zhì)量標(biāo)準(zhǔn)相關(guān)，主要反映在產(chǎn)品的物理性能與使用性能上。在信用評分算法缺陷認定中，這兩種標(biāo)準(zhǔn)難以解決“信用評分算法做出有悖倫理的決策是否屬于產(chǎn)品缺陷”等新的具體問題。此外，要準(zhǔn)確判定信用評分算法缺陷，個人必須能夠理解其工作原理與決策過程，這已大大超出一般理性人的認知范疇。因此，必須在算法透明原則指引下，借助新的認知手段克服技術(shù)理解障礙，方能真正合理地權(quán)衡主體利益。

　　在舉證責(zé)任方面，現(xiàn)行產(chǎn)品缺陷的舉證責(zé)任往往偏重由一方承擔(dān)，不利于在信用評分算法缺陷訟爭中實現(xiàn)主體利益均衡。例如，個人通常僅能收集到間接證據(jù)，這些證據(jù)的證明效力比較有限。由個人承擔(dān)舉證責(zé)任容易加劇個人權(quán)益保護的難度。故對信用評分算法采用一般的產(chǎn)品責(zé)任舉證規(guī)則，個人遭受的損失就難獲救濟。然而，由于機器學(xué)習(xí)與人工干預(yù)的持續(xù)發(fā)生，平臺亦面臨信用評分算法運行過程難以還原的技術(shù)難題，同樣難以通過現(xiàn)行產(chǎn)品舉證規(guī)則維護自身合法權(quán)益。因此，必須借助算法規(guī)制框架，方可明確產(chǎn)品責(zé)任制度的舉證責(zé)任分配。

　　三、“融通并行”治理方案的設(shè)計

　　在“融通并行”治理理念的指導(dǎo)下，本文嘗試構(gòu)建一種雙軌治理方案。主要內(nèi)容包括：信用評分算法規(guī)制框架用于識別與測量風(fēng)險，最終實現(xiàn)技術(shù)風(fēng)險的合理分配。信用評分算法規(guī)制框架為信用評分算法產(chǎn)品缺陷提供檢測試點，降低缺陷認定困難。在舉證規(guī)則方面，允許平臺利用信用評分算法規(guī)制的具體內(nèi)容，做出有利于己的證明。

　?。ㄒ唬┧惴ㄒ?guī)制框架下的風(fēng)險分配機制

　　在大部分國家，算法規(guī)制正處于從學(xué)理建議到技術(shù)實踐再到成文規(guī)范的轉(zhuǎn)化階段。本文梳理現(xiàn)有研究與實踐，提出信用評分算法規(guī)制框架中至少包含五類風(fēng)險分配機制。算法偏誤檢測機制適用于信用評分算法全生命周期。算法影響評估、評分異議與修復(fù)、算法審計機制，自信用評分算法進入市場起啟動。算法備案機制適用于信用評分算法首次進入市場運行、發(fā)生重大修改兩種情形。

　　1.信用評分算法偏誤檢測機制

　　信用評分算法偏誤檢測屬于全過程的風(fēng)險分配機制。作為平臺企業(yè)內(nèi)部管理手段，其旨在實現(xiàn)對信用評分算法設(shè)計與開發(fā)的定期監(jiān)控，包括：①由監(jiān)管部門提供統(tǒng)一的格式文本，要求平臺完整、無遺漏地對信用評分算法設(shè)計與開發(fā)的各個環(huán)節(jié)做出算法偏差可能性的自查檢測。②以書面形式做出，作為企業(yè)的重要檔案文件長期留存。③對市場占有率高、影響范圍大的信用評分算法實施更頻繁的定期偏誤檢測。④檢測用于訓(xùn)練信用評分算法的信息數(shù)據(jù)樣本，避免在機器學(xué)習(xí)和特征選擇階段使用的信息數(shù)據(jù)集無意識地偏向特定群體。⑤偏誤檢測報告應(yīng)當(dāng)采取平實、清晰、可理解的表達方式，避免導(dǎo)致因各方技術(shù)差距而造成徒具形式的檢測結(jié)果。

　　在發(fā)生信用評分異議時，平臺應(yīng)當(dāng)先行實施信用評分算法偏誤檢測，努力與個人協(xié)商解決。個人要求平臺對信用評分算法的機理進行解釋，應(yīng)當(dāng)舉證信用評分算法運行結(jié)果對自身權(quán)益造成了重大影響。平臺應(yīng)在法定期限內(nèi)履行解釋義務(wù)。當(dāng)個人無法獲得解釋，或在平臺解釋后仍存在異議的，應(yīng)允許其拒絕評分并尋求行政救濟或司法救濟。此外，鼓勵市場主體建立信用評分算法自律組織，就信用評分算法的技術(shù)標(biāo)準(zhǔn)、設(shè)計流程、準(zhǔn)確程度、潛在風(fēng)險設(shè)置不同的認證等級，形成梯度的處罰措施。自律管理情況應(yīng)定期向公眾披露。

　　2.信用評分算法影響評估機制

　　信用評分算法影響評估強調(diào)損害預(yù)防，指按照信用評分算法可能影響的人數(shù)規(guī)模、市場范圍、終端設(shè)備等指標(biāo)，分析信用評分算法開發(fā)與應(yīng)用中可能發(fā)生的技術(shù)風(fēng)險與防范方法，劃分為若干風(fēng)險層次，施以不同強度的監(jiān)督。平臺需圍繞信用評分算法解釋性說明、風(fēng)險評估、應(yīng)對預(yù)案三項要點，建立信用評分算法影響評估程序。當(dāng)平臺發(fā)現(xiàn)無法減輕的信用評分算法高風(fēng)險時，需在開始處理風(fēng)險前，向監(jiān)管部門及時匯報與咨詢。信用評分算法風(fēng)險評估結(jié)果應(yīng)當(dāng)形成書面報告，經(jīng)平臺的專門責(zé)任人發(fā)表書面意見后，向社會公眾公開披露，并受監(jiān)管部門審查。

　　監(jiān)管機構(gòu)則應(yīng)采取標(biāo)準(zhǔn)化方法科學(xué)地評估信用評分算法影響程度。至少包括以下兩方面：①明確平臺啟動信用評分算法影響評估程序的條件?！缎畔踩夹g(shù)個人信息安全規(guī)范》將處理“超過100萬人的個人信息”作為風(fēng)險評估觸發(fā)點，與域外監(jiān)管實踐相比，判定標(biāo)準(zhǔn)比較單一且有待豐富。②科學(xué)界定信用評分算法的風(fēng)險等級。尤其是對于具有維護公共利益性質(zhì)、涉及敏感個人信息、運用與影響范圍較大的信用評分算法，應(yīng)由平臺依據(jù)個人信息保護規(guī)則自行評估，監(jiān)管部門審查評估結(jié)果。

　　3.信用評分異議與修復(fù)機制

　　信用評分異議與修復(fù)機制強調(diào)損害發(fā)生后的救濟，要求以信用宣傳教育為起點，允許個人便利提出信用評分異議，直觀跟蹤異議處理過程，免費獲取信用評分凍結(jié)服務(wù)。具體而言：①平臺在信用評分算法啟動前向個人明確地告知算法設(shè)計目的、功能、潛在影響、個人合法權(quán)益、程序性保障措施與救濟方式。②在監(jiān)管部門與自律組織官方網(wǎng)頁的顯著位置，采用簡潔易懂的語言，通過問答或指引方式開設(shè)信用教育專欄，提供有關(guān)信用評分算法的基礎(chǔ)信息。③允許具有公信力的第三方開發(fā)信用評分異議處理系統(tǒng)，便利個人提出異議申請。④完善信用評分異議處理流程，標(biāo)記異議信用評分，在限定期限內(nèi)由平臺實施自查、刪除、更正、補足信息、評分凍結(jié)、通知與備案程序。在特定條件下，平臺可就評分凍結(jié)行為獲得合理對價。個人存在異議的，有權(quán)向監(jiān)管部門提出申訴、復(fù)議或訴訟。⑤自律組織明確信用修復(fù)機構(gòu)的資質(zhì)，定期考核信用修復(fù)機構(gòu)的執(zhí)業(yè)情況。

　　4.信用評分算法備案機制

　　信用評分算法備案針對特定情形適用，即信用評分算法初始進入市場運行和信用評分算法重大修改兩種情形。信用評分算法的披露對象應(yīng)當(dāng)限于中國人民銀行及個人信息保護管理部門。根據(jù)信用評分算法的影響程度不同，采取行政備案方式或自助登記方式加以披露，其原因如下：①信用評分具有個人征信的本質(zhì)屬性，有必要納入中國人民銀行監(jiān)管范疇，理順監(jiān)管邏輯。②有助于借助平臺開發(fā)的成熟技術(shù)，及時提升大數(shù)據(jù)監(jiān)管能力，避免中國人民銀行原有的個人信用信息數(shù)據(jù)庫淪為堰塞湖。③有助于中國人民銀行調(diào)動必要的技術(shù)資源聚焦微觀風(fēng)險評估領(lǐng)域。④有助于激勵平臺不斷提升信用評分算法創(chuàng)新能力，客觀上打破平臺技術(shù)壟斷形成的“專利叢林”。⑤信用評分算法不能脫離個人信息單獨發(fā)揮作用，有必要納入個人信息保護監(jiān)管范疇。

　　此外，還應(yīng)明確信用評分算法的備案內(nèi)容。參考《關(guān)于規(guī)范金融機構(gòu)資產(chǎn)管理業(yè)務(wù)的指導(dǎo)意見》中有關(guān)智能投資顧問算法的行政備案要求，除披露信用評分算法的一般解釋性內(nèi)容以外，平臺還應(yīng)向個人信息保護管理部門與中國人民銀行備案信用評分算法主要參數(shù)、主要運行邏輯與技術(shù)人員。其中，技術(shù)人員包括信用評分算法開發(fā)的實施人員、管理人員、審查人員、負責(zé)任的高級管理人員，對上述人員應(yīng)采取注冊制管理。在平臺對信用評分算法的程序、方法等做出重大修改時，應(yīng)當(dāng)披露變動原因，向前述監(jiān)管部門書面說明變動合理性。

　　5.信用評分算法審計機制

　　信用評分算法審計則屬于兜底性風(fēng)險分配措施，分為外部審計與內(nèi)部審計兩種機制。就外部審計而言，應(yīng)由第三方技術(shù)團體或研究機構(gòu)，根據(jù)法律法規(guī)與監(jiān)管要求檢查信用評分算法風(fēng)險，發(fā)布報告，提出建議。內(nèi)部審計則應(yīng)參考國際通行的“三道防線”公司治理結(jié)構(gòu)，在平臺內(nèi)部建立信用評分算法審計機制。信用評分算法內(nèi)部審計人員職責(zé)涵蓋信用評分算法與信息數(shù)據(jù)風(fēng)險管理的全部要素，包括風(fēng)險識別、風(fēng)險動態(tài)評估和響應(yīng)、風(fēng)險事件溝通，以及企業(yè)信息與數(shù)據(jù)安全戰(zhàn)略、道德、運營、報告、合規(guī)。信用評分算法內(nèi)部審計人員應(yīng)能獨立開展審計工作，充分理解信用評分算法，就信息數(shù)據(jù)保護與信用評分算法治理機制的有效性向管理層提供意見，做出評估，預(yù)防風(fēng)險。

　?。ǘ┊a(chǎn)品責(zé)任制度中的利益協(xié)調(diào)方法

　　1.信用評分算法的責(zé)任主體

　　需要再次明確的是，信用評分算法缺陷的責(zé)任主體應(yīng)為平臺。平臺不是傳統(tǒng)上在生產(chǎn)與再生產(chǎn)環(huán)節(jié)具有明確邊界的組織實體。然而，平臺技術(shù)架構(gòu)的有效運行依賴能夠反映實際控制人意志的公司治理。只有從辨別實際控制人入手，才能清晰地劃定平臺的組織邊界。故本文采取更具整體性的視角，將同一實際控制關(guān)系下的平臺企業(yè)集團作為信用評分算法缺陷的歸責(zé)主體。具言之，平臺承擔(dān)信用評分算法產(chǎn)品責(zé)任由以下兩方面因素決定。

　　首先，信用評分算法輸出的信用評判結(jié)果無法脫離平臺的利益考量。信用價值取決于社會文化背景，具有豐富的道德意義和開放的概念體系。這使得信用的內(nèi)涵極具變動性，因時而異，因行為主體而異。信用評分是平臺利用大數(shù)據(jù)與人工智能技術(shù)開展的信息處理活動。信用評分算法作為平臺的信息處理工具，其運行必須依賴程序員的參與和技術(shù)專家的監(jiān)督。程序員和技術(shù)專家有關(guān)信用價值的認知均由平臺塑造。兩者皆難以成為獨立于平臺的生產(chǎn)者?？梢姡庞迷u價算法在存在意義上是中性的，在主體層面和對象層面卻完全融入了平臺的價值判斷。

　　其次，平臺承擔(dān)產(chǎn)品責(zé)任是因應(yīng)侵權(quán)行為法現(xiàn)代化調(diào)適的必然要求。侵權(quán)行為法上的社會安全義務(wù)引導(dǎo)生產(chǎn)者趨利避害，在交易中應(yīng)注意保護他人權(quán)益。在信用評分算法治理語境中，產(chǎn)品責(zé)任制度亦具有保障人民安全、增強數(shù)字信用的重要功能。產(chǎn)品責(zé)任制度發(fā)端于信息社會之前。傳統(tǒng)產(chǎn)品一經(jīng)銷售，生產(chǎn)者即喪失占有與控制的能力。而在信息社會中，平臺對信用評分算法的控制遠超個人。平臺在信用評分算法的開發(fā)、設(shè)計、應(yīng)用與優(yōu)化等諸多方面具有更強的支配力，產(chǎn)生了新的危險。按照預(yù)見可能性理論，信用評分算法運行的風(fēng)險屬于平臺的管轄范疇，應(yīng)當(dāng)由平臺對風(fēng)險及由此產(chǎn)生的結(jié)果負責(zé)。在證據(jù)規(guī)則方面還可做進一步的調(diào)整，以適應(yīng)信息社會的發(fā)展演變。

　　在此基礎(chǔ)上，產(chǎn)品責(zé)任制度立法升級的整體思路是：將信用評分算法缺陷歸納為設(shè)計缺陷、警示缺陷與跟蹤觀察缺陷三種類型，與信用評分算法的主要運行環(huán)節(jié)相對應(yīng)。信用評分算法缺陷的判斷應(yīng)以存在威脅人身安全與財產(chǎn)安全的不合理危險為原則。由于個人的實際損失可較為直觀地觀察，為避免規(guī)則適用沖突應(yīng)沿用相當(dāng)因果關(guān)系理論。在缺陷認定方面，應(yīng)以信用評分算法檢測、信用評分算法影響評估、信用評分異議分別作為未上市的信用評分算法設(shè)計缺陷、信用評分算法警示缺陷、信用評分算法跟蹤觀察缺陷的檢測時點。對于已正式上市的信用評分算法，判斷其設(shè)計缺陷是否存在，應(yīng)考察平臺是否遵守了算法規(guī)制的各項內(nèi)容。在舉證責(zé)任分配方面，應(yīng)采取舉證責(zé)任倒置的方式，但可為平臺設(shè)置較為寬松的證明方式。

　　2.信用評分算法設(shè)計缺陷的識別與認定

　　以“風(fēng)險-效能標(biāo)準(zhǔn)”作為信用評分算法設(shè)計缺陷的判斷依據(jù)?！帮L(fēng)險-效能標(biāo)準(zhǔn)”比較信用評分算法設(shè)計的有用性與危險性，檢視在費用未明顯增加的前提下，平臺是否履行合理的注意義務(wù)與采取適當(dāng)?shù)谋Ｕ洗胧?，確保信用評分算法具有合理與最優(yōu)的性能。否則，信用評分算法即具有設(shè)計缺陷。在“風(fēng)險-效能標(biāo)準(zhǔn)”的適用中，域外實踐大多要求原告提供合理的替代性方案來證明缺陷存在。個人在證明信用評分算法設(shè)計明顯不合理、提出技術(shù)上可行的替代方案時，顯著地缺乏能力。因此，采取“風(fēng)險-效能標(biāo)準(zhǔn)”需采取符合個人技術(shù)能力的制度設(shè)計，促使個人合理利用信用評分算法規(guī)制的內(nèi)容。

　　根據(jù)信用評分算法的運行階段不同，劃分為兩種認定方法。第一，在信用評分算法僅向少數(shù)人開放的測試階段，信用評分算法檢驗制度可為算法設(shè)計缺陷的發(fā)現(xiàn)與認定提供準(zhǔn)據(jù)，與個人的技術(shù)能力相當(dāng)。信用評分算法檢驗制度要求平臺在信用評分算法正式進入市場前，對其進行全面的調(diào)適與改進，采用經(jīng)行業(yè)認證的先進而安全的技術(shù)，解決信用評分算法在樣本標(biāo)記、變量擇取與軟硬件設(shè)施等方面的缺陷。信用評分算法檢驗制度能夠提供標(biāo)準(zhǔn)化的自查報告與認證報告，協(xié)助個人判斷信用評分算法是否經(jīng)合理設(shè)計，提出信用評分算法的合理替代方案。第二，在信用評分算法完全開放的正式運行階段，設(shè)計缺陷仍可能不斷地涌現(xiàn)與獲得改進。個人應(yīng)考察平臺是否已按照信用評分算法規(guī)制框架的要求，在發(fā)現(xiàn)設(shè)計缺陷的每個時點，都相應(yīng)地采取措施彌補，否則即可主張信用評分算法存在設(shè)計缺陷。

　　3.信用評分算法警示缺陷的認定

　　信用評分算法影響評估制度可為信用評分算法的警示缺陷提供認定依據(jù)。信用評分算法警示缺陷的規(guī)避，要求平臺以警示發(fā)生前的最新技術(shù)水平充分預(yù)知信用評分算法運行引致的風(fēng)險類型，在技術(shù)升級后及時預(yù)見新風(fēng)險并更新警示內(nèi)容。對此，信用評分算法影響評估制度正是建立在技術(shù)的動態(tài)發(fā)展進程上，能夠促使平臺不斷地調(diào)整信用評分算法的風(fēng)險等級與治理策略。這樣既便利平臺在履行“修改設(shè)計以消除危險”的義務(wù)時謹慎地權(quán)衡邊際收益與邊際成本，也有助于個人借助平臺披露的應(yīng)對預(yù)案，識別信用評分算法是否具有警示缺陷。

　　4.信用評分算法跟蹤觀察缺陷的認定

　　信用評分異議制度可為信用評分算法的跟蹤觀察缺陷設(shè)置固定的檢測時點。信用評分算法跟蹤觀察缺陷的解決，要求平臺在信用評分算法運行中采取檢測記錄、信息傳遞等反應(yīng)行為，及時將信用評分異議反饋至技術(shù)人員解決。信用評分算法跟蹤觀察缺陷需要設(shè)置固定的檢測時點，以防止機器學(xué)習(xí)產(chǎn)生的異化難以及時地獲得觀察與修正。在信用評分異議制度中，異議申請、評分凍結(jié)、評分解凍與評分申訴均可為平臺跟蹤與觀察信用評分算法缺陷設(shè)置有意義的節(jié)點，為平臺判斷能否修復(fù)信用評分算法缺陷、如何更新缺陷修復(fù)程序、何時增加新風(fēng)險警示提供必要的標(biāo)識。

　?、敌庞迷u分算法致害的舉證責(zé)任分配規(guī)則

　　法律不能無視損害的發(fā)生，必須在侵害人與受害人之間分配責(zé)任的最終承擔(dān)方式。對于新興科技的設(shè)計、開發(fā)與生產(chǎn)者，應(yīng)當(dāng)通過法律機制的合理設(shè)計，既督促其負責(zé)任地開展創(chuàng)新，又給予其恰當(dāng)?shù)膶捜菖c激勵。鑒于新興科技的復(fù)雜程度與日俱增，多數(shù)觀點認為應(yīng)將產(chǎn)品致害的舉證責(zé)任分配給生產(chǎn)者。在信用評分算法運行中，個人受技術(shù)水平的限制更嚴重，而平臺對信用評分算法缺陷的預(yù)見與控制程度更高。故確有必要將信用評分算法致害的舉證責(zé)任分配給平臺，采用舉證責(zé)任倒置規(guī)則，由平臺承擔(dān)信用評分算法不會引起損害的證明責(zé)任。

　　然而，信用評分算法致害的證明規(guī)則亟待突破?！懂a(chǎn)品質(zhì)量法》未對信用評分算法的產(chǎn)品標(biāo)準(zhǔn)做出規(guī)定，相關(guān)國家標(biāo)準(zhǔn)與行業(yè)標(biāo)準(zhǔn)亦未出臺。而相關(guān)標(biāo)準(zhǔn)的出臺始終面臨因來自平臺的技術(shù)專家必須參與論證過程，而受制于行業(yè)利益訴求的風(fēng)險。故此，根據(jù)信用評分算法運行的不同進程，平臺就信用評分算法致害的證明規(guī)則可進一步分為兩個層次。第一個層次是在信用評分算法未正式上市前，平臺舉證已符合信用評分算法檢測機制的要求，即可完成證明責(zé)任。第二個層次是在信用評分算法正式上市后，平臺舉證已符合信用評分算法規(guī)制的各項規(guī)定時，即可推定信用評分算法運行不構(gòu)成產(chǎn)品致害行為。

　　四、結(jié)論

　　信用評分算法的治理是高度技術(shù)化的工作，需要形成與其運行機理、行為特征、本質(zhì)屬性、價值功能相匹配的安排。隨著人類技術(shù)能力的不斷提升，人工智能與大數(shù)據(jù)技術(shù)深入開發(fā)必然帶來更多的技術(shù)應(yīng)用空間與技術(shù)規(guī)制問題。因此，信用評分算法的治理方案設(shè)計需要考慮各種已知的與潛在的風(fēng)險因素，并隨著數(shù)字經(jīng)濟生產(chǎn)方式的發(fā)展而適時調(diào)整。

　　本文提出的治理方案，建立在算法規(guī)制結(jié)合產(chǎn)品責(zé)任的信用治理邏輯基礎(chǔ)上，將可緩解當(dāng)前治理實踐中的利益與風(fēng)險失衡。雖因涉及多重主體而存在一定的實施困難，但具有更為清晰的治理框架、更加豐富的治理層次與預(yù)期有效的治理效果。該治理方案建立在“監(jiān)管主體-平臺-個人”結(jié)構(gòu)上，由三項主要的法律關(guān)系構(gòu)成：①在平臺與個人的數(shù)字信用治理關(guān)系中，通過改造后的產(chǎn)品責(zé)任制度權(quán)衡主體利益，由平臺作為產(chǎn)品責(zé)任承擔(dān)主體；②在個人與監(jiān)管主體的數(shù)字信用救濟關(guān)系中，保障個人在信用評分算法運行全過程獲得充分的救濟，在最關(guān)鍵的信用評分異議與修復(fù)環(huán)節(jié)形成平臺救濟、平臺監(jiān)管部門救濟、司法救濟三重保障機制；③在監(jiān)管主體與平臺的數(shù)字信用監(jiān)管關(guān)系中，充分發(fā)揮中國人民銀行、個人信息保護管理部門的行政職能。從風(fēng)險評估與管理角度出發(fā)，還應(yīng)將自律組織、公共組織、獲得特別經(jīng)營許可資質(zhì)的私人組織等社會主體納入該治理方案，形成數(shù)字信用共治機制，更加精確地防范信用評分算法運用帶來的風(fēng)險。

　?。ū疚脑d于《電子政務(wù)》2022年6月8日網(wǎng)絡(luò)首發(fā)版，作者：楊帆，系上海師范大學(xué)哲學(xué)與法政學(xué)院講師，法學(xué)博士）