聯(lián)系電話: 010-8882344888
彩神v摘要：生成式人工智能憑借強(qiáng)大的自主學(xué)習(xí)能力、關(guān)聯(lián)分析能力、結(jié)果輸出能力，在征信領(lǐng)域具有提高信息輸入效率、提升信用評估準(zhǔn)確性、生成與解讀信用報告、預(yù)知風(fēng)險的應(yīng)用潛能，但也面臨著多重挑戰(zhàn)。
結(jié)合技術(shù)原理與征信領(lǐng)域的特性，可從輸出結(jié)果的質(zhì)量問題、數(shù)據(jù)泄露的安全問題、信息處理的合規(guī)問題三個方面剖析征信領(lǐng)域應(yīng)用生成式人工智能的風(fēng)險隱患。
為平衡創(chuàng)新發(fā)展與風(fēng)險防范，應(yīng)在規(guī)范體系層面倡導(dǎo)目標(biāo)導(dǎo)向式的框架性立法、以人為本確立基本原則，在治理主體層面倡導(dǎo)協(xié)同共治、多元參與，在監(jiān)督管理層面倡導(dǎo)包容審慎的監(jiān)管立場與分類分級的監(jiān)管方式并行。
傳統(tǒng)專家系統(tǒng)式的人工智能技術(shù)，由于一切決策都基于給定的規(guī)則設(shè)計，因而不具備理解復(fù)雜指令、事物背景的能力，僅能勝任對簡單任務(wù)的執(zhí)行。生成式人工智能技術(shù)則能夠根據(jù)給定的提示，憑借在訓(xùn)練數(shù)據(jù)中學(xué)習(xí)的模式和規(guī)律，自主生成新的、原創(chuàng)性的內(nèi)容，因而具有開放性和拓展性，可以被應(yīng)用于更廣泛的場景之中執(zhí)行不特定任務(wù)，更好地處理生產(chǎn)生活中的復(fù)雜問題，這為各行業(yè)實(shí)現(xiàn)業(yè)務(wù)創(chuàng)新與流程革新提供了更加先進(jìn)的工具和手段。
以美國 Open AI 公司于 2022 年 11 月推出的自然語言處理模型ChatGPT為標(biāo)志，人工智能發(fā)展實(shí)現(xiàn)了從“規(guī)則式”到“生成式”的技術(shù)模式轉(zhuǎn)變，有關(guān)研究與應(yīng)用均被推向一個新的高度，迅速成為數(shù)字經(jīng)濟(jì)發(fā)展的最新趨勢。
在此背景下，“人工智能+”于2024年被首次寫入我國《政府工作報告》之中，這不僅是對發(fā)展人工智能技術(shù)重要性的強(qiáng)調(diào)，更是全面推進(jìn)科技與經(jīng)濟(jì)深度融合的行動計劃，旨在通過人工智能于各個領(lǐng)域的高效應(yīng)用，在資源配置、知識擴(kuò)散、業(yè)態(tài)創(chuàng)新等方面產(chǎn)生顯著影響，進(jìn)一步賦能創(chuàng)新升級與服務(wù)效率提升。
同年4月，中國人民銀行征信管理局提出支持征信機(jī)構(gòu)運(yùn)用大數(shù)據(jù)、人工智能等新技術(shù)進(jìn)行產(chǎn)品創(chuàng)新，為普惠金融發(fā)展提供多元化、差異化的信用信息服務(wù)。作為應(yīng)用較早且成效顯著的一個領(lǐng)域，從智能客服到信用數(shù)據(jù)的處理，人工智能技術(shù)早已在征信業(yè)中發(fā)揮了重要作用。不過，如同其他行業(yè)一樣，此前征信領(lǐng)域應(yīng)用的人工智能技術(shù)多以規(guī)則式的專家系統(tǒng)為主，在范圍上相對有限。生成式人工智能技術(shù)的出現(xiàn)帶來了新的可能，但也伴隨著新的風(fēng)險與挑戰(zhàn)。
本文旨在探索生成式人工智能在征信領(lǐng)域的應(yīng)用前景，并在系統(tǒng)梳理可能面臨的風(fēng)險隱患基礎(chǔ)之上，試從治理對策的角度，就如何平衡創(chuàng)新發(fā)展與風(fēng)險防范的關(guān)系展開論述。
生成式人工智能的底層架構(gòu)由多層人工神經(jīng)元組成，靈感來自于人腦的結(jié)構(gòu)和功能。依托這種架構(gòu)，生成式人工智能相比以往的人工智能技術(shù)在解決問題的方式上會更像人類，在自主學(xué)習(xí)能力、關(guān)聯(lián)分析能力與結(jié)果輸出能力方面有著質(zhì)的突破，這為其在征信領(lǐng)域的應(yīng)用奠定了技術(shù)基礎(chǔ)。
專家系統(tǒng)式的人工智能在架構(gòu)上包括兩個部分：一是擁有特定知識和經(jīng)驗(yàn)的知識庫；二是負(fù)責(zé)解釋和調(diào)度工作的推理機(jī)。在技術(shù)原理上，由推理機(jī)將用戶輸入的信息與知識庫中各個規(guī)則的條件進(jìn)行匹配，并將被匹配規(guī)則的結(jié)論呈現(xiàn)給用戶。以智能客服為例，通過將用戶遇到的常見問題與對應(yīng)的解決舉措預(yù)設(shè)在知識庫，人工智能就能夠?qū)τ脩舻姆答佔(zhàn)鞒黾皶r回應(yīng)，從而有效降低用人成本。
然而，由于程序執(zhí)行的結(jié)果完全基于知識庫中預(yù)設(shè)的規(guī)則，其在投入使用前需要通過人工的方式逐一設(shè)計，且一旦用戶輸入的信息超出預(yù)設(shè)的范圍，將會無法輸出有效的結(jié)果，因此存在制作成本高、可移植性與通用性差的弊病。
生成式人工智能則以機(jī)器學(xué)習(xí)為技術(shù)原理，這也是其強(qiáng)大理解能力和內(nèi)容生成能力的基礎(chǔ)。在其架構(gòu)中，開發(fā)者并不給定預(yù)先設(shè)置的規(guī)則，而是由機(jī)器通過大規(guī)模的訓(xùn)練數(shù)據(jù)自主學(xué)習(xí)，從中捕捉輸入信息與輸出結(jié)果之間在統(tǒng)計學(xué)意義上的關(guān)聯(lián)，利用機(jī)器自身學(xué)習(xí)所得的“經(jīng)驗(yàn)”輸出內(nèi)容，包括提供信息、回答問題、圖形繪畫、解釋概念、提供建議和自動編程等。
可以說，這種架構(gòu)賦予了人工智能持續(xù)性、實(shí)時性的自主學(xué)習(xí)能力，只需要將現(xiàn)有的相關(guān)數(shù)據(jù)集“投喂”給人工智能進(jìn)行自訓(xùn)練、自學(xué)習(xí)，其就能夠不斷適應(yīng)新環(huán)境、新場景和新任務(wù)，以實(shí)現(xiàn)對不同領(lǐng)域、多種任務(wù)的處理，而無需人為介入再去設(shè)計細(xì)致、全面的規(guī)則。
因此，盡管在早期階段可能會有較高的訓(xùn)練成本，但這種持續(xù)性的自主學(xué)習(xí)能力意味著生成式人工智能具有技術(shù)原理上的可移植性與通用性，能夠經(jīng)過“微調(diào)”被推廣到不同的應(yīng)用場景，并在規(guī)模效應(yīng)的作用下大幅降低每個具體場景的開發(fā)成本。
基于機(jī)器學(xué)習(xí)的技術(shù)原理，還給生成式人工智能帶來了自適應(yīng)的關(guān)聯(lián)分析能力。相比自主學(xué)習(xí)能力對可移植性與通用性的側(cè)重，關(guān)聯(lián)分析能力使得人工智能無需人為進(jìn)行顯著的干預(yù)，就能夠經(jīng)過不斷迭代和自我完善，持續(xù)提升分析和挖掘事物之間多維度關(guān)聯(lián)性的能力，提高輸出結(jié)果的精確性。
專家系統(tǒng)式的人工智能被設(shè)計出來的前提，在于某一領(lǐng)域的知識經(jīng)驗(yàn)被人所熟悉掌握，從而人們能夠根據(jù)條件與結(jié)果之間的關(guān)聯(lián)性設(shè)計出線性的因果規(guī)則。然而，在諸多復(fù)雜領(lǐng)域中，條件與結(jié)果之間的關(guān)聯(lián)性并非是簡單線性的，而是多維度的，知識與經(jīng)驗(yàn)不可能為人們所完全掌握。AlphaGO與人類在圍棋上對弈的例子，更是表明了人們所認(rèn)為存在著的關(guān)聯(lián)性未必就是正確的。
基于機(jī)器學(xué)習(xí)的生成式人工智能，則能夠在自我迭代與進(jìn)化中持續(xù)優(yōu)化、動態(tài)升級，使輸出的結(jié)果不斷接近真實(shí)世界運(yùn)作的情況：根據(jù)縮放定律（scaling law），只要訓(xùn)練數(shù)據(jù)夠大、參數(shù)夠多、算力夠強(qiáng)，生成式人工智能就能展現(xiàn)出相應(yīng)級別的涌現(xiàn)能力（emergent abilities）；這種涌現(xiàn)能力又不斷地反饋給自身，以幫助其持續(xù)改進(jìn)關(guān)聯(lián)性分析模型，提高輸出表現(xiàn)，甚至作出比人類更為精準(zhǔn)、高效的關(guān)聯(lián)性分析。
譬如，在生物學(xué)領(lǐng)域，傳統(tǒng)的蛋白質(zhì)解構(gòu)方法可能需要數(shù)年時間，才能描繪出單個蛋白質(zhì)的形狀，成本高昂的同時還不能保證成功解析其結(jié)構(gòu)。而接受過大量蛋白質(zhì)結(jié)構(gòu)數(shù)據(jù)訓(xùn)練的人工智能，能夠結(jié)合物理、化學(xué)和生物學(xué)的先驗(yàn)知識，在較短時間內(nèi)就可以給出對蛋白質(zhì)結(jié)構(gòu)解析的預(yù)測模型。
在持續(xù)性的自主學(xué)習(xí)能力和自適應(yīng)的關(guān)聯(lián)分析能力加持下，生成式人工智能具有遠(yuǎn)超傳統(tǒng)人工智能的理解能力與交互能力，使得用戶無需學(xué)習(xí)編程語言就能夠?qū)崿F(xiàn)與機(jī)器的對話，并以此為基礎(chǔ)，在結(jié)果輸出能力上有質(zhì)的突破。
以 ChatGPT 為例，基于 Transformer 的機(jī)器學(xué)習(xí)架構(gòu)使其能夠借助自注意力機(jī)制高效地處理序列數(shù)據(jù)，并具有理解該序列所對應(yīng)的前后序列的能力，通過捕捉語言之間的關(guān)系和結(jié)構(gòu)來幫助生成更一致與更關(guān)聯(lián)的響應(yīng)，從而作出邏輯連貫的回答。
于是，ChatGPT得以在幾十輪連續(xù)對話中保持對話主題的一致性和專注性，且具有相當(dāng)程度的交互能力與修正能力，可以根據(jù)對上下文的理解以及用戶的反饋來改進(jìn)自身生成的內(nèi)容。不僅如此，其還可以通過關(guān)鍵詞提取、命名實(shí)體識別和句法分析等技術(shù)，從長篇文本中提取關(guān)鍵信息并進(jìn)行匯總和歸納，以形成精煉且高度相關(guān)的內(nèi)容概括。這使得ChatGPT的輸出結(jié)果具有相當(dāng)?shù)膫€性化，經(jīng)過簡單的“微調(diào)”就可在不同場景中滿足用戶的多樣化需求。
例如，在醫(yī)療衛(wèi)生領(lǐng)域，經(jīng)過預(yù)先訓(xùn)練的ChatGPT能夠根據(jù)用戶提供的癥狀、年齡、病史等資料提取關(guān)鍵信息，結(jié)合醫(yī)學(xué)知識生成簡明扼要的個性化診斷建議或治療方案。值得一提的是，ChatGPT 甚至能夠在對話中捕捉到用戶的語言情緒、措辭習(xí)慣等個性化特征，并據(jù)此生成接近用戶風(fēng)格的回答。這種以擬人化的姿態(tài)給予使用者人性化交流的感受，正是生成式人工智能的獨(dú)特之處。
處在信息技術(shù)與金融服務(wù)的交叉領(lǐng)域，每一次技術(shù)的進(jìn)步都會促使征信業(yè)發(fā)生飛躍。根據(jù)我國《征信業(yè)管理?xiàng)l例》第2條規(guī)定，完整的征信業(yè)務(wù)流程可概括為輸入、處理、輸出三個階段。生成式人工智能的嵌入，有助于更加便捷高效地完成上述三個階段的工作。
征信業(yè)務(wù)在輸入階段的工作主要是對信用信息的采集與整理。傳統(tǒng)的信用評估中，征信機(jī)構(gòu)需要通過逐一采集的方式，對征信對象的信用信息進(jìn)行識別、整理，這在線下、低頻的交易模式中并無大礙?；ヂ?lián)網(wǎng)時代，具有大量、高頻、小額特點(diǎn)的線上交易模式，催生了海量、廣泛的信用數(shù)據(jù)，這迫使信息的采集、整理方式必須調(diào)整至與之相適應(yīng)。
此前，大數(shù)據(jù)、爬蟲等技術(shù)的應(yīng)用，已經(jīng)極大簡化了信息的采集與整理流程。然而，由于操作門檻高，針對新場景需要重新設(shè)計算法，上述技術(shù)的全面推廣仍然受到成本方面的掣肘。得益于生成式人工智能強(qiáng)大的學(xué)習(xí)能力與自然語言處理能力，使用者不需要具有專業(yè)的計算機(jī)知識，就能夠通過日常用語向機(jī)器提出需求，使“每個人都可以成為一個程序員”。這大大降低了此類技術(shù)的使用難度，有助于征信機(jī)構(gòu)降低信息輸入的工作成本，提升整體效率。
首先，征信機(jī)構(gòu)只需輸入篩選的條件與要求，經(jīng)過訓(xùn)練、“微調(diào)”的生成式人工智能就能夠借助其自主學(xué)習(xí)形成的算法迅速完成海量信用信息的采集。其次，借助生成式人工智能提取關(guān)鍵信息、匯總、歸納的能力，征信機(jī)構(gòu)能夠以極低的人力資源、極短的工作時間對海量數(shù)據(jù)進(jìn)行整理，實(shí)現(xiàn)信用信息輸入工作的高效完成。
傳統(tǒng)征信業(yè)務(wù)在處理階段的工作，主要是由輸入的信用信息經(jīng)過給定的算法或規(guī)則計算完成。由于是人為設(shè)計且固定不變的，因此會存在算法不夠完善、無法具體情況具體分析、無法及時調(diào)整規(guī)則等方面的弊端，以至于影響評估結(jié)果的準(zhǔn)確性，使其無法反映真實(shí)情況。例如因部分信息的不理想而被一刀切列入負(fù)面清單。
生成式人工智能在處理階段的嵌入，有助于提升信用評估的準(zhǔn)確性。具體而言，經(jīng)過海量信用數(shù)據(jù)的訓(xùn)練，生成式人工智能可以憑借其關(guān)聯(lián)分析能力，構(gòu)建更為復(fù)雜和全面的評估模型；并在此基礎(chǔ)上，結(jié)合征信對象的歷史數(shù)據(jù)與個性，不斷完善、深化模型，避免因部分信息的不理想而導(dǎo)致整體評估存在偏見，最終促使評估結(jié)果更加趨近個體的實(shí)際情況。
Google公司就曾在對消費(fèi)者作信用評估時發(fā)現(xiàn)，人工智能可以對那些僅擁有部分信用記錄的消費(fèi)者得出相對良好的信用評估結(jié)果。在對消費(fèi)者負(fù)面信息進(jìn)行深入挖掘的過程中，評估模型通過替代數(shù)據(jù)的尋找和補(bǔ)償，發(fā)現(xiàn)不少傳統(tǒng)規(guī)則下為負(fù)面評價的消費(fèi)者其實(shí)具有很強(qiáng)的還款意愿，從而給出了更為真實(shí)、準(zhǔn)確的信用評估。
生成式人工智能在征信業(yè)務(wù)的輸出階段同樣應(yīng)用前景廣泛，其個性化的結(jié)果輸出能力，使其在生成、解讀信用報告方面具有巨大潛力。
一方面，憑借提取關(guān)鍵信息、歸納總結(jié)的能力，生成式人工智能能夠?qū)ο惹罢硭玫男庞眯畔⒆鬟M(jìn)一步的整合分析，并在自然語言理解能力和生成能力的加持下，根據(jù)使用者在內(nèi)容、格式等方面提出的要求，自動批量地生成不同側(cè)重、不同篇幅的信用報告，從而替代大量的人工操作和處理流程。
另一方面，從征信的目的來看，使用者所需要的并非是信用報告本身，而是隱藏在信用報告背后的信用評估結(jié)論。就報告本身而言，雖然包含豐富的信用信息，但由于這些信息都是非結(jié)構(gòu)化的，通過排列組合能夠得到不同的結(jié)論，因此如何有效解讀信用報告中大量的非結(jié)構(gòu)化信息，一直都是信用評估的重點(diǎn)與難點(diǎn)。對于經(jīng)過預(yù)先訓(xùn)練的生成式人工智能來說，由于其出色的自然語言理解能力和結(jié)果輸出能力，完全可以從使用者思維的角度解讀冗長的信用報告，并通過不斷地交互與對話明確使用者的真正需求，給出針對性的意見或建議，有效幫助使用者準(zhǔn)確把握信用報告中的關(guān)鍵內(nèi)容。
傳統(tǒng)的征信業(yè)務(wù)以報告的出具為流程終點(diǎn)，報告內(nèi)容是對征信對象過去行為的總結(jié)與回顧，最終的風(fēng)控措施往往由使用者根據(jù)對報告的自身解讀作出。然而，由于每個人都會有自己的主觀看法與偏見，同時受限于專業(yè)知識的不足，由此形成的風(fēng)控措施就會不可避免地帶有某種系統(tǒng)性偏差。
生成式人工智能在機(jī)器學(xué)習(xí)深入的過程中，可以根據(jù)不同對象的歷史數(shù)據(jù)或“趨勢性”數(shù)據(jù)構(gòu)建個性化的預(yù)測模型，在此基礎(chǔ)上結(jié)合實(shí)時數(shù)據(jù)流來感知潛在的風(fēng)險變化，全面評估面向未來的信用風(fēng)險，因而具有將業(yè)務(wù)流程拓展至風(fēng)險監(jiān)測環(huán)節(jié)的潛能。而且因?yàn)闇p少了人為因素所致的系統(tǒng)性偏差，從某種意義上來說，生成式人工智能相對于人類個體而言具有更為一致、穩(wěn)定的風(fēng)險預(yù)知能力。更值一提的是，自主學(xué)習(xí)與關(guān)聯(lián)分析的能力還使得生成式人工智能特別擅長識別異常情況，這對發(fā)現(xiàn)可能的欺詐行為或不尋常的交易活動至關(guān)重要。這種針對性反饋的能力正是如今復(fù)雜、多樣的社會信用環(huán)境所急需的。通過對異常行為的提示，金融機(jī)構(gòu)可以及時采取措施預(yù)防損失發(fā)生。
生成式人工智能在征信領(lǐng)域的多方面應(yīng)用潛能，雖然能夠助力征信機(jī)構(gòu)實(shí)現(xiàn)更為精準(zhǔn)、定制化及實(shí)時的信用評估服務(wù)，幫助金融機(jī)構(gòu)做好風(fēng)險管理，保護(hù)自身利益并維護(hù)市場穩(wěn)定，但目前該項(xiàng)技術(shù)距離在征信領(lǐng)域的成熟應(yīng)用，仍然面臨著一系列的挑戰(zhàn)。
雖然相比以往的人工智能，生成式人工智能在自然語言處理能力上取得了重大突破，但在深度語義理解、邏輯連貫性以及特定知識的整合運(yùn)用上還存在諸多不足，這使得其輸出的文本在專業(yè)性上難以保證。
依賴于統(tǒng)計學(xué)關(guān)聯(lián)而非因果推理的技術(shù)原理，使得生成式人工智能尚且只能做到對淺層信息的歸納與整理，而缺乏專業(yè)角度的深入分析，無法真正像人類那樣理解和解釋復(fù)雜信息背后的底層邏輯或深層次含義。這種缺陷又進(jìn)一步導(dǎo)致了其在邏輯連貫性上的短板，可能因前序理解的不深入而引起后續(xù)分析的割裂。
此外，生成式人工智能在其模型訓(xùn)練中所注重的是通用性的語言表達(dá)能力，對于不同領(lǐng)域?qū)I(yè)知識的訓(xùn)練往往是淺薄且分散的，因此學(xué)到的專業(yè)知識同樣是碎片化的，無法保證其在細(xì)分領(lǐng)域的專業(yè)深度。
由此，如果在訓(xùn)練數(shù)據(jù)中缺乏征信領(lǐng)域的專業(yè)知識，那么輸出的結(jié)果在形式上可能存在專業(yè)性不足的問題。盡管能夠進(jìn)行針對性的“微調(diào)”，但在征信領(lǐng)域的嚴(yán)格規(guī)則限制下，對專業(yè)知識的運(yùn)用往往需要深入理解信息之間的交互作用、因果關(guān)系，而不僅僅只是概率上的關(guān)聯(lián)。在當(dāng)前技術(shù)水平下，生成式人工智能雖然可以做到對專業(yè)報告在復(fù)雜文本結(jié)構(gòu)和語言模式上的模仿，但因在深層邏輯上缺乏因果推理能力而無法捕捉到信息之間的細(xì)微差別，其模仿的結(jié)果仍可能會是“一本正經(jīng)地胡說八道”。
通過在征信領(lǐng)域的針對性訓(xùn)練，配合圍繞征信規(guī)則設(shè)計的專家系統(tǒng)和知識圖譜，輸出結(jié)果在文本專業(yè)性上的不足能夠得到一定彌補(bǔ)。然而在內(nèi)容可靠性上，生成式人工智能存在著難以克服的自身缺陷，具體包括內(nèi)容偏見和內(nèi)容失實(shí)兩個方面。由于在表現(xiàn)形式上更為隱蔽，這種危害更甚。
內(nèi)容偏見的缺陷，是因?yàn)樯墒饺斯ぶ悄茌敵龅慕Y(jié)果在根本上取決于算法的選擇以及用于模型訓(xùn)練的龐大數(shù)據(jù)庫。這就可能帶來如下隱患：開發(fā)者出于特定的利益考量或自身偏好去設(shè)計帶有偏見的算法，或者使用帶有偏見的數(shù)據(jù)樣本進(jìn)行訓(xùn)練，生成式人工智能的輸出結(jié)果就可能會更符合開發(fā)者的個人意圖而背離客觀中立的價值立場。這種情況下，生成式人工智能絕非是一個價值中立、沒有偏見的工具。譬如，出于對地域或職業(yè)的偏見，開發(fā)者可能會主觀地認(rèn)為某一類群體的信用狀況較差，如果這種沒有根據(jù)的想法被融入算法或數(shù)據(jù)庫之中，人工智能的輸出結(jié)果就會呈現(xiàn)出某種偏向，作出的信用評估可能導(dǎo)致某一類群體的利益受到嚴(yán)重?fù)p害。
內(nèi)容失實(shí)的缺陷，根源仍然在于生成式人工智能基于統(tǒng)計學(xué)關(guān)聯(lián)而非基于因果推理的技術(shù)原理。因此對于輸出的內(nèi)容是否真實(shí)準(zhǔn)確，人工智能自身無法作出有效判斷，甚至可能會因?yàn)楸匾畔⑷笔?、替代信息不存在而捏造虛假信息。美國就曾發(fā)生過律師錯誤引用ChatGPT編造的虛假案例的事件。如果生成式人工智能輸出的虛假信息被誤用于信用評估，勢必嚴(yán)重影響征信結(jié)果的可靠性，從而進(jìn)一步導(dǎo)致相關(guān)風(fēng)險管理舉措缺乏合理性。
與其他計算機(jī)程序一樣，生成式人工智能作為一套復(fù)雜系統(tǒng)，自身可能存在諸多未知的風(fēng)險隱患。諸如算法設(shè)計不當(dāng)、存儲系統(tǒng)異常、安全漏洞等技術(shù)缺陷，都會導(dǎo)致其在模型的訓(xùn)練過程中面臨數(shù)據(jù)泄露的安全隱患。微軟、亞馬遜等多家科技公司就曾警告員工不要與ChatGPT分享任何敏感信息，以免數(shù)據(jù)泄露而導(dǎo)致商業(yè)利益受損。事實(shí)證明，這種擔(dān)憂并非空穴來風(fēng)。
在 2023 年 3 月，ChatGPT 發(fā)生了一起極為嚴(yán)重的數(shù)據(jù)安全事故，部分用戶的聊天記錄、信用卡信息、電子郵件等信息遭到泄露，而這可能是因?yàn)椴糠稚婕皞€人信息的數(shù)據(jù)被模型用于訓(xùn)練后未及時刪除，疊加內(nèi)部開源數(shù)據(jù)庫出現(xiàn)技術(shù)故障所致。
隨著人們對數(shù)據(jù)安全的進(jìn)一步重視與發(fā)展，去標(biāo)識化、匿名化等技術(shù)手段日漸成熟。然而，生成式人工智能在模型訓(xùn)練過程中所涉及的數(shù)據(jù)體量之大、處理主體之多、處理環(huán)節(jié)之長，遠(yuǎn)超傳統(tǒng)的數(shù)據(jù)處理系統(tǒng)，“一招不慎、滿盤皆輸”，其所面臨的泄露風(fēng)險也會成倍增加。為使分析、輸出的結(jié)果更加精準(zhǔn)，征信領(lǐng)域應(yīng)用生成式人工智能勢必需要借助專業(yè)的信用數(shù)據(jù)庫進(jìn)行針對性訓(xùn)練。
通常來說，信用數(shù)據(jù)包括了身份識別、金融賬戶等高度敏感的個人信息，一旦泄露或者被非法使用，極容易導(dǎo)致自然人的人格尊嚴(yán)受到侵害或者人身、財產(chǎn)安全受到危害，造成難以挽回的災(zāi)難性后果。
除技術(shù)缺陷在模型訓(xùn)練中引起的直接泄露風(fēng)險之外，生成式人工智能還存在著一種數(shù)據(jù)間接泄露的風(fēng)險。由于人工智能需要通過不斷地自我迭代來持續(xù)升級和優(yōu)化模型，因此在理論上，存在上一版本訓(xùn)練過程中收集得到的數(shù)據(jù)被下一版本作為訓(xùn)練成果而輸出的可能性，從而泄露包括用戶上傳的敏感數(shù)據(jù)、個人信息和商業(yè)機(jī)密在內(nèi)的訓(xùn)練數(shù)據(jù)。
盡管生成式人工智能在發(fā)布時通常都會采取安全措施，盡可能地刪除有關(guān)信息或作匿名化處理，但從現(xiàn)有的技術(shù)水平來看，完全、徹底的刪除或匿名化都是無法實(shí)現(xiàn)的，因而仍然會有部分信息殘留被最終發(fā)布的模型所輸出。自然，對于一般的個人使用者來說，這些分散在不同輸出結(jié)果中的信息殘留并無太大的利用價值。但由于數(shù)據(jù)挖掘、分析的技術(shù)不斷進(jìn)步，如今業(yè)已形成了一種通過對比、組合海量數(shù)據(jù)，將零碎信息拼湊、組合形成完整信息的“拼圖技術(shù)”。別有用心者能夠以此實(shí)現(xiàn)對信息的再識別，且每一次的再識別都會助長未來的再識別，最終在高頻、漸進(jìn)的迭代累加下，任何分散的信息碎片都可能通過不斷拼湊而形成完整的數(shù)據(jù)集。由于形式上的隱蔽性，利用數(shù)據(jù)的間接泄露達(dá)到非法目的將會很難被發(fā)現(xiàn)和察覺，嚴(yán)重時還可能威脅到國家數(shù)據(jù)與社會金融體系的安全性。
處理個人信息應(yīng)當(dāng)具有明確、合理的目的，且必須與處理目的直接相關(guān)，并采取對個人權(quán)益影響最小的方式，不得過度收集，此即為我國《個人信息保護(hù)法》所規(guī)定的個人信息處理之目的限制原則。從信息輸入端來看，生成式人工智能突破目的限制原則的情形屢屢發(fā)生，信息處理存在合規(guī)問題。
個人信息處理者在收集個人信息時，通常需采取“一對一”的方式在告知程序中向信息主體明確說明個人信息的處理目的并取得同意；倘若處理目的發(fā)生變更，則需要再次履行告知程序并重新取得同意。但絕大多數(shù)情況下，生成式人工智能并不會就信息的收集以及后續(xù)在模型訓(xùn)練中的處理情況向信息主體作出明確提示，用戶甚至無法知道與之相關(guān)的個人信息是否已經(jīng)被收集，更無從知悉個人信息的處理目的。
即便已經(jīng)明確告知信息主體相關(guān)處理目的并取得同意，隨著應(yīng)用場景發(fā)生變化，生成式人工智能對此前收集所得的個人信息進(jìn)行重新處理也是十分常見的。由于涉及的信息在數(shù)量上十分巨大，逐一向信息主體重新取得同意不具備實(shí)現(xiàn)的可能性，模型訓(xùn)練直接面臨合規(guī)性考驗(yàn)。更需要關(guān)注的是，與征信有關(guān)的個人信息通常都高度敏感。從我國《個人信息保護(hù)法》的規(guī)定來看，只有具備特定的目的和充分的必要性，并在取得個人單獨(dú)同意的情況下，方可處理敏感個人信息。這意味著對信用信息的處理許可不容許被用戶的概括同意所包括，而必須取得個人信息主體的單獨(dú)同意，甚至在特定情況下還需要取得用戶的書面同意，無疑給征信領(lǐng)域應(yīng)用生成式人工智能的合規(guī)性帶來了更為嚴(yán)峻的挑戰(zhàn)。
根據(jù)我國《個人信息保護(hù)法》第24條規(guī)定，利用個人信息進(jìn)行自動化決策，應(yīng)當(dāng)保證決策的透明度和結(jié)果公平、公正。從運(yùn)行原理來看，征信領(lǐng)域應(yīng)用生成式人工智能分析信用數(shù)據(jù)、輸出信用評估報告符合自動化決策的定義，應(yīng)當(dāng)嚴(yán)格遵守這一條款，確保決策透明度和結(jié)果的公平、公正。前文已對算法、數(shù)據(jù)偏見引起的輸出結(jié)果質(zhì)量問題有所論及，在此不再贅述。關(guān)鍵在于，即便是在算法中立客觀、公開透明的情況下，生成式人工智能在信息輸出端也會因算法的可解釋性不足而面臨合規(guī)性考驗(yàn)。
既有研究認(rèn)為算法可解釋性不足的原因主要包括兩個方面：一是算法的專業(yè)性與復(fù)雜性，在一定程度上犧牲了算法的可解釋性；二是在商業(yè)秘密與知識產(chǎn)權(quán)制度的保護(hù)下，算法可解釋的行動力會受到阻礙。
因此在對策建議上，如果涉及公眾利益，通常會追求算法的備案、算法的審查乃至算法的全面公開。然而，生成式人工智能的算法模型不僅高度專業(yè)與復(fù)雜，其決策更是以相關(guān)性為基礎(chǔ)，得出的結(jié)論遠(yuǎn)非因果關(guān)系所能夠解釋清楚的?！爸淙欢恢渌匀弧钡臎Q策過程，使得算法的公開透明毫無意義，因?yàn)榧幢闶撬惴ǖ脑O(shè)計者自身，也無法理解算法是怎樣作出決策的。
同樣根據(jù)《個人信息保護(hù)法》第24條規(guī)定，通過自動化決策方式作出對個人權(quán)益有重大影響的決定時，個人有權(quán)要求個人信息處理者就決策過程、決策依據(jù)予以說明。毫無疑問，征信評估的結(jié)果與個人切身利益關(guān)系密切。在算法自身無法保證決策透明度的情況下，如何向征信對象解釋決策過程，將會是征信機(jī)構(gòu)應(yīng)用生成式人工智能的重大挑戰(zhàn)。
技術(shù)上的突破，使得生成式人工智能在征信領(lǐng)域具有相當(dāng)可觀的應(yīng)用前景，但同時也面臨著前述諸多挑戰(zhàn)。因此，亟須通過制定切實(shí)的治理對策，在充分開發(fā)應(yīng)用潛能的同時，預(yù)防潛在風(fēng)險造成的損害。
從規(guī)制的對象來看，征信領(lǐng)域應(yīng)用生成式人工智能面臨的風(fēng)險隱患，可進(jìn)一步劃分為不當(dāng)使用產(chǎn)生的風(fēng)險和系統(tǒng)自身存在的風(fēng)險。就前者來說，在一定程度上仍可以通過傳統(tǒng)的要件式立法（例如侵權(quán)法）予以管制。但就后者而言，作為新生事物，生成式人工智能技術(shù)發(fā)展變化較快，情況相對復(fù)雜，傳統(tǒng)追求制度普遍性與穩(wěn)定性的要件式立法容易導(dǎo)致規(guī)制過度或規(guī)制不足，難以支撐起技術(shù)迭代、模式變革所需要的發(fā)展空間。
因此，有必要引入一種目標(biāo)導(dǎo)向式的框架性立法理念，以立法者意圖實(shí)現(xiàn)的目標(biāo)為行為指引，將目標(biāo)達(dá)成的方式、方法、路徑等事項(xiàng)精準(zhǔn)授權(quán)給征信機(jī)構(gòu)和開發(fā)者，在確保能夠達(dá)成目標(biāo)的情況下，由機(jī)構(gòu)和開發(fā)者自主選擇與目標(biāo)相適宜的規(guī)制方式、行為標(biāo)準(zhǔn)、實(shí)現(xiàn)手段。
從意圖實(shí)現(xiàn)的目標(biāo)來看，征信領(lǐng)域應(yīng)用生成式人工智能應(yīng)當(dāng)包括提升征信服務(wù)質(zhì)效、加強(qiáng)征信風(fēng)控水平和保護(hù)個人合法權(quán)益三項(xiàng)目標(biāo)。
在具體的立法進(jìn)路上，一是可以參照我國2024年3月發(fā)布的《人工智能法（學(xué)者建議稿）》，在未來的人工智能立法中設(shè)置專門的條款，將征信領(lǐng)域明確規(guī)定為特殊應(yīng)用場景；二是在征信領(lǐng)域繼續(xù)加強(qiáng)法律制度供給，現(xiàn)有《征信業(yè)管理?xiàng)l例》《征信機(jī)構(gòu)管理辦法》《征信業(yè)務(wù)管理辦法》在效力層級上較低，僅為行政法規(guī)、部門規(guī)章，且并未對信用信息的使用邊界、應(yīng)用場景予以明確，在制定發(fā)布時尚未顧及人工智能發(fā)展對征信業(yè)可能的影響，有必要在將來制定“征信法”時，將生成式人工智能作為一項(xiàng)重要因素考慮在內(nèi)。
以上兩條立法進(jìn)路都需要對前述三項(xiàng)目標(biāo)予以明確規(guī)定。但為預(yù)留技術(shù)運(yùn)用的試驗(yàn)空間，總體上應(yīng)當(dāng)持較為寬松的規(guī)制立場，賦予征信機(jī)構(gòu)和人工智能的開發(fā)者更多自主權(quán)限，允許其自行設(shè)計與風(fēng)險程度相匹配的程序及規(guī)則，通過“盡力合規(guī)”的方式達(dá)成目標(biāo)。與此同時，為避免因規(guī)則指引不清晰引發(fā)自主權(quán)限被濫用、誤用，必須強(qiáng)化責(zé)任擔(dān)當(dāng)，建構(gòu)以目標(biāo)達(dá)成度的判斷、目標(biāo)內(nèi)涵的解釋與手段選擇的說理為核心的動態(tài)法治框架。
鑒于技術(shù)的迅速迭代和對業(yè)務(wù)創(chuàng)新的有益推進(jìn)，目標(biāo)導(dǎo)向式的框架性立法不宜設(shè)置過細(xì)的法律義務(wù)和過重的監(jiān)管負(fù)擔(dān)，但仍應(yīng)存在基本原則作為不可逾越的“底線”。
一方面，法治應(yīng)當(dāng)充分保障人的自主性，算法決策卻在有意無意間逃離了法律之治，集中體現(xiàn)為法治觀念所強(qiáng)調(diào)的問責(zé)性價值流失，這與人自主進(jìn)行的行為選擇存在本質(zhì)上的差異。對人工智能的過度依賴，大有將人從決策主體淪落為決策“客體”之勢。
另一方面，科技發(fā)展的目的是要更好地服務(wù)于人，在2023年10月中央網(wǎng)信辦發(fā)布的《全球人工智能治理倡議》中，在倡議首條即明確表示，“發(fā)展人工智能應(yīng)堅持‘以人為本’理念……確保人工智能始終朝著有利于人類文明進(jìn)步的方向發(fā)展”。這既是我國發(fā)展人工智能對世界的承諾，也是我國對處于人工智能時代的每個人的承諾。為此，需要圍繞以人為本的法治理念，確立如下幾項(xiàng)征信領(lǐng)域應(yīng)用生成式人工智能的基本原則。
一是輔助性原則。生成式人工智能在原理上注定了其存在現(xiàn)有技術(shù)水平下難以彌合的固有缺陷，但由此引發(fā)的風(fēng)險并非是不可控的，通過適時的人工介入，在很大程度上可以有效降低系統(tǒng)運(yùn)行的風(fēng)險，因此要堅持“人在回路”?！叭嗽诨芈贰笔侵溉祟愖鳛樗惴Q策的把關(guān)者介入算法決策的具體應(yīng)用場景，承擔(dān)包括糾正算法錯誤、判斷是非、維護(hù)人類利益等在內(nèi)的多重任務(wù)。
在征信領(lǐng)域應(yīng)用生成式人工智能同樣應(yīng)當(dāng)堅持“人在回路”，明晰其工具定位、輔助定位，以人工復(fù)核的形式對決策結(jié)果作最終定論，通過人的在場確保人類理性、人類倫理、人類價值觀的在場，起到對決策內(nèi)容準(zhǔn)確性的擔(dān)保與監(jiān)管作用，避免算法歧視、數(shù)據(jù)偏見對征信對象合法權(quán)益造成侵害。
二是正當(dāng)程序原則。正當(dāng)程序主要包括事先告知、說明理由、公平公正、聽取陳述和申辯、提供救濟(jì)途徑幾個方面。生成式人工智能在信息的收集和處理上都存在透明度問題，容易損害信息主體的知情權(quán)，在涉及信用信息等敏感個人信息時存在嚴(yán)重的合規(guī)風(fēng)險。
對此，征信機(jī)構(gòu)在引入生成式人工智能輔助業(yè)務(wù)工作時，特別需要保障征信對象的知情權(quán)，應(yīng)當(dāng)告知征信對象可能被收集的個人信息類型、用途，并且需要根據(jù)我國《個人信息保護(hù)法》的相關(guān)規(guī)定，就自動化決策的存在作出說明，向征信對象提供自動化決策不針對其個人特征的選項(xiàng)，或者提供拒絕自動化決策的便捷途徑。
三是比例原則。在可預(yù)見的將來，生成式人工智能還不能夠很快實(shí)現(xiàn)決策過程完全透明、決策結(jié)果完全可解釋，但也并不意味著完全的不透明與完全的不可解釋。對此，應(yīng)當(dāng)堅持比例原則，實(shí)現(xiàn)合乎比例的風(fēng)險管理，確保目標(biāo)導(dǎo)向式的立法理念得到落實(shí)。
例如，對于征信對象權(quán)益潛在影響越大，則越應(yīng)當(dāng)追求生成式人工智能算法的成熟性，確保決策過程、決策結(jié)果具有與風(fēng)險程度相適宜的透明度及可解釋性；對于受制于技術(shù)水平限制而無法提高透明度與可解釋性的算法，則應(yīng)當(dāng)在保留應(yīng)用范圍與應(yīng)用程度的同時，增加人工介入的比例，避免因技術(shù)不成熟造成的損害。
征信業(yè)務(wù)涉及個人信息保護(hù)、數(shù)據(jù)安全、金融穩(wěn)定等多個方面，本身就具有跨部門監(jiān)管的特點(diǎn)。疊加生成式人工智能跨領(lǐng)域、跨行業(yè)應(yīng)用的發(fā)展趨勢，構(gòu)建跨部門協(xié)同治理機(jī)制更為緊迫，有利于整合資源，提高治理舉措的一致性和執(zhí)行力度。
我國曾于2023年制定發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》，在治理主體上涉及國家發(fā)展改革委、科技部、工信部等在內(nèi)的七個部門。然而，由于尚處于制度建設(shè)剛起步的早期階段，目前就如何有效協(xié)同治理生成式人工智能而言，仍然存在因部門之間責(zé)任劃分不清晰而“趨利避害”的隱患：對于存在困難的“壞事”可能相互扯皮，對于存在利益的“好事”則爭相管理，最終致使治理無法形成合力。
征信領(lǐng)域應(yīng)用生成式人工智能牽涉的部門更多，更容易出現(xiàn)“參與者越多，責(zé)任歸屬時越容易相互推諉”的“多手問題”（the problem of many hands）。為此，首先應(yīng)當(dāng)充分考慮到生成式人工智能在征信業(yè)務(wù)中的輔助性地位，建立以征信業(yè)監(jiān)督管理部門為核心機(jī)構(gòu)的統(tǒng)籌協(xié)調(diào)治理機(jī)制，明確各個部門的職責(zé)劃分。
其次，要建立橫跨多部門的信息共享機(jī)制，通過透明、實(shí)時的信息交互，消除“職責(zé)孤島”與“信息孤島”，避免多頭管理。再次，要加強(qiáng)建設(shè)問責(zé)機(jī)制和交流機(jī)制，一方面通過有力的問責(zé)避免“多手問題”出現(xiàn)，對于未能按照職責(zé)劃分造成管理混亂或矛盾的責(zé)任方給予相應(yīng)處罰，同時鼓勵積極主動配合，對協(xié)同成效顯著的部門予以獎勵；另一方面則通過增進(jìn)各部門間對彼此職能、業(yè)務(wù)特點(diǎn)和需求的理解，提升協(xié)同工作的默契度。
現(xiàn)代社會，私營部門不再只是被治理的對象，也是治理的主體。從規(guī)制理論來看，由私營部門參與的多元合作機(jī)制是對政府治理短板的必要補(bǔ)缺。
第一，開發(fā)者的參與能夠在專業(yè)知識上起到補(bǔ)足作用。政府部門雖然具備法規(guī)制定和執(zhí)行的能力，但往往在專業(yè)深度上對新興技術(shù)了解不足。相反，開發(fā)者作為生成式人工智能研發(fā)和應(yīng)用的主要力量，具有豐富的技術(shù)經(jīng)驗(yàn)和知識儲備。與開發(fā)者合作，能夠有效補(bǔ)足政府部門在專業(yè)知識與技術(shù)上的短板，幫助政府準(zhǔn)確理解技術(shù)現(xiàn)狀與發(fā)展趨勢，進(jìn)而把握潛在風(fēng)險，精準(zhǔn)施策。
第二，征信機(jī)構(gòu)的參與能夠在標(biāo)準(zhǔn)共建上起到引導(dǎo)作用。征信領(lǐng)域應(yīng)用生成式人工智能必須在各個環(huán)節(jié)都確保合法合規(guī)、安全可控。相對來說，長期從事征信業(yè)務(wù)的征信機(jī)構(gòu)在業(yè)務(wù)合規(guī)、風(fēng)險管控方面具有不可替代的經(jīng)驗(yàn)價值，能夠識別、評估各個環(huán)節(jié)的大致風(fēng)險，并熟悉相應(yīng)的防范措施。征信機(jī)構(gòu)的共同參與，有助于引導(dǎo)政府部門制定的行業(yè)標(biāo)準(zhǔn)與行為準(zhǔn)則更契合征信業(yè)的實(shí)際情況。
第三，征信對象的參與能夠在風(fēng)險識別上起到增強(qiáng)作用。無論現(xiàn)代治理體系多么完善、投入的力量如何之多，總是會缺乏一種必不可少、能夠有效發(fā)現(xiàn)并且阻止?jié)撛陲L(fēng)險的信息資源，而掌握這些信息資源的人，往往是風(fēng)險損害的當(dāng)事人。
在應(yīng)用生成式人工智能的情況下，無論是征信機(jī)構(gòu)在業(yè)務(wù)流程中設(shè)置便捷的異議機(jī)制，還是政府部門設(shè)置投訴舉報機(jī)制，都能夠借助征信對象的力量及時捕捉異常信息，起到增強(qiáng)風(fēng)險識別能力的作用。
監(jiān)管立場上，對征信領(lǐng)域應(yīng)用生成式人工智能進(jìn)行規(guī)制應(yīng)當(dāng)包容審慎，堅持原則性與靈活性相統(tǒng)一，既不能以靈活性損害原則性，又不能以原則性束縛靈活性。
所謂原則性，就是對風(fēng)險的審慎，需要以集中式治理的監(jiān)管理念，守住不發(fā)生系統(tǒng)性風(fēng)險的底線。盡管集中式監(jiān)管存在適應(yīng)性差、缺乏必要彈性等弊端，可能會給技術(shù)創(chuàng)新帶來限制，影響行業(yè)的進(jìn)步與發(fā)展，但其以治理結(jié)果為中心，強(qiáng)調(diào)秩序性、前瞻性防范與集中性、整體性治理的模式，能夠通過集中監(jiān)管權(quán)力來有效解決風(fēng)險應(yīng)對不集中、不及時等問題。
特別是對于征信這樣涉及個人敏感信息處理的重點(diǎn)領(lǐng)域來說，數(shù)據(jù)一旦被泄露或者非法使用都將造成不可挽回的后果，落實(shí)立法層面所確立的三項(xiàng)原則離不開強(qiáng)有力的監(jiān)管措施。強(qiáng)化征信領(lǐng)域應(yīng)用生成式人工智能在重點(diǎn)風(fēng)險方面的監(jiān)督及管理，有助于實(shí)現(xiàn)對風(fēng)險隱患強(qiáng)有力的整治，從而維護(hù)公共利益。
具體體現(xiàn)為有必要但有限度的監(jiān)管：一是制定征信領(lǐng)域應(yīng)用生成式人工智能的行業(yè)標(biāo)準(zhǔn)，通過設(shè)置準(zhǔn)入門檻，確保生成式人工智能具備最低程度的技術(shù)成熟度；二是在征信業(yè)監(jiān)督管理部門中，設(shè)立獨(dú)立的人工智能監(jiān)管機(jī)構(gòu)，對生成式人工智能在征信領(lǐng)域的應(yīng)用情況以及相應(yīng)算法進(jìn)行備案，在必要時予以審查；三是設(shè)立問責(zé)制，通過要求定期公開使用情況、報告風(fēng)控措施等方式，確保征信機(jī)構(gòu)實(shí)現(xiàn)盡力合規(guī)。
所謂靈活性，則是對創(chuàng)新的包容，需要以回應(yīng)式治理的監(jiān)管理念，應(yīng)對技術(shù)發(fā)展帶來的不確定性?；貞?yīng)式治理通過建立一種靈活適應(yīng)、包容可持續(xù)的協(xié)調(diào)機(jī)制，鼓勵企業(yè)主動承擔(dān)安全責(zé)任，避免政府過度干預(yù)而對發(fā)展造成阻礙，能夠充分顧及技術(shù)與業(yè)務(wù)模式的創(chuàng)新需要，克服集中式治理的僵化與不適應(yīng)。
對于征信這樣業(yè)態(tài)與模式多樣的領(lǐng)域來說，包容、互信、開放的監(jiān)管環(huán)境有利于進(jìn)一步推動行業(yè)整體對數(shù)據(jù)資源的高效利用和良性開發(fā)。具體體現(xiàn)為有限度且靈活的監(jiān)管，在監(jiān)管機(jī)構(gòu)適度發(fā)揮他律性作用的同時，注重引導(dǎo)被監(jiān)管對象發(fā)揮自律性作用，兼顧預(yù)防與應(yīng)對。
就預(yù)防方面而言，在滿足行業(yè)最低標(biāo)準(zhǔn)的前提下，監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)鼓勵征信機(jī)構(gòu)根據(jù)自身經(jīng)營范圍、業(yè)務(wù)規(guī)模等自身實(shí)際情況，詳盡梳理應(yīng)用生成式人工智能在信息收集、處理、輸出、存儲等各環(huán)節(jié)所面臨的可能安全威脅，在此基礎(chǔ)上建立周全的風(fēng)險評估分析機(jī)制；就應(yīng)對方面而言，監(jiān)管機(jī)構(gòu)應(yīng)當(dāng)積極推動征信行業(yè)內(nèi)、征信機(jī)構(gòu)與人工智能開發(fā)者之間建立快速、協(xié)調(diào)的應(yīng)急響應(yīng)機(jī)制，有效控制業(yè)已發(fā)生的危害后果，最小化安全事件所波及的影響范圍。
我國《生成式人工智能服務(wù)管理暫行辦法》第3條初步規(guī)定了分類分級的監(jiān)管方式。不過，這一規(guī)定十分模糊和籠統(tǒng)，僅僅以“原則”的形式進(jìn)行闡述，尚待進(jìn)一步細(xì)化。由于不同領(lǐng)域、不同場景、不同環(huán)節(jié)應(yīng)用生成式人工智能所面臨的風(fēng)險在類型與程度上均不可一概而論，因此有必要就如何在征信領(lǐng)域應(yīng)用生成式人工智能作分類分級監(jiān)管進(jìn)行專門討論。需要注意的是，盡管分類與分級具有一定的交叉和相似之處，但仍然應(yīng)當(dāng)視作兩個不一樣的具體標(biāo)準(zhǔn)，對其予以明確界分。
首先，應(yīng)當(dāng)根據(jù)生成式人工智能的應(yīng)用場景進(jìn)行分類，其目的在于通過明確行為性質(zhì)、劃定處理邊界來定位風(fēng)險的歸屬，為進(jìn)一步的分級奠定基礎(chǔ)。根據(jù)應(yīng)用場景的不同，可以將征信領(lǐng)域?qū)ι墒饺斯ぶ悄艿膽?yīng)用類型區(qū)分為三大類：
一是基礎(chǔ)模型類，即對個人或企業(yè)信用歷史、信用數(shù)據(jù)等原始信息進(jìn)行處理和學(xué)習(xí)的底層模型，以及在此基礎(chǔ)上構(gòu)建的信用評分系統(tǒng)；二是決策輔助類，例如在信貸審批流程中，生成針對特定申請人的綜合信用報告或者提供貸款決策建議的人工智能系統(tǒng)；三是風(fēng)險監(jiān)測類，如通過實(shí)時監(jiān)測交易行為，從而識別潛在欺詐或異常交易模式、預(yù)測違約風(fēng)險的系統(tǒng)。
其次，應(yīng)當(dāng)根據(jù)信息的重要性進(jìn)行分級，其目的在于確定數(shù)據(jù)泄露或不當(dāng)使用的可能風(fēng)險程度，以此決定實(shí)施管理措施的力度和類別，實(shí)現(xiàn)差異化安全防護(hù)。
具體可以參考?xì)W盟《人工智能法案》中的風(fēng)險定級，根據(jù)風(fēng)險程度將監(jiān)管從低到高分為三個等級：
一級監(jiān)管主要針對非敏感、非核心征信服務(wù)等較低程度的風(fēng)險，如表格材料或客戶服務(wù)等文本的自動化生成，這類應(yīng)用風(fēng)險相對較低，因而監(jiān)管重點(diǎn)在于保證內(nèi)容準(zhǔn)確性；二級監(jiān)管主要針對中等程度的風(fēng)險，相對重要但不直接影響信用評估的決策環(huán)節(jié)，例如部分自動化評估結(jié)果、信用報告的生成，監(jiān)管重點(diǎn)在于確保數(shù)據(jù)源合法合規(guī)、生成過程可追溯、結(jié)果公正無誤；三級監(jiān)管主要針對較高程度的風(fēng)險，通常會直接影響信用評估決策的核心服務(wù)，例如高度自動化的信用評級和授信決策模型，監(jiān)管層面需要對其模型算法、公平性和歧視性審查、數(shù)據(jù)安全和隱私保護(hù)等方面提出更為嚴(yán)格的審核要求。
在具體措施上，可采用包括但不限于信息披露、算法備案、算法審查和監(jiān)管沙箱等不同力度的工具，實(shí)現(xiàn)覆蓋事前、事中、事后全流程的分類分級監(jiān)管。舉例來說，對于風(fēng)險程度較低的一級監(jiān)管，可能要求征信機(jī)構(gòu)就生成式人工智能的應(yīng)用作出說明或標(biāo)識即可；對于風(fēng)險程度較高的三級監(jiān)管，則可能需要在正式投入使用前在監(jiān)管沙箱受控的環(huán)境下進(jìn)行測試。還應(yīng)當(dāng)認(rèn)識到的是，由于風(fēng)險本身的動態(tài)變化，分類分級的監(jiān)管方式自身同樣需要被不斷地審查與調(diào)整，使之具備能夠動態(tài)適應(yīng)實(shí)時變化的“可延展性”，實(shí)現(xiàn)生成式人工智能應(yīng)用監(jiān)督管理體系的持續(xù)優(yōu)化和迭代升級。
2024年3月，聯(lián)合國大會通過了全球首個關(guān)于監(jiān)管人工智能的決議《抓住安全、可靠和值得信賴的人工智能系統(tǒng)帶來的機(jī)遇，促進(jìn)可持續(xù)發(fā)展》。
決議表示，各國認(rèn)識到“人工智能系統(tǒng)的設(shè)計、開發(fā)、部署和使用速度加快，技術(shù)變革日新月異，對加快實(shí)現(xiàn)可持續(xù)發(fā)展目標(biāo)具有潛在影響”，為此呼吁抓住“安全、可靠和值得信賴的”人工智能系統(tǒng)帶來的機(jī)遇，讓人工智能給人類帶來“惠益”，并以此促進(jìn)可持續(xù)發(fā)展。
毫無疑問，生成式人工智能憑借強(qiáng)大的學(xué)習(xí)能力、關(guān)聯(lián)分析能力與結(jié)果輸出能力，為征信領(lǐng)域未來的高質(zhì)量發(fā)展注入了革故鼎新的技術(shù)潛力，但也對現(xiàn)有的規(guī)制體系造成了不小沖擊。為此，亟須通過切實(shí)有效的治理對策，對創(chuàng)新發(fā)展與風(fēng)險防范的現(xiàn)實(shí)需要作出同步回應(yīng)。
不可否認(rèn)的是，從長遠(yuǎn)來看，無論是征信行業(yè)本身，還是生成式人工智能自身的安全風(fēng)險治理，都不能安于現(xiàn)狀，在推動業(yè)務(wù)創(chuàng)新、技術(shù)發(fā)展的同時更需要推動治理模式的創(chuàng)新與發(fā)展。概言之，征信領(lǐng)域?qū)ι墒饺斯ぶ悄艿膽?yīng)用需聚焦于數(shù)據(jù)安全、模型公平性、業(yè)務(wù)連續(xù)性以及征信對象的合法權(quán)益，在確保技術(shù)進(jìn)步的同時有效防范系統(tǒng)性風(fēng)險。唯有如此，才能夠與時俱進(jìn)地引導(dǎo)創(chuàng)新向善、科技向善，共同推動行業(yè)整體的健康有序發(fā)展。
