當(dāng)前，以ChatGPT為代表的生成式人工智能已具備學(xué)習(xí)和內(nèi)容輸出能力，這使得人工智能在眾多產(chǎn)業(yè)領(lǐng)域開(kāi)始發(fā)揮重要賦能作用。在今年1月9日至12日舉辦的國(guó)際消費(fèi)電子展上，大眾汽車(chē)宣布將在旗下的ID系列車(chē)型上搭載自然語(yǔ)言處理模型ChatGPT。大眾汽車(chē)表示，搭載ChatGPT的語(yǔ)音助手IDA（一款專(zhuān)業(yè)的靜態(tài)反編譯軟件）的人工智能App，不僅可以處理車(chē)輛的特定信息以滿(mǎn)足用戶(hù)更具體的要求，如控制車(chē)內(nèi)娛樂(lè)、導(dǎo)航和空調(diào)系統(tǒng)，還可以幫助用戶(hù)隨時(shí)上線使用ChatGPT的人工智能數(shù)據(jù)庫(kù)，調(diào)取有用信息。

生成式人工智能在實(shí)體產(chǎn)業(yè)領(lǐng)域的融合應(yīng)用是一把“雙刃劍”。一方面，推動(dòng)智能技術(shù)縱深發(fā)展，同時(shí)也給法律和監(jiān)管帶來(lái)挑戰(zhàn)；另一方面，將促進(jìn)涉生成式人工智能法律不斷進(jìn)步和完善，保證技術(shù)向善發(fā)展。目前，生成式人工智能的監(jiān)管具有一定難度：其一，生成式人工智能技術(shù)快速迭代，需要及時(shí)應(yīng)對(duì)風(fēng)險(xiǎn)。其二，生成式人工智能通過(guò)海量數(shù)據(jù)投喂，其參數(shù)具有千億級(jí)別規(guī)模，這決定了其底層構(gòu)架的復(fù)雜性和難解釋性，需要監(jiān)管機(jī)構(gòu)引入技術(shù)監(jiān)管模式，精準(zhǔn)甄別風(fēng)險(xiǎn)。其三，生成式人工智能的應(yīng)用具有跨學(xué)科、跨行業(yè)、跨領(lǐng)域的特點(diǎn)，這增加了監(jiān)管的難度，需要培訓(xùn)或者引入多學(xué)科專(zhuān)業(yè)人才，全面判斷風(fēng)險(xiǎn)。

大眾汽車(chē)對(duì)ChatGPT的應(yīng)用，給數(shù)字技術(shù)領(lǐng)域監(jiān)管提出了更具體的法律問(wèn)題。

此次搭載人工智能App的第一個(gè)風(fēng)險(xiǎn)是數(shù)據(jù)風(fēng)險(xiǎn)。用戶(hù)在注冊(cè)App時(shí)通常被要求填寫(xiě)眾多個(gè)人信息，其車(chē)輛數(shù)據(jù)如行車(chē)軌跡、車(chē)輛性能等信息也將被收集，這些獲取信息和數(shù)據(jù)的行為如果未經(jīng)授權(quán)可能侵害用戶(hù)隱私。當(dāng)然，搭載ChatGPT前，大眾汽車(chē)也注意到了可能出現(xiàn)的數(shù)據(jù)風(fēng)險(xiǎn)，并擬借助技術(shù)提供方賽輪思公司的幫助推行技術(shù)合規(guī)，以保護(hù)用戶(hù)的隱私及其他信息。首先，用戶(hù)在使用ChatGPT時(shí)不需要注冊(cè)賬戶(hù)或安裝新的應(yīng)用程序，僅通過(guò)與汽車(chē)搭載的語(yǔ)音助手對(duì)話即可使用，這可以降低操作難度、節(jié)省時(shí)間，且無(wú)需用戶(hù)提供個(gè)人信息。其次，賽輪思公司在設(shè)計(jì)和開(kāi)發(fā)語(yǔ)音助手時(shí)，采取數(shù)據(jù)隔離措施，確保ChatGPT無(wú)法訪問(wèn)或存儲(chǔ)任何與車(chē)輛相關(guān)的數(shù)據(jù)。最后，按照大眾汽車(chē)的說(shuō)法，用戶(hù)與語(yǔ)音助手的對(duì)話會(huì)“立即刪除，以確保最高級(jí)別的數(shù)據(jù)保護(hù)”，可以保證用戶(hù)信息不被存儲(chǔ)或者遭到非法利用，這有利于保護(hù)用戶(hù)隱私。

搭載人工智能App的第二個(gè)風(fēng)險(xiǎn)是決策風(fēng)險(xiǎn)。自然語(yǔ)言模型本質(zhì)上是對(duì)訓(xùn)練數(shù)據(jù)的再現(xiàn)和重組，如果用戶(hù)的提問(wèn)超出其訓(xùn)練數(shù)據(jù)的內(nèi)容范圍，ChatGPT不知道如何回答時(shí)，就會(huì)生成虛假信息，誤導(dǎo)用戶(hù)決策。隨著ChatGPT自主學(xué)習(xí)能力的不斷增強(qiáng)，其可能生成超出設(shè)計(jì)者預(yù)期的內(nèi)容，并引導(dǎo)用戶(hù)作出有風(fēng)險(xiǎn)的決策。同時(shí)，由于訓(xùn)練數(shù)據(jù)自身的偏向性可能產(chǎn)生歧視性?xún)?nèi)容。生成式人工智能還可能會(huì)遭受黑客攻擊，導(dǎo)致語(yǔ)音助手失靈或者輸出有風(fēng)險(xiǎn)的內(nèi)容，給用戶(hù)帶來(lái)?yè)p害。要降低基于ChatGPT自身技術(shù)帶來(lái)的上述風(fēng)險(xiǎn)需要各方主體共同努力，形成多元協(xié)同合規(guī)和監(jiān)管體系。其一，開(kāi)發(fā)公司在訓(xùn)練生成式人工智能時(shí)，應(yīng)進(jìn)行培訓(xùn)數(shù)據(jù)評(píng)估、算法模型評(píng)估和生成式內(nèi)容評(píng)估，并向主管部門(mén)提交安全評(píng)估報(bào)告。一是，識(shí)別數(shù)據(jù)的類(lèi)型、規(guī)模和分布等基本信息，要重點(diǎn)關(guān)注可能影響國(guó)家安全、公共利益或個(gè)人和組織合法權(quán)益的數(shù)據(jù)安全問(wèn)題和風(fēng)險(xiǎn)。二是，識(shí)別算法歧視、算法缺陷（安全漏洞）和算法攻擊（后門(mén)攻擊/數(shù)據(jù)中毒）等問(wèn)題。三是，從意識(shí)形態(tài)安全、虛假信息管理、個(gè)人權(quán)利保護(hù)、市場(chǎng)公平競(jìng)爭(zhēng)和知識(shí)產(chǎn)權(quán)保護(hù)等方面對(duì)生成內(nèi)容進(jìn)行評(píng)估。四是，在保護(hù)其核心技術(shù)的前提下公開(kāi)技術(shù)的底層邏輯和算法程序，用以對(duì)外提示風(fēng)險(xiǎn)，并作為其未來(lái)進(jìn)行責(zé)任承擔(dān)的依據(jù)。其二，像這樣的技術(shù)應(yīng)用公司應(yīng)進(jìn)行充分的實(shí)驗(yàn)以發(fā)掘可能出現(xiàn)的所有風(fēng)險(xiǎn)，評(píng)估生成式人工智能在提供服務(wù)時(shí)可能對(duì)用戶(hù)、社會(huì)及應(yīng)用者造成的安全風(fēng)險(xiǎn)，并將這些風(fēng)險(xiǎn)明確列舉，以通俗易懂的書(shū)面方式向用戶(hù)告知，并向用戶(hù)解釋生成式人工智能的基本原理、目的意圖和主要運(yùn)行機(jī)制，形成記錄文檔，并及時(shí)更新。設(shè)計(jì)針對(duì)生成式人工智能提供服務(wù)的安全應(yīng)急處置機(jī)制，使人工智能出現(xiàn)安全意外時(shí)服務(wù)可被人工中斷。應(yīng)在服務(wù)中采取措施保護(hù)模型參數(shù)等數(shù)據(jù)，防止黑客攻擊。設(shè)置便捷有效的用戶(hù)申訴和公共投訴、舉報(bào)入口，并及時(shí)響應(yīng)、及時(shí)處理、及時(shí)反饋關(guān)于生成式人工智能公平性、決策透明性等方面的問(wèn)題，并如實(shí)記錄。其三，建立由人工智能主管部門(mén)、產(chǎn)業(yè)協(xié)會(huì)、民間團(tuán)體、學(xué)術(shù)研究機(jī)構(gòu)和公民代表組成人工智能應(yīng)用監(jiān)管委員會(huì)，各利益相關(guān)者與技術(shù)開(kāi)發(fā)公司和使用公司共同制定符合技術(shù)現(xiàn)實(shí)又具有前瞻性及關(guān)照各方利益的監(jiān)管標(biāo)準(zhǔn)和政策，確保監(jiān)管的及時(shí)性、全面性和公正性。

搭載人工智能App的第三個(gè)風(fēng)險(xiǎn)是法律責(zé)任分配風(fēng)險(xiǎn)。當(dāng)人工智能導(dǎo)致數(shù)據(jù)泄露、人員傷亡、財(cái)產(chǎn)損失等事件時(shí)，其致人損害的責(zé)任承擔(dān)突破了傳統(tǒng)的“行為—責(zé)任”邏輯，對(duì)既有侵權(quán)制度提出挑戰(zhàn)，其原因在于，一方面，人工智能缺乏法律主體地位，難以將其“行為”引發(fā)的損害后果歸于它；另一方面，人工智能決策可能會(huì)超出技術(shù)開(kāi)發(fā)公司和使用公司當(dāng)初的預(yù)期，難以將其“行為”引發(fā)的損害后果歸于技術(shù)開(kāi)發(fā)公司和使用公司。因此，應(yīng)在傳統(tǒng)侵權(quán)責(zé)任之外確立新的損害結(jié)果責(zé)任分配規(guī)則，且通過(guò)建立人工智能責(zé)任保險(xiǎn)制度等，以救濟(jì)受害者。

（來(lái)源：民主與法制時(shí)報(bào)）