計(jì)算基礎(chǔ)工程 7

21世紀(jì)高等學(xué)校計(jì)算機(jī)類課程創(chuàng)新系列教材計(jì)算機(jī)工程倫理（微課視頻版）第七章人工智能倫理0102030421世紀(jì)高等學(xué)校計(jì)算機(jī)類課程創(chuàng)新系列教材人工智能倫理人工智能系統(tǒng)的算法偏見人工智能造假無人駕駛系統(tǒng)的法律責(zé)任05機(jī)器人的“人權(quán)”與道德PART.

01人工智能倫理7.1人工智能倫理【

引導(dǎo)案例】2018年3月，美國(guó)Uber自動(dòng)駕駛汽車在亞利桑那州坦佩市撞死一名橫穿馬路的行人。當(dāng)時(shí)車輛以64公里時(shí)速超速行駛，處于自動(dòng)駕駛狀態(tài)，安全員卻在玩手機(jī)，車輛未剎車。這是全球首例自動(dòng)駕駛汽車撞死行人的事故。責(zé)任認(rèn)定復(fù)雜：安全員分心駕駛是直接原因，但自動(dòng)駕駛技術(shù)在復(fù)雜路況下的可靠性、監(jiān)管漏洞以及行人的違規(guī)行為也引發(fā)討論。2016年，微軟推出聊天機(jī)器人Tay，它能通過與用戶互動(dòng)學(xué)習(xí)并提供回復(fù)。然而，Tay在與偏激用戶交流后，開始發(fā)布帶有性別歧視和種族歧視的言論，僅上線一天就被緊急休眠，至今未重啟。這凸顯了人工智能在內(nèi)容審核和價(jià)值觀引導(dǎo)方面的風(fēng)險(xiǎn)。2022年，OpenAI推出ChatGPT，能通過學(xué)習(xí)人類語言進(jìn)行對(duì)話，并完成撰寫郵件、文案、翻譯、代碼、論文等任務(wù)。其高效能力引發(fā)“飯碗焦慮”，許多人擔(dān)心大量工作將被人工智能取代。ChatGPT的出現(xiàn)也引發(fā)了對(duì)人工智能倫理、版權(quán)和教育公平等問題的深入思考。7.1.1人工智能的產(chǎn)生與發(fā)展三次浪潮

人工智能（AI）由約翰·麥卡錫于1955年提出，經(jīng)歷了三次浪潮。第一次浪潮是20世紀(jì)50年代末至80年代初，第二次浪潮是20世紀(jì)80年代初至20世紀(jì)末。前兩次浪潮因技術(shù)未實(shí)現(xiàn)突破，應(yīng)用效果不佳，商業(yè)化受阻，最終歸于沉寂。2006年深度學(xué)習(xí)模型的提出成為轉(zhuǎn)折點(diǎn)，隨著信息技術(shù)和互聯(lián)網(wǎng)的發(fā)展，人工智能迎來第三次高速成長(zhǎng)，至今仍在持續(xù)發(fā)展。7.1.1人工智能的產(chǎn)生與發(fā)展新一代人工智能的發(fā)展的五大特征01大數(shù)據(jù)成為人工智能持續(xù)快速發(fā)展的基石新一代信息技術(shù)推動(dòng)計(jì)算和數(shù)據(jù)處理能力大幅提升，機(jī)器學(xué)習(xí)算法快速演進(jìn)。與早期基于推理的人工智能不同，新一代人工智能由大數(shù)據(jù)驅(qū)動(dòng)，具有高度自主性。AlphaGo輸入30萬張棋譜并自我對(duì)弈后，棋力媲美頂尖棋手。智能終端和傳感器普及使海量數(shù)據(jù)累積，為人工智能發(fā)展提供強(qiáng)大動(dòng)力。文本、圖像、語音等信息實(shí)現(xiàn)跨媒體交互計(jì)算機(jī)圖像識(shí)別、語音識(shí)別和自然語言處理技術(shù)取得明顯進(jìn)步，成功應(yīng)用于無人駕駛、智能搜索等行業(yè)。互聯(lián)網(wǎng)和智能終端發(fā)展使多媒體數(shù)據(jù)爆炸式增長(zhǎng)，實(shí)現(xiàn)跨媒體交互，推動(dòng)智能化搜索和個(gè)性化推薦。未來人工智能將向人類智能靠近，實(shí)現(xiàn)多種功能。基于網(wǎng)絡(luò)的群體智能技術(shù)開始萌芽隨著互聯(lián)網(wǎng)、云計(jì)算等技術(shù)普及，大數(shù)據(jù)累積，深度學(xué)習(xí)及強(qiáng)化學(xué)習(xí)算法優(yōu)化，人工智能研究從單個(gè)智能體向多智能體協(xié)同的群體智能轉(zhuǎn)變。群體智能具有去中心化、自愈性強(qiáng)、信息共享高效等優(yōu)點(diǎn)，相關(guān)技術(shù)成為熱點(diǎn)。例如，我國(guó)2017年實(shí)現(xiàn)119架無人機(jī)集群飛行。0302自主智能系統(tǒng)成為新興發(fā)展方向04長(zhǎng)期以來，人工智能結(jié)合仿生學(xué)研究，如機(jī)器騾、人形機(jī)器人等，但因技術(shù)與場(chǎng)景限制，大規(guī)模應(yīng)用未突破。如今，生產(chǎn)制造智能化升級(jí)需求凸顯，嵌入智能系統(tǒng)改造機(jī)械設(shè)備成為務(wù)實(shí)選擇，也是多國(guó)戰(zhàn)略核心，自主智能系統(tǒng)成為重要發(fā)展方向。7.1.2人工智能倫理概述1.人工智能道德算法道德算法的定義與重要性

人工智能道德算法的研究主要是指那些在道德上可接受的算法或合乎倫理的算法，他們使自主系統(tǒng)的決策具有極高的可靠性和安全性。人類的道德推理能力源于先天稟賦和后天學(xué)習(xí)。道德決策是在具體場(chǎng)景中展現(xiàn)的道德推理能力，可能穩(wěn)定也可能不穩(wěn)定。人工智能的道德推理能力是通過將特定群體認(rèn)可的價(jià)值觀和道德標(biāo)準(zhǔn)程序化為道德代碼嵌入智能系統(tǒng)實(shí)現(xiàn)的，但這種能力不能保證其在復(fù)雜多變的場(chǎng)景中做出合理道德決策。智能系統(tǒng)還會(huì)通過學(xué)習(xí)算法進(jìn)行道德訓(xùn)練，以具備類人的道德推理能力。道德算法的挑戰(zhàn)

機(jī)器的道德學(xué)習(xí)嚴(yán)重依賴于訓(xùn)練數(shù)據(jù)樣本和特征值的輸入，不穩(wěn)定的對(duì)抗樣本重復(fù)出現(xiàn)可能會(huì)導(dǎo)致智能機(jī)器被誤導(dǎo)做出錯(cuò)誤的決策。而且，算法的黑箱特征使道德算法的決策邏輯，缺乏透明性和可解釋性。另外，道德學(xué)習(xí)還會(huì)受到使用者價(jià)值偏好和道德場(chǎng)景的影響，做出與使用者理性狀態(tài)下相反的道德判斷。從這個(gè)意義上講，人工智能既有可能學(xué)好，也有可能學(xué)壞。7.1.2人工智能倫理概述2.人工智能設(shè)計(jì)倫理0102明確價(jià)值定位

一方面，設(shè)計(jì)和研發(fā)某種人工智能產(chǎn)品及服務(wù)之前，設(shè)計(jì)者和制造商要有明確的價(jià)值定位，能夠?qū)ζ渌a(chǎn)生的能力和社會(huì)影響有總體的預(yù)判內(nèi)置糾偏機(jī)制

另一方面，人工智能在為消費(fèi)者提供服務(wù)的過程中，如果出現(xiàn)價(jià)值偏差，系統(tǒng)內(nèi)置的糾偏機(jī)制能夠有效防范危害繼續(xù)發(fā)生，防止危險(xiǎn)的發(fā)生。例如，數(shù)據(jù)挖掘技術(shù)可能將隱藏在數(shù)據(jù)中的偏見或歧視揭示出來并運(yùn)用于決策中，但機(jī)器自身很難像人類一樣自覺抵制一些個(gè)人偏見或歧視，這時(shí)就需要通過技術(shù)手段和社會(huì)手段聯(lián)合消除這種偏見和歧視。7.1.2人工智能倫理概述3.人工智能社會(huì)倫理

人工智能社會(huì)倫理關(guān)注技術(shù)研發(fā)、設(shè)計(jì)與應(yīng)用的合理性邊界，以權(quán)利義務(wù)關(guān)系為核心，涵蓋道德規(guī)范、價(jià)值精神、社會(huì)條件、交往方式、結(jié)構(gòu)體制合理性等內(nèi)容。其研究焦點(diǎn)在于避免技術(shù)革命帶來的新差距，讓更多人受益，解決“人工智能鴻溝”問題。同時(shí)，人工智能系統(tǒng)對(duì)數(shù)據(jù)的無限需求涉及個(gè)人信息安全與隱私權(quán)問題，需更新隱私政策、知情同意條款和數(shù)據(jù)共享方式，以應(yīng)對(duì)倫理風(fēng)險(xiǎn)。

善用和阻止惡用人工智能是社會(huì)倫理研究的關(guān)鍵，落腳點(diǎn)在于優(yōu)化人機(jī)合作關(guān)系，建立相互適應(yīng)和信任的機(jī)制，使人工智能輔助生產(chǎn)和生活。近年來，多國(guó)發(fā)布人工智能戰(zhàn)略報(bào)告，推動(dòng)產(chǎn)業(yè)發(fā)展。我國(guó)2017年發(fā)布《新一代人工智能發(fā)展規(guī)劃》，將倫理法律研究列為重點(diǎn)任務(wù)，提出三步走戰(zhàn)略目標(biāo)：到2020年初步建立部分領(lǐng)域倫理規(guī)范和政策法規(guī)；到2025年建立初步的法律法規(guī)、倫理規(guī)范和政策體系；到2030年建成更加完善的體系。規(guī)劃指出，人工智能將深刻改變社會(huì)生活，但也可能帶來就業(yè)結(jié)構(gòu)改變、法律倫理沖擊、隱私侵犯、國(guó)際關(guān)系挑戰(zhàn)等問題，需加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，確保其安全、可靠、可控發(fā)展。7.1.3人工智能倫理風(fēng)險(xiǎn)評(píng)估【

案例7-1】威脅用戶隱私安全

2022年，詐騙分子通過冒充執(zhí)法人員，通過“李鬼”APP獲取交通銀行6名儲(chǔ)戶的個(gè)人信息和人臉影像，再誘騙他們將錢存入交通銀行儲(chǔ)蓄卡，使用假人臉通過了銀行“人臉識(shí)別”系統(tǒng)，并竊取資金超過200萬。銀行系統(tǒng)后臺(tái)顯示，詐騙分子在進(jìn)行密碼重置和大額轉(zhuǎn)賬時(shí)進(jìn)行了6次人臉識(shí)別比對(duì)，均顯示“活檢成功”。

分析：人臉識(shí)別是人工智能領(lǐng)域最常見的技術(shù)之一。目前，常見的網(wǎng)絡(luò)傳輸與加密協(xié)議無法與人臉數(shù)據(jù)的安全級(jí)別與敏感程度相匹配，人臉識(shí)別應(yīng)用的數(shù)據(jù)存儲(chǔ)和傳輸流程均有可能被劫持，存在嚴(yán)重的安全風(fēng)險(xiǎn)。加之當(dāng)前數(shù)據(jù)爬蟲、網(wǎng)絡(luò)入侵、數(shù)據(jù)泄露等已成為互聯(lián)網(wǎng)中的常態(tài)，收集人臉數(shù)據(jù)的企業(yè)完全有可能主動(dòng)或被迫在未經(jīng)用戶授權(quán)或超出用戶許可的范圍下，對(duì)用戶面部數(shù)據(jù)進(jìn)行采集、使用、流轉(zhuǎn)等非法操作。一旦人臉特征信息被不法分子截獲，攻破用戶自己使用的人臉識(shí)別服務(wù)并獲取用戶本人才具有的敏感權(quán)限（如金融交易、人臉門禁、手機(jī)解鎖等）可謂輕而易舉。更嚴(yán)重地，將該人臉數(shù)據(jù)結(jié)合深度合成技術(shù)，被不法分子用于偽造具有人格詆毀性質(zhì)的多媒體內(nèi)容，或捏造音頻、視頻片段，惡意侮辱、誹謗、丑化他人，勢(shì)必對(duì)受害者造成極大的人格侮辱與內(nèi)心創(chuàng)傷，并產(chǎn)生非常惡劣的社會(huì)影響。7.1.3人工智能倫理風(fēng)險(xiǎn)評(píng)估【

案例7-2】侵犯用戶生命財(cái)產(chǎn)等合法權(quán)益

2015年2月，英國(guó)首例機(jī)器人心瓣修復(fù)手術(shù)進(jìn)行。原本是一場(chǎng)最尖端醫(yī)療AI技術(shù)的展示，沒想到卻成了一場(chǎng)鮮血四濺的慘案。手術(shù)期間，機(jī)器人控制臺(tái)傳輸信號(hào)聲音小而且質(zhì)量不佳，主刀醫(yī)生和助手幾乎聽不到對(duì)方聲音，兩人只能扯著嗓門大喊。手術(shù)過程中，“達(dá)芬奇”對(duì)病人心臟的縫合位置和方式都不對(duì)，導(dǎo)致醫(yī)生浪費(fèi)了很長(zhǎng)時(shí)間拆除縫線重新縫合。更為意外的是，患者主動(dòng)脈竟然被機(jī)器人戳破，血噴到機(jī)器人攝像頭上。慌亂的醫(yī)生只得向場(chǎng)外專家求助，但兩位專家以為醫(yī)生不需要幫助，便提早離開。最后醫(yī)生不得不拋棄機(jī)器人操作，開始手動(dòng)進(jìn)行胸部手術(shù)修復(fù)縫合，但患者心臟功能“非常糟糕”，最后死于多器官衰竭。

分析：上述案例中，即便在醫(yī)生操作下出現(xiàn)毫厘的差錯(cuò)，都會(huì)直接導(dǎo)致手術(shù)失敗與患者死亡。而此時(shí)無論是患者還是醫(yī)生都無法獲知該差錯(cuò)是現(xiàn)場(chǎng)操縱機(jī)器人的醫(yī)生的“直接人為錯(cuò)誤”，還是由機(jī)器人制造商或算法提供商造成的“間接人為錯(cuò)誤”，也可能是由外部個(gè)人或組織主觀惡意的物理攻擊、遠(yuǎn)程干擾，或者電力、數(shù)據(jù)傳輸中斷造成的意外事故，甚至醫(yī)生與供應(yīng)商、制造商都沒有出錯(cuò)，只是人工智能算法黑盒特性或自主意識(shí)決策下的“機(jī)器錯(cuò)誤”、患者安全無法得到切實(shí)的保障。人工智能在為眾多患者帶來福音的同時(shí)，也面臨著技術(shù)安全、責(zé)任認(rèn)定等倫理風(fēng)險(xiǎn)與挑戰(zhàn)，當(dāng)人工智能嚴(yán)重侵犯人類的生命權(quán)、身體權(quán)或健康權(quán)時(shí)，責(zé)任主體是難以認(rèn)定的。7.1.3人工智能倫理風(fēng)險(xiǎn)評(píng)估【

案例7-3】動(dòng)搖人類感知及思維能力的自主性

智能導(dǎo)航技術(shù)極大地增強(qiáng)了人們的路況感知能力，能夠規(guī)劃最優(yōu)路線并提供及時(shí)的路況提示，解決了許多駕駛中的難題。然而，英國(guó)uS網(wǎng)站的調(diào)查顯示，78%的駕駛員使用智能導(dǎo)航，其中超半數(shù)完全依賴導(dǎo)航提示，甚至忽視路上的限速標(biāo)志。這種過度依賴不僅改變了傳統(tǒng)因紐特人對(duì)環(huán)境的感知方式，弱化了他們的天然找路能力，還可能引發(fā)安全問題，如沖出道路末端。目前，智能導(dǎo)航的設(shè)計(jì)者和制造者大多只注重產(chǎn)品的強(qiáng)大功能，以吸引消費(fèi)者，卻沒有針對(duì)過度依賴的負(fù)面影響采取預(yù)防措施，如為人自身感知能力保留空間或在產(chǎn)品說明中做出顯要提示，這無疑是一種倫理責(zé)任的缺失。

分析：在新一代人工智能的發(fā)展中，人們?cè)絹碓蕉嗟貙⑺季S決策交給偏重邏輯思維的人工智能算法來完成。這種算法雖然能按照規(guī)則進(jìn)行客觀判斷，但容易忽視事物之間的有機(jī)聯(lián)系，無法像人類那樣通過直覺思維獲得整體把握和綜合判斷。因此，人工智能對(duì)人類思維能力的過度替代，可能會(huì)減少直覺思維發(fā)揮作用的機(jī)會(huì)，進(jìn)而阻礙邏輯思維的提升，妨礙人類的想象力和創(chuàng)造力。由此可見，人工智能在邏輯思維方面的發(fā)展及其對(duì)人類思維能力的替代，必須重視人類直覺思維的價(jià)值。要保證人工智能技術(shù)的健康發(fā)展，避免違背“以人為本”的倫理原則，就必須控制邏輯思維與直覺思維失衡的不良后果，承擔(dān)起相應(yīng)的倫理責(zé)任。7.1.3人工智能倫理風(fēng)險(xiǎn)評(píng)估【

案例7-4】動(dòng)搖勞動(dòng)主體的相關(guān)權(quán)利

2022年11月30日，一款由美國(guó)OpenAI研發(fā)名為ChatGPT（全名：ChatGenerativePre-trainedTransformer）的聊天機(jī)器人程序問世，上線僅兩個(gè)月全球活躍用戶破億。該軟件能夠通過理解和學(xué)習(xí)人類的語言來進(jìn)行對(duì)話，還能根據(jù)聊天的上下文進(jìn)行互動(dòng)，真正像人類一樣來聊天交流，甚至能完成撰寫郵件、視頻腳本、文案、翻譯、代碼，寫論文等任務(wù)。谷歌面試官發(fā)現(xiàn)ChatGPT能通過年薪18萬美元工程師招聘考試；北密歇根大學(xué)教授發(fā)現(xiàn)班里最好的論文，出自ChatGPT之手；美國(guó)房產(chǎn)中介用它生成房源文案，一小時(shí)工作量，5秒完成；它參考柯南道爾筆觸，不到3分鐘完成新的福爾摩斯。ChatGPT的“卓越能力”令不少人開始陷入“飯碗焦慮”，擔(dān)心未來大量工作將會(huì)被人工智能所取代。

分析：隨著人工智能逐漸深入生產(chǎn)、生活，其優(yōu)勢(shì)令人類難以望其項(xiàng)背。人工智能擁有比人類更高的精確度與工作效率，不會(huì)被情感與經(jīng)歷所限，而擁有更小的出錯(cuò)概率。無論是對(duì)已有數(shù)據(jù)知識(shí)的回溯檢索，還是未來案例內(nèi)容的學(xué)習(xí)更新，人工智能的速度都是人類無法企及的。同時(shí)，人工智能可能導(dǎo)致未來人類對(duì)其技術(shù)的過分依賴，而自我降低其對(duì)專業(yè)技能、知識(shí)與工作經(jīng)驗(yàn)的水準(zhǔn)要求，甚至從潛意識(shí)層面開始動(dòng)搖與質(zhì)疑所學(xué)知識(shí)技能培養(yǎng)存在的合理性。另一方面，一些特殊的職業(yè)其本質(zhì)體現(xiàn)的是人格尊重與人文關(guān)懷（如醫(yī)生、教師），以及絕大多數(shù)人依賴通過勞動(dòng)行為建立對(duì)社會(huì)和人際關(guān)系的認(rèn)知。人工智能的滲透可能從根本上改變這一現(xiàn)狀，而其所帶來的影響仍舊值得深思。7.1.3人工智能倫理風(fēng)險(xiǎn)評(píng)估【

案例7-5】加深數(shù)字鴻溝

在疫情肆虐的特殊時(shí)期里，掃健康碼、出行碼已成為人們出入各個(gè)場(chǎng)合的“通行證”，有“碼”走遍天下，無“碼”寸步難行。然而，老人因沒有健康碼出行受阻、去超市買東西不讓進(jìn)的事情屢有發(fā)生。2020年，哈爾濱一位滿頭白發(fā)的老人因?yàn)闊o法出示健康碼，被公交司機(jī)拒載，老人遲遲不肯下車，沒人跟老人解釋為什么不能乘車，而是直接遭到了滿車人的圍攻，甚至有些“為老不尊”，“自私自利”這樣激進(jìn)的言語，直到民警到場(chǎng)接走了老人。

分析：健康碼的使用在公共衛(wèi)生安全危機(jī)之下的確是一個(gè)值得鼓勵(lì)的創(chuàng)新性公共管理策略，但該策略是默認(rèn)公民都攜帶手機(jī)出行且都為技術(shù)紅利的享受者和擁護(hù)者，但現(xiàn)階段我國(guó)仍有超過5億人未接觸互聯(lián)網(wǎng)，很大一部分是老年人和殘疾人，他們享有正常社會(huì)公共服務(wù)與保障的權(quán)利正在被剝奪。技術(shù)所帶來的數(shù)字鴻溝，使他們?cè)谏鐣?huì)生活中邊緣化，而數(shù)字鴻溝也進(jìn)一步導(dǎo)致權(quán)力分化。PART.

02人工智能系統(tǒng)的算法偏見7.2人工智能系統(tǒng)的算法偏見

在人工智能所涉及的倫理問題中，算法倫理居于基礎(chǔ)地位。在智能時(shí)代，算法已經(jīng)滲透到人們生活的每個(gè)角落，深刻地影響著我們對(duì)周遭環(huán)境的認(rèn)知和理解，并漸趨成為我們生活世界底層架構(gòu)的一部分。可以說，在人工智能的廣泛應(yīng)用并引發(fā)的越來越多的社會(huì)倫理問題中，多數(shù)都是由算法所派生的。147.2.1算法與算法倫理

算法是指解題方案的準(zhǔn)確而完整的描述，是一系列解決問題的清晰指令，算法代表著用系統(tǒng)的方法描述解決問題的策略機(jī)制。

安德森在《依賴代碼：算法時(shí)代的利與弊》提出，算法的確能幫助我們處理大量數(shù)據(jù)，這將會(huì)帶來諸多可見的與不可見的益處，如激發(fā)科學(xué)突破、提升人們的創(chuàng)造力和自我表達(dá)能力、創(chuàng)造新的便捷生活方式等；但在同時(shí)，算法的這些益處也伴隨著諸多挑戰(zhàn)，如過于追求數(shù)據(jù)和建模，就會(huì)產(chǎn)生削弱人類判斷、形成算法偏見、加深社會(huì)分歧等各種不良后果。

因此，從算法倫理的層面對(duì)算法的使用進(jìn)行規(guī)制極為重要。算法倫理是以算法后果的不可預(yù)測(cè)性和算法的價(jià)值負(fù)荷為其理論前提，以尊重性、安全性、預(yù)防性、透明性和友好性為其基本準(zhǔn)則，以培養(yǎng)算法設(shè)計(jì)主體的道德想象力和遵循價(jià)值敏感性為其實(shí)現(xiàn)之路。

在一些領(lǐng)域，算法的性能表現(xiàn)和解決任務(wù)的能力堪與人類媲美，在某些方面甚至要優(yōu)于人類的分析和決策。隨著算法廣泛地嵌入人們的日常生活，對(duì)其可靠性要求越來越高，衡量標(biāo)準(zhǔn)既體現(xiàn)在算法技術(shù)的進(jìn)步，也反映在算法在道德上的可接受性。這種價(jià)值導(dǎo)向使研究者的關(guān)注點(diǎn)主要聚焦于以下兩類算法:一是人類很難預(yù)測(cè)其行為后果的算法;二是造成的事實(shí)背后的決策邏輯難以解釋的算法。它們將不確定性和不透明性引入計(jì)算過程，進(jìn)而將其延伸到社會(huì)生活領(lǐng)域，無形地增加了倫理風(fēng)險(xiǎn)。這兩類算法給倫理學(xué)帶來全新的挑戰(zhàn)，而且由于算法所引起的倫理問題與其他技術(shù)引起的倫理問題有明顯不同，因此具有更大的討論價(jià)值。7.2.2算法偏見的主要表現(xiàn)和特點(diǎn)種族歧視

有形的種族歧視容易精準(zhǔn)打擊，無形的種族歧視卻難以防范。被嵌入種族歧視代碼的算法中隱藏的偏見在人工智能客觀、公正、科學(xué)的正面包裝下更容易大行其道，令人放松警惕，并在算法“黑箱”的遮掩下更加隱蔽。【

案例7-6】

美國(guó)部分州使用了一款名為Compas的算法來評(píng)估犯罪，選用該算法的目的是考慮到計(jì)算機(jī)在判斷嫌疑人風(fēng)險(xiǎn)等問題上不會(huì)考慮黑白種族等主觀性很強(qiáng)的問題。然而，美國(guó)一調(diào)查機(jī)構(gòu)發(fā)現(xiàn)該算法存在明顯的偏見，根據(jù)分析，該系統(tǒng)預(yù)測(cè)的黑人被告再次犯罪的風(fēng)險(xiǎn)要遠(yuǎn)遠(yuǎn)高于白人，甚至達(dá)到了后者的兩倍。【

案例7-7】2019年，美國(guó)國(guó)家標(biāo)準(zhǔn)與技術(shù)研究院發(fā)布了一份報(bào)告，顯示了全球99名開發(fā)人員提交的189種人臉識(shí)別算法在識(shí)別來自不同人口統(tǒng)計(jì)數(shù)據(jù)中的面孔時(shí)的表現(xiàn)。測(cè)試顯示，與白人相比，無法準(zhǔn)確識(shí)別非洲裔或亞裔人臉照片的可能性高出10至100倍。在搜索數(shù)據(jù)庫(kù)以查找給定的面孔時(shí)，非洲裔女性顯示錯(cuò)誤的比例明顯高于其他人口。7.2.2算法偏見的主要表現(xiàn)和特點(diǎn)性別歧視

大數(shù)據(jù)是社會(huì)的產(chǎn)物，人類不自覺的性別歧視會(huì)影響對(duì)大數(shù)據(jù)進(jìn)行分析的人工智能算法，可能無意中強(qiáng)化了就業(yè)招聘、大學(xué)錄取等領(lǐng)域中的性別歧視。【

案例7-8】

美國(guó)一對(duì)夫婦結(jié)婚多年，所居住的地區(qū)實(shí)行共同財(cái)產(chǎn)制，他們提交了聯(lián)合納稅申報(bào)表，盡管妻子的信用評(píng)分更高，但蘋果公司計(jì)算出丈夫的信用額度是他妻子的20倍。2019年，丈夫在推特上曝光了Applecard的性別歧視行為。為此，美國(guó)國(guó)會(huì)開始審查金融機(jī)構(gòu)在決定信貸額度時(shí)使用的算法。【

案例7-9】

卡內(nèi)基梅隆大學(xué)在針對(duì)Google廣告的研究中發(fā)現(xiàn)，Google的在線廣告系統(tǒng)推送給男性的高收入職位廣告要比顯示給女性的多。在調(diào)查研究中，有一則高薪職位招聘廣告向男性用戶投放了1816次，但投放給女性用戶只有311次。在500名模擬男性用戶中，402名至少收到了一次高薪職位招聘廣告，但只有60名女性用戶至少收到了一次相同的廣告。Google廣告的個(gè)性化推送算法對(duì)女性的歧視，影響了女性獲取優(yōu)質(zhì)工作的機(jī)會(huì)。7.2.2算法偏見的主要表現(xiàn)和特點(diǎn)年齡歧視

在就業(yè)招聘、員工管理中，就業(yè)者的姓名、性格、興趣、情感、年齡乃至膚色等數(shù)據(jù)，往往悉數(shù)被采集，運(yùn)用大數(shù)據(jù)算法非常方便對(duì)年齡等數(shù)據(jù)進(jìn)行篩選與評(píng)估。比如，對(duì)于尋求新工作的不同年齡段的人來說，他或她的日常工作可能包括搜索互聯(lián)網(wǎng)工作網(wǎng)站和提交在線申請(qǐng)。從表面上看，這似乎是一個(gè)非常透明和客觀的過程，將所有申請(qǐng)人置于一個(gè)只有經(jīng)驗(yàn)和資格的公平競(jìng)爭(zhēng)環(huán)境中，但實(shí)際上年齡歧視無處不在。【

案例7-10】

2016年，ACCESS-WIRE的ResumeterPro項(xiàng)目組發(fā)現(xiàn)，在人工有機(jī)會(huì)審查之前，高達(dá)72%的簡(jiǎn)歷會(huì)被申請(qǐng)人跟蹤系統(tǒng)拒絕。這是通過復(fù)雜的算法來完成的，可能會(huì)導(dǎo)致基于不準(zhǔn)確假設(shè)的無意識(shí)歧視，雇主則可以使用這些算法根據(jù)年齡專門丟棄申請(qǐng)。【

案例7-11】2016年，非營(yíng)利機(jī)構(gòu)ProPublica發(fā)現(xiàn)，F(xiàn)acebook通過精準(zhǔn)廣告投放，將大齡勞動(dòng)者排除在廣告覆蓋范圍之外，侵犯了大齡勞動(dòng)者的權(quán)益。令人不安的是，上述這些公然的歧視很難被發(fā)現(xiàn)，因?yàn)楸黄缫曊吆茈y證明拒絕是由于年齡原因造成的。7.2.2算法偏見的主要表現(xiàn)和特點(diǎn)消費(fèi)歧視

消費(fèi)歧視常見的形式有：一、對(duì)新老用戶制定不同的價(jià)格，會(huì)員用戶價(jià)格反而比普通用戶價(jià)格貴；二、對(duì)于不同地區(qū)的消費(fèi)者制定不同價(jià)格；三、多次瀏覽頁(yè)面的用戶可能面臨價(jià)格上漲；四、利用頻繁促銷規(guī)則和算法實(shí)現(xiàn)價(jià)格混淆設(shè)置，吸引計(jì)算真實(shí)價(jià)格困難的消費(fèi)者。在某些細(xì)分市場(chǎng)，商家在公開透明的原則下進(jìn)行差別定價(jià)是一種正常的商業(yè)策略。但是，如果商家針對(duì)某個(gè)具體的個(gè)人或特定群體實(shí)行歧視性定價(jià)，就會(huì)造成選擇性目標(biāo)傷害。

有網(wǎng)友反映，自己經(jīng)常通過某旅行網(wǎng)站訂一家出差常住的酒店，常年價(jià)格在380~400元。某日，網(wǎng)友發(fā)現(xiàn)自己的賬號(hào)查到酒店價(jià)格是380元，但朋友的賬號(hào)查詢顯示僅為300元。

還有很多網(wǎng)友反映，有的網(wǎng)絡(luò)平臺(tái)會(huì)根據(jù)手機(jī)型號(hào)給出不同的收費(fèi)待遇。其實(shí)早在2000年，亞馬遜網(wǎng)站就已經(jīng)進(jìn)行了價(jià)格實(shí)驗(yàn)。當(dāng)時(shí)通過算法對(duì)一些DVD制定實(shí)施歧視定價(jià)策略，例如對(duì)Titus碟片進(jìn)行歧視定價(jià)，對(duì)新用戶收取22美元，對(duì)老用戶收取26美元，這一項(xiàng)目被消費(fèi)者發(fā)現(xiàn)之后就立刻終止了，但實(shí)際上新的價(jià)格歧視方式層出不窮。7.2.3算法偏見產(chǎn)生的原因01020304算法自主性產(chǎn)生偏見

機(jī)器學(xué)習(xí)算法通過自我編寫代碼，依賴大數(shù)據(jù)訓(xùn)練提升決策能力，但這種自主性也帶來了不確定性和不透明性，增加了解釋和預(yù)測(cè)的困難。樣本和訓(xùn)練數(shù)據(jù)的偏見

算法輸出受訓(xùn)練數(shù)據(jù)集質(zhì)量影響，數(shù)據(jù)中的偏見會(huì)傳遞給算法，導(dǎo)致不公平的結(jié)果，尤其在少數(shù)群體數(shù)據(jù)不足時(shí)更為明顯。算法設(shè)計(jì)者的偏見

算法設(shè)計(jì)過程中，設(shè)計(jì)者的主觀意識(shí)和價(jià)值取向可能無意中被引入，造成算法反映特定社會(huì)價(jià)值觀，從而產(chǎn)生歧視。算法研發(fā)公司及購(gòu)買企業(yè)的利益訴求

算法研發(fā)和應(yīng)用中，企業(yè)追求利潤(rùn)可能凌駕于社會(huì)責(zé)任之上，隱藏算法細(xì)節(jié)以掩蓋潛在的歧視問題，加劇了算法偏見。7.2.3算法偏見產(chǎn)生的原因【

案例7-12】算法自主性產(chǎn)生偏見

2015年，黑人兄弟JackyAlciné震驚地發(fā)現(xiàn)，他們被谷歌圖像識(shí)別算法歧視了：GooglePhotos竟然把他的黑人朋友分類成了“大猩猩”，這位黑人兄弟立馬向谷歌發(fā)起了抗議。谷歌對(duì)此深表歉意，并立刻著手處理這一漏洞。但他們的工程師驚奇地發(fā)現(xiàn)，無論怎么修改編程，都無法解決AI智能區(qū)分黑人和黑猩猩照片的技術(shù)難題。無奈之下，谷歌只好把“gorilla”從系統(tǒng)標(biāo)簽詞典中刪除了，這就意味著谷歌的圖像識(shí)別算法中徹底抹去了黑猩猩這個(gè)物種。這樣，AI就不會(huì)把黑人識(shí)別成黑猩猩了。不過，大猩猩也不會(huì)被認(rèn)作大猩猩了。因?yàn)镚ooglePhotos的圖像識(shí)別算法，根本就不知道有大猩猩這個(gè)物種存在。【

案例7-13】樣本和訓(xùn)練數(shù)據(jù)的偏見

2016

年，微軟在推特平臺(tái)推出一個(gè)名為Tay

的聊天機(jī)器人。用戶只需在推特上@TayandYou就能得到Tay的回復(fù)。用戶在@了TayandYou后，Tay就會(huì)追蹤該用戶的網(wǎng)名、性別、喜歡的食物、郵編、感情狀況等個(gè)人信息。除了聊天，Tay還可以說笑話，講故事等，用戶還可以分享一張照片來得到Tay的點(diǎn)評(píng)。Tay會(huì)在與人們的交流中不斷學(xué)習(xí)，隨著時(shí)間積累，她的理解能力將逐步提升，變得愈發(fā)“智能”。

然而，在與有偏激言論的人互動(dòng)后，發(fā)布僅僅一天的Tay開始發(fā)布帶有明顯性別歧視和種族歧視傾向的言論，微軟只能緊急將Tay休眠，至今未曾重啟。

這個(gè)例子有力地佐證了在機(jī)器學(xué)習(xí)過程中會(huì)產(chǎn)生新的偏見的觀點(diǎn)，與原定目標(biāo)，即靠實(shí)踐經(jīng)驗(yàn)吸收優(yōu)勢(shì)予以補(bǔ)充模型的想法相去甚遠(yuǎn)。算法不能決定用戶輸入數(shù)據(jù)的性質(zhì)或特點(diǎn)，只能被動(dòng)對(duì)輸入的各類數(shù)據(jù)進(jìn)行學(xué)習(xí)，換句話說，若輸入數(shù)據(jù)的互動(dòng)者向算法輸入了具有偏見的新數(shù)據(jù)，那學(xué)習(xí)之后的算法就是一個(gè)偏見算法。7.2.3算法偏見產(chǎn)生的原因【

案例7-14】算法設(shè)計(jì)者的偏見

2020年12月，斯坦福大學(xué)醫(yī)學(xué)中心的數(shù)十名住院醫(yī)師和其他醫(yī)務(wù)人員對(duì)院方提出了抗議，他們作為一線員工，卻在篩選過程中遭到淘汰，無緣第一批新冠肺炎疫苗的接種。醫(yī)院的管理者把責(zé)任推到了醫(yī)院開發(fā)的算法上，認(rèn)為正是這些算法決定了員工的接種順序。然而專家對(duì)該算法進(jìn)行詳細(xì)分析后卻發(fā)現(xiàn)，真正的錯(cuò)誤源自設(shè)計(jì)算法的人，他們并沒有根據(jù)員工在病毒環(huán)境中的暴露程度來決定接種順序，而是簡(jiǎn)單地按照年齡排序。【

案例7-15】算法研發(fā)公司及購(gòu)買企業(yè)的利益訴求

2016年的美國(guó)總統(tǒng)大選中，F(xiàn)acebook的排名算法瘋狂推薦假新聞。美國(guó)新聞聚合網(wǎng)站BuzzFeed的調(diào)查發(fā)現(xiàn)，在美國(guó)大選的幾個(gè)關(guān)鍵月份，來自惡作劇網(wǎng)站和超黨派博客的20個(gè)表現(xiàn)最佳的虛假選舉故事在Facebook上產(chǎn)生了數(shù)萬次分享與評(píng)論，F(xiàn)acebook獲得不菲的收益。【

案例7-16】算法研發(fā)公司及購(gòu)買企業(yè)的利益訴求

2011年，美國(guó)亞馬遜網(wǎng)站上一本名為“TheMakingofaFly”的書，其標(biāo)價(jià)竟然為170萬美元。其后一個(gè)星期，定價(jià)不斷飆升，最終創(chuàng)下了2369萬美元的天價(jià)。原因是賣家使用算法定價(jià)，他的算法緊盯他的同行，同行漲價(jià)，他也漲價(jià)。巧合的是，另外一個(gè)同行也用算法緊盯他的定價(jià)。結(jié)果雙方算法陷入了循環(huán)加價(jià)模式，相互不斷推高對(duì)方定價(jià)，最后攀升至天價(jià)。7.2.4算法偏見產(chǎn)生的后果

隨著人工智能技術(shù)逐步廣泛地應(yīng)用在社會(huì)的各個(gè)領(lǐng)域，大家在稱道人工智能給人們?nèi)粘Ｉ罟ぷ鲙泶罅勘憷Ⅲ@嘆于人工智能技術(shù)的巨大威力的同時(shí)，人工智能算法目前本身的偏見帶來的負(fù)面效應(yīng)也逐漸被越來越多的人認(rèn)識(shí)到。

算法歧視的反饋循環(huán)形成越來越嚴(yán)重的固化偏見。如果用過去不準(zhǔn)確甚至有偏見的數(shù)據(jù)訓(xùn)練算法，其輸出結(jié)果自然而然也是有偏見的；然后再以其輸出產(chǎn)生的數(shù)據(jù)對(duì)系統(tǒng)進(jìn)行反饋，則會(huì)是使算法偏見得到鞏固，后果將非常嚴(yán)重。算法歧視固化到算法之中，演化成算法的內(nèi)在運(yùn)行機(jī)制，算法在不斷固化和加深社會(huì)原本存在的歧視，并且歧視在算法黑箱中持續(xù)、規(guī)模化、隱蔽地產(chǎn)生作用，固化和限制受眾的思想，甚至形成極端的社會(huì)分裂。

算法歧視會(huì)造成社會(huì)資源分配的馬太效應(yīng)進(jìn)一步放大。算法對(duì)某一人群的集體歧視和偏見，無疑會(huì)加深這一群體在社會(huì)生活中的不平等待遇。同時(shí)，算法也在分化社會(huì)、固化階層、加劇社會(huì)不平等。當(dāng)算法應(yīng)用于社會(huì)福利等資格審查監(jiān)測(cè)中，算法測(cè)量和建構(gòu)出的公民畫像是被圈定在原社會(huì)條件和位置上的，底層公民、劣勢(shì)群體、少數(shù)群族擁有的通往更多機(jī)會(huì)和資源的途徑和概率越來越小。最終，算法偏見將導(dǎo)致社會(huì)資源分配的馬太效應(yīng)進(jìn)一步放大。PART.

03人工智能造假人工智能造假最早引起關(guān)注的是2017年年底，一位名為deepfakes的用戶在美國(guó)Reddit網(wǎng)站上發(fā)布了多個(gè)人工智能造假的色情視頻，視頻中演員的面部被替換成明星人物的臉。從此，媒體和大眾開始使用deepfake一詞代替基于人工智能技術(shù)的造假行為，即“深度偽造”。隨著人工智能造假內(nèi)容的傳播，其背后的人工智能技術(shù)開始引起了廣泛的關(guān)注和探索。“深度偽造”是一種基于深度學(xué)習(xí)的內(nèi)容合成技術(shù)，主要是利用生成對(duì)抗網(wǎng)絡(luò)的深度學(xué)習(xí)算法，實(shí)現(xiàn)初始內(nèi)容和目標(biāo)內(nèi)容的模擬、合成和替換，“深度偽造”可以創(chuàng)建全新的內(nèi)容或操縱現(xiàn)有的內(nèi)容，包括視頻、圖像、音頻和文本。該技術(shù)具有廣泛的應(yīng)用場(chǎng)景，被大量用于語音導(dǎo)航、新聞傳播、智能客服、社交媒體等領(lǐng)域。7.3.1人工智能造假的兩面性?shī)蕵放c文化領(lǐng)域在影視制作中，利用“深度偽造”技術(shù)可以修復(fù)老電影的畫面和聲音，讓經(jīng)典作品煥發(fā)新生，如修復(fù)《羅馬假日》等老電影，讓觀眾重溫經(jīng)典。通過“深度偽造”技術(shù)，可以創(chuàng)造虛擬偶像，舉辦線上演唱會(huì)，為粉絲帶來全新的娛樂體驗(yàn)，如洛天依等虛擬偶像的演唱會(huì)吸引了大量觀眾。商業(yè)與教育領(lǐng)域在商業(yè)廣告中，利用“深度偽造”技術(shù)可以模擬產(chǎn)品使用場(chǎng)景，讓消費(fèi)者更直觀地了解產(chǎn)品特點(diǎn)，如化妝品廣告中模擬使用后的效果。在教育領(lǐng)域，“深度偽造”技術(shù)可以“復(fù)活”歷史人物，讓歷史教學(xué)更加生動(dòng)有趣，如通過虛擬孔子講解儒家思想，增強(qiáng)學(xué)生的學(xué)習(xí)興趣。社會(huì)服務(wù)領(lǐng)域在醫(yī)療領(lǐng)域，“深度偽造”技術(shù)可用于合成醫(yī)療影像數(shù)據(jù)，輔助醫(yī)生進(jìn)行疾病診斷，提高診斷準(zhǔn)確率，如合成肺癌檢測(cè)影像幫助醫(yī)生發(fā)現(xiàn)早期病變。在刑偵領(lǐng)域，“深度偽造”技術(shù)可以輔助生成犯罪嫌疑人的模擬畫像，幫助警方縮小偵查范圍，提高破案效率，如根據(jù)目擊者描述生成嫌疑人圖像。人工智能造假的積極應(yīng)用利用“深度偽造”技術(shù)制作虛假視頻或音頻，可能會(huì)侵犯?jìng)€(gè)人隱私，如將某人的臉替換到色情視頻中，給當(dāng)事人帶來極大的名譽(yù)損害。通過“深度偽造”技術(shù)篡改個(gè)人言論，可能會(huì)誤導(dǎo)公眾，影響個(gè)人的聲譽(yù)和形象，如偽造名人演講視頻傳播錯(cuò)誤觀點(diǎn)。個(gè)人隱私與名譽(yù)受損01在政治領(lǐng)域，“深度偽造”技術(shù)被用于制造虛假政治言論或事件，可能引發(fā)社會(huì)動(dòng)蕩，如偽造政客的不當(dāng)言論引發(fā)民眾不滿。在新聞傳播領(lǐng)域，“深度偽造”技術(shù)可能導(dǎo)致虛假新聞泛濫，削弱公眾對(duì)媒體的信任，如偽造新聞事件誤導(dǎo)公眾輿論。社會(huì)信任危機(jī)02“深度偽造”技術(shù)可用于制造虛假信息，干擾國(guó)際關(guān)系，如偽造國(guó)家領(lǐng)導(dǎo)人言論引發(fā)國(guó)際爭(zhēng)端。利用“深度偽造”技術(shù)進(jìn)行網(wǎng)絡(luò)詐騙等犯罪活動(dòng)，可能對(duì)國(guó)家金融安全造成威脅，如偽造銀行高管聲音進(jìn)行詐騙。國(guó)家安全威脅03

人工智能造假的負(fù)面應(yīng)用人臉深度偽造語音深度偽造文本偽造7.3.2人工智能造假的主要類型010203通過深度學(xué)習(xí)算法，將視頻中人物的面部替換成另一個(gè)人的面部，如“ZAO”APP中的換臉功能，用戶可以將自己的臉替換到明星視頻中。人臉替換技術(shù)可用于影視制作中的替身演員效果，但同時(shí)也可能被用于惡意制作虛假視頻，侵犯他人肖像權(quán)。人臉替換利用Face2Face等技術(shù)，可以實(shí)時(shí)操縱人物的面部表情，如讓照片中的人物做出各種表情動(dòng)作，用于娛樂或特效制作。表情操縱技術(shù)可能被黑客利用，破解銀行系統(tǒng)的人臉核驗(yàn)系統(tǒng)，通過操縱表情完成指令性動(dòng)作，從而實(shí)施詐騙。表情操縱使用StyleGAN等技術(shù)，可以生成完全不存在的人臉圖像，如GeneratedPhotos網(wǎng)站提供大量全臉合成的人臉照片，用于各種虛擬場(chǎng)景。全臉合成技術(shù)可用于虛擬人物的創(chuàng)建，但也可能被用于制造虛假身份信息，用于非法活動(dòng)。全臉合成人臉深度偽造01語音合成通過語音合成技術(shù)，可以生成目標(biāo)說話人的聲音，如美國(guó)Modulate公司開發(fā)的產(chǎn)品可以將用戶聲音變換成奧巴馬等名人的聲音，用于娛樂或模仿。語音合成技術(shù)可用于語音導(dǎo)航、智能客服等領(lǐng)域，但同時(shí)也可能被用于詐騙，如偽造公司高管聲音進(jìn)行電話詐騙。03對(duì)抗攻擊通過對(duì)抗攻擊技術(shù)，可以生成能夠欺騙自動(dòng)說話人驗(yàn)證系統(tǒng)的語音，如對(duì)語音識(shí)別系統(tǒng)進(jìn)行攻擊，使其誤判說話人身份。對(duì)抗攻擊技術(shù)可能被用于攻擊金融系統(tǒng)、安全系統(tǒng)等，造成嚴(yán)重的安全隱患。02語音轉(zhuǎn)換利用語音轉(zhuǎn)換技術(shù)，可以將一種聲音轉(zhuǎn)換成另一種聲音的屬性，如將男性聲音轉(zhuǎn)換成女性聲音，用于影視配音或語音特效。語音轉(zhuǎn)換技術(shù)可能被用于制造虛假語音證據(jù)，干擾司法調(diào)查或誤導(dǎo)公眾。語音深度偽造2020年初，阿聯(lián)酋的一位銀行經(jīng)理接到了一家大公司董事打來的電話。該董事聲稱其所在的公司正在進(jìn)行一項(xiàng)大型收購(gòu)，所以需要這家銀行授權(quán)向美國(guó)的幾個(gè)賬戶轉(zhuǎn)賬3500萬美元，并表示已經(jīng)發(fā)送一封來自律師的電子郵件來確認(rèn)這筆轉(zhuǎn)賬。該銀行經(jīng)理能夠分辨出這位董事的聲音，因?yàn)樗麄冎敖徽勥^，并且在收件箱中看到了來自董事和律師的電子郵件，他認(rèn)為一切程序看起來都是合法的，于是確認(rèn)了這筆轉(zhuǎn)賬。然而這位大公司的“董事”的聲音實(shí)際上是詐騙團(tuán)伙利用一種名為“深度偽裝”的人工智能技術(shù)合成的，聽起來很像本人的聲音。這并不是語音深度偽裝技術(shù)第一次被用于網(wǎng)絡(luò)詐騙犯罪。無獨(dú)有偶，2019年3月，一家總部位于德國(guó)的英國(guó)能源公司的管理者也曾被Deepfake技術(shù)所騙，損失了約25萬美元。詐騙團(tuán)伙利用深度偽裝技術(shù)生成了德國(guó)母公司CEO的聲音，并命令英國(guó)分公司的經(jīng)理緊急匯款。【案例7-17】案例社交媒體評(píng)論利用自然語言模型生成社交媒體上的評(píng)論，如ChatGPT可以生成各種觀點(diǎn)的評(píng)論，用于引導(dǎo)輿論或制造話題。社交媒體評(píng)論偽造可能導(dǎo)致虛假信息傳播，影響公眾對(duì)事件的看法和判斷。新聞與文章通過文本偽造技術(shù)生成新聞或文章，如偽造新聞報(bào)道或?qū)W術(shù)論文，用于誤導(dǎo)公眾或獲取不當(dāng)利益。文本偽造技術(shù)可能對(duì)新聞媒體的公信力造成嚴(yán)重?fù)p害，影響社會(huì)的正常秩序。廣告與營(yíng)銷利用文本偽造技術(shù)生成廣告文案，如偽造產(chǎn)品宣傳文案，夸大產(chǎn)品功效，誤導(dǎo)消費(fèi)者。廣告與營(yíng)銷中的文本偽造可能導(dǎo)致消費(fèi)者權(quán)益受損，影響市場(chǎng)公平競(jìng)爭(zhēng)。文本偽造2023年2月，一則“浙江省杭州市政府3月1號(hào)取消機(jī)動(dòng)車依尾號(hào)限行”的“新聞”在網(wǎng)上傳開了，這條看起來沒頭沒尾的“新聞”一時(shí)間還真讓不少人信以為真。原來這是杭州某小區(qū)業(yè)主群里討論最近非常熱門的AI聊天機(jī)器人ChatGPT時(shí)，一位業(yè)主開玩笑說自己要用ChatGPT來寫一條關(guān)于杭州取消限行的新聞稿，隨后將ChatGPT生成的文章發(fā)布到了群里。結(jié)果被群內(nèi)不明真相的其他業(yè)主截圖轉(zhuǎn)發(fā)了，因此在網(wǎng)上流傳開來引發(fā)誤會(huì)。案例【案例7-18】我國(guó)監(jiān)管政策國(guó)際監(jiān)管政策7.3.3針對(duì)人工智能造假的監(jiān)管政策美國(guó)監(jiān)管政策美國(guó)聯(lián)邦層面雖無專門立法，但參眾兩院提出多部法案，如《深度偽造責(zé)任法案》，強(qiáng)調(diào)市場(chǎng)主體預(yù)防和平臺(tái)自我規(guī)制，形成自下而上的治理模式。美國(guó)各州積極立法，如加利福尼亞州通過法律禁止在選舉期間使用“深度偽造”技術(shù)制造虛假政治廣告，保護(hù)選民的知情權(quán)。歐盟監(jiān)管政策歐盟尚未專門立法，但通過《一般數(shù)據(jù)保護(hù)條例》等法律，對(duì)深度偽造技術(shù)涉及的個(gè)人生物識(shí)別信息進(jìn)行嚴(yán)格限制，保護(hù)個(gè)人隱私。歐盟提出《可信賴人工智能倫理指引》，從數(shù)據(jù)管理、算法開發(fā)到商業(yè)運(yùn)用，對(duì)深度偽造技術(shù)的使用提出嚴(yán)格要求，規(guī)范技術(shù)發(fā)展。其他國(guó)家監(jiān)管政策德國(guó)、新加坡、英國(guó)、韓國(guó)等國(guó)家將“深度合成”相關(guān)犯罪納入刑法范疇，通過刑事手段打擊惡意使用深度偽造技術(shù)的行為。各國(guó)通過國(guó)際合作，共同應(yīng)對(duì)深度偽造技術(shù)帶來的跨國(guó)犯罪問題，如建立信息共享機(jī)制和聯(lián)合調(diào)查機(jī)制，提高打擊犯罪的效率。國(guó)際監(jiān)管政策我國(guó)《民法典》為深度偽造技術(shù)劃定紅線，保護(hù)公民的肖像權(quán)、名譽(yù)權(quán)等合法權(quán)益，明確禁止非法使用深度偽造技術(shù)侵犯他人權(quán)利。《刑法》中對(duì)利用深度偽造技術(shù)進(jìn)行詐騙、誹謗等犯罪行為進(jìn)行嚴(yán)厲打擊，維護(hù)社會(huì)秩序和公民權(quán)益。法律層面我國(guó)積極推動(dòng)深度偽造檢測(cè)技術(shù)研發(fā)，提高對(duì)虛假內(nèi)容的識(shí)別能力，如建立深度偽造檢測(cè)平臺(tái)，為監(jiān)管部門和平臺(tái)提供技術(shù)支持。加強(qiáng)對(duì)人工智能算法的監(jiān)管，要求算法開發(fā)和應(yīng)用符合倫理和法律要求，防止算法偏見和濫用，確保技術(shù)的健康發(fā)展。技術(shù)監(jiān)管層面國(guó)家互聯(lián)網(wǎng)信息辦等部門制定《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》等規(guī)范性文件，要求平臺(tái)對(duì)深度偽造內(nèi)容進(jìn)行標(biāo)識(shí)和管理。2022年發(fā)布的《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》明確了深度合成服務(wù)提供者和使用者的義務(wù)和責(zé)任，如取得被編輯個(gè)人的同意、不得制作虛假新聞等，為技術(shù)應(yīng)用提供了合法邊界。規(guī)章層面我國(guó)監(jiān)管政策PART.04無人駕駛系統(tǒng)的法律責(zé)任無人駕駛系統(tǒng)可追溯至20世紀(jì)20、30年代，美國(guó)軍方為了盡可能減少戰(zhàn)區(qū)路邊炸彈等襲擊導(dǎo)致的軍人傷亡，率先提出軍用車輛“無人駕駛”這一概念。此后，DARPA持續(xù)投入資金資助相關(guān)研究但始終發(fā)展緩慢，無人駕駛行業(yè)也并未受到廣泛關(guān)注。1987年，梅賽德斯-奔馳公司與德國(guó)慕尼黑聯(lián)邦國(guó)防大學(xué)共同推行尤里卡普羅米修斯計(jì)劃，開啟了大型公司與研究機(jī)構(gòu)合作研發(fā)制造可運(yùn)作的無人駕駛汽車原型。1999年，美國(guó)卡內(nèi)基梅隆大學(xué)研制的無人駕駛汽車完成了第一次無人駕駛試驗(yàn)。2013年，美國(guó)第一臺(tái)民用無人機(jī)被批準(zhǔn)上路測(cè)試，后續(xù)特斯拉汽車也率先推出特定環(huán)境下的無人駕駛汽車，無人駕駛技術(shù)開始受到關(guān)注，并越來越趨向?qū)嵱没⑸虡I(yè)化。2020年10月，百度Apollo無人駕駛出租車在北京海淀、亦莊等區(qū)域向用戶全面開放無人駕駛出行業(yè)務(wù)。無人駕駛作為人工智能應(yīng)用中備受關(guān)注的熱點(diǎn)，現(xiàn)階段的發(fā)展更是如火如荼，很多國(guó)家開放道路測(cè)試，為無人駕駛汽車開放道路實(shí)驗(yàn)的法律法規(guī)也相繼出臺(tái)。然而，無人駕駛系統(tǒng)一方面高歌猛進(jìn)，逐步開放應(yīng)用；另一方面也沖擊著現(xiàn)有的法律秩序，對(duì)創(chuàng)新監(jiān)管制度提出迫切的實(shí)際需求。因此，只有精準(zhǔn)認(rèn)清無人駕駛系統(tǒng)的概念、特征和風(fēng)險(xiǎn)，才能為其未來立法打好基礎(chǔ)。7.4無人駕駛系統(tǒng)的法律責(zé)任技術(shù)定義無人駕駛系統(tǒng)通過激光雷達(dá)、車載攝像機(jī)等技術(shù)收集信息，由智能系統(tǒng)代替人類完成駕駛?cè)蝿?wù)，實(shí)現(xiàn)自主行駛，如百度Apollo無人駕駛出租車在北京的運(yùn)營(yíng)。無人駕駛系統(tǒng)的發(fā)展目標(biāo)是完全替代人類駕駛員，但目前仍處于逐步發(fā)展階段，現(xiàn)有技術(shù)主要應(yīng)用于特定場(chǎng)景和輔助駕駛功能。智能化分級(jí)無人駕駛汽車根據(jù)自動(dòng)化程度分為L(zhǎng)0到L5六個(gè)等級(jí)，從完全人工駕駛到完全自動(dòng)駕駛，如L3級(jí)別可在特定模式下自主操控車輛，但駕駛員需隨時(shí)準(zhǔn)備接管。不同等級(jí)的無人駕駛汽車在功能和責(zé)任認(rèn)定上存在差異，L4和L5級(jí)別的高度自動(dòng)化和完全自動(dòng)駕駛車輛對(duì)現(xiàn)行法律制度帶來更大挑戰(zhàn)。概念內(nèi)涵爭(zhēng)議對(duì)無人駕駛系統(tǒng)的概念內(nèi)涵存在理解偏差，如美國(guó)交通部和高速公路安全管理局對(duì)無人駕駛汽車的定義不同，前者強(qiáng)調(diào)智能系統(tǒng)操控，后者強(qiáng)調(diào)無需人類直接參與安全控制功能。我國(guó)將無人駕駛汽車稱為智能網(wǎng)聯(lián)汽車，其概念和規(guī)范也在不斷發(fā)展和完善，如2018年發(fā)布的《智能網(wǎng)聯(lián)汽車道路測(cè)試管理規(guī)范》明確了相關(guān)定義和管理要求。7.4.1無人駕駛系統(tǒng)概念運(yùn)行自主性無人駕駛系統(tǒng)在行駛和選擇路線上具有自主性，通過車聯(lián)網(wǎng)收集數(shù)據(jù)，依靠算法自主決策，如根據(jù)實(shí)時(shí)路況規(guī)劃最佳路線，實(shí)現(xiàn)回避、變速等操作。無人駕駛系統(tǒng)具備自主學(xué)習(xí)能力，通過收集使用過程中的信息進(jìn)行學(xué)習(xí)，如通過CNN學(xué)習(xí)圖像處理方式，但這也導(dǎo)致其決策的不可預(yù)測(cè)性，增加事故責(zé)任認(rèn)定的難度。數(shù)據(jù)依賴性無人駕駛系統(tǒng)依賴大量數(shù)據(jù)實(shí)現(xiàn)安全運(yùn)行和自主決策，如通過地圖數(shù)據(jù)規(guī)劃路線、傳感器數(shù)據(jù)感知環(huán)境、圖像數(shù)據(jù)識(shí)別障礙物，數(shù)據(jù)的準(zhǔn)確性和安全性至關(guān)重要。數(shù)據(jù)依賴性帶來風(fēng)險(xiǎn)，黑客攻擊可能導(dǎo)致數(shù)據(jù)系統(tǒng)紊亂，如入侵車輛GPS、攝像頭等傳感器，影響車輛對(duì)環(huán)境的判斷和行駛安全，因此需要加強(qiáng)數(shù)據(jù)保護(hù)技術(shù)。操控主體不確定性與傳統(tǒng)機(jī)動(dòng)車不同，無人駕駛汽車的駕駛主體可能包括車內(nèi)駕駛?cè)恕⒅悄芟到y(tǒng)、數(shù)據(jù)提供者等，隨著技術(shù)發(fā)展，老人、兒童等也可能參與駕駛，責(zé)任主體難以確定。現(xiàn)行《道路交通安全法》難以適應(yīng)無人駕駛汽車的責(zé)任認(rèn)定，如車輛使用人或所有人可能不參與車輛運(yùn)行，將其作為責(zé)任主體缺乏合法性，需要重新審視和調(diào)整法律制度。7.4.2無人駕駛系統(tǒng)的特點(diǎn)無人駕駛汽車的高度自主性使傳統(tǒng)侵權(quán)責(zé)任認(rèn)定標(biāo)準(zhǔn)受到?jīng)_擊，如車輛處于高度自動(dòng)化模式時(shí)發(fā)生事故，難以確定責(zé)任主體是車輛、駕駛?cè)诉€是其他相關(guān)方。對(duì)于無人駕駛汽車是否具有獨(dú)立法律人格存在爭(zhēng)議，肯定說認(rèn)為其可作為責(zé)任主體，否定說則認(rèn)為其不具備法律人格，折中說提出賦予其“電子人格”或“準(zhǔn)法律人格”，但目前尚無定論。侵權(quán)主體認(rèn)定障礙駕駛模式的復(fù)雜性使因果關(guān)系難以認(rèn)定，如自動(dòng)化等級(jí)不同導(dǎo)致駕駛?cè)俗⒁饬x務(wù)和責(zé)任承擔(dān)不同，但具體等級(jí)認(rèn)定困難，如特斯拉事故中生產(chǎn)商與駕駛?cè)素?zé)任劃分存在爭(zhēng)議。無人駕駛汽車的自主學(xué)習(xí)能力切斷了產(chǎn)品質(zhì)量缺陷與生產(chǎn)者之間的因果關(guān)系，其在出廠后可能脫離原有算法設(shè)定，導(dǎo)致事故原因難以歸咎于生產(chǎn)者。因果關(guān)系劃分模糊無人駕駛汽車的自主性和學(xué)習(xí)能力使其難以適用傳統(tǒng)的駕駛?cè)诉^錯(cuò)歸責(zé)體系和產(chǎn)品責(zé)任歸責(zé)原則，如無法證明事故車輛在出廠時(shí)存在產(chǎn)品缺陷，且受害者舉證困難。無人駕駛汽車的多主體特性使責(zé)任分配復(fù)雜，不同主體適用不同的歸責(zé)原則，需要多方考證才能確定最終責(zé)任主體，增加了法律適用的難度。歸責(zé)原則使用困難7.4.2無人駕駛系統(tǒng)對(duì)現(xiàn)行法律制度的挑戰(zhàn)我國(guó)尚未制定專門法律規(guī)則對(duì)無人駕駛系統(tǒng)安全風(fēng)險(xiǎn)進(jìn)行規(guī)制，相關(guān)立法層級(jí)低，缺乏可操作性的法律規(guī)范，如侵權(quán)責(zé)任法、道路交通法等尚未對(duì)無人駕駛問題做出明確回應(yīng)。立法規(guī)則的缺失使監(jiān)管層對(duì)無人駕駛汽車的態(tài)度保守，限制了其開發(fā)進(jìn)程，如無人駕駛汽車的測(cè)試和應(yīng)用受到嚴(yán)格限制，影響技術(shù)的發(fā)展和推廣。立法規(guī)則缺失無人駕駛汽車記錄乘客的乘車時(shí)間、地點(diǎn)、軌跡等信息，若信息泄露或被惡意利用，將侵犯乘客隱私，如共享交通模式下大量乘客信息的收集和存儲(chǔ)存在風(fēng)險(xiǎn)。我國(guó)現(xiàn)行法律對(duì)個(gè)人信息保護(hù)雖有規(guī)定，但難以涵蓋無人駕駛汽車的特殊信息類型，需要進(jìn)一步明確相關(guān)主體的權(quán)利和義務(wù)，加強(qiáng)信息保護(hù)措施。用戶信息保護(hù)風(fēng)險(xiǎn)無人駕駛汽車的網(wǎng)聯(lián)化屬性使其面臨網(wǎng)絡(luò)安全風(fēng)險(xiǎn)，如黑客攻擊可能導(dǎo)致車輛失控，影響行駛安全，如特斯拉、克萊斯勒等公司生產(chǎn)的無人駕駛汽車曾遭受黑客攻擊。道路基礎(chǔ)設(shè)施故障也是網(wǎng)絡(luò)安全風(fēng)險(xiǎn)來源之一，極端天氣或糟糕路況可能導(dǎo)致信息收集和分析失誤，增加駕駛危險(xiǎn)，如傳感器在惡劣環(huán)境下無法準(zhǔn)確工作。網(wǎng)絡(luò)安全風(fēng)險(xiǎn)7.4.3無人駕駛系統(tǒng)的監(jiān)管缺失宏觀政策引導(dǎo)我國(guó)從戰(zhàn)略層面對(duì)無人駕駛汽車發(fā)展進(jìn)行引導(dǎo)和規(guī)劃，如《中國(guó)制造2025》提出智能網(wǎng)聯(lián)汽車發(fā)展方向，《智能汽車創(chuàng)新發(fā)展戰(zhàn)略》明確產(chǎn)業(yè)目標(biāo)和技術(shù)路徑。現(xiàn)有規(guī)范性文件主要關(guān)注道路測(cè)試和產(chǎn)業(yè)標(biāo)準(zhǔn)，但難以有效規(guī)制無人駕駛帶來的安全風(fēng)險(xiǎn)，如缺乏對(duì)侵權(quán)責(zé)任和網(wǎng)絡(luò)安全風(fēng)險(xiǎn)的專門規(guī)定。國(guó)外立法借鑒美國(guó)制定《無人駕駛汽車法案》