人工智能倫理導論（第二版）課件 第12章 法律與人工智能

第12章法律與人工智能目錄CONTNETS12.1人工智能法律問題12.2人工智能法律主體問題12.3自動駕駛汽車法律問題12.4生成式AI的法律監(jiān)管挑戰(zhàn)12.5人工智能著作權(quán)問題12.6人工智能醫(yī)療法律問題12.7現(xiàn)行法律對個人信息隱私的保護本章學習要點1.學習和了解人工智能法律問題。2.學習和了解人工智能的法律主體問題。3.學習和了解自動駕駛汽車法律問題。倫理規(guī)范與法律是調(diào)整、維護人類社會穩(wěn)定、公平、正義的兩種重要方式。傳統(tǒng)的倫理道德對人與人之間關系做出種種約束和規(guī)范，更多是非強制性的。當社會中人與人之間、人與組織之間的關系超出倫理道德約定的范圍，就需要法律來處理。人工智能倫理試圖對人與智能機器之間的關系做出約束和規(guī)范，某種程度上，是人類對機器的倫理做出強制性規(guī)定，以免人工智能產(chǎn)生不符合人類倫理道德行為。但是，如果人工智能技術被惡意地用于傷害人，侵犯人的身體、精神、財產(chǎn)，甚至為禍社會，就超出了人工智能倫理所能約束的范圍。同樣的，應由法律來處理。人工智能面臨的各種法律問題，與人工智能倫理問題類似，都是隨著人工智能的快速發(fā)展而出現(xiàn)的新問題。目前，尚沒有對于人工智能各種違法情況作出全面判斷的法律。人工智能法律問題對于法學領域也是全新的研究領域。本章通過自動駕駛汽車、人工智能著作權(quán)、智能醫(yī)療方面的法律問題，理解人工智能面臨的特殊法律問題發(fā)生時，法律應如何作出裁決或及時彌補漏洞，防止更大的危害發(fā)生。學習導言12.1人工智能法律問題01法律的基本定義法是由國家制定或認可并依靠國家強制力保證實施的，反映由特定社會物質(zhì)生活條件所決定的統(tǒng)治階級意志，以權(quán)利和義務為內(nèi)容，以確認、保護和發(fā)展對統(tǒng)治階級有利的社會關系和社會秩序為目的的行為規(guī)范體系。02法律的社會作用法律是維護國家穩(wěn)定、各項事業(yè)蓬勃發(fā)展的最強有力的武器，也是捍衛(wèi)人民群眾權(quán)利和利益的工具，也是統(tǒng)治者統(tǒng)治被統(tǒng)治者的手段。法律是一系列的規(guī)則，通常需要經(jīng)由一套制度來落實。但在不同的地方，法律體系會以不同的方式來闡述人們的法律權(quán)利與義務。03法律的明示作用法律的明示作用主要是以法律條文的形式明確告知人們，什么是可以做的，什么是不可以做的，哪些行為是合法的，哪些行為是非法的。04人工智能與法律的關系對于人工智能而言，法律在處理人與人工智能之間的關系或者人工智能引發(fā)的問題時，扮演著界定權(quán)利與義務、確立行為規(guī)范、分配責任以及引導技術發(fā)展的關鍵角色，旨在確保人工智能技術的開發(fā)與應用符合社會倫理與安全標準，從而在創(chuàng)新與監(jiān)管之間尋求平衡。比如，利用深度學習生成對抗網(wǎng)絡生成以假亂真的圖片或視頻來假冒某人有可能實施散布不法信息等違法犯罪行為。比如圖12.1中的人臉都是由深度學習生成對抗網(wǎng)絡模型生成的，都是世界上根本不存在的人。這些技術可能被用于詐騙、恐嚇等違法犯罪行為。

圖12.1由深度學習方法生成的人臉因此，對于人工智能而言，有很多超出倫理范疇的法律問題，比如在法律上，當發(fā)生機器人意外時，應如何劃分設計者、生產(chǎn)者、用戶甚至是機器人本身的責任？規(guī)范機器人的法律體系是否同人類的法律體系一樣？

這些問題已經(jīng)不是道德倫理規(guī)則所能回答和解決的，而必須訴諸于法律。人類除了為人工智能創(chuàng)建一個符合人類利益的倫理體系，也要創(chuàng)建一個合理的、與倫理配套的人工智能法律體系。我國目前也將人工智能的發(fā)展上升到了國家戰(zhàn)略的高度，相關的法律法規(guī)也已經(jīng)開始了具體的制定和出臺。例如，2017年7月20日，國務院印發(fā)了關于《新一代人工智能發(fā)展規(guī)劃》的文件，提出了對于人工智能管理的法律政策體系的三步走戰(zhàn)略：第一步到2020年，初步建立人工智能相關的倫理法規(guī)；第二步到2025年，初步建立新一代人工智能技術體系，形成對于人工智能的安全評估和規(guī)范化管控；第三步到2030年，建成關于人工智能完善的法律法規(guī)和政策體系。《規(guī)劃》強調(diào)，要從法律法規(guī)、倫理規(guī)范、重點政策、知識產(chǎn)權(quán)與標準、安全監(jiān)管與評估、勞動力培訓、科學普及等方面做好人工智能發(fā)展的重要保障。我國發(fā)展戰(zhàn)略從現(xiàn)階段來說是在合理限度內(nèi)促進人工智能發(fā)展，而不是限制其發(fā)展。世界各國的發(fā)展戰(zhàn)略大多采取了促進人工智能技術發(fā)展的同時，制定配套法律防止人工智能開發(fā)風險的取向。例如，美國、德國通過修改或制定道路交通安全法，歐盟承認人工智能為電子人法案，韓國提出人工智能法案等做法都體現(xiàn)了這一趨向。全球發(fā)展趨勢十三屆全國人大常委會第三十次會議2021年8月20日表決通過《中華人民共和國個人信息保護法》。其中明確：通過自動化決策方式向個人進行信息推送、商業(yè)營銷，應提供不針對其個人特征的選項或提供便捷的拒絕方式。處理生物識別、醫(yī)療健康、金融賬戶、行蹤軌跡等敏感個人信息，應取得個人的單獨同意。對違法處理個人信息的應用程序，責令暫停或者終止提供服務。12.2

人工智能法律主體問題根據(jù)現(xiàn)行我國的《民法通則》第37條規(guī)定，法人必須具備四個條件一一依法成立、必要財產(chǎn)、場所、章程。

中國法人設立條件在不遠將來，為了適應市場經(jīng)濟和社會的法律關系的確定，為了明確主體責任和義務，類似《民法通則》的法律必然要考慮增加對“軟件法人”的定義。而財產(chǎn)、場所和章程對于智能機器來說也是具備的。此時，這種新定義的“軟件法人”雖然只是一段不斷運行的代碼，但由于它的代碼運行使其占有某些資源，可以通過資源配置去操控某些設備和市場關系，所以具有民事權(quán)利、義務和責任確定的需要。

“軟件法人”的未來構(gòu)想按照現(xiàn)有各個國家的法律制度，法人一般是指具有民事權(quán)利能力和民事行為能力，依法獨立享有民事權(quán)利和承擔民事義務的組織。法人是世界各國規(guī)范經(jīng)濟秩序和社會秩序的一項重要法律制度。各國法人制度具有共同的特征，但其內(nèi)容不盡相同。

法人基本概念自然人根據(jù)《中華人民共和國民法總則》的相關規(guī)定，民法上的法律主體包括自然人和法人，兩者具有民事權(quán)利能力，依法享有民事權(quán)利，承擔民事義務。自然人系法律主體而非客體，是基于人本主義的倫理基礎，出于對人之為人的尊重。無民事行為能力或限制行為能力人的自然人（例如嬰幼兒、兒童、精神病患者），雖然其行為能力須由其法定代理人予以補足，但是其均具有獨立的法律人格，得以享受民事權(quán)利，承擔民事義務。而活體出生的嬰兒，因為具備了有限且發(fā)展中的倫理地位，在法律上亦被擬制為具有“有限”民事權(quán)利能力的法律人格（限于遺產(chǎn)繼承、接受贈予等與胎兒利益保護相關的法律關系）。法人此外，基于社會與經(jīng)濟活動的實踐需要，民法將法人擬制為法律主體，使之具有獨立于設立者或成員的法律人格、財產(chǎn)，獨立地享受民事權(quán)利、承擔民事義務和責任。法人的意思能力和行為能力需借由代表法人的自然人或機構(gòu)，或者通過代理人來實現(xiàn)。法律界共識

法律地位現(xiàn)狀

現(xiàn)行法并沒有確立人工智能的法律主體地位。按照常識也可以認為，沒有自我意識的、專用智能系統(tǒng)并不具有法律人格。它們只是人類借以實現(xiàn)特定目的或需求的手段或工具，在法律上是處于客體的地位。

目前，法律界對這個的問題的共識是，當前賦予人工智能以法律主體地位是不必要的、不實際的、不符合倫理的。不具備人格的理由即使人類目前很難理解或解釋深度學習算法如何且為何作出決策且在很多方面表現(xiàn)出超越人類的智能性，但這并不足以構(gòu)成賦予人工智能以法律人格的理由，因為深度學習算法的設計、生成、訓練機器學習等各個環(huán)節(jié)都離不開人類的決策與參與。相關法律問題歸屬而設計者是否要對其無法完全控制的深度學習算法決策及其后果承擔責任，并非涉及法律主體的問題，而是關系到歸責原則的問題。

人工智能的法律主體地位：12.3

自動駕駛汽車法律問題人無論做什么事情，都要對結(jié)果負責，所以有自然人和法人的負責形式。但是，自動駕駛汽車發(fā)生事故哪一方應該承擔法律責任呢？2016年5月，一輛某知名品牌電動車在美國佛羅里達州以自動駕駛模式行駛時與一輛橫穿公路的貨車相撞，導致電動車主喪生。這是世界范圍內(nèi)曝光的首例自動駕駛功能的交通死亡事故。圖12.1中是這輛事故汽車。圖12.1發(fā)生事故的首輛自動駕駛汽車這起事件已經(jīng)顯示出了自動駕駛汽車所引發(fā)交通事故的法律責任界定的困難。完全自動駕駛汽車實現(xiàn)商用后，一旦發(fā)生交通事故，勢必挑戰(zhàn)現(xiàn)行的法律法規(guī)，其中包含了設計、制造、用戶的多重法律關系。；經(jīng)過長期調(diào)查，2017年1月公布的調(diào)查報告結(jié)果顯示事故原因與自動駕駛系統(tǒng)無關，這也意味著公司無需承擔相應法律責任。；法律是人制定的，也是隨時代發(fā)展而變化的，為適應自動汽車上路，美國等國家對關于自動駕駛汽車的法律規(guī)定解除了限制，允許自動駕駛汽車有條件地上路。；人工智能侵權(quán)責任是法律面臨的最為急迫的問題，亟待現(xiàn)行法提供調(diào)整方法。自動駕駛機動車引發(fā)事故的民事責任同樣發(fā)生了變化。；自動駕駛汽車上路最大的法律基礎或法理是，把研發(fā)、生產(chǎn)自動駕駛汽車的人員和機構(gòu)作為責任人（法人）。盡管如此，現(xiàn)今的法律也只是有條件地允許自動駕汽車上路，主要是測試。2017年5月德國通過自動駕駛法律德國法律明確責任劃分機制德國法律的具體限制與留白2017年10月日本推出自動駕駛安全標準日本安全標準的具體規(guī)定各國法規(guī)的開放性比較這部法律首先明確了法律責任，如果在人為駕駛的情況下發(fā)生事故，駕駛?cè)顺袚鹿守熑危蝗绻侨斯ぶ悄芟到y(tǒng)引發(fā)事故，將由汽車制造商承擔責任。判斷人為駕駛還是自動駕駛將由汽車上安裝的一個類似黑匣子的裝置來確認，該裝置可以記錄系統(tǒng)運作、要求介入和人工駕駛等不同階段的具體駕駛情況，以保證在出現(xiàn)交通安全事故時，明確責任劃分。2017年10月14日，日本國土交通省首次推出了關于自動駕駛的安全標準。顯然，德國的自動駕駛汽車的法律最開放，但時間未定，美國次之，日本的基本還算不上自動駕駛法規(guī)。規(guī)定必須搭載一種功能，在路上自動行駛時，當司機手離開方向盤超過65秒就自動切換為手動駕駛模式，當駕駛者的手離開方向盤駕駛15秒以上，自動系統(tǒng)將向駕駛席發(fā)出警告。如繼續(xù)保持手離開方向盤的狀態(tài)，50秒后自動駕駛系統(tǒng)將停止，切換為手動駕駛。該規(guī)定只適用于2019年10月起具備自動駕駛功能的新車型。目前正在銷售的車型從2021年4月起適用該標準，二手車除外。當然，德國的這部法律也還不涉及自動駕駛的最高級L5級，該法律規(guī)定駕駛席必須有司機，并且要保留方向盤、油門和剎車等配置，以保證在自動駕駛系統(tǒng)出現(xiàn)故障的情況下，駕駛者能及時介入，進行人工駕駛，并且在何時能讓自動汽車上路也語焉不詳。2017年5月12日，德國聯(lián)邦參議院通過首部自動駕駛汽車的法律，允許汽車自動駕駛系統(tǒng)未來在特定條件下代替人類駕駛。2019年9月，《上海市智能網(wǎng)聯(lián)汽車道路測試和示范應用管理辦法（試行）》的出臺，使上海成為國內(nèi)首個為企業(yè)頒發(fā)智能網(wǎng)聯(lián)汽車示范應用牌照的城市，并推動測試牌照區(qū)域互認。我國尚無關于自動駕駛汽車的明確法律，但在2018年《智能網(wǎng)聯(lián)汽車道路測試管理規(guī)范（試行）》允許路測后，各地已出臺推動其應用落地的政策。長遠來看，我國自動駕駛汽車技術和產(chǎn)業(yè)的發(fā)展普及需要在安全標準、道路測試、商業(yè)試點、高精地圖、責任保險等多方面配套推進政策措施，并積極廢除或修改阻礙發(fā)展的既有法規(guī)和標準，才能確保在制造業(yè)與ICT融合的自動駕駛汽車領域搶占全球高地。北京、廣州、長沙、武漢等城市已允許載人、載物、編隊行駛等測試情形，例如2019年12月北京出臺《北京市自動駕駛車輛道路測試管理實施細則(試行)》，允許此類測試，推動智能網(wǎng)聯(lián)汽車向商業(yè)化和市場化邁進。

無論是國外還是國內(nèi)，自動駕駛汽車上路和運營還有漫長的路要走。機器人交互的法律等同性如果人們對待機器人就像對待真人一樣，那么法律就應該認可人類與機器人之間的互動等同于人與人之間的互動。這提出了一個基本前提：當社會互動模式發(fā)生變化時，法律框架是否需要相應調(diào)整以反映這種新的現(xiàn)實。01無人駕駛汽車的法律主體爭議是否賦予無人駕駛汽車法律主體地位，由它們承擔獨立的法律責任，這些都是對人類現(xiàn)有法律體系的挑戰(zhàn)。核心議題在于，自動駕駛系統(tǒng)能否被視為獨立的權(quán)利與義務承擔者。02支持賦予法律主體的專家觀點有專家認為應當賦予無人駕駛汽車作為法律主體，也就是說，如果承認了自動駕駛汽車的軟件法人地位，出現(xiàn)事故時，這個軟件法人可能承擔一定責任，可以用它的資源來進行經(jīng)濟補償，可以通過限制它的代碼運行時間、范圍和速度來對其進行懲罰。這種觀點試圖為事故責任分配提供一種新的、基于技術實體的解決方案。03現(xiàn)階段賦予法律主體的不成熟性但是按照關于法律主體的認定，現(xiàn)階段賦予自動駕駛汽車以法律主體地位的時機顯然還不夠成熟。這是因為當前法律體系對“主體”的定義通常基于自然人或有明確法律人格的組織，而人工智能系統(tǒng)缺乏意識、意圖和真正的自主性，將其直接上升為法律主體可能在法理基礎、責任追溯和倫理層面存在重大障礙。0412.4

生成式AI的法律監(jiān)管挑戰(zhàn)生成式人工

智能技術01生成式人工智能技術的快速發(fā)展為法律監(jiān)管帶來了前所未有的挑戰(zhàn)。02與傳統(tǒng)的分析型AI不同，生成式AI具有創(chuàng)造性輸出、高度自主性和廣泛適用性等特點，這些特征使得現(xiàn)有的法律框架在應對生成式AI時顯得力不從心。03從內(nèi)容生成的版權(quán)歸屬到深度偽造的法律責任，從算法偏見的監(jiān)管到數(shù)據(jù)使用的合規(guī)要求，生成式AI的法律監(jiān)管涉及多個法律領域的交叉和沖突。1.內(nèi)容生成的法律地位認定傳統(tǒng)的知識產(chǎn)權(quán)法基于人類創(chuàng)作者的假設，但生成式AI能夠獨立創(chuàng)作文本、圖像、音樂等作品，這挑戰(zhàn)了現(xiàn)有法律體系的基本概念。當AI生成一幅畫作或一首詩歌時，誰是真正的作者？是AI系統(tǒng)本身、AI的開發(fā)者、提供提示的用戶，還是訓練數(shù)據(jù)的原始作者？不同的認定會導致完全不同的法律后果和權(quán)利分配。01傳統(tǒng)著作權(quán)法要求作品具有最低限度的創(chuàng)作性，但如何評判AI生成內(nèi)容的創(chuàng)作性存在爭議。AI的創(chuàng)作過程雖然基于算法和數(shù)據(jù)，但其輸出往往具有新穎性和獨創(chuàng)性，這是否滿足法律對創(chuàng)作性的要求？02當AI基于現(xiàn)有作品進行“再創(chuàng)作”時，生成的內(nèi)容是否構(gòu)成衍生作品？如果構(gòu)成，是否需要獲得原作品著作權(quán)人的許可？這種界定對AI訓練和應用的合法性具有重大影響。03企業(yè)使用生成式AI創(chuàng)作商業(yè)內(nèi)容時，面臨版權(quán)侵權(quán)的法律風險。即使AI生成的內(nèi)容看似原創(chuàng)，但如果被認定為侵犯他人著作權(quán)，使用者可能承擔法律責任。04著作權(quán)主體認定創(chuàng)作性標準評估衍生作品界定商業(yè)使用風險2.訓練數(shù)據(jù)使用的合法性爭議合理使用原則的邊界支持者認為AI訓練類似于人類學習，應當適用合理使用原則。但批評者指出，大規(guī)模商業(yè)性訓練超出了合理使用的范圍，特別是當訓練數(shù)據(jù)被用于商業(yè)目的時。跨境數(shù)據(jù)合規(guī)挑戰(zhàn)AI訓練往往涉及全球范圍的數(shù)據(jù)收集和使用，不同國家的數(shù)據(jù)保護法律要求差異巨大，如何確保合規(guī)成為技術公司面臨的重大挑戰(zhàn)。數(shù)據(jù)使用的合法性爭議生成式AI的訓練通常需要大量數(shù)據(jù)，這些數(shù)據(jù)的使用是否合法成為監(jiān)管的焦點。大多數(shù)AI系統(tǒng)在未經(jīng)明確授權(quán)的情況下使用互聯(lián)網(wǎng)上的公開內(nèi)容進行訓練，這種做法的合法性受到廣泛質(zhì)疑。數(shù)據(jù)權(quán)利人同意問題現(xiàn)有的網(wǎng)絡服務條款通常不包含AI訓練的授權(quán)，數(shù)據(jù)權(quán)利人是否在不知情的情況下同意了AI訓練使用？這種默示同意的有效性存在法律爭議。集體授權(quán)機制的探索一些地區(qū)開始探索建立集體管理組織來處理AI訓練的版權(quán)授權(quán)問題，但這種機制的有效性和可操作性仍需驗證。3.深度偽造與信息真實性監(jiān)管刑法規(guī)制的適用難題生成式AI強大的內(nèi)容生成能力帶來了深度偽造（Deepfake）等信息真實性問題，對現(xiàn)有的法律監(jiān)管體系提出了嚴峻挑戰(zhàn)。現(xiàn)有的詐騙、誹謗等刑法罪名在應對深度偽造時面臨取證難、因果關系復雜等問題。如何在保護言論自由的前提下有效打擊惡意深度偽造成為立法難點。技術標識的法律要求一些法域開始要求AI生成內(nèi)容必須進行技術標識，但這種要求的技術可行性和執(zhí)行效果存在爭議。民事責任的歸屬問題平臺責任的界定當深度偽造內(nèi)容造成他人損害時，責任應當由內(nèi)容制作者、傳播者還是技術提供者承擔？現(xiàn)有的侵權(quán)責任法在應對這種新型侵權(quán)行為時存在適用困難。社交媒體和內(nèi)容平臺對深度偽造內(nèi)容應當承擔什么樣的責任？是否應當建立主動監(jiān)測和刪除義務？這種義務的邊界在哪里？4.算法偏見與歧視的法律規(guī)制傳統(tǒng)反歧視法要求證明歧視意圖，但算法歧視往往是無意識的結(jié)果，如何在缺乏主觀惡意的情況下認定歧視成為法律難題。傳統(tǒng)的反歧視救濟措施主要針對個案，但算法歧視具有系統(tǒng)性特征，需要更加全面和前瞻性的救濟機制。生成式AI可能會放大和傳播訓練數(shù)據(jù)中存在的偏見，導致歧視性輸出。現(xiàn)有的反歧視法律在應對算法歧視時面臨概念和證明上的挑戰(zhàn)。一些法域開始建立算法影響評估制度，要求在算法部署前評估其可能的歧視影響，但這種制度的設計和實施仍在探索中。AI系統(tǒng)的決策過程復雜，很難確定特定的偏見來源和影響路徑，這增加了歧視認定和責任追究的難度。影響概述預防性監(jiān)管的建立救濟措施的有效性因果關系的復雜性歧視意圖的認定困難5.隱私保護與數(shù)據(jù)安全挑戰(zhàn)01020304隱私保護法通常要求遵循數(shù)據(jù)最小化原則，但生成式AI往往需要大量多樣化的數(shù)據(jù)才能實現(xiàn)良好性能，這兩者之間存在內(nèi)在沖突。數(shù)據(jù)收集時的用途說明可能不包括AI訓練，將數(shù)據(jù)用于AI訓練是否違反目的限制原則？這種用途擴展的合法性需要明確。在大規(guī)模AI訓練中，很難準確識別和隔離特定個人的數(shù)據(jù)，這使得數(shù)據(jù)主體權(quán)利（如刪除權(quán)、更正權(quán)）的行使面臨技術障礙。AI訓練往往涉及全球范圍的數(shù)據(jù)流動，不同國家的數(shù)據(jù)保護法要求差異巨大，合規(guī)成本高昂。12.5

人工智能著作權(quán)問題圖12.2微軟小冰創(chuàng)造的詩集及其中一首詩歌片段深度學習驅(qū)動的人工智能系統(tǒng)在文學藝術領域已經(jīng)綻放異彩。2015年，索尼公司旗下的人工智能品牌FLOW

MACHINE通過大數(shù)據(jù)分析，根據(jù)各地區(qū)不同編曲的特點，成功自主譜寫了兩首通俗歌曲。2017年5月，微軟小冰推出了詩集《陽光失了玻璃窗》，如圖12.2所示，這部人類歷史上第一部100%由人工智能創(chuàng)作的詩集，是“微軟小冰”從1920年以來的519位中國現(xiàn)代詩人的作品中學習，經(jīng)過超過1萬次的迭代學習，逐漸形成了自己風格的詩作。12.5.1人工智能體著作權(quán)歸屬法律問題

圖12.2微軟小冰創(chuàng)造的詩集及其中一首詩歌片段日本、美國也都紛紛出現(xiàn)了人工智能創(chuàng)作的各種文學作品。人工智能已然將觸角伸向人類引以為自豪的創(chuàng)作領域。未來，人們將如何看待這些新生的事物？它的出現(xiàn)到底是人類智慧的體現(xiàn)，還是在向人類所特有的創(chuàng)造力挑釁？在法律上，人們又將如何對這類創(chuàng)作物進行定性？這些作品的著作權(quán)應該如何認定？人們是否需要對這些作品進行產(chǎn)權(quán)立法保護？這些問題牽涉到現(xiàn)行著作權(quán)法的適用性以及對這些作品著作權(quán)等方面的新的法律規(guī)定。2012年3月,我國《著作權(quán)法》的第三次修改草案發(fā)布。其中,對著作權(quán)所保護的作品的范疇做了很明確的界定。即為:為保護文學、藝術和科學作品作者的著作權(quán),以及與著作權(quán)有關的權(quán)益,鼓勵有益于社會主義精神文明、物質(zhì)文明建設的作品的創(chuàng)作和傳播,促進社會主義文化和科學事業(yè)的發(fā)展與繁榮,根據(jù)憲法制定本法。本法所稱的作品,包括以下列形式創(chuàng)作的文學、藝術和自然科學、社會科學、工程技術等作品:(一)文字作品;(二)口述作品;(三)音樂、戲劇、曲藝、舞蹈、雜技藝術作品;(四)美術、建筑作品;(五)攝影作品;(六)電影作品和以類似攝制電影的方法創(chuàng)作的作品;(七)工程設計圖、產(chǎn)品設計圖、地圖、示意圖等圖形作品和模型作品;(八)計算機軟;(九)法律、行政法規(guī)規(guī)定的其他作品。其后，在自2013年3月1日起施行的《著作權(quán)法實施條例》中對《著作權(quán)法》的作品進行了進一步解釋：著作權(quán)法所稱作品是指文學、藝術和科學領域內(nèi)具有獨創(chuàng)性并能以某種有形形式復制的智力成果。可見，我國《著作權(quán)法》保護的對象也是“具有獨創(chuàng)性”的“智力成果”。人工智能依托算法的運算邏輯與整合輸出生成內(nèi)容，其整合運算一輸出的創(chuàng)作模式已經(jīng)不同于一般的作品創(chuàng)作，更近似于集體舞蹈創(chuàng)作、大型節(jié)目編排等鄰接權(quán)保護內(nèi)容的制作。人工智能創(chuàng)作內(nèi)容若適用鄰接權(quán)保護的機制，則應當設定客體、內(nèi)容、主體及權(quán)利歸屬、保護期限、侵權(quán)責任判定、權(quán)利限制等具體的必備性框架內(nèi)容。12.5.2

人工智能生成作品的法律判定依據(jù)這一案件被媒體稱為“人工智能寫作領域第一案”，因為目前我國的的著作權(quán)法并未明確對人工智能的著作權(quán)歸屬問題作出明確規(guī)定，因此此案的判定在司法界具有十分重大的意義。該案件在相關立法尚未明確的情況下，從正面對人工智能生成內(nèi)容可版權(quán)性進行了回應。主要明確的是兩個問題：第一，人工智能軟件生成的作品是否構(gòu)成著作權(quán)法意義上的作品；第二，如果構(gòu)成作品，那么著作權(quán)主體如何行使權(quán)利。這兩個問題，在法院的判決書中都做出了解答。其一，法院明確了Dreamwriter軟件作品的獨創(chuàng)性，這也就回應了此作品構(gòu)成了法律意義上的作品；其二，雖然Dreamwriter不是自然人，但其作品的完成卻是騰訊公司多團隊、多人員在騰訊公司主持下完成的作品，因此它的作品也應當是屬于創(chuàng)造它的自然人或法人。010203

案件背景介紹

案件核心問題

法院判決解答

這個案例的意義在于在法律上首次定義了人工智能創(chuàng)作作品歸屬權(quán)問題。但是，人們還需要注意到人工智能可能會在其他產(chǎn)業(yè)和領域產(chǎn)生類似的知識產(chǎn)權(quán)或著作權(quán)問題，防患于未然。12.5.3

不同司法管轄區(qū)的法律實踐歐盟的立場相對保守，強調(diào)版權(quán)保護的人格性要求，認為AI生成內(nèi)容缺乏人類作者的個性表達，因此不應享有版權(quán)保護。但歐盟也在考慮是否需要為AI生成內(nèi)容建立特殊的保護制度。歐盟對AI生成內(nèi)容的版權(quán)態(tài)度美國版權(quán)局在2022年發(fā)布的指導意見明確表示，版權(quán)保護僅適用于“人類作者”創(chuàng)作的作品，AI生成的內(nèi)容不能獲得版權(quán)保護。這一立場基于美國憲法中版權(quán)條款的文本解釋和最高法院的相關判例。然而，如果人類在AI生成過程中有足夠的創(chuàng)作投入，作品仍可能獲得版權(quán)保護。美國對AI生成內(nèi)容的版權(quán)立場英國在2021年修訂的《知識產(chǎn)權(quán)法》中規(guī)定，對于“計算機生成”的作品，版權(quán)歸屬于“進行必要安排以創(chuàng)作作品的人”。這種規(guī)定為AI生成內(nèi)容提供了某種程度的版權(quán)保護，但“必要安排”的具體含義仍需司法實踐來明確。英國對AI生成內(nèi)容的版權(quán)規(guī)定中國在AI版權(quán)問題上采取了相對開放的態(tài)度。2020年深圳南山區(qū)法院在"騰訊訴網(wǎng)貸之家案"中認定，AI生成的財經(jīng)報告具有一定的獨創(chuàng)性，應受著作權(quán)法保護，版權(quán)歸屬于AI軟件的使用者。這一判決為AI生成內(nèi)容的版權(quán)保護提供了重要先例。商業(yè)實踐中的版權(quán)安排這種模式認為AI生成內(nèi)容應該進入公有領域，不受版權(quán)保護。其基于AI缺乏人格性的理論，但在商業(yè)實踐中較少采用。公有領域模式開發(fā)者和用戶共享AI生成內(nèi)容的權(quán)利。這種安排是一種折中方案，通常通過許可協(xié)議實現(xiàn)，允許雙方在不同場景下使用相關內(nèi)容。共享模式一些AI服務提供商將AI生成內(nèi)容的權(quán)利完全歸屬于用戶，作為吸引用戶的商業(yè)策略。這種模式假設用戶的提示和指導構(gòu)成了足夠的創(chuàng)作投入，也較為普遍。用戶歸屬模式AI工具的開發(fā)公司通常在用戶協(xié)議中聲明對AI生成內(nèi)容擁有某種權(quán)利，或要求用戶將相關權(quán)利轉(zhuǎn)讓給公司。例如，一些AI圖像生成平臺聲明對用戶生成的圖像擁有使用權(quán)。這是最常見的安排。開發(fā)者保留模式12.6

人工智能醫(yī)療法律問題01在發(fā)展人工智能醫(yī)療的同時，需要考慮的是現(xiàn)行法對個人信息隱私的保護是否完善、人工智能醫(yī)療對個人信息隱私保護產(chǎn)生哪些挑戰(zhàn)，以及在監(jiān)管層面需如何應對等問題。02人工智能醫(yī)療離不開患者的個人健康信息和病歷信息，顯然須受制與個人信息隱私的法律規(guī)制。根據(jù)《民法典》第一千零三十六條對“個人信息的處理”的定義，人工智能醫(yī)療技術的開發(fā)者和使用者（例如醫(yī)生、醫(yī)療機構(gòu)）對大量的患者信息進行收集、存儲、加工、傳輸、使，即用為“信息處理者”。智能醫(yī)療技術的發(fā)展對智能醫(yī)療數(shù)據(jù)安全和醫(yī)療隱私保護提出了以下三個方面的挑戰(zhàn)。首先，法律規(guī)定數(shù)據(jù)處理者在收集個人信息時需要明確告知對方收集、使用信息的目的，并征得信息主體的同意方可收集其個人信息，而且數(shù)據(jù)的處理也要以該目的為限。但是，人工智能醫(yī)療需要使用跨醫(yī)療機構(gòu)、跨地域的電子病歷系統(tǒng)中儲存的大量患者個人身份信息、健康信息、臨床醫(yī)療信息等。其中，部分信息是患者自愿向醫(yī)療機構(gòu)提供，部分信息是醫(yī)療機構(gòu)在為患者提供診療服務中生成；其收集、生成、儲存通常都獲得患者的明示或默示的同意，并以診療為目的。當電子病歷系統(tǒng)中所儲存的患者個人信息被用來建立大型的電子病歷庫而成為人工智能醫(yī)療的重要數(shù)據(jù)源時，這已經(jīng)超過患者最初知悉并同意的使用目的。電子病歷系統(tǒng)中的患者個人信息不屬于已被公開的信息。而將其用于人工智能醫(yī)療的開發(fā)和使用，作為信息主體的患者并不知情，更無法對其個人信息被另作他用來行使知情同意的權(quán)利。能否以維護公共利益為理由而不經(jīng)患者同意即將其個人信息用于人工智能醫(yī)療，取決于如何界定公共利益。法律上，泛泛將促進醫(yī)療技術發(fā)展視為公共利益則有濫用免責規(guī)定、侵害信息主體隱私權(quán)利之嫌。因此，法律應當要求人工智能醫(yī)療的信息處理者對匿名患者信息的再識別風險作常規(guī)化的評估，當監(jiān)測到風險時立即采取補救措施。此外，法律可要求信息處理者作出“反對再識別”的承諾；當其向第三方使用者披露患者信息時其亦可通過合同方式來禁止后者對信息進行再識別。法律規(guī)制建議在人工智能醫(yī)療開發(fā)中，信息處理者收集的患者個人信息即使己作匿名化處理，依然有可能被利用大數(shù)據(jù)技術重新識別。盡管《網(wǎng)絡安全法》第四十二條設定了“經(jīng)過處理無法識別特定個人且不能復原的”的要求，但是能否復原識別性與再識別技術發(fā)展和可獲取信息的增加相關。

人工智能醫(yī)療中的再識別風險《民法典》第一千零三十五條將“個人信息”定義為“以電子或者其他方式記錄的能夠單獨或者與其他信息結(jié)合識別特定自然人的各種信息，包括自然人的姓名、出生日期、身份證件號碼、生物識別信息住址、電話號碼、電子郵箱、健康信息、行蹤信息等”，以規(guī)范“可識別特定自然人”的信息。換言之，信息處理者處理去識別性的信息則無須受法律制約。

個人信息定義對人工智能醫(yī)療而言，匯集的患者健康數(shù)據(jù)和臨床醫(yī)療數(shù)據(jù)越多，機器學習需要的訓練數(shù)據(jù)就越充分，獲得的深度學習模型就越精確。但是一旦海量數(shù)據(jù)集發(fā)生數(shù)據(jù)泄露或被盜的情形，將會對眾多的患者或用戶的個人隱私構(gòu)成威脅及侵害。數(shù)據(jù)價值的雙刃性因此，信息處理者必須在收集、存儲、加工、傳輸、使用海量數(shù)據(jù)的各個環(huán)節(jié)保障數(shù)據(jù)安全，防止黑客入侵、違法泄露或使用。一方面，信息處理者需提升保障數(shù)據(jù)安全的技術措施（例如數(shù)據(jù)脫敏、數(shù)據(jù)加密、分類分級管理、數(shù)據(jù)隔離、數(shù)據(jù)追蹤技術等），并確保數(shù)據(jù)平臺運行的安全（例如傳輸交換安全、存儲安全、訪問控制安全、平臺管理安全和平臺軟硬件基礎設施的安全等）；另一方面，信息處理者需要加強對其工作人員的管理和培訓、密切監(jiān)督數(shù)據(jù)接收方的數(shù)據(jù)處理活動，以防止個人信息被違法使用或濫用。信息安全的核心要求12.7

現(xiàn)行法律對個人信息隱私的保護中國法律明確對個人信息隱私的保護始于2009年的《中華人民共和國刑法修正案（七）》，其新增了關于侵犯公民個人信息罪的相關規(guī)定之后，2012年的《全國人民代表大會常務委員會關于加強網(wǎng)絡信息保護的決定》第一條規(guī)定“國家保護能夠識別公民個人身份和涉及公民個人隱私的電子信息。任何組織和個人不得竊取或者以其他非法方式獲取公民個人電子信息，不得出售或者非法向他人提供公民個人電子信息。”2017年首次規(guī)定2020年加大保護力度定義個人信息規(guī)定個人信息處理原則規(guī)定處理者免責與主體權(quán)利明確安全保障與保密義務2020年5月全國人大通過的《中華人民共和國民法典》加大了對個人信息保護的力度，在“人格權(quán)編”單設一章“隱私權(quán)和個人信息保護”。第一千零三十五條規(guī)定了個人信息的處理應當遵循合法、正當、必要原則，須獲得信息主體的同意，公開處理信息的規(guī)則，并明示處理信息的目的、方式和范圍。第一千零三十八條規(guī)定了信息處理者的安全保障義務。最后，第一千零三十九條明確了國家機關、承擔行政職能的法定機構(gòu)及其工作人員對公民個人信息的保密義務。第一千零三十六條規(guī)定了信息處理者的免責事由；第一千零三十七條明確個人信息主體的參與權(quán)利。《民法典》第一千零三十四條定義了“個人信息”。2017年頒布的《民法總則》首次在民法上對個人信息作出明確規(guī)定。該法第一百一十一條規(guī)定，“自然人的個人信息受法律保護。任何