·更新后的草案引入了旨在監(jiān)管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)。大模型的創(chuàng)建者必須公開(kāi)訓(xùn)練人工智能使用的數(shù)據(jù)，以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。
(資料圖)
·“鑒于人工智能將對(duì)我們的社會(huì)和經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響，《人工智能法》很可能是這項(xiàng)任務(wù)中最重要的立法。這是全球第一項(xiàng)此類立法?！?/p>
歐洲議會(huì)兩個(gè)委員會(huì)當(dāng)?shù)貢r(shí)間5月11日通過(guò)《人工智能法（The AI Act）》提案的談判授權(quán)草案。草案就對(duì)ChatGPT等生成式人工智能大模型的一系列要求達(dá)成一致，標(biāo)志著歐盟對(duì)人工智能實(shí)施強(qiáng)監(jiān)管方面又邁出了一步。
新文本將嚴(yán)格禁止“對(duì)人類安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)”，包括有目的地操縱技術(shù)、利用人性弱點(diǎn)或根據(jù)行為、社會(huì)地位和個(gè)人特征等進(jìn)行評(píng)價(jià)的系統(tǒng)等。
草案提出了新的保障措施，并禁止各種危險(xiǎn)用例，包括禁止在公共場(chǎng)所進(jìn)行大規(guī)模面部識(shí)別程序，以及禁止使用預(yù)測(cè)性警務(wù)系統(tǒng)（即AI犯罪預(yù)測(cè)系統(tǒng)）。草案還要求建立一個(gè)公共數(shù)據(jù)庫(kù)，記錄政府部門(mén)部署的“高風(fēng)險(xiǎn)”人工智能系統(tǒng)，公開(kāi)數(shù)據(jù)，以便公民能夠了解他們將何時(shí)以及如何受到這項(xiàng)技術(shù)的影響。
這一草案將于6月中旬提交歐洲議會(huì)全會(huì)表決，之后歐洲議會(huì)將與歐盟理事會(huì)就法律的最終形式進(jìn)行談判。歐洲議會(huì)的聲明說(shuō)，一旦獲得批準(zhǔn)，這將成為全世界首部有關(guān)人工智能的法規(guī)。
要求ChatGPT等承擔(dān)新的義務(wù)
該草案由兩個(gè)關(guān)鍵委員會(huì)批準(zhǔn)：內(nèi)部市場(chǎng)委員會(huì)（Internal Market Committee）和公民自由委員會(huì)（Civil Liberties Committee）。這些委員會(huì)由負(fù)責(zé)監(jiān)督立法制定的歐洲議會(huì)議員組成。他們最終以84票贊成、7票反對(duì)、12票棄權(quán)批準(zhǔn)了完成的草案。
“在草案中，歐洲議會(huì)議員旨在確保人工智能系統(tǒng)由人監(jiān)督，且確保其安全、透明、可追溯、非歧視和環(huán)保。他們還希望對(duì)人工智能有一個(gè)統(tǒng)一的定義，旨在保持技術(shù)中立，以便其可以適用于現(xiàn)在和以后出現(xiàn)的人工智能系統(tǒng)。”歐洲議會(huì)在一份新聞稿中說(shuō)。
修正案包括擴(kuò)大禁止行為清單，以禁止對(duì)人工智能系統(tǒng)的“侵入性”和“歧視性”使用，禁止行為包括：在公共可訪問(wèn)空間建立實(shí)時(shí)遠(yuǎn)程生物特征識(shí)別系統(tǒng)；使用遠(yuǎn)程生物特征識(shí)別系統(tǒng)，唯一的例外是執(zhí)法部門(mén)起訴嚴(yán)重犯罪，并且只有在司法授權(quán)后；使用敏感特征（例如性別、種族、民族、公民身份、宗教、政治取向）的生物識(shí)別分類系統(tǒng)；預(yù)測(cè)性警務(wù)系統(tǒng)（基于貌相、地點(diǎn)或過(guò)去的犯罪行為預(yù)測(cè)犯罪）；執(zhí)法、邊境管理、工作場(chǎng)所和教育機(jī)構(gòu)中的情感識(shí)別系統(tǒng)；從社交媒體或監(jiān)控?cái)z像頭中抓取生物特征數(shù)據(jù)以創(chuàng)建面部識(shí)別數(shù)據(jù)庫(kù)（侵犯人權(quán)和隱私權(quán)）。
除了禁令之外，更新后的草案還引入了旨在監(jiān)管“通用人工智能”的新措施，適用于由微軟、谷歌和OpenAI等科技巨頭構(gòu)建的資源密集型人工智能系統(tǒng)，其中包括GPT-4和ChatGPT等語(yǔ)言模型，以及Stable Diffusion、Midjourney和DALL-E等人工智能圖像生成器。
根據(jù)擬議的立法，人工智能大模型的創(chuàng)建者需要在人工智能使用之前進(jìn)行評(píng)估并減輕各種風(fēng)險(xiǎn)，包括評(píng)估訓(xùn)練人工智能系統(tǒng)可能造成的環(huán)境損害。相關(guān)公司必須公開(kāi)訓(xùn)練人工智能使用的數(shù)據(jù)，以確保其使用受版權(quán)法保護(hù)的數(shù)據(jù)訓(xùn)練。
有業(yè)內(nèi)人士認(rèn)為，版權(quán)問(wèn)題可能會(huì)在美國(guó)產(chǎn)生重大影響。在美國(guó)，版權(quán)所有者已經(jīng)對(duì)未經(jīng)同意使用其數(shù)據(jù)的人工智能圖像生成器提起了一系列訴訟，許多科技公司，如谷歌和OpenAI，都通過(guò)拒絕披露訓(xùn)練系統(tǒng)的數(shù)據(jù)（通常聲稱這些信息是商業(yè)機(jī)密）來(lái)避免這類法律挑戰(zhàn)，若歐盟要求公開(kāi)訓(xùn)練數(shù)據(jù)，則可能會(huì)產(chǎn)生新的訴訟。
《人工智能法》草案的另一個(gè)關(guān)鍵條款是創(chuàng)建一個(gè)“高風(fēng)險(xiǎn)”人工智能系統(tǒng)的數(shù)據(jù)庫(kù)，以公開(kāi)人工智能系統(tǒng)在歐盟的部署地點(diǎn)、時(shí)間和方式?！斑@個(gè)數(shù)據(jù)庫(kù)應(yīng)該是自由、公開(kāi)且易于理解的?！辈莅钢刑岬?，“數(shù)據(jù)庫(kù)還應(yīng)方便用戶使用，易于導(dǎo)航，至少具有搜索功能，允許公眾在數(shù)據(jù)庫(kù)中搜索特定的高風(fēng)險(xiǎn)系統(tǒng)以及相關(guān)的位置、風(fēng)險(xiǎn)類別等?！?/p>
創(chuàng)建這樣一個(gè)數(shù)據(jù)庫(kù)一直是數(shù)字權(quán)利活動(dòng)人士的長(zhǎng)期需求，他們表示，公眾經(jīng)常在不知不覺(jué)中被大規(guī)模監(jiān)控系統(tǒng)進(jìn)行實(shí)驗(yàn)，或在未經(jīng)同意的情況下被收集數(shù)據(jù)來(lái)訓(xùn)練人工智能。
“其中一個(gè)大問(wèn)題是，在傷害事件發(fā)生之前，我們對(duì)正在使用的人工智能系統(tǒng)一無(wú)所知?！狈菭I(yíng)利組織Access的高級(jí)政策分析師丹尼爾·盧弗（Daniel Leufer）說(shuō)。他舉了荷蘭福利丑聞的例子，荷蘭政府使用的一種算法錯(cuò)誤地就數(shù)千張未支付稅單發(fā)起訴訟。他表示，該數(shù)據(jù)庫(kù)將幫助歐盟公民用信息武裝自己，并使個(gè)人和團(tuán)體更容易使用法律手段保護(hù)自身合法權(quán)益。
歐盟成員國(guó)還有重大分歧
對(duì)于人工智能監(jiān)管的一系列想法已經(jīng)在歐盟醞釀多年，投票結(jié)束后，聯(lián)合報(bào)告員兼歐洲議會(huì)議員德拉戈斯·圖多拉奇（Dragos Tudorache）在一份聲明中評(píng)論說(shuō)：“鑒于人工智能將對(duì)我們的社會(huì)和經(jīng)濟(jì)產(chǎn)生深遠(yuǎn)影響，《人工智能法》很可能是這項(xiàng)任務(wù)中最重要的立法。這是全球第一項(xiàng)此類立法，這意味著歐盟可以引領(lǐng)人工智能以以人為本、值得信賴和安全的方式發(fā)展。我們一直致力于支持歐洲的人工智能技術(shù)發(fā)展，為初創(chuàng)企業(yè)、中小企業(yè)和行業(yè)提供成長(zhǎng)和創(chuàng)新的空間，同時(shí)保護(hù)基本權(quán)利，加強(qiáng)民主監(jiān)督，確保成熟的人工智能治理和執(zhí)法體系?！?/p>
“該草案具有全球意義。”數(shù)字倡導(dǎo)組織歐洲數(shù)字權(quán)利（European Digital Rights）的高級(jí)政策顧問(wèn)薩拉·錢(qián)德（Sarah Chander）告訴科技媒體The Verge。正如錢(qián)德所說(shuō)，這些法律很可能會(huì)影響世界各國(guó)。歐盟是一個(gè)十分重要的市場(chǎng)，許多科技公司經(jīng)常在全球范圍內(nèi)遵守歐盟特定的法規(guī)，以減少同時(shí)遵守多套法規(guī)帶來(lái)的損耗。
不過(guò)，該草案仍可能發(fā)生變化，在5月12日獲得歐盟議會(huì)委員會(huì)的批準(zhǔn)后，草案將在下個(gè)月面臨全體會(huì)議投票，然后進(jìn)入三方會(huì)談，涉及歐盟成員國(guó)和歐盟政府機(jī)構(gòu)的閉門(mén)談判。
歐洲數(shù)字權(quán)利組織的高級(jí)政策顧問(wèn)艾拉·雅庫(kù)伯斯卡（Ella Jakubowska）說(shuō)：“許多成員國(guó)政府熱衷于保留進(jìn)行生物識(shí)別大規(guī)模監(jiān)控的能力。但我們也看到了奧地利和德國(guó)的不同意見(jiàn)，他們都贊成在《人工智能法》中加強(qiáng)對(duì)生物識(shí)別數(shù)據(jù)的保護(hù)。我們聽(tīng)說(shuō)有傳言說(shuō)，其他幾個(gè)國(guó)家愿意在生物識(shí)別條款的方向上做出妥協(xié)。這給了我們希望，三方會(huì)談將取得積極成果，盡管我們當(dāng)然希望幾個(gè)會(huì)員國(guó)作出強(qiáng)有力的反擊。”
錢(qián)德表示，數(shù)字權(quán)利活動(dòng)人士最看重的是對(duì)生物識(shí)別監(jiān)控和預(yù)測(cè)性警務(wù)系統(tǒng)的禁令，將在三方會(huì)談中引起“重大分歧”?！俺蓡T國(guó)認(rèn)為，人工智能的這些用途對(duì)于打擊犯罪和維護(hù)安全是必要的。”錢(qián)德說(shuō)。
標(biāo)簽：
