當地時間13日,歐洲議會正式投票通過並批准《人工智能法案》,以嚴格規範人工智能的使用。

早在12月初,歐盟內部便就這一法案達成了臨時協議,該法案被提交到歐洲議會進行表決。本次在周三的議會以壓倒性票數獲得通過,投票結果顯示,共有523票贊成,46票反對,另有49票棄權。

在通過最終檢查並獲得歐洲理事會的認可後,該法案預計在5月生效,立法預計將於2025年初生效並於2026年實施,其中一些條款將更早生效。屆時,所有的歐盟成員國都將需要遵守這項AI法案。

歐洲議會表示,該《人工智能法案》旨在全面規範人工智能的應用,保護公民權益,促進歐洲的創新,以將歐洲“打造成爲該領域的領導者”。

這項史無前例的法案將禁止某些“威脅公民權利”的AI應用,包括基於敏感特徵的生物識別分類系統,以及從互聯網或閉路電視錄像中無目標地抓取面部圖像,以創建面部識別數據庫。操縱人類行爲或利用人類弱點的AI也將被禁止。

該法案還制定了一系列條款,以應對支持生成式 AI 工具和聊天機器人(例如 OpenAI 的 ChatGPT)的系統所帶來的風險:要求 " 所謂的通用人工智能系統 " 生產者對用於訓練模型的材料保持透明,並遵守歐盟《版權法》。

歐盟內部市場委員蒂埃裏·布雷東在社交媒體上發文說,對歐洲議會通過“世界上第一部針對可信人工智能的全面、具有約束力的法規”表示歡迎。

愛爾蘭南部歐洲議會議員迪爾德麗·克魯恩 (Deirdre Clune) 擔任《歐盟人工智能法案》起草的首席立法者。當歐洲議會去年12月表示支持該法規時,克魯恩表示,這將是保護歐盟公民方面向前邁出的重要一步。

克魯恩在一份聲明中表示:“通過保障人民和企業的安全和基本權利,該法案將支持歐盟以人爲本、透明和負責任的方式开發、部署和採用人工智能。” “我們必須在監管和推廣新技術之間找到平衡。”

專家表示,他們預計該立法將成爲其他國家尋求監管人工智能的起點,人工智能正在迅速發展,而且在許多地方還沒有明確的指導方針。

在美國,多個州已經提出了以人工智能爲中心的立法,但到目前爲止,國家層面還沒有任何進展。十月,拜登總統籤署了一項可能及時影響美國國家立法的行政命令。

歐盟一直在努力跟上科技發展對消費者的影響以及主要參與者的市場優勢。

各國政府擔心,在今年一系列重要的全球選舉之前,可能會出現深度造假(deepfakes)——產生虛假事件(包括照片和視頻)的人工智能形式。

一些人工智能支持者已經开始自我監管,以避免虛假信息。周二,谷歌宣布將限制其 Gemini 聊天機器人與選舉相關的查詢類型,並表示它已經在美國和印度實施了這些變化。

Tudorache在社交媒體上表示:“《人工智能法案》推動人工智能朝着人類掌控技術的方向發展,技術將幫助我們利用新發現促進經濟增長、社會進步,並釋放人類潛力。”周二媒體報道。 

庫利律師事務所合夥人帕特裏克·範埃克表示,“歐盟擁有世界上第一部人工智能法。其他國家和地區可能會使用人工智能法作爲藍圖,就像歐盟的《通用數據隱私法規》。”

然而範埃克同時表示,對公司而言,繁文縟節是不利的一面。根據違規類型,公司將面臨750萬歐元(約合5903萬人民幣)或營業額1.5%至3500萬歐元或全球營業額7%的罰款。


以下爲歐盟《人工智能法》中文翻譯版:

一、引言

在周二的全體辯論中,內部市場委員會聯合報告員布蘭多·貝尼費(Brando Benifei,意大利,社會與民主黨)表示:“我們終於擁有了世界上第一部關於人工智能的具有約束力的法律,旨在降低風險,創造機會,打擊歧視,並帶來透明度。多虧了議會,不可接受的人工智能實踐將在歐洲被禁止,工人和公民的權利將得到保護。人工智能辦公室將被設立,以支持公司在相關生效前开始遵守這些規則。我們確保人類和歐洲價值觀位於人工智能發展的中心。”

公民自由委員會聯合報告員德拉戈斯·圖多拉切(Dragos Tudorache,羅馬尼亞,歐洲復興黨)表示:“歐盟已經交付了成果。我們將人工智能的概念與構成我們社會基礎的基本原則聯系起來。然而,還有許多工作要做,這些工作超出AI法案本身。AI將推動我們重新思考民主核心的社會契約,我們的教育模式,勞動市場,以及我們進行战爭的方式。AI法案是圍繞技術建立的新型治理模式的起點。我們現在必須專注於將這部法律付諸實踐。”

二、下一步進展

AI法案仍需接受法律語言學家的最後檢查,並預計將在本次立法程序結束前,經過所謂的勘誤程序,最終獲得通過。

此外,法案還需要得到歐盟理事會的正式批准。法案將在官方期刊上發布後二十天生效,並在生效後24個月內全面適用,除了禁止的應用(生效後6個月內生效);實踐准則(生效後9個月);通用AI要求含治理(生效後12個月);以及高風險系統的義務(生效後36個月)。

三、AI法案主要內容

(一)AI的禁止應用場景

法案禁止了威脅公民權利的某些AI應用,包括:

(1)基於敏感特徵的生物識別分類系統

(2)從互聯網或閉路電視攝像頭中無差別地提取用於面部識別數據庫的圖像

(3)工作場所和學校中的情緒識別

(4)社會評分

(5)僅基於對個人畫像或特徵評估的預測性政策

(6)操縱人類利用人類弱點的其他AI應用。

(二)執法豁免

原則上,執法機構不得使用生物識別身份識別系統(RBI),除非在詳盡列出且明確定義的情況下。

“實時”RBI只能在採取嚴格保障措施下部署,例如時間和地理範圍的限制,並需獲得事先的司法或行政授權。此類用途包括搜索失蹤人員預防恐怖襲擊

使用這些系統的事後遠程RBI,即被視爲高風險的行爲,也需要司法授權,並必須與刑事犯罪有關

(三)高風險系統義務

法案也已經確定了其他高風險AI系統的明確義務,這些系統可能會對健康、安全、基本權利、環境、民主和法治產生重大影響

高風險使用包括關鍵基礎設施教育和職業培訓、就業基本服務(例如醫療保健、銀行業)執法的某些系統移民和邊境管理司法和民主程序(例如影響選舉)。必須評估和降低前述系統風險,保留使用日志,保持透明和准確,確保人類持續監督。

公民將有權對AI系統發起投訴,並就影響其權利的高風險AI系統所作出的決定獲得解釋

(四)透明度要求

通用AI系統及其基於的模型必須符合某些透明度要求,並在訓練期間遵守歐盟版權法

那些可能構成系統性風險的更強大的通用AI模型將面臨額外的要求,包括進行模型評估風險評估報告事件

此外,人工或操縱的圖像、音頻或視頻內容(“deepfakes”)必須明確標記。

(五)創新及中小企業支持措施

將在國家層面建立監管沙盒和現實世界測試,爲中小企業和初創企業提供在市場上推出創新A產品之前進行开發和培訓的機會。



標題:預計5月生效!全球首個“AI法案”在歐盟獲批,“威脅公民權利”的AI應用將被禁止

地址:https://www.iknowplus.com/post/89653.html

鄭重聲明:本文版權歸原作者所有,轉載文章僅為傳播信息之目的,不構成任何投資建議,如有侵權行為,請第一時間聯絡我們修改或刪除,多謝。