2024年5月21日,歐盟理事會正式批准了歐盟《人工智能法》,這是世界上第一部對人工智慧領域進行全面監管的法律。 該《人工智能法》正文部分包括十三個章節,共有一百一十三條,《人工智能法》的發佈對後續人工智慧產業的發展,以及其他國家人工智慧領域的立法與監管具有重要的指引與參攷作用。 本次準予通過《人工智能法》大部分的篇幅在於依照風險程度對人工智慧系統進行分類並且規定了各類人工智慧系統相關主體的義務。 同時為了協助《人工智能法》的實施,歐盟在正文中還規定了一些新的管理機構,還明確了各機构的職責。 此外,本次《人工智能法》並非一次性全部生效,為了給各相關主體緩衝的機會,《人工智能法》中還規定了幾大重要的時間節點。 囙此,本文從人工智慧系統的分類及對應義務、人工智慧新管理機構及職責、該法規生效及適用時間方面為讀者點評歐盟《人工智能法》。
01
一.人工智慧系統的分類以及對應義務
歐盟《人工智能法》在第二章、第三章、第四章、第五章內,根據不同的風險等級,將人工智慧系統依次劃分為禁止使用的人工智慧(Prohibited AI Practices)、高風險人工智慧系統(High-risk AI Systems)、特定人工智慧系統(certain AI systems)以及通用目的人工智慧模型(General-purpose AI models)下的“具有系統風險的”通用目的的人工智慧模型。
![640 2024 06 19T181946.741](https://joius.com.tw/wp-content/uploads/2024/07/640-2024-06-19T181946.741.jpg)
其中,禁止使用的人工智慧的標準為,存在:
01
損害他人知情決策,從而造成或可能造成重大傷害的情形;
02
利用他人由於年齡、殘疾或特定社會或經濟狀況而產生的弱點對其進行引誘,從而造成或可能造成重大傷害的情形;
03
使特定個體或群體在與原始收集數據無關的場景下,遭受不利後果或使特定個體或群體在與原始收集數據相關的場景中,遭受不成比例的不利後果的情形;
04
在刑事犯罪以外的場合,僅根據個人外貌或性格評估其犯罪概率的情形;
05
從互聯網或監控錄影中隨意收集人面數據的情形;
06
出於健康或安全以外的目的,在工作和學習的場合中,推測人的情緒的情形;
07
在特定情形以外,將人按照生物特徵進行分類,以此推斷其種族、政治觀點、宗教信仰等的情形;
08
在特定情形以外,為執行法律而在公共場所使用“實时”遠程生物識別系統的情形。
對於這一類的人工智慧,由於已為法律所禁止使用,所以在《人工智能法》中僅主要針對第(8)項的例外情形規定了遵守相關法律法規、進行事先登記、獲得授權許可、符合比例原則等義務。
![640 2024 06 19T181927.750](https://joius.com.tw/wp-content/uploads/2024/07/640-2024-06-19T181927.750.jpg)
風險等級次一級的人工智慧系統是高風險人工智慧系統,這也是本部法案的重點。 對於高風險人工智慧系統的分類規則,《人工智能法》的規定為:
01
意圖作為某個產品的安全組件,或者已屬於附件一所包含的產品範圍;
02
根據附件一中的歐盟立法清單,被要求受協力廠商監管的人工智慧安全組件或產品。 對於高風險人工智慧系統的相關義務,《人工智能法》用了非常大的篇幅進行說明,在義務主體上包括提供者的義務、進口者的義務、分銷者的義務、部署者的義務,在內容上涉及風險管理、數據治理、日誌記錄、監督、授權、通知等各種相關義務。
第三級風險等級的人工智慧系統則為特定人工智慧系統,對於該類人工智慧系統,《人工智能法》並沒有給出分類標準,僅直接規定提供者和部者負有透明度義務,即要求提示用戶與其互動的對像是人工智慧系統。
第五章單獨規定了通用目的人工智慧模型,在這一類別中,《人工智能法》又從中分出“具有系統風險的”通用目的的人工智慧模型和“不具有系統風險的通用目的”人工智慧模型兩種類型。 而“具有系統風險的”通用目的的人工智慧模型和“不具有系統風險的”通用目的人工智慧模型的範圍都由委員會或者科學小組按照一定科技手段和方法進行確定,但系統的提供者享有抗告權,可以在評估做出後的六個月內申請重新評估。 針對這類人工智慧系統,《人工智能法》主要規定了通用目的人工智慧模型這一大類別下的提供者義務,以及“具有系統風險的”通用目的的人工智慧模型這一小類別下的提供者義務。 並且,根據相應的法條,“具有系統風險的”通用目的的人工智慧模型的提供者在履行義務時,並非是僅需履行小類別項下義務,而是在履行大類別項下義務的同時,附加履行小類別項下的義務。
02
二.新管理機構
圖片
為了保障《人工智能法》的順利實施,歐盟還安排了多個機构進行分工,主要包括:
01
人工智慧辦公室,負責幫助歐盟瞭解關於人工智慧領域的專業知識;
02
歐洲人工智慧委員會,由各成員國代表組成,為歐洲委員會和成員國在實施《人工智能法》方面提供建議和協助;
03
諮詢論壇,由各利益相關方組成,負責向歐洲人工智慧委員會和委員會提供諮詢意見和科技知識;
04
科學小組,由人工智慧專家組成,負責支持本條例的實施和執行以及協助人工智慧辦公室履行其在保障條款方面的職責。
03
![640 2024 06 19T181917.550](https://joius.com.tw/wp-content/uploads/2024/06/640-2024-06-19T181917.550.jpg)
三.生效和適用時間
《人工智能法》中還包含了幾個重要的時間節點:
01
公佈後二十天:本法案自其在《官方公報》上公佈後第二十天起生效。
02
生效後六個月:第一章(立法目的、適用範圍、定義)和第二章(禁止使用的人工智慧)自本條例生效後六個月起適用;
03
生效後十二個月:第三章第4節(主管機關和指定機构)、第五章(通用目的人工智慧)、第七章(管理)和第十二章(懲罰)自本法案生效後十二個月起適用,第101條除外;
04
生效後三十六個月:第6條第1款(高風險人工智慧的分類)及其對應義務自本條例生效後三十六個月起適用。
05
生效後二十四個月:本法案其餘部分自生效後24個月起適用;
無疑,歐盟出臺的首部《人工智能法案》為全球人工智慧立法提供了一個重要的參攷框架,它給予其他國家在製定人工智慧法律時考慮細化風險分級分類制度、完善監管制度和程式的啟發。 這不僅對歐盟內部的人工智慧發展和治理具有深遠影響,而且對全球人工智慧領域的立法和監管也具有指導和借鑒作用。