歐盟推出《人工智能法案》

高榮偉

《人工智能法案》將提高AI系統(tǒng)的透明度和公平性，減少歧視和偏見現象的發(fā)生。

經過馬拉松式的談判之后，2023年12月8日，歐洲議會、歐盟成員國和歐盟委員會三方就《人工智能法案》達成協(xié)議。這項法案有望成為全球第一部關于人工智能領域的全面監(jiān)管法規(guī)。

在科技飛速發(fā)展的今天，人工智能（AI）已經深入影響到人們生活的方方面面。然而，隨著AI技術的不斷進步，其帶來的倫理和監(jiān)管問題日益增加，在歐盟各國表現尤其突出。德國工業(yè)聯合會（BDI）表示，歐洲目前在人工智能關鍵技術方面，面臨落后危險，因此，迫切需要制定一部人工智能領域的全面監(jiān)管法規(guī)。

2019年以來，歐盟一直在立法方面對人工智能監(jiān)管領域進行布局，先后發(fā)布人工智能倫理準則并出臺了《人工智能白皮書》。隨著生成式人工智能的蓬勃發(fā)展，歐洲官員們抓緊更新規(guī)則。2021年，歐盟公布了人工智能規(guī)則手冊的初稿。同年4月，歐盟委員會提議制定一部《人工智能法案》。在2023年人工智能大模型引發(fā)廣泛關注后，歐盟加快了推進《人工智能法案》的步伐。2023年6月，歐洲議會以499票贊成、28票反對和93票棄權，高票通過了《人工智能法案》談判授權草案，推動了該法案進入立法程序的最后階段，即舉行歐洲議會、歐盟成員國和歐盟委員會的“三方談判”，以確定法案的最終條款。

歐洲議會、歐盟成員國和歐盟委員會三方終于在漫長談判后，就《人工智能法案》達成協(xié)議。這份法案的達成是歷史性的一刻，標志著歐盟在人工智能監(jiān)管方面邁出了關鍵一步?！都~約時報》在報道中則表示，《人工智能法案》的關鍵輪廓已經確定，為那些尋求利用這項技術潛在好處的國家設定了一個新的全球基準。

歐盟各國一致認為，發(fā)展人工智能能使歐盟獲得競爭優(yōu)勢，在未來全球治理中贏得話語權。法案的起草過程困難重重。對此，有專家表示，歐盟各方最終就《人工智能法案》達成協(xié)議，是各方做出妥協(xié)的結果，這既有來自歐盟內部的迫切需求，也有來自外部環(huán)境的壓力。事實上，談判人員在談判初期就設法達成初步妥協(xié)，盡管以法國為首的反對方呼吁自我監(jiān)管。

《人工智能法案》旨在以全面的、基于倫理的方式監(jiān)管AI，法案內容包括對AI系統(tǒng)的安全性、透明度、可追溯性、公平性和道德標準的評估和管理，以及對AI系統(tǒng)的監(jiān)管、執(zhí)法和司法審查等方面的規(guī)定。該法案按照不同的風險類別為人工智能技術應用進行了分類，由低到高劃分為四個等級，從“不可接受”，也就是必須禁止的技術，到高、中、低風險的人工智能，通過識別不同風險來進行監(jiān)管。

第一，對于眼下備受關注的生成式人工智能如何監(jiān)管，也就是包括Chat GPT在內的先進人工智能模型如何監(jiān)管，是此次談判的爭論點之一。有歐盟委員提出，時下，像Chat GPT這樣的生成式人工智能系統(tǒng)突然闖入人們的視野，它們居然能夠生成類似人類創(chuàng)作的文字、照片和歌曲，這樣的功能讓人驚嘆不止。不過，這項快速發(fā)展的技術對就業(yè)、隱私和版權保護，甚至人類生命本身構成了風險。對此，歐盟要求其在投放市場前需要起草技術文件、遵守歐盟版權法等。歐盟官員表示，希望新的法案可以幫助歐盟地區(qū)的人工智能技術更好地發(fā)展，提升行業(yè)競爭力。

第二，根據該法案，被視為有“系統(tǒng)性風險”的模型將受到額外的約束。其草案明確規(guī)定，所有通用型人工智能系統(tǒng)的開發(fā)者都必須滿足基本的透明度要求。具體來看，其透明度要求包括：具有可接受的使用策略、更新訓練大模型的最新信息、遵守歐盟版權法以及報告用于訓練其模型的數據信息。對于那些高風險的人工智能技術應用，歐盟將在使用相關技術的產品投放市場前，進行嚴格評估，并根據用于訓練模型的計算能力來確定這種風險。根據協(xié)議，那些構成最大“系統(tǒng)性風險”的先進基礎模型將受到額外審查，包括被要求披露更多信息。

第三，對于人類安全具有不可接受風險的人工智能系統(tǒng)，包括有目的地操縱技術、利用人性弱點或根據行為、社會地位和個人特征等進行評價的系統(tǒng)等，將被禁止使用。文件還規(guī)定，禁止利用分類系統(tǒng)來推斷用戶種族、宗教信仰等個人信息。消費者有權提出投訴并獲得相應解釋，違規(guī)者將被罰款。

第四，有關另一項頗具爭議的生物識別監(jiān)控技術，協(xié)議中規(guī)定，各國政府只能在公共場所使用實時生物識別監(jiān)控，防止像恐怖襲擊等可預見的威脅公共安全的事件，以及搜索犯罪嫌疑人等。事實上，關于生物識別監(jiān)控技術，歐洲議會希望能夠全面禁止。

值得一提的是，該法案的達成并非一蹴而就。對于該法案，業(yè)內一直存在不同的聲音。在此之前，歐盟內部就AI技術的監(jiān)管問題進行了長期的討論和爭議。

一些人認為，過度的監(jiān)管可能會阻礙AI技術的發(fā)展和應用，影響經濟發(fā)展和社會進步。而另一些人則認為，AI技術的廣泛應用已經帶來了嚴重的倫理和安全問題，必須加強監(jiān)管以保護公眾利益。據《紐約時報》報道，歐洲議會和歐盟27個成員國的談判代表，為協(xié)議的達成克服了巨大的分歧?！?023年12月中旬，三方展開了最后馬拉松式的閉門談判，其中一次談判就持續(xù)了22個小時。”事實上，直到談判的最后一分鐘，立法者和歐盟各國仍在為“如何在促進創(chuàng)新與防范可能的傷害間取得平衡”這一問題進行激烈的辯論。參與談判的西班牙數字化和人工智能國務秘書卡梅·阿蒂加斯表示，為確?！袄锍瘫健钡谋O(jiān)管法案的達成而付出的這些巨大努力是值得的。法案一旦頒布實施，其影響將會涉及人工智能的研發(fā)、人工智能產品和服務的設計與運行。該法案也將促進AI產業(yè)的健康發(fā)展，增強消費者對AI系統(tǒng)的信任和安全感，提高整個社會的福祉水平。首先，該法案會影響各類人工智能企業(yè)的市場格局、業(yè)務模式、運營方式乃至發(fā)展前景。從執(zhí)法和實施的前景來看，對于人工智能企業(yè)是一個比較大的挑戰(zhàn)，同時也是一個業(yè)務重構、業(yè)務設計的過程。具體來看，《人工智能法案》不僅會影響谷歌、Meta、微軟和OpenAI等主要人工智能開發(fā)商，還會影響使用該技術的教育、醫(yī)療保健、銀行等領域。政府部門因為近年來在公共業(yè)務方面更多地轉向人工智能，也將受到影響。其次，法案正式頒布實施后，各成員國將基于本國的公共政策基礎，做出一定的變通適用。與此同時，它還將為全球其他國家和地區(qū)提供一個參考和借鑒的范例，從而推動全球AI監(jiān)管體系的建立和完善。美國哥倫比亞大學法學院教授、歐盟和數字監(jiān)管專家阿努·布拉德福德就曾表示，歐盟制定強有力且全面的監(jiān)管措施，“可以為許多考慮監(jiān)管的政府樹立良好的樣板”。其他國家“可能不會照搬每一項條款，但其中很多條款提到的很多方面會被效仿”。對此，歐盟委員會內部市場專員蒂埃里·布雷東坦言，這份協(xié)議將有助于歐洲“在全球人工智能競賽中領跑”。

展望未來，《人工智能法案》的實施將為歐盟乃至全球帶來一系列積極影響。首先，該法案將提高AI系統(tǒng)的透明度和公平性，減少歧視和偏見現象的發(fā)生。其次，嚴格的監(jiān)管將促使企業(yè)和研究機構更加注重AI技術的倫理和道德問題，推動AI向更加可持續(xù)的方向發(fā)展。此外，該法案還將為其他領域提供借鑒和參考，推動全球范圍內的人工智能監(jiān)管體系的建立和完善?？偠灾摲ò笇W盟乃至全球的人工智能發(fā)展格局和立法格局帶來非常重大的影響。據悉，該法案最早要到2025年才會生效。預計他們還將就相關細則的制定展開進一步談判。

編輯：薛華? ? icexue0321@163.com