歐盟提議的規(guī)則將成為迄今為止國(guó)際上制定監(jiān)管人工智能技術(shù)最嚴(yán)苛的規(guī)則之一，其中包括面部識(shí)別、自動(dòng)汽車(chē)駕駛以及驅(qū)動(dòng)在線廣告、自動(dòng)招聘和信用評(píng)分的算法。擬議的規(guī)則將圍繞面向未來(lái)但具有爭(zhēng)議的人工智能技術(shù)制定全球性法規(guī)和規(guī)范。

歐洲數(shù)字版權(quán)非營(yíng)利組織Access Now公司歐洲政策分析師Daniel Leufer 說(shuō)，“這將向全球傳達(dá)一個(gè)非常重要的信息，即在建立在民主、法治、基本權(quán)利基礎(chǔ)上的社會(huì)中，不允許應(yīng)用某些人工智能技術(shù)?！?/p>

他指出，歐盟擬議的規(guī)則是含糊不清的，但這是檢查潛在有害技術(shù)使用的重要一步。該規(guī)則很可能受到國(guó)際方面的密切關(guān)注，該規(guī)則適用于在歐盟銷(xiāo)售產(chǎn)品或服務(wù)的任何一家公司。

其他倡導(dǎo)者表示，歐盟保護(hù)公民免受許多濫用人工智能的規(guī)則存在太多漏洞?？偛课挥诓剪斎麪柕臍W洲數(shù)字版權(quán)組織(EDRi)政策和競(jìng)選官員Ella Jakubowska說(shuō)：“有一些規(guī)則是積極的。而某些條款將允許政府部門(mén)和組織繼續(xù)以懷疑的方式使用人工智能技術(shù)?！?/p>

例如，擬議的法規(guī)建議禁止使用人工智能的“高風(fēng)險(xiǎn)”應(yīng)用程序，其中包括執(zhí)法部門(mén)使用人工智能進(jìn)行面部識(shí)別，但只有當(dāng)該技術(shù)用于在公共場(chǎng)所實(shí)時(shí)查尋人員時(shí)才可以使用。該規(guī)則還將為警方在調(diào)查可能判處至少三年徒刑的犯罪時(shí)可能出現(xiàn)的例外情況提供建議。

Jakubowska指出，人工智能仍用于學(xué)校、企業(yè)或購(gòu)物中心，并用于一系列警方調(diào)查中。她說(shuō)：“在基本數(shù)字版權(quán)方面，還有很多地方遠(yuǎn)遠(yuǎn)不夠。我們希望他們采取更大膽的立場(chǎng)。”

由于人工智能的最新發(fā)展，面部識(shí)別技術(shù)已變得更加有效，這引起了極大的爭(zhēng)議。它通過(guò)Clearview AI等商業(yè)工具在一些國(guó)家的執(zhí)法部門(mén)中得到廣泛應(yīng)用;美國(guó)一些城市已經(jīng)禁止警方使用這項(xiàng)技術(shù)來(lái)回應(yīng)公眾的抗議。

歐盟擬議的人工智能規(guī)則還將禁止由政府機(jī)構(gòu)為一般目的進(jìn)行基于人工智能的社會(huì)評(píng)分，以及禁止使用人工智能針對(duì)“特定群體”進(jìn)行監(jiān)控，這種方式可能對(duì)他們?cè)斐尚睦砘蛏眢w上的傷害。此外，還可能會(huì)限制使用人工智能進(jìn)行信用評(píng)分、招聘或某種形式的監(jiān)控廣告，例如，人工智能算法可能將賭博網(wǎng)站的廣告推薦給人們。

歐盟擬議的人工智能法規(guī)要求使用高風(fēng)險(xiǎn)人工智能應(yīng)用程序的組織向監(jiān)管機(jī)構(gòu)提供風(fēng)險(xiǎn)評(píng)估報(bào)告，以證明其安全性。那些不遵守規(guī)定的組織，可能會(huì)被處以其全球銷(xiāo)售額6%的罰款。

擬議的規(guī)則要求組織在嘗試使用人工智能來(lái)檢測(cè)用戶情緒，或者根據(jù)生物特征(例如性別、年齡、種族、政治取向)進(jìn)行分類(lèi)時(shí)必須告知用戶。

數(shù)字版權(quán)分析師Leufer表示，歐盟擬議的這些規(guī)則可能會(huì)阻礙行業(yè)組織在某些領(lǐng)域的投資，從而影響人工智能行業(yè)在歐盟和其他國(guó)家和地區(qū)的發(fā)展步伐。

今年1月制定的這份條例草案的內(nèi)容日前被曝光。其最終版本包含了一些顯著的更改，例如刪除了禁止使用高風(fēng)險(xiǎn)的人工智能系統(tǒng)的條款。