歐盟國內禁用校園面部識別，轉頭就放任企業，賣給巴西賺黑心錢

2023年12月，當歐盟就具有里程碑意義的《人工智能法案》達成一致時，歐盟委員會主席烏爾蘇拉·馮德萊恩宣布這是一個“歷史性時刻”，并表示該法案“將歐洲的價值觀引入了一個新時代”。此后，歐盟將自身定位為可信賴人工智能的全球標準制定者。

在2025年2月于巴黎舉行的人工智能行動峰會上，馮德萊恩承諾歐洲將“不遺余力地將歐洲打造為人工智能大陸”，并堅稱安全與創新必須齊頭并進。

歐洲的人工智能監管存在盲區。雖然他們嚴格監管歐洲內部的某些人工智能應用，但沒有任何條款來監控或限制這些相同技術向歐盟境外出口。這種漏洞并非假設，它已經被利用。

在巴西南部的巴拉那州，每天有近一百萬名學童被一家歐洲公司開發的面部識別系統識別。

該識別算法由英諾華提克斯開發，這是一家總部位于布拉迪斯拉發的斯洛伐克公司，年營業額超過2300萬歐元。

在歐洲學校中，類似的面部識別應用曾多次被法院和監管機構叫停。2019年8月，瑞典數據保護局對一個學校董事會處以罰款，該董事會曾對22名學生進行了為期三周的面部識別考勤系統試點。

監管機構裁定該實驗違反了《通用數據保護條例》，認為其不成比例且過度侵犯隱私。該機構強調，學童無法自由同意在課堂上使用監控技術。

2020年2月，馬賽的一家行政法院得出了類似的結論，叫停了尼斯和馬賽高中的試點項目。

法官認為，考慮到學校和未成年人之間的權力不平等，從學生那里獲得的同意是無效的，并裁定考慮到有刷卡進入等替代方案，生物識別系統是不成比例的。

2024年通過的歐盟《人工智能法案》此后已著手監管此類技術。雖然沒有被徹底禁止，但在學校部署生物識別監控受到嚴格監管

在《人工智能法案》的談判期間，歐洲議會主張禁止某些出口。

其官方立場指出，“禁止出口”被《人工智能法案》歸類為“不可接受”的系統是“適當的”。但該提案在其他歐盟機構中幾乎沒有得到支持，并從最終法律中被刪除。

“缺乏此類措施意味著在這里被禁用的技術可能仍然會在其他地方出售和部署，這破壞了我們的價值觀，”支持該禁令的意大利社會黨歐洲議會議員布蘭多·貝尼費表示，“我們不應允許在國外出口和使用我們不允許在國內使用的系統。”

隱私國際組織負責協調監控技術工作的凱特琳·畢曉普稱這種情況“有害”。

她表示，沒有任何出口管制造成了“一個不好的局面”，這使得歐洲公司可以在國際上銷售“深度侵入性技術”。

在巴西，該系統的部署引發了嚴重擔憂。老師們告訴調查歐洲，該算法通常比手動考勤花費更長的時間，而且識別錯誤很常見。

圣保羅州立大學研究人員在2025年發表的一項獨立研究發現，該系統的平均準確率為91.1%，低于采購合同中規定的95%的閾值。

這些錯誤具有特殊的權重，因為巴西主要福利項目“家庭補助金”的資格部分取決于學校出勤率。在巴拉那州，這些記錄現在主要由面部識別系統生成。調查歐洲沒有發現任何已確認的案例表明錯誤的缺勤直接導致暫停付款。但老師們警告說，這種風險是真實存在的。

巴拉那州教育局長表示，面部識別系統的使用對教師來說是可選的，他們會手動核實現場學生名單，并在系統無法識別學生時進行糾正。如果提出要求，學生也可以“在沒有任何偏見的情況下”選擇退出使用該系統。秘書處表示，技術故障不會自動導致學生被標記為缺勤，也不會直接影響社會福利項目的資格。

2025年4月，公共檢察官馬科斯·何塞·波爾圖·蘇亞雷斯提起了首個法律挑戰，認為該系統違反了巴西數據保護法。

其中的問題之一是同意：調查歐洲向巴拉那州教育秘書處證實，早期版本的注冊表不允許父母拒絕使用他們孩子的圖像。一名法官最初拒絕了暫停該系統的請求；該案件仍在審理中。

盡管存在法律訴訟，巴拉那州還是將其合同延長至2026年9月。根據研究機構互聯網實驗室的數據，巴西27個州中有7個州目前在學校使用面部識別技術。

這項技術也開始回流歐洲。2024年，巴拉那州政府宣布其系統已出口到葡萄牙，并在里斯本聯合國際學校進行了測試。當被聯系時，該學校的所有者表示：“學校沒有使用這個工具。”

在收到調查歐洲的提問后，葡萄牙數據保護局宣布將啟動官方調查。

巴拉那州教育局長表示，該系統符合巴西的數據保護法。他還告知，“在實施該解決方案之前，已準備了數據保護影響評估”。關于正在進行的審判，局長表示“該案件仍在司法審查中，到目前為止，還沒有法院判決”。