訂閱
糾錯
加入自媒體

最高罰款1000萬!瑞典“人臉識別進(jìn)校園”被判違反GDPR,未來或?qū)⒘⒎?/p>

2019-08-28 10:30
AI世界
關(guān)注

↑↑↑ 點(diǎn)擊上方藍(lán)字

關(guān)注AI世界公眾號

專注AI的新媒體,分享AI領(lǐng)域的新思想。

鎖手機(jī)”“刷臉購物”“刷臉驗(yàn)證身份辦理銀行卡”……我們與生俱來的“臉”除了與顏值形象掛鉤,也在逐漸演變成中國人身份的識別標(biāo)識,逐漸深入我們的日常生活。

但當(dāng)人臉識別遇上現(xiàn)實(shí),也不乏跪地躺槍,慘不忍睹的時候,比如今天我們上次提及的亞馬遜Rekognition(亞馬遜人臉識別從120名官員中認(rèn)出了26名罪犯)。

除了這個可笑“事故”之外,歐盟又傳來人臉識別罰單消息。

近日,瑞典數(shù)據(jù)監(jiān)管機(jī)構(gòu)(The Swedish Data Inspection Authority,下稱“DPA”)對當(dāng)?shù)匾凰咧虚_出第一張基于歐盟《通用數(shù)據(jù)保護(hù)條例》(GDPR)的罰單,金額為20萬瑞典克朗(約合人民幣14.8萬元)。

據(jù)悉,該校使用人臉識別系統(tǒng)記錄學(xué)生的出勤率,而瑞典DPA通過對系統(tǒng)試行期間涉及的22名學(xué)生進(jìn)行調(diào)查,最終認(rèn)定學(xué)校董事會對學(xué)生個人信息的處理不符合GDPR的規(guī)定。

事實(shí)上,隨著人臉識別技術(shù)的廣泛應(yīng)用,歐洲已經(jīng)開始考慮對人臉識別等人工智能(AI)技術(shù)進(jìn)行立法規(guī)管,限制公司和公共機(jī)構(gòu)“不加區(qū)分地使用人臉識別技術(shù)”,并賦予所有歐洲居民明確的決定權(quán)。

1

瑞典高中使用人臉識別監(jiān)控違反GDPR

8月21日,瑞典DPA在官網(wǎng)公布了GDPR生效以來的首張罰單。與其他歐盟國家普遍拿科技巨頭“開刀”不同,瑞典DPA的處罰對象是斯蓋樂夫提的一所高中。

該校為了統(tǒng)計學(xué)生的出勤率,在校園內(nèi)試行人臉識別系統(tǒng)。在實(shí)施試驗(yàn)的三周內(nèi),共涉及到22名學(xué)生。

學(xué)校強(qiáng)調(diào),他們事先獲得了學(xué)生的同意。

但是,瑞典DPA律師Ranja Bunni指出:"事先獲得學(xué)生同意"的說法不可接受,因?yàn)閷W(xué)生是在學(xué)校董事會管理之下的”。也就是說,無法判斷這里的“同意”是否為學(xué)生的獨(dú)立意志。

經(jīng)調(diào)查, 瑞典DPA認(rèn)為,在日常環(huán)境中對學(xué)生進(jìn)行攝像監(jiān)控等行為侵犯了學(xué)生的隱私。因?yàn)閷W(xué)校統(tǒng)計學(xué)生出勤率完全可以通過其他方式完成,而這些方式都比人臉識別技術(shù)對學(xué)生權(quán)益的侵害要小得多。

因此,瑞典DPA以該校董事會處理個人信息不符合GDPR規(guī)定為由,對其處以20萬瑞典克朗(約合人民幣14.8萬元)的罰款。據(jù)悉,罰款金額最高可以達(dá)到一千萬克朗(約合人民幣740萬元)。

記者了解到,在瑞典,記錄每節(jié)課的出勤率是法律要求。據(jù)IT公司Tieto統(tǒng)計,每年瑞典老師需要花費(fèi)17,280小時在記錄出勤率的工作上,這相當(dāng)于10個全職工作的時間。

“人臉識別技術(shù)還處在起步階段,但是發(fā)展非常迅速,我們看到了建立一個適用于所有參與者的清晰準(zhǔn)則的巨大需求!比鸬銬PA負(fù)責(zé)人Lena Lindgren Schelin表示。

2

歐盟正在探索嚴(yán)厲的人臉識別技術(shù)立法

不僅是在瑞典,英國數(shù)據(jù)保護(hù)監(jiān)管機(jī)構(gòu)(ICO)也剛剛對一起人臉識別相關(guān)事件發(fā)起調(diào)查。

據(jù)英國媒體披露,倫敦國王十字車站地區(qū)安裝了帶有人臉識別系統(tǒng)的閉路電視攝像頭,可以監(jiān)控這一帶辦公室、商場的人流情況。據(jù)房地產(chǎn)開發(fā)商表示,這些攝像頭不僅有人臉識別和追蹤功能,背后還有復(fù)雜的系統(tǒng)支撐,可以保護(hù)公眾隱私。

日前,ICO已對此展開調(diào)查。“在日常生活中掃描人臉以識別他們的身份,這種對隱私的潛在威脅值得所有人重視”,ICO專員Elizabeth Denham認(rèn)為,“尤其是沒有經(jīng)過告知或理解的情況下”。

據(jù)《金融時報》報道, 歐盟委員會的高級官員透露,他們正在計劃一項(xiàng)關(guān)于人臉識別數(shù)據(jù)使用的立法,這將賦予所有歐洲居民明確的決定權(quán),而這項(xiàng)立法也是歐洲AI監(jiān)管改革的一部分。

還有官員指出,這項(xiàng)立法的目的在于限制公司和公共機(jī)構(gòu)“不加區(qū)分地使用人臉識別技術(shù)”。歐洲居民將有權(quán)“知道人臉識別數(shù)據(jù)何時被使用”,即使有例外情況,也將是在“嚴(yán)格限制”之下,以確保適當(dāng)使用。

《金融時報》還提到,在一份相關(guān)文件中,歐盟提出希望制定一套“AI監(jiān)管的世界性標(biāo)準(zhǔn)”,并建立“足以保護(hù)個人的明確,可預(yù)測和統(tǒng)一的規(guī)則”。它將在GDPR的現(xiàn)有義務(wù)之上更進(jìn)一步,將目標(biāo)鎖定為“帶來特定風(fēng)險”的人臉識別等技術(shù)。

“AI應(yīng)用可能對基本權(quán)利構(gòu)成重大風(fēng)險,不受管制的AI系統(tǒng)可能會做出影響人們卻又無法解釋的決定,還無法溯源或者找到相關(guān)負(fù)責(zé)人”,該文件稱。

公開資料顯示,歐盟委員會將在11月迎來新一任主席——Ursula von der Leyen。她計劃在其上任的前100天內(nèi)推出新的AI管理法規(guī),為人類和AI倫理提供一個“經(jīng)過協(xié)調(diào)的歐洲方法”。

其實(shí)除了歐盟,美國舊金山議員丁右立(Phil Ting)早已就提議禁止使用人臉識別技術(shù)軟件系統(tǒng),并且表示類似于低級錯誤識別結(jié)果將會給人們帶來巨大的負(fù)面影響,當(dāng)你被人認(rèn)為是一個罪犯, “可能會影響你找工作的能力、影響你買房租房的能力!边@遠(yuǎn)不是一項(xiàng)技術(shù)犯了一個可笑的錯誤那么簡單,而是確確實(shí)實(shí)會有活生生的人們,受到這一錯誤帶來的實(shí)際影響。

科技進(jìn)步、人工智能給我們的生活帶來的方便和快捷不言而喻,但是科技作為工具,能否使用的好最終還是掌握在人的手里,尤其是像這種涉及人們隱私的技術(shù)——人臉識別,是不是需要禁止或者是否要嚴(yán)加看管,在中國我們也需要一個保護(hù)自己隱私的權(quán)利!

歡迎加入“AI世界”


聲明: 本文由入駐維科號的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號