AI的倫理問(wèn)題

作為一位AI科學(xué)家，陶大程博士對(duì)于技術(shù)的倫理問(wèn)題非常關(guān)注。他認(rèn)為需要盡快建立AI醫(yī)學(xué)應(yīng)用的倫理管理規(guī)范和法律問(wèn)責(zé)機(jī)制，以及對(duì)可能的倫理和法律的挑戰(zhàn)。目前來(lái)說(shuō)，AI的倫理還是一個(gè)開(kāi)放性話題，如何保證AI做出符合倫理道德的決策需要進(jìn)一步的探索。

隨著技術(shù)的不斷增強(qiáng)，AI已經(jīng)開(kāi)始產(chǎn)生一些社會(huì)問(wèn)題了�；�于AI的無(wú)人駕駛車(chē)輛，上路的基本要求是能夠識(shí)別路牌。

中國(guó)，還有世界上不少國(guó)家都有貼小廣告的習(xí)慣。我們想象一下，把一個(gè)小廣告貼到路牌上，這樣一個(gè)簡(jiǎn)單的改變就能夠攻擊無(wú)人駕駛系統(tǒng)。比如，在代表停止的路牌上貼上一個(gè)小廣告，無(wú)人駕駛系統(tǒng)就會(huì)把它誤判為百公里每小時(shí)，這是非常危險(xiǎn)的。

另外，因?yàn)槔碚摰牟煌晟疲珹I也有很多的不穩(wěn)定性。比如，AI在圖像識(shí)別的時(shí)候會(huì)把黑猩猩誤識(shí)別成人，這會(huì)引起種族的問(wèn)題。還有AI的公平性和可解釋性，比如黑盒算法——我們并不清楚算法為什么做出某一個(gè)決定。這些都跟人工智能的倫理道德相關(guān)。

陶大程博士認(rèn)為這不僅僅是研究AI的科學(xué)家和醫(yī)生的問(wèn)題，還應(yīng)該包括政府、社會(huì)學(xué)家等多方面的專業(yè)人士。大家共同探討如何建立在特定領(lǐng)域的AI倫理道德的管控，保證AI的實(shí)踐，不會(huì)產(chǎn)生倫理道德的問(wèn)題，或者盡量避免產(chǎn)生這樣的問(wèn)題，讓AI更好的為人類(lèi)服務(wù)。

AI如何解決落地難的困境？

對(duì)于這個(gè)問(wèn)題，陶大程博士認(rèn)為需要從幾個(gè)方面來(lái)考慮。

首先，醫(yī)療AI企業(yè)需要和醫(yī)院、健康中心和保險(xiǎn)公司建立多方面的共贏合作來(lái)探索醫(yī)療AI商業(yè)落地的幾種模式。最終，行業(yè)還是需要市場(chǎng)的力量來(lái)刺激AI的落地。

其次，政府和醫(yī)院需要建立起安全的數(shù)據(jù)開(kāi)放和共享模式，同時(shí)也要保證用戶的隱私。只有行業(yè)共同努力才能降低醫(yī)療數(shù)據(jù)的獲取難度。在保證數(shù)據(jù)安全的基礎(chǔ)上建立標(biāo)準(zhǔn)數(shù)據(jù)庫(kù)，提升醫(yī)療數(shù)據(jù)的數(shù)量和質(zhì)量，醫(yī)療AI企業(yè)才能夠去提升產(chǎn)品的可用性。

第三個(gè)方面則是在AI技術(shù)層面。我們需要去考慮設(shè)計(jì)有效的聯(lián)邦學(xué)習(xí)模型來(lái)應(yīng)對(duì)目前構(gòu)建大規(guī)模數(shù)據(jù)庫(kù)比較困難的局面。很多時(shí)候，數(shù)據(jù)共享非常困難，需要考慮是不是有其他的人工智能技術(shù)來(lái)解決這樣的問(wèn)題。

聯(lián)邦學(xué)習(xí)能夠有效地保護(hù)用戶的隱私不受侵犯，能夠協(xié)助醫(yī)療AI企業(yè)訓(xùn)練出有效、穩(wěn)健其具有解釋性的模型。這樣的模型才會(huì)得到醫(yī)生的信任。

第四個(gè)方面則是審批監(jiān)管部門(mén)。審批監(jiān)管部門(mén)應(yīng)該建立系統(tǒng)性的AI測(cè)試方案和驗(yàn)收標(biāo)準(zhǔn)來(lái)推動(dòng)醫(yī)療AI產(chǎn)品的安全認(rèn)證。目前，CFDA將AI影像輔助診斷軟件列入風(fēng)險(xiǎn)較高的三類(lèi)醫(yī)療器械。

陶大程院士認(rèn)為盡管這意味著臨床實(shí)驗(yàn)的控制非常嚴(yán)格，但從另外一方面而言對(duì)于保證AI+醫(yī)療產(chǎn)品的安全性和有效性是非常重要的。

寫(xiě)在最后

在陶大程博士看來(lái)，即使很多傳統(tǒng)的、有著幾百年歷史的學(xué)科，如數(shù)學(xué)、物理和化學(xué)，還有很多懸而未決的基礎(chǔ)問(wèn)題，作為一個(gè)僅有半個(gè)世紀(jì)歷史的新興學(xué)科——人工智能，更加需要我們不斷投入，奮勇直前。盡管今天的人工智能沒(méi)有取代人類(lèi)、甚至還依然處在弱人工智的狀態(tài)，但是每一次AI的興起都為我們帶來(lái)了技術(shù)的革新，提升了我們的生產(chǎn)力、改善了我們的生活。

有了深度學(xué)習(xí)的支撐，今天的AI能夠做很多過(guò)去我們不敢想的事情。雖然今天的人工智能還只是小獅子辛巴，但是我們有理由相信，未來(lái)辛巴一定會(huì)成為森林之王，成為有效的使能技術(shù)賦能醫(yī)療健康以及各行各業(yè)。

陶大程簡(jiǎn)介

悉尼大學(xué)工程學(xué)院教授、澳大利亞科學(xué)院院士、優(yōu)必選悉尼大學(xué)人工智能中心主任、優(yōu)必選AI首席科學(xué)家。

陶大程2015年榮獲澳大利亞尤利卡（Eureka）獎(jiǎng)（該獎(jiǎng)有著澳洲科學(xué)界的奧斯卡的美譽(yù)）；2016年當(dāng)選歐洲科學(xué)院外籍院士（Academia Europaea）；2017年榮獲澳大利亞基金委桂冠教授；2018年，陶大程以其在人工智能領(lǐng)域，包括計(jì)算機(jī)視覺(jué)、機(jī)器學(xué)習(xí)及相關(guān)應(yīng)用方面所做出的卓越貢獻(xiàn)，入選澳大利亞科學(xué)院院士；同年榮獲IEEE ICDM研究貢獻(xiàn)獎(jiǎng)（該獎(jiǎng)項(xiàng)是全球數(shù)據(jù)挖掘研究領(lǐng)域的最高獎(jiǎng)項(xiàng)之一，專門(mén)表彰在這一領(lǐng)域擁有深遠(yuǎn)影響力的學(xué)術(shù)成就與貢獻(xiàn)的個(gè)人或群體）。

陶大程的主要研究方向是表征學(xué)習(xí)，這是人工智能領(lǐng)域非常重要的研究方向之一。包括多視角學(xué)習(xí)、多標(biāo)簽學(xué)習(xí)、多任務(wù)學(xué)習(xí)、遷移學(xué)習(xí)等。這些研究成果被廣泛應(yīng)用于計(jì)算機(jī)視覺(jué)、圖像處理以及生物識(shí)別技術(shù)等領(lǐng)域。

文 ｜ 陳鵬

網(wǎng)站、公眾號(hào)等轉(zhuǎn)載請(qǐng)聯(lián)系授權(quán)