訂閱
糾錯
加入自媒體

WHO:保護(hù)人類福祉!在公共健康領(lǐng)域慎用AI

AI浪潮一波又一波,在科技圈攪動風(fēng)云之后,下一個目標(biāo)很可能就是醫(yī)療衛(wèi)生領(lǐng)域。

在關(guān)乎人類生命健康的領(lǐng)域里,對新技術(shù)的觀點一直是謹(jǐn)慎樂觀。對AI這種凸顯不確定性的科技,更是如此。

當(dāng)?shù)貢r間16日,世界衛(wèi)生組織(WHO)發(fā)聲明呼吁謹(jǐn)慎使用人工智能(AI)生成的大型語言模型工具(LLM),以保護(hù)和促進(jìn)人類的福祉、安全和自主性,并維護(hù)公共健康。

此類大型語言模型工具包括ChatGPT等許多其他模仿理解、處理和產(chǎn)生人類交流的平臺,它們在公眾中傳播迅速,并越來越多地用于滿足人們的健康需求,在健康方面的應(yīng)用充滿了潛力。

可能存在風(fēng)險

WHO表示,在利用大型語言模型工具來改善健康信息獲取、作為決策支持工具,甚至增強在資源匱乏環(huán)境中的診斷能力以保護(hù)人們的健康和減少不平等時,必須仔細(xì)審查其可能存在的風(fēng)險。雖然WHO支持適當(dāng)使用技術(shù),包括AI大型語言模型工具,來支持醫(yī)護(hù)人員、患者、研究人員和科學(xué)家,但對這種新技術(shù)持謹(jǐn)慎態(tài)度。

WHO表示,其倡導(dǎo)幾大核心價值,包括需要廣泛遵守透明度、包容性、公眾參與、專家監(jiān)督和嚴(yán)格評估等,而操之過急地采用未經(jīng)測試的系統(tǒng)可能會導(dǎo)致醫(yī)護(hù)人員的錯誤操作,對患者造成傷害,削弱對人工智能的信任,從而破壞或延遲此類技術(shù)在全球范圍內(nèi)的潛在長期效益與應(yīng)用。

為了以安全、有效和合乎道德的方式來使用的技術(shù),并進(jìn)行嚴(yán)格監(jiān)督,WHO提出了以下領(lǐng)域的疑慮,包括:用于訓(xùn)練AI的數(shù)據(jù)可能存在偏差,產(chǎn)生誤導(dǎo)性或不準(zhǔn)確的信息,可能對健康、公平和包容性構(gòu)成風(fēng)險;大型語言模型生成的回答對終端用戶或許顯得權(quán)威而可信,但這些回答可能是完全錯誤的,或者包含嚴(yán)重錯誤的信息,尤其是涉及健康的回答;大型語言模型可能在未經(jīng)事先同意使用的數(shù)據(jù)上進(jìn)行培訓(xùn),并且可能不會保護(hù)用戶提供的敏感數(shù)據(jù)(包括健康數(shù)據(jù));大型語言模型可能被濫用,以文本、音頻或視頻內(nèi)容的形式產(chǎn)生和傳播看似極具說服力的虛假信息,公眾會很難將其與可靠的健康內(nèi)容區(qū)分開來;與致力于將該工具商業(yè)化的技術(shù)公司不同,WHO致力于利用新技術(shù),包括人工智能和數(shù)字健康,以改善人類健康,同時建議決策者確保患者安全和保護(hù)。

WHO并表示,建議在廣泛應(yīng)用于日常醫(yī)療和藥物治療之前,應(yīng)解決這些問題,并對其效益進(jìn)行清晰的評估,無論是由個人、醫(yī)護(hù)人員還是衛(wèi)生系統(tǒng)管理者和決策者使用。

WHO并重申,在設(shè)計、開發(fā)和部署醫(yī)療AI時,應(yīng)遵守該組織《醫(yī)療衛(wèi)生中AI的倫理與治理指南》列舉的倫理原則和適當(dāng)?shù)闹卫泶胧?/p>

WHO:保護(hù)人類福祉!在公共健康領(lǐng)域慎用AI

該指南中確定的六項核心原則是:(1)保護(hù)自治權(quán);(2)促進(jìn)人類福祉、人類安全和公共利益;(3)確保透明度、可解釋性和可理解性;(4)促進(jìn)責(zé)任和問責(zé);(5)確保包容性和公平性;(6)促進(jìn)具有響應(yīng)能力和可持續(xù)性的AI。

WHO該項聲明發(fā)布后,陸續(xù)多家機構(gòu)宣布暫不考慮將AI技術(shù)納入到醫(yī)療技術(shù)研發(fā)當(dāng)中。

聲明: 本網(wǎng)站所刊載信息,不代表OFweek觀點。刊用本站稿件,務(wù)經(jīng)書面授權(quán)。未經(jīng)授權(quán)禁止轉(zhuǎn)載、摘編、復(fù)制、翻譯及建立鏡像,違者將依法追究法律責(zé)任。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號