本次“生成式 AI 服務(wù)管理辦法公布征求意見稿”的意見反饋截止時間為 2023 年 5 月 10 日。

針對爆火的生成式 AI 產(chǎn)業(yè)，各國政府和科技巨頭正在加速規(guī)范政策的出臺以應(yīng)對。

“國標(biāo)”誕生始末

該國家標(biāo)準(zhǔn)是由鵬城實驗室網(wǎng)絡(luò)智能研究部副主任田永鴻教授帶領(lǐng)的云腦項目團(tuán)隊牽頭制定，華為、百度、北京大學(xué)等 16 家單位共同編制。屬于該項目團(tuán)隊在 AI 模型領(lǐng)域全球標(biāo)準(zhǔn)體系化布局中國內(nèi)標(biāo)準(zhǔn)推進(jìn)工作的重要成果。

2017 年 12 月，鵬城實驗室云腦項目團(tuán)隊正式啟動了標(biāo)準(zhǔn)研制。在標(biāo)準(zhǔn)推進(jìn)策略上，云腦項目團(tuán)隊采用國際國內(nèi)“兩條腿”模式，根據(jù)標(biāo)準(zhǔn)研制中不同標(biāo)準(zhǔn)化組織相關(guān)方的反饋對標(biāo)準(zhǔn)進(jìn)行迭代優(yōu)化。

第一條腿邁向國際。

2022年，云腦項目團(tuán)隊牽頭在 IEEE 成功發(fā)布《Standard for Artificial Intelligence （AI） Model Representation， Compression， Distribution and Management》標(biāo)準(zhǔn)（《人工智能（AI）模型表示 、壓縮 、分發(fā)和管理標(biāo)準(zhǔn)》），該標(biāo)準(zhǔn)在前期工作的基礎(chǔ)上進(jìn)一步結(jié)合了全球領(lǐng)域內(nèi)更廣泛的意見，形成了更具有國際市場適配性的全球首個 AI 模型國際標(biāo)準(zhǔn)，云腦項目團(tuán)隊后來還在國際電信聯(lián)盟電信標(biāo)準(zhǔn)分局 ITU－T 成功立項新一代 AI 模型表示技術(shù)標(biāo)準(zhǔn)。

第二條腿深踞國內(nèi)。

2021 年 10 月 21 日，云腦團(tuán)隊在新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟 AITISA 發(fā)布了《信息技術(shù) 神經(jīng)網(wǎng)絡(luò)表示與模型壓縮第一部分：卷積神經(jīng)網(wǎng)絡(luò)》團(tuán)體標(biāo)準(zhǔn)，并在該團(tuán)體標(biāo)準(zhǔn)的基礎(chǔ)上進(jìn)行迭代優(yōu)化，最終形成了本次發(fā)布的國標(biāo)。至此，首個全球 AI 模型表示與壓縮技術(shù)標(biāo)準(zhǔn)體系布局基本成型。

該系列標(biāo)準(zhǔn)根據(jù)當(dāng)前 AI 產(chǎn)業(yè)界在資源受限設(shè)備和 AI 模型部署方面的需求，管理辦法涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

該系列部分標(biāo)準(zhǔn)已在 AI 開發(fā)框架（百度）、AI 芯片（華為海思）和 AI 開放平臺（海康威視）等領(lǐng)域得到應(yīng)用。本次發(fā)布的系列標(biāo)準(zhǔn)輻射到 AMD Xilinx 賽靈思等國際 AI 領(lǐng)軍公司。

網(wǎng)信辦公開征求意見

國家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見，意見反饋截止時間為2023年5月10日。

網(wǎng)信辦稱，為促進(jìn)生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，現(xiàn)向社會公開征求意見。

重要看點有——

1、國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

2、利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)體現(xiàn)社會主義核心價值觀，不得含有顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟(jì)秩序和社會秩序的內(nèi)容。

3、利用生成式人工智能生成的內(nèi)容應(yīng)當(dāng)真實準(zhǔn)確，采取措施防止生成虛假信息。

4、禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

5、利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人（以下稱“提供者”）承擔(dān)該產(chǎn)品生成內(nèi)容生產(chǎn)者的責(zé)任；涉及個人信息的，承擔(dān)個人信息處理者的法定責(zé)任，履行個人信息保護(hù)義務(wù)。

6、提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當(dāng)?shù)纳虡I(yè)營銷等，應(yīng)當(dāng)暫�；蛘呓K止服務(wù)。

7、提供者應(yīng)當(dāng)明確并公開其服務(wù)的適用人群、場合、用途，采取適當(dāng)措施防范用戶過分依賴或沉迷生成內(nèi)容。

8、用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當(dāng)向國家網(wǎng)信部門申報安全評估。

9、提供者應(yīng)當(dāng)按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進(jìn)行標(biāo)識。

10、提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進(jìn)行畫像，不得向他人提供用戶輸入信息。

11、提供者應(yīng)當(dāng)對生成式人工智能產(chǎn)品的預(yù)訓(xùn)練數(shù)據(jù)、優(yōu)化訓(xùn)練數(shù)據(jù)來源的合法性負(fù)責(zé)。對標(biāo)注人員進(jìn)行必要培訓(xùn)，明確并公開其服務(wù)的適用人群、場合、用途，對用戶的輸入信息和使用記錄承擔(dān)保護(hù)義務(wù)。

國外科技巨頭正在推進(jìn)生成式AI標(biāo)準(zhǔn)出臺