近日，國家互聯網信息辦公室就《生成式人(rén)工智能服務管理(lǐ)辦法（征求意見稿）》（以下(xià)簡稱“辦法”）公開征求意見，引發廣泛關注。《規定》通(tōng)過系統性、創新性制度設計，首次回應了(le)對(duì)深度合成服務的(de)管理(lǐ)要求，爲互聯網信息服務深度合成的(de)規範發展提供了(le)基本遵循和(hé)合法依據。

國内首個(gè)AIGC監管辦法将至

辦法提到，國家支持人(rén)工智能算(suàn)法、框架等基礎技術的(de)自主創新、推廣應用(yòng)、國際合作，鼓勵優先采用(yòng)安全可(kě)信的(de)軟件、工具、計算(suàn)和(hé)數據資源。其中辦法涉及的(de)生成式人(rén)工智能包括基于算(suàn)法、模型、規則生成文本、圖片、聲音(yīn)、視頻(pín)、代碼等内容的(de)技術。

辦法對(duì)利用(yòng)生成式人(rén)工智能産品提供聊天和(hé)文本、圖像、聲音(yīn)生成等服務的(de)組織和(hé)個(gè)人(rén)（簡稱“提供者”）的(de)責任進行了(le)規定。提供者應當承擔該産品生成内容生産者的(de)責任、個(gè)人(rén)信息保護義務。利用(yòng)生成式人(rén)工智能産品向公衆提供服務前，需按規定向國家網信部門申報安全評估。

此外，提供者需對(duì)預訓練數據、優化(huà)訓練數據來(lái)源的(de)合法性負責，對(duì)标注人(rén)員(yuán)進行必要培訓，明(míng)确并公開其服務的(de)适用(yòng)人(rén)群、場(chǎng)合、用(yòng)途，對(duì)用(yòng)戶的(de)輸入信息和(hé)使用(yòng)記錄承擔保護義務。

對(duì)于生成式人(rén)工智能産品，提供者需要按照(zhào)《互聯網信息服務深度合成管理(lǐ)規定》對(duì)生成的(de)圖片、視頻(pín)等内容進行标識等。

《辦法》關鍵要點

治理(lǐ)原則——AI技術研發者應遵循《辦法》草(cǎo)案中的(de)治理(lǐ)原則。該原則部分(fēn)沿襲了(le)《數據安全法》相關内容，即提供生成式AI産品或服務應當尊重社會公德、公序良俗、他(tā)人(rén)合法利益以及法律法規。《辦法》草(cǎo)案還(hái)強調，利用(yòng)生成式AI生成的(de)内容應當避免歧視、尊重知識産權并真實準确。此外，如防止算(suàn)法訓練中的(de)歧視、避免不公平競争等算(suàn)法治理(lǐ)原則8也(yě)在《辦法》草(cǎo)案中得(de)到了(le)呼應，體現了(le)我國爲實現數據安全和(hé)個(gè)人(rén)信息保護社會責任9承諾的(de)不懈努力。這(zhè)些原則顯然值得(de)提倡，然而，對(duì)剛剛問世的(de)新興技術直接施加上述責任是否操之過急，依然是值得(de)討(tǎo)論的(de)命題。

價值觀——除了(le)要求生成内容應當“體現社會主義核心價值觀”以外，《辦法》草(cǎo)案還(hái)沿用(yòng)了(le)《網絡信息内容生态治理(lǐ)規定》10中的(de)要求，禁止生成其規定的(de)違法内容。與《辦法》草(cǎo)案相似，其他(tā)國家亦有将國家安全、政治立場(chǎng)與商業聯系在一起的(de)作法。《辦法》草(cǎo)案一經實施，可(kě)能爲跨國公司在應對(duì)各國差異化(huà)營商環境時(shí)增加挑戰。

守門人(rén)責任——生成式AI企業應當承擔使用(yòng)其産品和(hé)服務生成内容的(de)内容生産者責任。此外，《辦法》草(cǎo)案進一步規定這(zhè)些企業有義務指導用(yòng)戶進行良性的(de)内容生産。生成式AI企業是否應承擔内容生産者責任這(zhè)一問題實質上延續了(le)美(měi)國和(hé)歐盟對(duì)社交媒體平台是否需承擔用(yòng)戶内容責任的(de)漫長(cháng)討(tǎo)論，而反對(duì)方的(de)主要論點是過于嚴格的(de)監管可(kě)能會遏制技術發展。

安全評估——與網絡社交平台相似，生成式AI産品和(hé)服務應當接受網信辦的(de)安全評估11。由于安全評估的(de)範圍可(kě)能随著(zhe)産品和(hé)服務的(de)技術細節而變化(huà)，人(rén)工智能企業在進行研發時(shí)需要格外注意安全評估的(de)時(shí)間和(hé)金錢成本。

透明(míng)度要求——《辦法》草(cǎo)案規定，在産品研制中采用(yòng)人(rén)工标注時(shí)，生成式AI的(de)提供者必須制定清晰、具體、可(kě)操作的(de)标注規則，對(duì)标注人(rén)員(yuán)進行必要培訓，抽樣核驗标注内容的(de)正确性。此外，提供者還(hái)應當提供預訓練和(hé)優化(huà)訓練數據的(de)來(lái)源、規模、類型、質量等描述，以及基礎算(suàn)法和(hé)技術體系等。生成的(de)圖片、視頻(pín)等内容還(hái)應當按照(zhào)《互聯網信息服務深度合成管理(lǐ)規定》12進行标識，以避免公衆的(de)混淆和(hé)誤認。透明(míng)度的(de)要求在受到用(yòng)戶的(de)歡迎的(de)同時(shí)，也(yě)将給研發者帶來(lái)沉重的(de)合規負擔和(hé)披露要求，可(kě)能會增加研發者潛在的(de)商業秘密洩露風險。

實名制——與互聯網領域的(de)其他(tā)規則13相一緻，生成式AI用(yòng)戶必須實名注冊。關于實名制，國家在平衡互聯網監管與個(gè)人(rén)隐私保護的(de)長(cháng)期實踐中形成的(de)做(zuò)法是将用(yòng)戶的(de)真實身份信息與手機号碼綁定，而互聯網服務提供者通(tōng)過手機号碼核實用(yòng)戶的(de)真實身份。

社會責任——提供者應當采取适當措施以防範用(yòng)戶過分(fēn)依賴或沉迷生成内容。目前互聯網實行的(de)防沉迷機制于2021年引入，一經生效便對(duì)網絡遊戲行業14産生了(le)極大(dà)的(de)沖擊。但目前尚不清楚生成式AI提供者是否同樣需要在其産品中嵌入類似的(de)防沉迷機制以限制易受影(yǐng)響群體的(de)使用(yòng)。

用(yòng)戶畫(huà)像和(hé)數據共享——用(yòng)戶畫(huà)像和(hé)人(rén)工智能平台與其關聯實體之間的(de)數據共享被明(míng)确禁止。雖然這(zhè)一禁止有利于隐私保護，但該做(zuò)法可(kě)能會增加生成式AI企業的(de)研發成本，并減少企業利用(yòng)用(yòng)戶行爲數據集獲利的(de)機會。

投訴渠道——與《個(gè)人(rén)信息保護法》和(hé)中國《民法典》的(de)要求相似，《辦法》草(cǎo)案規定生成式AI的(de)提供者應當建立用(yòng)戶投訴接收處理(lǐ)機制。完備的(de)人(rén)工智能平台一般已經設置了(le)熱(rè)線電話(huà)和(hé)客服政策，但初創企業則相應背上了(le)較重的(de)合規負擔。

持續性要求——《辦法》草(cǎo)案要求提供者提供“持續”的(de)服務。這(zhè)一要求與傳統電信行業的(de)要求相似，即要求服務始終能夠正常使用(yòng)。對(duì)此的(de)一種解釋是，網信辦希望将生成式AI服務建設爲一項公共基礎設施，以此推動中國數字化(huà)進程，并希望能夠取得(de)突破性進展。這(zhè)一要求雖然對(duì)用(yòng)戶有利，但對(duì)初創企業來(lái)說則非常困難。

模型優化(huà)——如果發現生成内容違反了(le)《辦法》草(cǎo)案，提供者必須在三個(gè)月(yuè)内找到解決方案，防止該内容再次生成。這(zhè)一規定對(duì)于人(rén)工智能産業的(de)發展具有積極意義。該寬限期可(kě)以解讀爲，網信辦在違規企業采取内容過濾措施和(hé)其他(tā)補救行動的(de)前提下(xià)，有意願允許企業繼續進行生成式AI的(de)研發。

處罰——提供者違反《辦法》草(cǎo)案規定的(de)，按照(zhào)《網絡安全法》《數據安全法》《個(gè)人(rén)信息保護法》《刑法》等法律、行政法規予以處罰。法律、行政法規沒有規定的(de)，由網信部門和(hé)有關主管部門依據職責予以處罰，罰款範圍在人(rén)民币一萬元以上十萬元以下(xià)。

巨龍智立方數據建模平台

智立方，是一款适應各類主流大(dà)數據技術的(de)一站式可(kě)視化(huà)建模服務平台。基于核心大(dà)數據建模技術的(de)積累，采用(yòng)知識圖譜建模、特征工程、機器學習(xí)、深度學習(xí)等技術，對(duì)數據進行分(fēn)析與挖掘，提煉業務信息和(hé)業務知識，構建行業專業知識圖譜，實現業務智能化(huà)場(chǎng)景的(de)賦能和(hé)業務價值輸出。