半月談記者 孫文豪

國家互聯網信息辦公室等四部門近期聯合發布《人工智能生成合成內容標識辦法》（下稱《辦法》），并同步出臺配套強制性國家標準。小小標識，為何得到國家多部門重視，又將如何改變人們所處的網絡內容環境？

標識小，作用大

接到“領導”視頻電話要求緊急轉賬20萬；社會名人被AI配音后刷屏社交平臺；“頂流明星在澳門輸了10億”的假新聞實則為AI捏造……在AI技術為內容合成帶來便利的同時，其“雙刃劍”效應也逐漸凸顯：金融詐騙、身份冒充、虛假新聞等問題時有發生，眼見不一定為實，有圖、有視頻也不一定有真相。

“借助AI手段炮制虛假信息正催發公眾的‘信任危機’，并對正規的內容創作生態造成沖擊?！敝袊鐣茖W院大學互聯網法治研究中心主任劉曉春對半月談記者說，相關不法行為往往只需要極低的制作成本和違規成本。除虛假信息外，由AI導致的數據安全、隱私保護等與用戶直接相關的問題，也需要強有力的監管措施介入。

2022年以來，我國已陸續出臺多部法律法規對AI生成內容作出約束。但業內人士認為，此前出臺的相關法律法規在內容識別上的要求較為寬泛，而《辦法》將推動AI內容的標識從“原則性規定”走向“操作性規范”。

讓人工智能技術“可信賴”

“《辦法》重點解決‘哪些是生成的’‘誰生成的’‘從哪里生成的’等問題。”國家網信辦有關負責人表示，要通過標識提醒用戶辨別虛假信息，明確相關服務主體的標識責任義務，讓人工智能技術“可信賴”。

劉曉春等受訪專家認為，《辦法》聚焦人工智能“生成合成內容標識”關鍵點，提出具體操作規范：

——構建信任機制?！掇k法》要求AI生成內容添加顯式標識（文字、聲音提示）和隱式標識（元數據嵌入）。前者是在AI生成內容中，通過添加顯式標識，讓用戶一眼可知“哪些是生成的”；后者則為厘清內容是“誰生成的”“從哪里生成的”。

——厘清責任主體?！掇k法》針對不同主體，著力構建全鏈條責任機制：用戶發布生成內容需主動聲明；社交平臺等互聯網應用需審核AI服務標識材料；服務提供者應當確保生成合成內容含有滿足要求的顯式標識，并在文件元數據中添加隱式標識等。

業內人士認為，《辦法》主要從立法層面提出管理要求，與之配套的強制性國家標準主要提出具體實施方式和操作方法。例如規定元數據字段格式、標識顯眼度閾值等，避免相關主體“憑感覺合規”。

拒絕“野蠻生產”，迎來“規范競爭”

“推動強制標識制度，與我國人工智能生成內容技術發展和應用階段相匹配，是具有廣泛社會共識和現階段在技術上較為可行的方案?！眲源赫J為，提升人工智能生成內容的透明度和可追溯性，有助于增強公眾信任感，推動行業從“野蠻生長”轉向“規范競爭”。

國家網信辦有關負責人表示，“統籌發展和安全”是《辦法》的總體思路之一，這一治理理念體現在諸多實施細則上。例如一些大型企業和主要的AI服務提供商履行“標識義務”已有一段時間，但一些中小企業、傳統企業等或將需要技術調整的過程，面臨標識技術投入壓力。為此，《辦法》創新提出文本符號標識等低成本標識方法。

據了解，《辦法》將從9月1日開始實施。劉曉春認為，其間幾個月的施行過渡期，既是為企業理解規范、針對性地開展功能研發預留時間，也為提升用戶認知和公眾AI素養提供窗口期。“‘人的因素’應融入人工智能標識管理的全過程?！惫膊康谌芯克彼L金波認為，要著重提升公眾對信息內容真實性、來源可追溯性的評估能力。