半月談評論員 孫文豪

國家互聯(lián)網(wǎng)信息辦公室等四部門近期聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標識辦法》(下稱《辦法》)，并同步出臺配套強制性國家標準。小小標識，為何得到國家多部門重視，又將如何改變?nèi)藗兯幍木W(wǎng)絡(luò)內(nèi)容環(huán)境?

標識小，作用大

接到“領(lǐng)導(dǎo)”視頻電話要求緊急轉(zhuǎn)賬20萬;社會名人被AI配音后刷屏社交平臺;“頂流明星在澳門輸了10億”的假新聞實則為AI捏造……在AI技術(shù)為內(nèi)容合成帶來便利的同時，其“雙刃劍”效應(yīng)也逐漸凸顯：金融詐騙、身份冒充、虛假新聞等問題時有發(fā)生，眼見不一定為實，有圖、有視頻也不一定有真相。

“借助AI手段炮制虛假信息正催發(fā)公眾的‘信任危機’，并對正規(guī)的內(nèi)容創(chuàng)作生態(tài)造成沖擊。”中國社會科學(xué)院大學(xué)互聯(lián)網(wǎng)法治研究中心主任劉曉春對半月談記者說，相關(guān)不法行為往往只需要極低的制作成本和違規(guī)成本。除虛假信息外，由AI導(dǎo)致的數(shù)據(jù)安全、隱私保護等與用戶直接相關(guān)的問題，也需要強有力的監(jiān)管措施介入。

2022年以來，我國已陸續(xù)出臺多部法律法規(guī)對AI生成內(nèi)容作出約束。但業(yè)內(nèi)人士認為，此前出臺的相關(guān)法律法規(guī)在內(nèi)容識別上的要求較為寬泛，而《辦法》將推動AI內(nèi)容的標識從“原則性規(guī)定”走向“操作性規(guī)范”。

讓人工智能技術(shù)“可信賴”

“《辦法》重點解決‘哪些是生成的’‘誰生成的’‘從哪里生成的’等問題。”國家網(wǎng)信辦有關(guān)負責人表示，要通過標識提醒用戶辨別虛假信息，明確相關(guān)服務(wù)主體的標識責任義務(wù)，讓人工智能技術(shù)“可信賴”。

劉曉春等受訪專家認為，《辦法》聚焦人工智能“生成合成內(nèi)容標識”關(guān)鍵點，提出具體操作規(guī)范：

——構(gòu)建信任機制。《辦法》要求AI生成內(nèi)容添加顯式標識(文字、聲音提示)和隱式標識(元數(shù)據(jù)嵌入)。前者是在AI生成內(nèi)容中，通過添加顯式標識，讓用戶一眼可知“哪些是生成的”;后者則為厘清內(nèi)容是“誰生成的”“從哪里生成的”。

——厘清責任主體。《辦法》針對不同主體，著力構(gòu)建全鏈條責任機制：用戶發(fā)布生成內(nèi)容需主動聲明;社交平臺等互聯(lián)網(wǎng)應(yīng)用需審核AI服務(wù)標識材料;服務(wù)提供者應(yīng)當確保生成合成內(nèi)容含有滿足要求的顯式標識，并在文件元數(shù)據(jù)中添加隱式標識等。

業(yè)內(nèi)人士認為，《辦法》主要從立法層面提出管理要求，與之配套的強制性國家標準主要提出具體實施方式和操作方法。例如規(guī)定元數(shù)據(jù)字段格式、標識顯眼度閾值等，避免相關(guān)主體“憑感覺合規(guī)”。

拒絕“野蠻生產(chǎn)”，迎來“規(guī)范競爭”

“推動強制標識制度，與我國人工智能生成內(nèi)容技術(shù)發(fā)展和應(yīng)用階段相匹配，是具有廣泛社會共識和現(xiàn)階段在技術(shù)上較為可行的方案。”劉曉春認為，提升人工智能生成內(nèi)容的透明度和可追溯性，有助于增強公眾信任感，推動行業(yè)從“野蠻生長”轉(zhuǎn)向“規(guī)范競爭”。

國家網(wǎng)信辦有關(guān)負責人表示，“統(tǒng)籌發(fā)展和安全”是《辦法》的總體思路之一，這一治理理念體現(xiàn)在諸多實施細則上。例如一些大型企業(yè)和主要的AI服務(wù)提供商履行“標識義務(wù)”已有一段時間，但一些中小企業(yè)、傳統(tǒng)企業(yè)等或?qū)⑿枰夹g(shù)調(diào)整的過程，面臨標識技術(shù)投入壓力。為此，《辦法》創(chuàng)新提出文本符號標識等低成本標識方法。

據(jù)了解，《辦法》將從9月1日開始實施。劉曉春認為，其間幾個月的施行過渡期，既是為企業(yè)理解規(guī)范、針對性地開展功能研發(fā)預(yù)留時間，也為提升用戶認知和公眾AI素養(yǎng)提供窗口期。“‘人的因素’應(yīng)融入人工智能標識管理的全過程。”公安部第三研究所副所長金波認為，要著重提升公眾對信息內(nèi)容真實性、來源可追溯性的評估能力。