今天9月1號。有個跟整個行業(yè)都相關的法規(guī)，開始正式實行了。那就是今年3月印發(fā)的《人工智能生成合成內(nèi)容標識辦法》，還有為了配套《標識辦法》，強制性國家標準《網(wǎng)絡安全技術(shù) 人工智能生成合成內(nèi)容標識方法》，都從9月1號，開始正式執(zhí)行。
這套組合拳，就是為了解決一個日益嚴重的問題，就是AI正在用海量真假難辨的內(nèi)容，克隆聲音造謠、抹黑別人，甚至進行詐騙，簡直防不勝防。當互聯(lián)網(wǎng)上充斥著AI生成的虛假信息，我們就像生活在一個被哈哈鏡包圍的世界里，慢慢地，我們就失去了對真實的判斷力。所以，這次出臺的《標識辦法》和配套的國標，就是要給所有AI生成的內(nèi)容，打一個標簽，辦一個類似于身份證的東西。首先，《標識辦法》里規(guī)定了，所有的境內(nèi)AI模型或應用提供方，在給用戶輸出內(nèi)容的時候，都需要打“標識”，“標識”有兩種。一種叫“顯式標識”，另一種叫“隱式標識”。是當你看到一個AI大模型和AI應用給你生成信息的時候，它會明明白白地告訴你：“我是AI”。模型和AI應用方，必須進行顯性標識，要不然會違規(guī)，標識基本跟每個模態(tài)都有關系。
文本內(nèi)容顯式標識：
必須在開頭、結(jié)尾或中間的某個位置，明確標出包含人工智能要素（“人工智能”或“AI”）和生成合成要素（“生成”和/或“合成”），也可以用一個“AI”的角標來表示。
必須在圖片的邊角位置打上文字，比如“AI/人工智能生成/合成”，而且，這個文字的高度，不能低于圖片最短那條邊的5%。
生成出來的音頻內(nèi)容，要么是在音頻開頭或結(jié)尾，用語音直接說一句“由AI生成”，同時，語音標識應使用正常語速，大概就是120 字/min~160 字/min那種速度之間。
要么，是播放一段“短-長-短-短”的特殊節(jié)奏音，這是“AI”兩個字母的摩斯電碼。。。
和圖片類似，必須在生成出來的視頻畫面的邊角打上文字標識，可以位于視頻起始、末尾、中間等適當位置，文字高度不應低于畫面最短邊長度的5%，同時，在正常播放速度下，持續(xù)時間不能少于2秒。
最后，在所有的AI模型或AI應用的交互界面上，也都要進行標識，可以在內(nèi)容附近持續(xù)顯示提示文字，或者在交互場景界面頂部、底部、背景等適當位置持續(xù)顯示提示文字。
且根據(jù)《標識辦法》第十條，任何組織和個人不得惡意刪除、篡改、偽造、隱匿本辦法規(guī)定的生成合成內(nèi)容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權(quán)益。否則，視為違法。就是根據(jù)《標識辦法》第九條，用戶申請服務提供者提供沒有添加顯式標識的生成合成內(nèi)容的，服務提供者可以在通過用戶協(xié)議明確用戶的標識義務和使用責任后，提供不含顯式標識的生成合成內(nèi)容，并依法留存提供對象信息等相關日志不少于六個月。這一條，它其實是給專業(yè)生產(chǎn)流程留的一條合規(guī)綠色通道。有時候作為專業(yè)人員，你確實需要一份干凈素材去做二次創(chuàng)作，比如影視后期、廣告合成、出版排版、研究評測等等。如果一上來就把顯式大標簽烙在畫面上，那后續(xù)流程全亂了，根本沒法做。所以第九條允許服務提供者（即AI模型和AI應用提供方）在和特定用戶簽清楚使用責任和標識義務之后，可以提供不帶顯式標識的素材，但同時把對方的信息和相關日志留存不少于六個月，留痕可追責。但要注意幾個關鍵點：第一，只是放開顯式，不是放開隱式，元數(shù)據(jù)和數(shù)字水印該有一樣不能少。第二，這份不帶顯式標識的內(nèi)容，一旦進入公開傳播，你作為內(nèi)容發(fā)布者還是得在發(fā)布平臺上主動聲明并標注，平臺那邊也會按第六條再標識一次，這是閉環(huán)。第三，你自己刪標識永遠是禁區(qū)，誰刪誰擔責。
顯性標識是給人看的，隱形標識其實就是給機器和監(jiān)管看的。服務提供者要在生成合成內(nèi)容的文件元數(shù)據(jù)里加隱形標識，至少包含三個信息：這是不是AIGC、是誰生成的、這條內(nèi)容的唯一編號。同時鼓勵再疊一層數(shù)字水印，提升溯源的韌性。真正的硬要求是那份元數(shù)據(jù)隱形標識必須寫，而且字段要齊。在《標識辦法》里，也明確鼓勵了加數(shù)字水印，等于是把看得見的證據(jù)和看不見的證據(jù)都要布上。如果你是產(chǎn)品創(chuàng)業(yè)者，AI工具提供方：你的責任是最大的，從法規(guī)的限定上，你必須成為執(zhí)行這些規(guī)則的第一責任人。1. 在生成任何內(nèi)容時，必須默認按照上述國家標準，自動為用戶生成的內(nèi)容打上“顯式標識”和“隱式標識”。
2. 修改用戶協(xié)議，你需要在用戶協(xié)議里明確告知用戶這些標識的存在、樣式和法律要求。
3. 可以提供豁免選項，但要謹慎。《管理辦法》第九條提到，如果用戶有特殊需求（比如商業(yè)設計、影視制作），可以申請不帶顯式標識的內(nèi)容，你可以提供。
但前提是：你必須和用戶通過協(xié)議明確，他有自行標識的義務和濫用的責任。你也必須依法記錄這個用戶的身份信息和相關日志，并保存至少六個月。
4. 如果你的服務是通過API提供給其他開發(fā)者，你同樣有義務在生成的數(shù)據(jù)中包含隱式標識，并要求API調(diào)用方履行顯式標識的義務。
如果你是一名使用AI的創(chuàng)作者或者博主：你的角色是規(guī)則的使用者和傳播者，所以，也得適應新的游戲規(guī)則。當你使用AI工具創(chuàng)作并發(fā)布內(nèi)容時，應當主動利用平臺提供的功能進行標注。
這里我知道很多人有個疑惑，就是我寫了一篇文章，或者做了一段視頻，90%的內(nèi)容都是我自己寫的，只有10%的素材或者內(nèi)容是用了AI生成，那我到底該不該在發(fā)布內(nèi)容時進行聲明和標注？根據(jù)第十條：用戶使用網(wǎng)絡信息內(nèi)容傳播服務發(fā)布生成合成內(nèi)容的，應當主動聲明并使用服務提供者提供的標識功能進行標識。只要你的成品里實際呈現(xiàn)了AI產(chǎn)出，哪怕只占10%，也要聲明，這套辦法是按是否包含來管，不按占比來豁免。如果我們一般只讓AI改改錯字、潤色語序，這種情況行業(yè)里普遍解讀是純粹的輕度潤色不構(gòu)成“生成合成內(nèi)容”，一般不需要標。但一旦有可辨識的AI段落、AI配圖、AI配音，或者對內(nèi)容做了實質(zhì)性改寫，就比如進入標識范圍。對于認真創(chuàng)作內(nèi)容、用手碼字、剪輯視頻的人，當然是利好。而對于很多用AI發(fā)布一些不實言論進行起號，甚至是造謠、詐騙的人，還是需要掂量掂量，現(xiàn)在以數(shù)字水印為代表的這一套的隱性標識，起的就是監(jiān)管和震懾的作用。
