中央網(wǎng)信辦部署開展“清朗?整治 AI 技術(shù)濫用”專項行動，為期 3 個月

IT之家 4 月 30 日消息，據(jù)“網(wǎng)信中國”公眾號今日消息，為規(guī)范 AI 服務(wù)和應(yīng)用，促進(jìn)行業(yè)健康有序發(fā)展，保障公民合法權(quán)益，近日，中央網(wǎng)信辦印發(fā)通知，在全國范圍內(nèi)部署開展為期 3 個月的“清朗?整治 AI 技術(shù)濫用”專項行動。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人表示，本次專項行動分兩個階段開展。第一階段強(qiáng)化 AI 技術(shù)源頭治理，清理整治違規(guī) AI 應(yīng)用程序，加強(qiáng) AI 生成合成技術(shù)和內(nèi)容標(biāo)識管理，推動網(wǎng)站平臺提升檢測鑒偽能力。第二階段聚焦利用 AI 技術(shù)制作發(fā)布謠言、不實信息、色情低俗內(nèi)容，假冒他人、從事網(wǎng)絡(luò)水軍活動等突出問題，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號、MCN 機(jī)構(gòu)和網(wǎng)站平臺。

IT之家附具體內(nèi)容如下：

第一階段重點整治 6 類突出問題：

• 一是違規(guī) AI 產(chǎn)品。利用生成式人工智能技術(shù)向公眾提供內(nèi)容服務(wù)，但未履行大模型備案或登記程序。提供“一鍵脫衣”等違背法律、倫理的功能。在未經(jīng)授權(quán)同意情況下，克隆、編輯他人聲音、人臉等生物特征信息，侵犯他人隱私。

• 二是傳授、售賣違規(guī) AI 產(chǎn)品教程和商品。傳授利用違規(guī) AI 產(chǎn)品偽造換臉視頻、換聲音頻等教程信息。售賣違規(guī)“語音合成器”“換臉工具”等商品信息。營銷、炒作、推廣違規(guī) AI 產(chǎn)品信息。

• 三是訓(xùn)練語料管理不嚴(yán)。使用侵犯他人知識產(chǎn)權(quán)、隱私權(quán)等權(quán)益的信息。使用網(wǎng)上爬取的虛假、無效、不實內(nèi)容。使用非法來源數(shù)據(jù)。未建立訓(xùn)練語料管理機(jī)制，未定期排查清理違規(guī)語料。

• 四是安全管理措施薄弱。未建立與業(yè)務(wù)規(guī)模相適應(yīng)的內(nèi)容審核、意圖識別等安全措施。未建立有效的違規(guī)賬號管理機(jī)制。未定期開展安全自評估。社交平臺對通過 API 接口接入的 AI 自動回復(fù)等服務(wù)底數(shù)不清、把關(guān)不嚴(yán)。

• 五是未落實內(nèi)容標(biāo)識要求。服務(wù)提供者未對深度合成內(nèi)容添加隱式、顯式內(nèi)容標(biāo)識，未向使用者提供或提示顯式內(nèi)容標(biāo)識功能。內(nèi)容傳播平臺未開展生成合成內(nèi)容監(jiān)測甄別，導(dǎo)致虛假信息誤導(dǎo)公眾。

• 六是重點領(lǐng)域安全風(fēng)險。已備案 AI 產(chǎn)品提供醫(yī)療、金融、未成年人等重點領(lǐng)域問答服務(wù)的，未針對性設(shè)置行業(yè)領(lǐng)域安全審核和控制措施，出現(xiàn)“AI 開處方”“誘導(dǎo)投資”“AI 幻覺”等問題，誤導(dǎo)學(xué)生、患者，擾亂金融市場秩序。

第二階段重點整治 7 類突出問題：

• 一是利用 AI 制作發(fā)布謠言。無中生有、憑空捏造涉時事政治、公共政策、社會民生、國際關(guān)系、突發(fā)事件等各類謠言信息，或擅自妄測、惡意解讀重大方針政策。借突發(fā)案事件、災(zāi)難事故等，編造、捏造原因、進(jìn)展、細(xì)節(jié)等。冒充官方新聞發(fā)布會或新聞報道，發(fā)布謠言信息。利用 AI 認(rèn)知偏差生成的內(nèi)容進(jìn)行惡意引導(dǎo)。

• 二是利用 AI 制作發(fā)布不實信息。將無關(guān)圖文、視頻拼湊剪輯，生成虛實混雜、半真半假的信息。模糊修改事件發(fā)生的時間、地點、人物等要素，翻炒舊聞。制作發(fā)布涉財經(jīng)、教育、司法、醫(yī)療衛(wèi)生等專業(yè)領(lǐng)域的夸大、偽科學(xué)等不實內(nèi)容。借助 AI 算命、AI 占卜等誤導(dǎo)欺騙網(wǎng)民，傳播迷信思想。

• 三是利用 AI 制作發(fā)布色情低俗內(nèi)容。利用 AI 脫衣、AI 繪圖等功能生成合成色情內(nèi)容或他人不雅圖片、視頻，衣著暴露、搔首弄姿等軟色情、二次元擦邊形象，或扮丑風(fēng)等導(dǎo)向不良內(nèi)容。制作發(fā)布血腥暴力場景，人體扭曲變形、超現(xiàn)實怪物等恐怖詭譎畫面。生成合成“小黃文”“葷段子”等性暗示意味明顯的小說、帖文、筆記。

• 四是利用 AI 假冒他人實施侵權(quán)違法行為。通過 AI 換臉、聲音克隆等深度偽造技術(shù)，假冒專家、企業(yè)家、明星等公眾人物，欺騙網(wǎng)民，甚至營銷牟利。借 AI 對公眾人物或歷史人物進(jìn)行惡搞、抹黑、歪曲、異化。利用 AI 冒充親友，從事網(wǎng)絡(luò)詐騙等違法活動。不當(dāng)使用 AI“復(fù)活逝者”，濫用逝者信息。

• 五是利用 AI 從事網(wǎng)絡(luò)水軍活動。利用 AI 技術(shù)“養(yǎng)號”，模擬真人批量注冊、運營社交賬號。利用 AI 內(nèi)容農(nóng)場或 AI 洗稿，批量生成發(fā)布低質(zhì)同質(zhì)化文案，博取流量。使用 AI 群控軟件[IT江湖]、社交機(jī)器人批量點贊跟帖評論，刷量控評，制造熱點話題上榜。

• 六是 AI 產(chǎn)品服務(wù)和應(yīng)用程序違規(guī)。制作和傳播仿冒、套殼 AI 網(wǎng)站和應(yīng)用程序。AI 應(yīng)用程序提供違規(guī)功能服務(wù)，例如創(chuàng)作類工具提供“熱搜熱榜熱點擴(kuò)寫成文”等功能，AI 社交、陪聊軟件[IT江湖]等提供低俗軟色情對話服務(wù)等。提供違規(guī) AI 應(yīng)用程序、生成合成服務(wù)或課程的售賣、推廣引流等。

• 七是侵害未成年人權(quán)益。AI 應(yīng)用程序誘導(dǎo)未成年人沉迷、在未成年人模式下存在影響未成年人身心健康的內(nèi)容等。

中央網(wǎng)信辦有關(guān)負(fù)責(zé)人強(qiáng)調(diào)，各地網(wǎng)信部門要充分認(rèn)識專項行動對于防范 AI 技術(shù)濫用風(fēng)險，維護(hù)網(wǎng)民合法權(quán)益的重要意義。切實履行屬地管理責(zé)任，督導(dǎo)網(wǎng)站平臺對照專項行動有關(guān)要求，健全 AI 生成合成內(nèi)容審核機(jī)制，提升技術(shù)檢測能力，做好整改落實。加強(qiáng)人工智能相關(guān)政策的宣傳推廣和人工智能素養(yǎng)的科普教育，引導(dǎo)各方正確認(rèn)識和應(yīng)用人工智能技術(shù)，不斷凝聚治理共識。