還記得去年曾經(jīng)爆紅的換臉應(yīng)用嗎？只需要上傳一張正面照，就可以看一眾大佬一邊晃著頭，一邊唱洗腦神曲。

憑借魔性視頻在社交軟件上的火爆，該軟件Avatarify去年2月一度問鼎中國區(qū)App Store應(yīng)用免費(fèi)榜榜首。但不到一個(gè)星期，Avatarify就被App store中國區(qū)下架。

為了規(guī)范相關(guān)活動(dòng)，國家互聯(lián)網(wǎng)信息辦公室今天發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定(征求意見稿)》。

業(yè)內(nèi)人士認(rèn)為，新規(guī)有助于引導(dǎo)技術(shù)向上向善，促進(jìn)深度合成技術(shù)依法合理有效利用。

深度合成技術(shù)是什么？

對(duì)于深度合成技術(shù)，網(wǎng)民們應(yīng)該并不陌生。早在2019年，一款名為“ZAO”的換臉App就曾紅極一時(shí)。通過這款A(yù)pp，用戶只要上傳一張自己的正臉照，就能將電影片段中演員的臉換成自己的臉，從而在熟悉的影視作品中，與明星偶像同臺(tái)“飆戲”。

不論是Avatarify還是ZAO，都來自更早以前的deepfake開源技術(shù)，依托大數(shù)據(jù)和人工智能深度學(xué)習(xí)機(jī)制，基于數(shù)據(jù)算法和人臉數(shù)據(jù)庫，對(duì)既有視頻或圖片中的人物面部圖像進(jìn)行替換，它們獲得的人臉數(shù)據(jù)越多，替換后的圖像視頻也就越逼真。

以上互聯(lián)網(wǎng)深度合成技術(shù)的出現(xiàn)，對(duì)于電影、紀(jì)錄片等藝術(shù)創(chuàng)作有著一定的積極意義，卻也使得篡改或生成高度逼真且難以甄別真?zhèn)蔚囊粢曨l內(nèi)容成為可能，如果對(duì)相關(guān)技術(shù)的使用不加以限制，將會(huì)帶來無窮的安全隱患。

深度合成服務(wù)提供者

應(yīng)當(dāng)建立辟謠機(jī)制

征求意見稿首先明確了深度合成技術(shù)的定義。該技術(shù)是指利用以深度學(xué)習(xí)、虛擬現(xiàn)實(shí)為代表的生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術(shù)，包括但不限于：

(一)篇章生成、文本風(fēng)格轉(zhuǎn)換、問答對(duì)話等對(duì)文本內(nèi)容進(jìn)行生成或者編輯的技術(shù)；

(二)文本轉(zhuǎn)語音、語音轉(zhuǎn)換、語音屬性編輯等對(duì)語音內(nèi)容進(jìn)行生成或者編輯的技術(shù)；

(三)音樂生成、場景聲編輯等對(duì)非語音內(nèi)容進(jìn)行生成或者編輯的技術(shù)；

(四)人臉生成、人臉替換、人物屬性編輯、人臉操控、姿態(tài)操控等對(duì)圖像、視頻內(nèi)容中人臉等生物特征進(jìn)行生成或者編輯的技術(shù)；

(五)圖像增強(qiáng)、圖像修復(fù)等對(duì)圖像、視頻內(nèi)容中非生物特征進(jìn)行編輯的技術(shù)；

(六)三維重建等對(duì)虛擬場景進(jìn)行生成或者編輯的技術(shù)。

征求意見稿明確了深度合成服務(wù)提供者主體責(zé)任，要求深度合成服務(wù)提供者對(duì)使用其服務(wù)所制作的深度合成信息內(nèi)容，通過有效技術(shù)措施添加不影響用戶使用的標(biāo)識(shí)，依法保存日志信息，使深度合成信息內(nèi)容可被自身識(shí)別、追溯。

征求意見稿要求，深度合成服務(wù)提供者應(yīng)當(dāng)建立健全辟謠機(jī)制，發(fā)現(xiàn)深度合成信息服務(wù)使用者利用深度合成技術(shù)制作、復(fù)制、發(fā)布、傳播虛假信息的，應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施，并將相關(guān)信息報(bào)網(wǎng)信等部門備案。

國家互聯(lián)網(wǎng)信息辦公室人士表示，網(wǎng)絡(luò)空間是億萬民眾共同的家園，互聯(lián)網(wǎng)信息服務(wù)深度合成活動(dòng)在服務(wù)用戶需求、改進(jìn)用戶體驗(yàn)的同時(shí)，也被一些不法分子用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等違法行為，不僅損害人民群眾的切身利益，甚至危害國家安全和社會(huì)穩(wěn)定，迫切需要?jiǎng)澏ā暗拙€”“紅線”，規(guī)范發(fā)展互聯(lián)網(wǎng)信息服務(wù)深度合成活動(dòng)，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

一位互聯(lián)網(wǎng)行業(yè)的從業(yè)人員接受上證報(bào)采訪表示，彼時(shí)因?yàn)閆AO被緊急叫停，監(jiān)管政策未明朗，很多互聯(lián)網(wǎng)公司都不敢進(jìn)行深度合成技術(shù)的投資。新規(guī)發(fā)布后，技術(shù)的用法明確了，按照要求開展業(yè)務(wù)就不會(huì)面臨突然被叫停，預(yù)計(jì)很多公司會(huì)重啟深度合成技術(shù)的研發(fā)。

該人士也提出，此前，深度合成技術(shù)主要應(yīng)用在搞笑視頻等方面，還沒有創(chuàng)造太大的正面價(jià)值。接下來，全行業(yè)還要在內(nèi)容領(lǐng)域進(jìn)行創(chuàng)新，致力于讓新技術(shù)造福社會(huì)。

（文章來源：上海證券報(bào)）

關(guān)鍵詞： AI換臉 網(wǎng)信辦 技術(shù) Avatarify 中國區(qū) 就可以看 洗腦 神