AI換臉”相信大家都不陌生。只需要一張照片，通過人工智能深度合成技術(shù)，任何人都能成為視頻中的主人公，甚至連表情和動(dòng)作都能以假亂真。然而，這項(xiàng)新技術(shù)，卻讓一些人產(chǎn)生了不良想法，杭州的虞某就利用“AI換臉”軟件生成大量淫穢視頻進(jìn)行傳播，被換臉的有不少女明星等公眾人物，虞某甚至還提供換臉定制服務(wù)。

 

“AI換臉”偽造女明星涉黃視頻

2022年8月，杭州市蕭山警方在網(wǎng)上巡查中獲取一條線索，轄區(qū)內(nèi)有人利用AI技術(shù)制作淫穢視頻在網(wǎng)上進(jìn)行大量傳播，警方依法對(duì)此立案偵查，并迅速抓獲了犯罪嫌疑人虞某，隨后該案被移送至杭州市蕭山區(qū)人民檢察院審查起訴。

 

杭州市蕭山區(qū)人民檢察院檢察委員會(huì)專職委員 章蕾：虞某通過在互聯(lián)網(wǎng)上發(fā)現(xiàn)了有一個(gè)AI換臉的技術(shù)軟件，他自己通過學(xué)習(xí)這個(gè)軟件，掌握了使用技能，從此開始利用AI換臉的技術(shù)去牟利。

 

檢察機(jī)關(guān)調(diào)查發(fā)現(xiàn)，虞某從2020年開始接觸“AI換臉”軟件，起初，他想通過在網(wǎng)上推廣該項(xiàng)技術(shù)以及相關(guān)的軟件來獲利，但是，一段時(shí)間過后關(guān)注他的人卻很少，一次偶然的機(jī)會(huì)，虞某看到有人在社交群組中發(fā)布淫穢信息來吸引他人關(guān)注，于是他也動(dòng)起了類似念頭。

 

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理 陳禹堯：他可能發(fā)現(xiàn)僅僅通過販賣軟件的方式，可能很難獲取到一般人的關(guān)注。因?yàn)樗诰W(wǎng)絡(luò)上看到有一些網(wǎng)絡(luò)群組在傳播一些淫穢色情視頻，他就想到說通過換臉軟件制作一些淫穢色情視頻，然后先放在互聯(lián)網(wǎng)群組上，從而吸引流量，吸引大家來關(guān)注這個(gè)軟件或者換臉視頻。

 

據(jù)虞某供述，為了吸引更多的關(guān)注和流量，他在社交軟件上創(chuàng)建了“瀏覽群”和“私人定制群”，“瀏覽群”主要用來傳播“AI換臉”的淫穢視頻吸引、招攬觀看者，其中包括一些經(jīng)過虞某換臉的視頻，當(dāng)有人提出“定制換臉”的需求，虞某會(huì)將這些人引入所謂“私人定制群”。

 

圖據(jù)蕭山檢察

 

杭州市蕭山區(qū)人民檢察院第七檢察部檢察官助理 陳禹堯：通過收取入（瀏覽）群費(fèi)用的方式，一個(gè)198元、298元或者398元。另外一個(gè)就是虞某還提供人臉視頻定制服務(wù)，相當(dāng)于客戶如果需要定制一個(gè)換臉的視頻，他可以根據(jù)時(shí)長，根據(jù)視頻的難度大小收取相應(yīng)的費(fèi)用。

據(jù)蕭山檢察，截至案發(fā)，公安機(jī)關(guān)共在虞某某所組建的公開群內(nèi)查獲淫穢視頻1200余部、圖片1600余張。