原標(biāo)題：浙江紹興警方成功偵破“利用生成式人工智能造謠”“AI換臉”等案件——

【資料圖】

警惕利用人工智能進(jìn)行新型犯罪新動向

人工智能技術(shù)飛速發(fā)展，一些不法分子利用其進(jìn)行違法犯罪活動，給網(wǎng)絡(luò)安全帶來了嚴(yán)峻挑戰(zhàn)。近期，浙江紹興市公安局破獲多起涉人工智能案件。

今年6月，紹興上虞區(qū)警方發(fā)現(xiàn)有網(wǎng)民發(fā)布了關(guān)于上虞工業(yè)園區(qū)發(fā)生火災(zāi)的視頻，瀏覽量在短時間內(nèi)迅速上升。視頻中，上虞區(qū)一工業(yè)園區(qū)內(nèi)火勢猛烈，整個園區(qū)被濃煙覆蓋，現(xiàn)場不時傳出爆炸聲，場面驚心動魄。

民警核查發(fā)現(xiàn)，視頻中的建筑、森林大火場景，并非該工業(yè)園真實場景，并且疑似源自其它視頻。經(jīng)分析，民警判斷該視頻是利用人工智能合成技術(shù)，將網(wǎng)絡(luò)上多段不同視頻剪輯拼接而成。警方經(jīng)偵查，認(rèn)定某網(wǎng)絡(luò)科技公司員工有較大作案嫌疑，立刻赴該公司所在地抓獲包括湯某在內(nèi)的3名犯罪嫌疑人。

“犯罪嫌疑人首先在網(wǎng)上搜集熱門話題，通過生成式人工智能服務(wù)自動生成腳本，在網(wǎng)上抓取相關(guān)視頻片段，然后利用AI軟件合成完整視頻，配上音樂、字幕。不到一分鐘，一段虛假視頻便‘新鮮出爐’?！鄙嫌輩^(qū)分局民警沈林豐介紹，為獲得流量、博人眼球，自今年5月以來，該團(tuán)伙不斷利用AI技術(shù)制作虛假視頻、散布謠言，在網(wǎng)上發(fā)布未經(jīng)核實的虛假視頻達(dá)3000多個。

隨著人臉識別技術(shù)越來越普及，一些不法分子開始利用“AI換臉”等技術(shù)實施盜竊、詐騙等犯罪，引發(fā)了公眾對于個人信息保護(hù)的擔(dān)憂。

“我的APP好像被黑了！”今年4月13日，紹興市民朱女士到轄區(qū)派出所報案，稱有人登錄某政務(wù)APP，擅自下載了朱女士公司的電子營業(yè)執(zhí)照。接警后，上虞區(qū)分局迅速展開偵查，很快確認(rèn)曾某某有重大作案嫌疑。

經(jīng)審查，犯罪嫌疑人曾某某利用自己的手機(jī)號碼注冊賬號，并通過朱女士的姓名、身份證號等信息進(jìn)行實名認(rèn)證，然后通過人臉識別進(jìn)行綁定，最終成功登錄賬號進(jìn)行作案。

“曾某某通過網(wǎng)購店鋪引流，利用‘客戶’提供的人臉照片，通過專業(yè)AI軟件制作合成人臉動圖，以人臉識別驗證方式登錄各類APP，非法獲取相關(guān)信息。”上虞區(qū)分局相關(guān)負(fù)責(zé)同志介紹。

“每次交易價格不等，只是覺得這樣掙錢比較容易，沒想到已經(jīng)觸犯到了法律?！痹衬郴诓划?dāng)初。據(jù)了解，曾某某通過此類手段共制作動態(tài)人臉1000多個，獲利9萬多元。目前，曾某某已被采取刑事強(qiáng)制措施，案件正在辦理中。

公安部網(wǎng)絡(luò)安全局相關(guān)負(fù)責(zé)人介紹：“犯罪分子用于實施‘AI換臉’的物料主要為照片，特別是身份證照片，同時結(jié)合人員姓名、身份證號來突破人臉識別驗證系統(tǒng)。為防范和打擊此類新型犯罪，公安機(jī)關(guān)聯(lián)合國家重點實驗室等單位，開展人臉識別與活體檢測技術(shù)安全測評，覆蓋了境內(nèi)用戶量大、問題隱患突出的各類重點APP，及時發(fā)現(xiàn)人臉識別驗證系統(tǒng)存在的風(fēng)險隱患，通報運營主體升級安全保護(hù)措施和人臉識別算法。”據(jù)介紹，公安機(jī)關(guān)依托“凈網(wǎng)”專項行動，組織專項會戰(zhàn)，嚴(yán)打泄露身份證照片等圖像信息的犯罪源頭，破獲多起“AI換臉”案件，抓獲相關(guān)犯罪嫌疑人，有效遏制了該類犯罪勢頭。

“不法分子濫用人工智能技術(shù)，給社會帶來嚴(yán)重危害，也觸犯了相關(guān)法律?！本饺耸拷榻B，根據(jù)法律規(guī)定，使用人工智能技術(shù)制作散布虛假信息，擾亂社會秩序，可能構(gòu)成編造、故意傳播虛假信息罪；利用人工合成技術(shù)破解他人賬號、竊取他人個人信息，則可能構(gòu)成侵犯公民個人信息罪。此外，如果使用人工智能等技術(shù)手段來從事欺凌、恐嚇、威脅等行為，就可能構(gòu)成尋釁滋事罪等。

“人工智能技術(shù)操作簡單、可定制性強(qiáng)、應(yīng)用場景廣泛，降低了鏈條式犯罪的難度，被黑客等不法分子利用后危害性極大。”紹興市公安局上虞區(qū)分局相關(guān)負(fù)責(zé)人表示，對人工智能技術(shù)產(chǎn)生的新應(yīng)用、新業(yè)態(tài)，公安機(jī)關(guān)將堅守價值引領(lǐng)與技術(shù)“糾錯”并行，保護(hù)人工智能技術(shù)健康發(fā)展的同時，防范打擊利用人工智能技術(shù)侵犯公民權(quán)利、危害公共安全的新型案件，維護(hù)風(fēng)清氣正的網(wǎng)絡(luò)環(huán)境，全力保障網(wǎng)絡(luò)空間安全。

與此同時，辦案民警提示，要警惕利用人工智能進(jìn)行新型犯罪新動向，建議個人要加強(qiáng)信息保護(hù)意識，防止信息泄露，不輕易提供人臉、指紋等個人生物信息給他人；管理好自己的“朋友圈”，盡量避免過多暴露隱私；警惕不明平臺發(fā)來的廣告、中獎等鏈接，不隨意點擊填寫信息，以免上當(dāng)受騙。

關(guān)鍵詞：