管住AI造假，留住社會(huì)信任

時(shí)間：2025-10-17 09:32:54 來(lái)源：科技日?qǐng)?bào)

【資料圖】

知名央視主持人現(xiàn)身網(wǎng)絡(luò)直播間？竟然還播報(bào)起虛假?gòu)V告？近日，北京市場(chǎng)監(jiān)管部門查處了首例利用人工智能（AI）技術(shù)進(jìn)行虛假?gòu)V告宣傳的案件。北京一公司在直播中宣稱其產(chǎn)品能夠治療多種疾病，而實(shí)際該產(chǎn)品僅為普通食品，不具備疾病治療功能。此外，直播中還出現(xiàn)了知名央視主持人的形象，經(jīng)鑒定，該形象完全是利用AI技術(shù)偽造生成。

近年來(lái)，人工智能技術(shù)日益成熟，“AI換臉”的技術(shù)門檻大幅降低，如今僅憑一張圖片、一段聲音，就能生成高度逼真的偽造視頻。這讓一些不法商家心生歹念，利用AI深度偽造科學(xué)家、醫(yī)生、運(yùn)動(dòng)員、演員等知名人士的面容和聲音，炮制出一個(gè)個(gè)AI“李鬼”。

這類新型違法行為不僅侵犯了被仿冒者的合法權(quán)益，營(yíng)造出“權(quán)威背書(shū)”的假象對(duì)公眾實(shí)施欺詐，給內(nèi)容安全帶來(lái)挑戰(zhàn)，更蠶食著社會(huì)賴以運(yùn)轉(zhuǎn)的信任基礎(chǔ)。當(dāng)作假的圖像被AI包裝成“有鼻子有眼”的視頻肆意擴(kuò)散，當(dāng)仿冒的名人形象在直播間里一本正經(jīng)兜售偽劣商品，當(dāng)電信詐騙者的聲音和容貌竟然與受害者的家人一模一樣……在AI生成內(nèi)容紛繁復(fù)雜的今天，倘若“眼見(jiàn)為實(shí)”不復(fù)存在，社會(huì)信任又該如何維系？

為解決AI生成內(nèi)容以假亂真的問(wèn)題，今年9月，我國(guó)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》正式施行。該辦法明確要求所有AI生成的文字、圖片、視頻等內(nèi)容必須添加顯式標(biāo)識(shí)“亮明身份”，同時(shí)鼓勵(lì)添加數(shù)字水印等隱式標(biāo)識(shí)，讓公眾明確知道哪些內(nèi)容可能源自AI生成。既然已有規(guī)定，有關(guān)部門就應(yīng)加大監(jiān)管和執(zhí)法力度，對(duì)違反相關(guān)規(guī)定的平臺(tái)和個(gè)人依法查處，形成震懾。此次北京市場(chǎng)監(jiān)管部門查處相關(guān)案件，就開(kāi)了個(gè)好頭，釋放出對(duì)“AI造”加強(qiáng)監(jiān)管的強(qiáng)烈信號(hào)。

內(nèi)容傳播平臺(tái)、AI生成服務(wù)平臺(tái)和應(yīng)用程序分發(fā)平臺(tái)則要盡到相應(yīng)的責(zé)任義務(wù)，落實(shí)好有關(guān)要求，進(jìn)一步優(yōu)化AI識(shí)別技術(shù)，加強(qiáng)鑒偽追溯能力，與監(jiān)管部門同向發(fā)力，守好“真實(shí)”的邊界。與此同時(shí)，廣大網(wǎng)民也要保持警惕，加強(qiáng)對(duì)信息真?zhèn)蔚恼鐒e，不被虛假信息蒙蔽雙眼。

當(dāng)前，我國(guó)人工智能技術(shù)正在飛速發(fā)展，針對(duì)不同應(yīng)用場(chǎng)景的安全標(biāo)準(zhǔn)和法律準(zhǔn)則在不斷完善中。構(gòu)建良好網(wǎng)絡(luò)生態(tài)，需要各方共同努力，把“眼見(jiàn)為實(shí)”的網(wǎng)絡(luò)空間還給我們每個(gè)人，守護(hù)好社會(huì)信任的根基。（文/陳可軒）

標(biāo)簽：生成內(nèi)容技術(shù) 人工智能平臺(tái)

上一篇：海底撈跨界聯(lián)動(dòng)《明日方舟》；西山居《劍俠世界4：無(wú)限》開(kāi)啟預(yù)約丨游戲早參
下一篇：最后一頁(yè)

相關(guān)新聞

凡本網(wǎng)注明“XXX（非現(xiàn)代青年網(wǎng)）提供”的作品，均轉(zhuǎn)載自其它媒體，轉(zhuǎn)載目的在于傳遞更多信息，并不代表本網(wǎng)贊同其觀點(diǎn)和其真實(shí)性負(fù)責(zé)。

特別關(guān)注

文化交流讓兩岸同胞心更近、情更濃——訪閩臺(tái)歷史文化研究院院長(zhǎng)陳秋平

原標(biāo)題：文化交流讓兩岸同胞心更近、情更濃（主題）——訪閩臺(tái)歷史文化

2023-09-12 09:56
暑期檔中國(guó)電影觀眾滿意度調(diào)查出爐 6部影片滿意度超84分

原標(biāo)題：暑期檔中國(guó)電影觀眾滿意度調(diào)查出爐（引題）?6部影片滿意度超8

2023-09-12 09:57
河北發(fā)現(xiàn)完整“熱河生物群”恐龍化石

原標(biāo)題：河北發(fā)現(xiàn)完整“熱河生物群”恐龍化石人民日?qǐng)?bào)石家莊9月11日電

2023-09-12 09:59
2023國(guó)際青年設(shè)計(jì)師邀請(qǐng)賽周五開(kāi)賽居庸關(guān)長(zhǎng)城“跨界” 變身時(shí)尚設(shè)計(jì)舞臺(tái)

原標(biāo)題：2023國(guó)際青年設(shè)計(jì)師邀請(qǐng)賽周五開(kāi)賽（引題）?居庸關(guān)長(zhǎng)城“跨界

2023-09-12 09:55
“福運(yùn)武清”鄉(xiāng)村振興主題文學(xué)創(chuàng)作采風(fēng)活動(dòng)舉行

原標(biāo)題：“福運(yùn)武清”鄉(xiāng)村振興主題文學(xué)創(chuàng)作采風(fēng)活動(dòng)舉行（引題）?市作

2023-09-12 09:57
當(dāng)“非遺藤編”走向世界

原標(biāo)題：當(dāng)“非遺藤編”走向世界工人日?qǐng)?bào)-中工網(wǎng)記者徐福平陳子蘊(yùn)一樓

2023-09-09 14:57
工業(yè)題材電影創(chuàng)作研討會(huì)在京舉辦

原標(biāo)題：工業(yè)題材電影創(chuàng)作研討會(huì)在京舉辦工人日?qǐng)?bào)-中工網(wǎng)記者陳俊宇9月

2023-09-09 15:07
2024中國(guó)國(guó)際時(shí)裝周時(shí)裝大秀綻放女性力量

原標(biāo)題：2024中國(guó)國(guó)際時(shí)裝周時(shí)裝大秀綻放女性力量中新網(wǎng)北京9月8日電(

2023-09-09 14:54
《別董大》原來(lái)是高適的“蹭飯”詩(shī)

原標(biāo)題：《別董大》原來(lái)是高適的“蹭飯”詩(shī)“千里黃云白日曛，北風(fēng)吹雁

2023-09-09 15:01
周杰倫天津演唱會(huì)發(fā)生意外？經(jīng)紀(jì)公司凌晨回應(yīng)

原標(biāo)題：周杰倫天津演唱會(huì)發(fā)生意外？經(jīng)紀(jì)公司凌晨回應(yīng)9月8日晚，周杰倫

2023-09-09 15:02
“灣仔之狼”馬家輝：要讀書(shū)，就要讀經(jīng)典

原標(biāo)題：“灣仔之狼”馬家輝：要讀書(shū)，就要讀經(jīng)典讀書(shū)有多好，不必再多

2023-09-09 08:06
反套路、反類型《云之羽》打造新江湖武俠劇

原標(biāo)題：反套路、反類型《云之羽》打造新江湖武俠劇中新網(wǎng)9月8日電?由

2023-09-09 08:02
第48屆多倫多國(guó)際電影節(jié)啟幕多部華語(yǔ)影片亮相

原標(biāo)題：第48屆多倫多國(guó)際電影節(jié)啟幕多部華語(yǔ)影片亮相中新社多倫多9月7

2023-09-09 08:05
聚焦青年作家創(chuàng)作 “新文化與新時(shí)代青年寫作”主題論壇舉辦

原標(biāo)題：聚焦青年作家創(chuàng)作“新文化與新時(shí)代青年寫作”主題論壇舉辦中新

2023-09-08 15:03
大作云集第十屆烏鎮(zhèn)戲劇節(jié)將于10月啟幕

原標(biāo)題：大作云集第十屆烏鎮(zhèn)戲劇節(jié)將于10月啟幕中新網(wǎng)北京9月7日電(記

2023-09-08 15:06
第十屆烏鎮(zhèn)戲劇節(jié)將啟匯集11個(gè)國(guó)家與地區(qū)劇目

原標(biāo)題：第十屆烏鎮(zhèn)戲劇節(jié)將啟匯集11個(gè)國(guó)家與地區(qū)劇目中新網(wǎng)嘉興9月7日

2023-09-08 15:00
浙江湖州推出文旅亞運(yùn)主題線路助力文旅產(chǎn)業(yè)

原標(biāo)題：浙江湖州推出文旅亞運(yùn)主題線路助力文旅產(chǎn)業(yè)9月6日，游客在游覽

2023-09-08 14:58
帕米爾高原上的歌舞情緣

原標(biāo)題：帕米爾高原上的歌舞情緣新疆塔什庫(kù)爾干塔吉克自治縣（以下簡(jiǎn)稱

2023-09-08 15:04
首次嘗試充滿都市感影像風(fēng)格

原標(biāo)題：張藝謀新片《堅(jiān)如磐石》舉行發(fā)布會(huì)北京日?qǐng)?bào)記者袁云兒張藝謀首

2023-09-08 10:56
《相約敦煌》文藝晚會(huì)上演

原標(biāo)題：《相約敦煌》文藝晚會(huì)上演9月6日，演員在《相約敦煌》文藝晚會(huì)

2023-09-08 11:02
喀什英吉沙：傳承民族特色體驗(yàn)非遺魅力

原標(biāo)題：喀什英吉沙：傳承民族特色體驗(yàn)非遺魅力9月5日，手工藝人在英吉

2023-09-08 10:56
“名家讀經(jīng)典”系列首期：阿來(lái)解讀《瓦爾登湖》

原標(biāo)題：“名家讀經(jīng)典”系列首期：阿來(lái)解讀《瓦爾登湖》中新網(wǎng)北京9月7

2023-09-08 10:56
《封神三部曲》用“東方敘事”助力在國(guó)際銀屏上講好“中國(guó)故事”

原標(biāo)題：《封神三部曲》用“東方敘事”助力在國(guó)際銀屏上講好“中國(guó)故事

2023-09-08 10:56
樊錦詩(shī)等，獲聯(lián)合國(guó)教科文組織頒獎(jiǎng)

原標(biāo)題：樊錦詩(shī)等，獲聯(lián)合國(guó)教科文組織頒獎(jiǎng)賈釗程楠非物質(zhì)文化遺產(chǎn)促進(jìn)

2023-09-08 10:06
石景山區(qū)打造京西“活態(tài)博物館”

原標(biāo)題：一條古道串起顆顆文化“明珠”（引題）石景山區(qū)打造京西“活態(tài)

2023-09-08 10:02

熱文推薦

1運(yùn)鴻集團(tuán)旗下【世界金融資產(chǎn)交易中心】獲兩項(xiàng)高含金量許可證
2從規(guī)模第一到規(guī)則制定：UR以「中國(guó)潮流快時(shí)尚第一品牌」開(kāi)啟全球化新敘事
3腰鼓聲聲震天響
4優(yōu)環(huán)境提效率很滿意——安塞區(qū)優(yōu)化營(yíng)商環(huán)境小記
5沈陽(yáng)充場(chǎng)暖場(chǎng)專業(yè)團(tuán)隊(duì)誠(chéng)邀合作
6沈陽(yáng)發(fā)傳單專業(yè)團(tuán)隊(duì)誠(chéng)邀合作
7車險(xiǎn)的作用：降低風(fēng)險(xiǎn)，保障安全
8中荷人壽全面啟動(dòng) 2023年“金融消費(fèi)者權(quán)益保護(hù)教育宣傳月”
9南昌豐益肛腸醫(yī)院黑不黑？一人一醫(yī)一診室專業(yè)治療肛腸疾病
10平安銀行信用卡權(quán)益服務(wù)升級(jí)，“A+進(jìn)階”三部曲收官
11黃河水院承辦2023年河南省高等職業(yè)教育教學(xué)能力大賽決賽
12黃河水院摘取2023金磚國(guó)家網(wǎng)絡(luò)營(yíng)銷賽項(xiàng)全國(guó)決賽一等獎(jiǎng)
13行業(yè)頂流配置，無(wú)愧旗艦輕客，江鈴福特新款輕客曝光
14鄭州財(cái)稅金融職業(yè)學(xué)院成功舉辦“奮斗者正青春”2023屆畢業(yè)典禮
15鄭州經(jīng)貿(mào)學(xué)院主題教育讀書(shū)班赴港區(qū)開(kāi)展現(xiàn)場(chǎng)研學(xué)
16做“全球高乳清蛋白奶粉”開(kāi)創(chuàng)者，優(yōu)博瑞慕迎來(lái)全新戰(zhàn)略定位
17做“全球高乳清蛋白奶粉”開(kāi)創(chuàng)者，優(yōu)博瑞慕迎來(lái)全新戰(zhàn)略定位
18高考成績(jī)不滿意怎么辦？常州沐恩高考復(fù)讀學(xué)校效果好
19今年618的最后一件，你買給了誰(shuí)?
20重大突發(fā)事件中網(wǎng)絡(luò)謠言的治理研究
21黃河水院：就業(yè)路上一個(gè)不能少
22極星成立戰(zhàn)略合資企業(yè)，持續(xù)加速中國(guó)市場(chǎng)發(fā)展
23刷新市場(chǎng)標(biāo)桿，江鈴福特全順成全能輕客價(jià)值之選
24踐行雙循環(huán)、振興鄉(xiāng)村經(jīng)濟(jì)”東北論壇會(huì)議在沈陽(yáng)市隆重舉行
25濟(jì)源職業(yè)技術(shù)學(xué)院學(xué)子在中國(guó)工程機(jī)器人大賽中榮獲二等獎(jiǎng)

管住AI造假，留住社會(huì)信任

特別關(guān)注

焦點(diǎn)資訊

管住AI造假，留住社會(huì)信任