中新網2月21日電(陳彩霞) “真是一派胡言!重要的是,你要把選票留到11月的選舉中。本周的投票只會讓共和黨人再次選舉唐納德·特朗普……”近期,在美國新罕布什爾州舉行初選前,很多美國人接到了“美國總統拜登”的電話留言,而這通電話被認為是人工智能(AI)生成的“虛假電話”。

隨著生成式人工智能(GAI)時代的到來,“眼見為實”“有圖有真相”逐漸被顛覆。2024年開年,美國OpenAI公司發布了首個文生視頻模型“Sora”,在振奮科技圈的同時,也讓人們對AI生成的假視頻和假圖片泛濫的擔憂與日俱增。大量“深度偽造”視頻的出現,可能對選舉等政治和安全領域產生負面影響,世界各國仍需合作來應對這一挑戰。

“AI換臉”真假難辨

多國政要“躺槍”

近年來,AI技術發展迅猛,文生圖、文生視頻的工具如Pika、Sora等層出不窮。而“AI換臉”也通過深度合成算法處理,為“二度創作”提供了支持。深度偽造技術似乎愈發出格,甚至多國政要也紛紛“躺槍”……

2023年3月18日,美國前總統特朗普曾在社交媒體上發文稱,他預計自己將于2023年3月21日被捕。此消息一出,“特朗普被捕”的“照片”在一些社交平臺迅速流傳開來。這些“照片”包括“特朗普被警察圍捕”、“特朗普穿囚服”,甚至還有“特朗普越獄”,精彩程度堪比好萊塢大片。

日本首相岸田文雄也曾因“AI換臉”技術“躺槍”。2023年11月,日本一名25歲男子借助AI技術,制作了“岸田文雄開發布會”的假視頻。

視頻中的“岸田”身著西裝,神態緊張,語氣鄭重。該視頻還帶有日本電視臺的臺標和“突發新聞”字樣。這條假視頻上線僅一天,播放量就超過230萬次。

印度總理莫迪也曾陷“深度偽造”風波。2023年11月,一段“莫迪跳舞”的視頻在網上瘋傳。視頻中,“莫迪”和其他舞者身穿傳統服飾,圍成一個圈,歡快地跳著印度古吉拉特邦的一種節日舞蹈——加爾巴舞。

莫迪親自辟謠,稱視頻是AI合成的。他警告稱,“人們會誤以為自己看見的是真實的,這會引發巨大危機……在人工智能時代,負責任地使用技術很重要。”

新加坡總理李顯龍2023年底也在社交媒體發文稱,近日出現了一些利用他的音頻制作的深度偽造視頻,宣傳加密貨幣騙局。流傳的偽造視頻中,李顯龍提到獲新加坡政府批準的投資機會,并推廣了一個所謂由特斯拉首席執行官馬斯克設計的“革命性投資平臺”。李顯龍呼吁公眾提高警惕,切勿上當受騙。

政治“深偽”時刻到來?

AI安全成焦點

除了滿足網絡受眾的獵奇心理和社交需求,AI技術近來逐漸在選舉中嶄露頭角,它與政治的融合既帶來進步,也帶來“陷阱”。

2023年2月,美國芝加哥市長選舉前夕,一段“溫和派民主黨候選人保羅·瓦拉斯猛烈抨擊芝加哥”的視頻在網絡迅速流傳。視頻中,瓦拉斯稱,由于缺乏法律和秩序,芝加哥已經變成一個“無法無天”的真空地帶,而且“警察隨隨便便就可以射殺嫌疑人,人們卻對這些情況視而不見”。

不過,這段視頻被證明是AI合成。雖然社交平臺最后刪除了該視頻,但其產生的負面影響仍無法消除,瓦拉斯也在市長選舉中不敵對手布蘭登?約翰遜。

《今日美國報》援引布魯金斯學會技術創新中心高級研究員達雷爾·韋斯特的話稱,“2024年的美國大選,將會出現人工智能(AI)生成的虛假信息‘海嘯’。我們已看到這種情況,且情況將會變得更糟。”

美國政府監管組織“捍衛公眾利益組織”負責人羅伯特?韋斯曼也稱,政治“深度偽造”時刻已經到來,政策制定者必須盡快采取保護措施,否則將面臨“選舉混亂”。

關于AI可能被用來誤導選民和惡意歪曲選舉的擔憂,在2024年這個“全球超級大選年”急劇上升。

2月16日,OpenAI、亞馬遜、谷歌、微軟、TikTok、臉書的母公司“元”、社交平臺X(原推特)等全球多家領先的科技企業,在第60屆慕尼黑安全會議(慕安會)上簽署協議,承諾在2024年這個多國舉行重要選舉的年份,通過技術部署,減少利用人工智能生成和分發欺騙性內容干擾選舉的風險。

“政府需要在人工智能領域扮演重要角色,確保設置安全屏障和護欄,讓產業內人士知道,哪些能做,哪些不能做。”美國消費者技術協會首席執行官夏皮羅如是說道。(完)