91麻豆精品国产自产在线91|欧美69视频|黑人性GAY巨大XXXXX|黄网站色视频免费毛片在线看,影音先锋a v在线资源站,成h人视频网站,91色狼

當前位置: 首頁  >> 智能環(huán)球  >> 查看詳情

AI造假 vs AI打假 終結“貓鼠游戲”不能只靠技術

來源: 科技日報   日期:2020-02-27  責編: 殷緒江  
分享:

    人臉識別作為生物識別中的重要手段,成為了近年身份識別中最熱門的領域。但與人臉識別技術共同發(fā)展的,還有借助機器學習系統(tǒng)、圖像視頻和音頻內容,更改人臉、物體或環(huán)境呈現方式的深度偽造技術。隨著這一技術的日趨成熟,其引發(fā)的諸多社會問題也開始凸顯。在對抗虛假視頻方面,目前各方在尋求技術突破的同時,也致力于在制度建設方面做出改變。

  俗話說“眼見為實”,人們往往對看到的圖像、視頻深信不疑,而隨著Photoshop、美圖秀秀等圖像編輯軟件的興起,人工智能造假技術的更迭,圖像篡改變得越來越容易,假圖片、假新聞等在網上泛濫成災,人們也愈發(fā)不敢相信自己的眼睛。

  為了應對美國大選季期間高發(fā)的虛假信息,近日,谷歌決定出手,以AI治AI。有專家指出,深度偽造技術(Deepfake)是AI發(fā)展到一定階段的產物,隨著這種技術的發(fā)展,相應的檢測技術也會越來越先進——如同“貓抓老鼠的游戲”,將是一場永無休止的競賽。

  假視頻越來越逼真

  2019年11月,在北美上映的電影《愛爾蘭人》反響熱烈,其中令人咋舌的是電影特效制作公司運用虛擬影像重建技術,將片中主角們集體“減齡”,抹平年近80歲演員們容顏上的歲月痕跡,使之重新煥發(fā)青春。這種讓耄耋之年的演員重回年輕模樣的“換臉”技術著實讓觀眾心頭一震。

  “Deepfake專指基于人工智能的人體圖像合成技術,主要應用于‘換臉’,其在很多領域有積極的商業(yè)價值,但是一旦被‘黑產’盯上用作謀利工具,則會給個人和社會帶來風險和挑戰(zhàn)。”遠望智庫人工智能事業(yè)部部長、圖靈機器人首席戰(zhàn)略官譚茗洲介紹說。

  這其中最飽受爭議的是“換臉”技術被一些情色網站利用。不久前,網絡上走紅的“一鍵脫衣”軟件DeepNude,只要輸入一張完整的女性圖片就可自動生成相應裸照,并且生成照片存在著廣泛傳播的風險,最終在各方壓力下這款APP被下架。

  不僅如此,不久前還出現了語音版的Deepfake。加拿大一家創(chuàng)業(yè)公司開發(fā)出的語音合成系統(tǒng)RealTalk,僅基于一定的文本輸入即可生成和真人聲音十分相似的聲音。演示中,系統(tǒng)模仿了美國一位著名脫口秀喜劇演員、主持人的聲音,以至于本人聽后高呼“真的可怕”。而未來這種技術還可能會發(fā)展到只需幾秒鐘的音頻素材,即能復制出他人聲音的程度。

  讓人更為頭疼的是,Deepfake技術讓虛假信息“如虎添翼”,尤其在社會重大事件中能夠起到強勁攪拌作用,以至于可能會影響到人們決策以及社會穩(wěn)定。據相關文獻,2016年美國總統(tǒng)大選前的一個月內,每個美國網民平均會接觸1—3篇假新聞。2020年初,新冠肺炎病毒席卷全國,就有造假者運用上述技術偽造鐘南山院士發(fā)言,而針對“辟謠”的百度搜索指數(1月19日—1月25日)與去年春節(jié)期間相比,增長了5.4倍。

  以AI治AI揪出假視頻

  “自Deepfake2017年年底首次出現以來,隨著其技術的開源,合成剪輯視頻的數量不斷增長。要對付假視頻,就要在網絡海量信息中,快速找到虛假圖片,并對圖像識別后精準提取其中語義,這也是目前人工智能算法上的核心研究發(fā)力點。”譚茗洲表示。

  要識別虛假視頻,首先,我們來分析一下Deepfake都有哪些招數。

  “目前圖像篡改類型主要分為復制—粘貼、拼接、圖像修補/局部區(qū)域去除和人臉PS四大類。”行業(yè)專家曹娟博士近日在接受科技日報記者采訪時指出,“既有的檢測方法主要基于手工特征方法和深度學習的方法,前者包括基于圖像的物理屬性(光照不連續(xù)、陰影不連續(xù)、色差等)、相機屬性(顏色濾波陣列、傳感器噪聲、EXIF數據分析等)、壓縮痕跡(DCT系數、塊狀效應等)、像素級屬性(復制—粘貼、重采樣等);后者包括Encoder-Decoder模型、約束卷積模型和Multi-domain模型等。”

  “魔”高一尺,“道”可高一丈嗎?近日,谷歌母公司Alphabet旗下的Jigsaw聯(lián)手Google Research、美國馬里蘭大學等多家研究機構,開發(fā)了名為Assembler的實驗平臺,旨在幫助應用者通過簡單操作,快速識別Deepfake,減少AI技術濫用所帶來的傷害。

  譚茗洲介紹:“實際上,這個平臺是把多個圖像檢測器集成為一個工具,每個檢測器都針對特定類型的圖像進行處理。比如,有的檢測器能判斷圖像是否有復制粘貼痕跡,檢測主要關注圖像顏色、噪點等。”

  具體而言,其機器學習模型既能利用圖像的顏色值來查找異常,也能檢查圖像的噪點模式是否存在不一致。算法上,能夠查找被編輯過的JPEG壓縮圖像區(qū)域外觀相似的區(qū)塊,以判斷其中一個圖像是否被復制粘貼到另一個區(qū)域上。

  “然而,真實場景中,媒體經常面對的是經過復雜處理后編輯的低分辨率的圖像,這就給檢測技術帶來新的挑戰(zhàn)。光用底層算法不能準確抓住圖像上損失掉的篡改痕跡,還需要結合高層語義算法來識別。”曹娟說。

  曹娟進一步指出,現有檢測假視頻的方法尚存在三個主要局限性。第一,通用性不夠,大部分檢測只針對特定類型的篡改,如何尋找篡改的共同屬性,讓模型能應對多種篡改類型是未來的研究重點之一。第二,對抗能力不夠,目前篡改手段不斷隱蔽,經過復雜的處理,篡改痕跡往往會消失,導致檢測性能大大下降。如何提高模型的魯棒性,應對各種真實的應用場景,是未來的核心任務。第三,目前的方法基本都是對圖像劃分成小塊,再逐塊處理,非常耗時耗資源。

  共建保證信息真實的生態(tài)體系

  國際咨詢公司Gartner曾預測:到2020年,互聯(lián)網虛假信息或產生更大危害,基于人工智能技術的造假能力或將遠超虛假檢測的能力。2018年3月,《科學》雜志刊登的一篇論文指出:近年來虛假新聞的興起,突顯出互聯(lián)網時代現有的對抗錯誤信息制度和技術的不足,目前迫切需要重建一個保證信息真實性的信息生態(tài)系統(tǒng)。

  “如今更重要的是提升針對性的檢測技術、完善相關法律及認證機制。”譚茗洲強調。

  2019年9月5日,臉書(Facebook)相關負責人宣布,臉書正與微軟公司聯(lián)合包括美國麻省理工學院、英國牛津大學、美國康奈爾大學等在內的多所大學研究檢測Deepfake的方法,同時非營利性研究組織Partnership on AI也參與其中,該組織的成員包括谷歌、蘋果、亞馬遜、IBM等大型科技公司。

  曹娟介紹說,在研究方面,除Assembler平臺之外,目前國內做的比較好的有中科院計算所、中科院自動化所、北京交通大學、中山大學、深圳大學等,國外的美國加州大學伯克利分校、美國賓漢姆頓大學、美國馬里蘭大學等。同時,很多企業(yè)和研究機構也在積極研發(fā)實用的圖像篡改檢測工具和平臺,如美國Amped Software公司開發(fā)的Amped Authenticate工具。

  2019年11月29日,國家互聯(lián)網信息辦公室發(fā)布《網絡音視頻信息服務管理規(guī)定》,要求網絡音視頻信息服務提供者應當具有與新技術新應用發(fā)展相適應的安全可控的技術保障,部署違法違規(guī)音視頻和非真實音視頻鑒別技術。

  專家建議,防治虛假視頻,有關部門要建立相關管理制度,特別是新聞視頻、新聞內容管理方面;在傳播渠道上,要建立過濾機制,在技術上實現高效過濾,并且還要對所有造假視頻音頻實現溯源,同時,增加對檢測技術研發(fā)資金的投入,激發(fā)技術創(chuàng)新。



 

【免責聲明】:
   凡注明 “環(huán)球科技網” 字樣的圖片或文字內容均屬于本網站專稿,如需轉載圖片請保留 “環(huán)球科技網” 水印,轉載文字內容請注明來源“環(huán)球科技網”;凡本網注明“來源:XXX(非環(huán)球科技網)”的作品,均轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其作品內容的實質真實性負責,轉載信息版權屬于原媒體及作者。如轉載內容涉及版權或者其他問題,請投訴至郵箱;1978751725@qq.com 
本網公告
環(huán)球科技網從不發(fā)布負面新聞資訊,也絕不會發(fā)布負面信息。如發(fā)現負面信息鏈接請甄別是否為環(huán)球科技網所發(fā)。
本網系北京伯樂傳媒廣告有限公司主辦、所有。本網唯一域名(www.lzsczx.com),其它域名鏈接均為假冒。望廣大網民及企業(yè)主認真甄別。


咨詢、采訪、合作、投稿等請致電:13911566744(含微信)

     
 
 


 

相關文章

  • 全球首款多陣列憶阻器“存算一體”系統(tǒng)問世 全球首款多陣列憶阻器“存算一體”系統(tǒng)問世 2020-02-27 10:39:28

        隨著摩爾定律趨近極限,通過集成電路工藝微縮的方式獲得算力提升越來越難;而計算與存儲在不同電路單元中完成,會造成大量數據搬運功耗增加和額外延遲。如何提高算力,突破技術瓶頸?26日,記者從清華大學獲悉,該校微電子所、未來芯片技術高精尖創(chuàng)新中心錢鶴、吳華強教授團隊,與合作者共同研發(fā)出一款基于多個憶阻器陣列的存算一體系統(tǒng),在處理卷積神經網... [閱讀]

  • 觸覺傳感器能令機器人“感受”疼痛 觸覺傳感器能令機器人“感受”疼痛 2020-02-20 11:01:56

        據美國《科學新聞》雙周刊網站近日報道,日本大阪大學工程師淺田稔和同事設計出了一套能可靠識別一系列觸碰的觸覺傳感器,當這套傳感器與機器人相連時,機器人會發(fā)出情緒信號。他們表示,未來科學家有望研制出擁有觸覺并“感受”身體疼痛的機器人,這些機器人或許也能對人類的痛苦“感同身受”。 &nb... [閱讀]

  • AI仿真器將模擬速度提高數十億倍 AI仿真器將模擬速度提高數十億倍 2020-02-19 11:05:28

        即使用迄今最快的超級計算機,模擬復雜自然現象也要耗費數小時。而據美國《科學》網站17日報道,作為一種超快速模擬的算法,人工智能(AI)仿真器提供了一條“捷徑”——基于神經網絡的AI可以很容易地生成精確的仿真器,從而將所有科學領域的仿真加速數十億倍。   對于極其復雜的自然現象,... [閱讀]

  •  新松首批口罩自動化生產線將于近期下線 新松首批口罩自動化生產線將于近期下線 2020-02-19 09:55:46

        2020年以來,面對突如其來的疫情,口罩成為熱銷產品。伴隨著病毒防疫工作進入攻堅階段和各類企業(yè)的相繼復工,預計短時間內,各類口罩的總需求量還存在較大缺口。一“罩” 難求的困境,亟待破解。     作為機器人及自動化領域的領軍企業(yè),以市場需求為出發(fā)點,新松集團火速匯集國內(沈陽,上海)兩... [閱讀]

新聞排行榜