1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

AI換臉足可“以假亂真”?若被濫用后果難料

 2019-05-17 17:33  來源:A5專欄  我來投稿 撤稿糾錯

  阿里云優(yōu)惠券 先領(lǐng)券再下單

文/東方亦落

最近,“AI換臉”風靡互聯(lián)網(wǎng)。起因是今年3月在B站的一段視頻中,94版《射雕英雄傳》里黃蓉的扮演者朱茵的臉被用AI技術(shù)換成了楊冪的臉,并且換臉之后毫無違和感,而楊冪的“演技”看上去也大有提升。先進的“黑科技”加上“射雕”、“楊冪”這些自帶話題的屬性,使得該事件迅速成為網(wǎng)絡熱點,B站視頻點擊量超出20萬,微博話題點擊量過億。

所謂“AI換臉”,即基于人工智能的人體圖像合成技術(shù)。想要實現(xiàn)這一功能,先要進行數(shù)據(jù)采集,捕捉不同的面部姿態(tài)、光照角度的人臉圖片,再對這些數(shù)據(jù)進行處理,如標準化、分割算法等等。按理說制作起來需要幾個小時到數(shù)十個小時不等,但現(xiàn)在已經(jīng)出現(xiàn)了可以輔助AI換臉的插件。

現(xiàn)在有專門深耕這一功能的軟件,不管是容貌和性別都可以轉(zhuǎn)換,而且這種技術(shù)還有更多的作用。 比如今年春節(jié)期間的影片《瘋狂的外星人》中外星人之所以神態(tài)逼真,其實是通過AI對演員進行“動作捕捉”完成的。而美國電影《阿麗塔》也是通過AI換臉讓主角動感十足。甚至在《速度與激情7》中,用AI換臉技術(shù)還原了因車禍去世的主演保羅·沃克的臉,讓影片多了溫情的色彩。

而隨著AI換臉技術(shù)的普及,這種技術(shù)已經(jīng)不僅局限于某個行業(yè)中,現(xiàn)在普通網(wǎng)民也可以隨意使用。于是網(wǎng)上出現(xiàn)了許多用明星的臉安到自己臉上的主播,還有某些軟件上用戶將自己性別調(diào)換的照片,以及目前流行的視頻中AI換臉等等。

從發(fā)展的角度來說,AI換臉的普及也是技術(shù)進步的表現(xiàn)之一,是值得人們欣喜的。然而事實上,此項技術(shù)缺乏監(jiān)管,也因此出現(xiàn)了一些不規(guī)范的現(xiàn)象。

AI換臉有一個名稱叫做DeepFake,這本是一位將《神奇女俠》的主角的臉換到另一張臉上的用戶的名字,但后來這位女演員*該用戶,然而由于缺少相關(guān)的法律條文而未能成功,而這位名叫DeepFake的用戶反而因為此舉迅速走紅,還成了AI換臉技術(shù)的“代言人”。

任何的技術(shù)都本無好壞之分,但這樣看上去,AI換臉技術(shù)似乎帶了一些“原罪”。 此后換臉之風愈演愈烈,而在這個過程中,使用這類技術(shù)的人也在侵權(quán)的邊緣試探。許多人將明星的臉換到某些*頻中并上傳到相關(guān)網(wǎng)站,導致一眾明星“躺槍”,這已經(jīng)嚴重侵犯了他人的肖像權(quán)和名譽權(quán)。

AI換臉產(chǎn)生的負面影響并不局限于娛樂圈或普通人的生活中。去年5月,特朗普宣布中止全球氣候變化協(xié)議,可別有用心之人用AI換臉技術(shù)做了一個假視頻,引起了許多人的公憤。

實際上目前的AI換臉技術(shù)還有諸多不成熟之處,只要用心鑒別很快就能發(fā)現(xiàn)真假,但即使是這個水平的換臉術(shù)都已經(jīng)引發(fā)了不小的問題,假使將來AI技術(shù)更加成熟,恐怕會帶來更多的影響,其引發(fā)的后果甚至可能是災難性的。

所以為了避免這種情況在將來出現(xiàn),人類需要未雨綢繆,使用AI換臉要有節(jié)制。相關(guān)平臺需要負起應負的責任。而監(jiān)管部門也需要根據(jù)現(xiàn)實盡快出臺相關(guān)的制度和法規(guī),避免AI換臉技術(shù)過度濫用而引發(fā)難以收拾的后果。

申請創(chuàng)業(yè)報道,分享創(chuàng)業(yè)好點子。點擊此處,共同探討創(chuàng)業(yè)新機遇!

相關(guān)文章

  • 匯聚中國AI頂尖力量 云天勵飛參與華為AI大模型聯(lián)合創(chuàng)新

    2023年7月6日,第六屆世界人工智能大會(WAIC2023)在上海開幕,“人工智能大模型”是本屆大會的備受矚目的話題,據(jù)悉,在昇騰AI大模型的創(chuàng)新研發(fā)中,華為聯(lián)手26家行業(yè)領(lǐng)軍企業(yè),組建了一支協(xié)同創(chuàng)新的“AI明星隊”,云天勵飛作為中國人工智能企業(yè)的杰出代表,和互聯(lián)網(wǎng)大廠、運營商、科研院所等優(yōu)秀團隊

    標簽:
    ai技術(shù)
  • 用友大易:邁入AI招聘2.0時代,讓人力資源回歸本質(zhì)

    這幾個月來,以ChatGPT為代表的生成式AI展現(xiàn)出的能力令世界驚嘆。自從2016年AlphaGo戰(zhàn)勝李世石掀起了一波AI浪潮后,AI仿佛已經(jīng)沉寂了很久,ChatGPT的橫空出世就如同一束耀眼的光芒,讓AI這個名詞重回C位。過去在AI1.0時代,主要通過訓練模型來實現(xiàn)圖像識別、聲音識別、語言處理等特

    標簽:
    ai技術(shù)
  • 新發(fā)布的PaaS2.0,能否助力涂鴉智能再起飛?

    文:互聯(lián)網(wǎng)江湖作者:志剛2023年的IoT需要一個新故事。6月29日,涂鴉智能在開發(fā)者大會上,發(fā)布了企業(yè)級戰(zhàn)略PaaS2.0,希望通過一個平臺+四大開發(fā)服務,建立起IoT生態(tài)。對于這場發(fā)布會,市場的態(tài)度是積極的。美東時間6月29日收盤,涂鴉智能美股股價上漲5.6%,來到1.87美元/股。近日股價穩(wěn)定

    標簽:
    ai技術(shù)
  • 大模型難掩AI制藥的悲傷:越過山丘,無人等候

    美團曾經(jīng)的二號人物王慧文對標OpenAI的創(chuàng)業(yè)項目光年之外,以20億賣給美團,再度引發(fā)市場對大模型的熱議。

    標簽:
    ai技術(shù)
  • 拾起王慧文的AI夢,美團沖向“光年之外”?

    2020年底,王慧文在朋友圈寫下這句話時,外界本以為這位伴隨中國互聯(lián)網(wǎng)發(fā)展而持續(xù)創(chuàng)業(yè)20年的人物即將告別創(chuàng)業(yè)舞臺。但是,一個曾經(jīng)多次創(chuàng)業(yè),正值壯年的互聯(lián)網(wǎng)老將心中的創(chuàng)業(yè)熱情是難以熄滅的。

    標簽:
    ai技術(shù)
  • 未來5年,中國AI的“大洗牌”和“內(nèi)循環(huán)”

    我覺得我們AI的目標是:從芯片設計到軟件生態(tài),全鏈路自主開發(fā),建立可控的世界級AI體系。所以這是俺對未來5年中國AI圈的展望和判斷。(1)2026年,英偉達造車、國產(chǎn)開車26年國產(chǎn)芯片會在推理和垂直場景上發(fā)力。以DeepSeek為代表,大多數(shù)AI大模型會以軟件彌補硬件不足,所以訓練和推理分開,訓練就

  • H20芯片開賣即叫停,英偉達如何解圍?

    文/道哥在深陷“后門”風波、接受網(wǎng)信辦問詢之后,英偉達的“特供版”H20芯片,又有了新消息。近日,美國科技媒體《TheInformation》援引知情人士消息稱,英偉達已悄然向其關(guān)鍵供應商——包括負責封裝的安靠科技、供應高帶寬內(nèi)存的三星電子、以及承擔后端處理的富士康發(fā)出指令,要求暫停所有與H20AI

    標簽:
    英偉達
  • 真正的「國產(chǎn)英偉達」來了

    文/二風來源/節(jié)點財經(jīng)一場關(guān)于“中國芯”的IPO審議,正把投資者們的目光鎖定在上交所。根據(jù)上交所發(fā)布的公告,上市審核委員會已定于9月26日審議摩爾線程的科創(chuàng)板首發(fā)申請。作為中國半導體自主化浪潮中最受矚目的“考生”之一,包括其創(chuàng)始人顯赫的英偉達背景、高達80億元人民幣的募資雄心,以及在國產(chǎn)GPU領(lǐng)域取

    標簽:
    英偉達
  • AI視頻生成賽道“分野”:小廠重產(chǎn)品,大廠重生態(tài)

    AI視頻生成賽道“分野”:小廠重產(chǎn)品,大廠重生態(tài)

  • 數(shù)據(jù)庫進入“內(nèi)存自由”時代!阿里云PolarDB發(fā)布全球首個CXL數(shù)據(jù)庫服務器

    技術(shù)的進步永無止境,繼創(chuàng)下TPC-C性能&性價比雙冠之后,阿里云PolarDB云原生數(shù)據(jù)庫再度實現(xiàn)關(guān)鍵突破。9月24日杭州云棲大會上,阿里云宣布推出全球首款基于CXL(ComputeExpressLink)2.0Switch技術(shù)的PolarDB數(shù)據(jù)庫專用服務器。在原有RDMA網(wǎng)絡的基礎上,Polar

  • 為AI時代云服務器量身定制 阿里云操作系統(tǒng)Alinux 4重磅發(fā)布

    2025年9月24日,在杭州舉辦的云棲大會上,阿里云正式發(fā)布全新一代服務器操作系統(tǒng)AlibabaCloudLinux4(簡稱Alinux4)。Alinux4基于Linux6.6內(nèi)核打造,是首個全面遵循龍蜥社區(qū)“開源生態(tài)合作倡議”規(guī)范的商業(yè)發(fā)行版。它不僅兼容主流開源社區(qū)生態(tài),更針對阿里云最新9代ECS

  • 阿里云重磅發(fā)布AI安全護欄 五項安全能力護航AI安全

    9月24日,杭州云棲大會技術(shù)主論壇上,阿里云重磅發(fā)布AI安全護欄,提供五項核心安全能力,護航AI安全。一方面為客戶提供融入AIAgent開發(fā)全鏈路的原生安全防護,另一方面持續(xù)用AI賦能安全產(chǎn)品智能化升級,打造Agentic-SOC安全運營,提升安全威脅檢測和響應效率。在過去的一年,AIAgent正在

  • 魔搭社區(qū)國際版上線,并發(fā)布科學智能專區(qū)與AIGC創(chuàng)作引擎

    9月24日,魔搭社區(qū)舉辦了“全球協(xié)作?科學突破?創(chuàng)意無限”的專題論壇,并發(fā)布魔搭社區(qū)國際版、科學智能專區(qū)與AIGC創(chuàng)作引擎FlowBench,旨在連接全球開發(fā)者、加速科研范式創(chuàng)新、賦能創(chuàng)意表達。自2022年11月初成立至今,魔搭社區(qū)已成長為中國最大AI開源社區(qū),其模型數(shù)量已突破10萬,服務了全球20

  • 七連發(fā)!阿里多款重磅發(fā)布亮相云棲大會

    9月24日,2025云棲大會現(xiàn)場,阿里云CTO周靖人接連發(fā)布了七款大模型技術(shù)產(chǎn)品。七款技術(shù)產(chǎn)品覆蓋語言、語音、視覺、多模態(tài)、代碼等模型領(lǐng)域,在模型智能水平、Agent工具調(diào)用以及Coding能力、深度推理、多模態(tài)等方面均實現(xiàn)突破。在大語言模型中,阿里通義旗艦模型Qwen3-Max全新亮相,性能超過G

  • 阿里云擴建全球基礎設施,將新增巴西、法國和荷蘭數(shù)據(jù)中心

    9月24日,阿里云在云棲大會上宣布新一輪全球基礎設施擴建計劃:將在巴西、法國和荷蘭首次設立云計算地域節(jié)點(region),并將擴建墨西哥、日本、韓國、馬來西亞和迪拜的數(shù)據(jù)中心,以便更好服務全球客戶日益增長的AI和云計算需求。目前,阿里云在全球29個地區(qū)運營91個可用區(qū),是中國最大、亞太第一的云服務商