Innehållsförteckning
- Vad är Deepfake?
- Deepfake text
- Deepfake video
- Deepfake audio
- Vägen framåt med deepfakes
Deepfake Technology: Vad är Deepfakes? Hur gör de Deepfakes?
Deepfake är en ny medieteknik där en person helt enkelt tar befintlig text, bild, video eller ljud och sedan manipulerar, dvs. “förfalskar” den för att se ut som någon annan med hjälp av avancerad artificiell intelligens (AI) och neural nätverksteknik (NN)
Efter dess första framträdande för några år sedan har deepfake-tekniken utvecklats från en ofarlig tekniknörd till ett illvilligt förtalsvapen. I den här artikeln kommer vi att se exakt vad denna fruktade deepfake-teknik är, hur den fungerar, vilka olika former den kommer i och hur vi kan upptäcka eller avbryta en deepfake.
Vad är Deepfake?
Deepfake är ett av modeorden inom medieteknik där en person tar helt enkelt befintlig text, bild, video eller ljud och manipulerar sedan, dvs “förfalskar” den så att den ser ut som någon annan med hjälp av avancerad artificiell intelligens (AI) och neural nätverksteknik (NN).
Vill du lägga kränkande ord i munnen på din fiende? Eller byta ut filmens huvudperson med din favorit Hollywood-superstjärna? Eller vill du bara få dig själv att dansa som Michael Jackson? Då är deepfake vad du behöver!
Deepfake-innehåll växer exponentiellt. Tyvärr har deepfake-teknik redan använts upprepade gånger för att vinna politiska miltal, för att smutskasta bilden av en rival eller för att begå ekonomiskt bedrägeri.
Låt oss nu undersöka de tre huvudtyperna av deepfakes och utforska datavetenskapen som gör att de kan fungera. Vi kommer också att fokusera på deepfake-detekteringstekniker som forskare och säkerhetskonsulter arbetar med för att stävja den skadliga användningen av deepfake.
Deepfake text
I de tidiga dagarna av artificiell intelligens (AI) och naturlig språkbehandling (NLP), ansågs det vara en utmaning för en maskin att göra en kreativ aktivitet som att måla eller skriva. Snabbspola framåt till 2021; med de kraftfulla språkmodellerna och biblioteken som har byggts upp under årens lopp av forskare och datavetenskapsexperter, kan topprankad AI-genererad prosa nu skriva med mänsklig känsla och koherens.
Med kraftfulla språkmodeller och bibliotek, AI-driven mjukvaruverktyg kan nu komponera prosa med människoliknande kärna och koherens. (Fotokredit: kung_tom/Shutterstock)
GPT-2
Ta till exempel GPT-2 – den senaste sorten av textgenereringssystemet som släppts av forskningslabbet OpenAI från Silicon Valley. Den här tekniken har imponerat både lekmän och domänexperter med sin förmåga att ta fram sammanhängande text med minimala uppmaningar.
OpenAI-ingenjörer använde över 8 miljoner textdokument som skrotades (metod för relevant dataextraktion från webbsidor) och kombinerades med en miljard parametrar för modellering och träning av GPT-2 AI.
Kärnan i deepfake och andra sådana tekniker som deeplearning, som utnyttjar artificiell teknologi, ligger i att träna programvaran att tänka och anpassa sig själv med hjälp av tidigare data den matas genom datamängder. Du kan läsa mer om artificiell intelligens i den här artikeln.
Med GPT-2 kan du slå bara in rubriken så kommer den djupfalska textalgoritmen att generera en fiktiv nyhet kring den rubriken. Eller ange helt enkelt en första rad i en dikt så returnerar den hela versen.
Många mediehus använder deepfake-algoritmer i kombination med webbskrotning för att generera berättelser eller bloggar som är skrivna av programvaran själva.
Forskare vid Middlebury Institute of International Studies Center on Terrorism, Extremism, and Counter-terrorism (CTEC) varnar för att verktyg som GPT-2 kan missbrukas för att sprida rasöverhöghet eller sprida radikala budskap från extremistiska organisationer.
Deepfakes på sociala medier
I tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningar
Forskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake video
Att göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Hur deepfake video produceras?
Det här videotricket använder en teknik som kallas generativt motståndsnätverk (
GAN ). GAN är en del av en maskininlärningsgren som kallas neurala nätverk. Dessa nätverk är utformade för att efterlikna neuronala processer i den mänskliga hjärnan. Programmerare kan träna neurala nätverk att känna igen eller manipulera en specifik uppgift.
I GAN används för deepfake generation, två neurala nätverk ställs mot varandra för att generera en realistisk utdata. Syftet med att göra det är att säkerställa att deepfakes skapas för att se så verkliga ut som möjligt. Kärnan i GAN ligger i rivaliteten mellan de två neurala nätverken. I GAN försöker bildförfalskaren och förfalskningsdetektorn upprepade gånger överlista varandra. Båda de neurala nätverken tränas med samma datauppsättning.
Det första nätet kallas generator, vars jobb det är att generera en förfalskad bild med hjälp av brusvektorer (en lista med slumptal) som ser ut så realistiskt som möjligt. Det andra nätet, kallat
diskriminatorn,
bestämmer sanningshalten för de genererade bilderna. Den jämför den förfalskade bilden som genereras av generatorn med de äkta bilderna i datamängden för att avgöra vilka bilder som är verkliga och vilka som är falska. På basis av dessa resultat varierar generatorn parametern för att generera bilder. Denna cykel fortsätter tills diskriminatorn misslyckas med att säkerställa att en genererad bild är falsk, som sedan används i den slutliga utmatningen. Det är därför deepfakes ser så kusligt verkliga ut.
Upptäcker deepfake-videor
Rättsmedicinska experter över hela världen sliter hårt för att komma på sätt och verktyg för att identifiera deepfakes, eftersom de blir mer och mer övertygande för varje dag.
T.ex. tänk på den här djupfalska demonstrationsvideon av Obama som släpptes av Buzzfeed 2018, som gjorde tittare över hela världen förvirrade. Du kan kolla in det här:
.content-media–video{background-color:#ddd;display:block;position :relative;padding:0 0 56,25% 0}.content-media–video iframe{position:absolute;bottom:0;left:0;width:100%;height:100%}#featured-video{transition:width .2s ease-in-out,height .2s ease-in-out,transform .38s ease-in-out}#featured-video.is-sticky{position:fixed;bottom:120px;left:revert;right:10px ;max-width:280px;max-height:158px;width:280px;height:158px}
När maskininlärningsverktyg når ut till massorna har det blivit mycket lättare att skapa övertygande fa ke videos som kan användas för att sprida propagandadrivna nyheter eller för att helt enkelt trakassera en riktad individ.
USA:s försvarsdepartement (DARPA) har släppt ett verktyg för att upptäcka deepfakes som kallas Media Forensics. Ursprungligen utvecklades programmet för att automatisera befintliga kriminaltekniska verktyg, men med uppkomsten av deepfakes har de använt AI för att motverka AI-drivna deepfakes. Låt oss se hur det fungerar.
Den resulterande videon som genereras med deepfake tekniskt sett har märkbara skillnader i sättet videons metadata distribueras, jämfört med den ursprungliga. Dessa skillnader hänvisas till som
glimtar i matris, vilket är vad DARPAs verktyg för deepfake-detektering försöker utnyttja när det detekterar deepfake media.
Siwei Lyu, professor från datavetenskapsavdelningen vid State University of New York , har noterat att ansikten skapade med deepfake-teknik sällan blinkar. Även om de gör det verkar det onaturligt. Han hävdar att detta beror på att de flesta av de deepfake-drivna videorna tränas med stillbilder. Fortfarande, fotografier av en person tas vanligtvis när deras ögon är öppna. Förutom att blinka med ögonen kan andra datapunkter om ansiktsrörelser, som när de höjer överläppen medan de samtalar, hur de skakar på huvudet etc. också ge ledtrådar om huruvida den streamade videon är falsk.
Deepfake ljud
Kraften i artificiell intelligens och neurala nätverk är inte bara begränsade till text, bilder och video. De kan klona en persons röst med samma lätthet. Allt som krävs är en datauppsättning av ljudinspelningen av en person vars röst behöver emuleras. Deepfake-algoritmer kommer att lära sig av den datamängden och får befogenhet att återskapa prosodin av en målpersons tal.
Kommersiell programvara släpps på marknaden som Lyrebird
och
Deep Voice, där du bara behöver tala några få meningar innan AI:n har vant sig vid din röst och intonation. När du matar in mer ljud av dig själv blir den här programvaran kraftfull nog att klona din röst. Efter att ha matat in datauppsättningen av dina egna ljudprover, kan du bara ge en mening eller ett stycke och den här deepfake programvaran kommer att berätta texten i din röst!
Upptäcker djupt falskt ljud
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
I de tidiga dagarna av artificiell intelligens (AI) och naturlig språkbehandling (NLP), ansågs det vara en utmaning för en maskin att göra en kreativ aktivitet som att måla eller skriva. Snabbspola framåt till 2021; med de kraftfulla språkmodellerna och biblioteken som har byggts upp under årens lopp av forskare och datavetenskapsexperter, kan topprankad AI-genererad prosa nu skriva med mänsklig känsla och koherens.
Med kraftfulla språkmodeller och bibliotek, AI-driven mjukvaruverktyg kan nu komponera prosa med människoliknande kärna och koherens. (Fotokredit: kung_tom/Shutterstock)
GPT-2
Ta till exempel GPT-2 – den senaste sorten av textgenereringssystemet som släppts av forskningslabbet OpenAI från Silicon Valley. Den här tekniken har imponerat både lekmän och domänexperter med sin förmåga att ta fram sammanhängande text med minimala uppmaningar.
OpenAI-ingenjörer använde över 8 miljoner textdokument som skrotades (metod för relevant dataextraktion från webbsidor) och kombinerades med en miljard parametrar för modellering och träning av GPT-2 AI.
Kärnan i deepfake och andra sådana tekniker som deeplearning, som utnyttjar artificiell teknologi, ligger i att träna programvaran att tänka och anpassa sig själv med hjälp av tidigare data den matas genom datamängder. Du kan läsa mer om artificiell intelligens i den här artikeln.
Med GPT-2 kan du slå bara in rubriken så kommer den djupfalska textalgoritmen att generera en fiktiv nyhet kring den rubriken. Eller ange helt enkelt en första rad i en dikt så returnerar den hela versen.
Många mediehus använder deepfake-algoritmer i kombination med webbskrotning för att generera berättelser eller bloggar som är skrivna av programvaran själva.
Forskare vid Middlebury Institute of International Studies Center on Terrorism, Extremism, and Counter-terrorism (CTEC) varnar för att verktyg som GPT-2 kan missbrukas för att sprida rasöverhöghet eller sprida radikala budskap från extremistiska organisationer.
Deepfakes på sociala medier
I tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningar
Forskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake video
Att göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Hur deepfake video produceras?
Det här videotricket använder en teknik som kallas generativt motståndsnätverk (
GAN ). GAN är en del av en maskininlärningsgren som kallas neurala nätverk. Dessa nätverk är utformade för att efterlikna neuronala processer i den mänskliga hjärnan. Programmerare kan träna neurala nätverk att känna igen eller manipulera en specifik uppgift.
I GAN används för deepfake generation, två neurala nätverk ställs mot varandra för att generera en realistisk utdata. Syftet med att göra det är att säkerställa att deepfakes skapas för att se så verkliga ut som möjligt. Kärnan i GAN ligger i rivaliteten mellan de två neurala nätverken. I GAN försöker bildförfalskaren och förfalskningsdetektorn upprepade gånger överlista varandra. Båda de neurala nätverken tränas med samma datauppsättning.
Det första nätet kallas generator, vars jobb det är att generera en förfalskad bild med hjälp av brusvektorer (en lista med slumptal) som ser ut så realistiskt som möjligt. Det andra nätet, kallat
diskriminatorn,
bestämmer sanningshalten för de genererade bilderna. Den jämför den förfalskade bilden som genereras av generatorn med de äkta bilderna i datamängden för att avgöra vilka bilder som är verkliga och vilka som är falska. På basis av dessa resultat varierar generatorn parametern för att generera bilder. Denna cykel fortsätter tills diskriminatorn misslyckas med att säkerställa att en genererad bild är falsk, som sedan används i den slutliga utmatningen. Det är därför deepfakes ser så kusligt verkliga ut.
Upptäcker deepfake-videor
Rättsmedicinska experter över hela världen sliter hårt för att komma på sätt och verktyg för att identifiera deepfakes, eftersom de blir mer och mer övertygande för varje dag.
T.ex. tänk på den här djupfalska demonstrationsvideon av Obama som släpptes av Buzzfeed 2018, som gjorde tittare över hela världen förvirrade. Du kan kolla in det här:
.content-media–video{background-color:#ddd;display:block;position :relative;padding:0 0 56,25% 0}.content-media–video iframe{position:absolute;bottom:0;left:0;width:100%;height:100%}#featured-video{transition:width .2s ease-in-out,height .2s ease-in-out,transform .38s ease-in-out}#featured-video.is-sticky{position:fixed;bottom:120px;left:revert;right:10px ;max-width:280px;max-height:158px;width:280px;height:158px}
När maskininlärningsverktyg når ut till massorna har det blivit mycket lättare att skapa övertygande fa ke videos som kan användas för att sprida propagandadrivna nyheter eller för att helt enkelt trakassera en riktad individ.
USA:s försvarsdepartement (DARPA) har släppt ett verktyg för att upptäcka deepfakes som kallas Media Forensics. Ursprungligen utvecklades programmet för att automatisera befintliga kriminaltekniska verktyg, men med uppkomsten av deepfakes har de använt AI för att motverka AI-drivna deepfakes. Låt oss se hur det fungerar.
Den resulterande videon som genereras med deepfake tekniskt sett har märkbara skillnader i sättet videons metadata distribueras, jämfört med den ursprungliga. Dessa skillnader hänvisas till som
glimtar i matris, vilket är vad DARPAs verktyg för deepfake-detektering försöker utnyttja när det detekterar deepfake media.
Siwei Lyu, professor från datavetenskapsavdelningen vid State University of New York , har noterat att ansikten skapade med deepfake-teknik sällan blinkar. Även om de gör det verkar det onaturligt. Han hävdar att detta beror på att de flesta av de deepfake-drivna videorna tränas med stillbilder. Fortfarande, fotografier av en person tas vanligtvis när deras ögon är öppna. Förutom att blinka med ögonen kan andra datapunkter om ansiktsrörelser, som när de höjer överläppen medan de samtalar, hur de skakar på huvudet etc. också ge ledtrådar om huruvida den streamade videon är falsk.
Deepfake ljud
Kraften i artificiell intelligens och neurala nätverk är inte bara begränsade till text, bilder och video. De kan klona en persons röst med samma lätthet. Allt som krävs är en datauppsättning av ljudinspelningen av en person vars röst behöver emuleras. Deepfake-algoritmer kommer att lära sig av den datamängden och får befogenhet att återskapa prosodin av en målpersons tal.
Kommersiell programvara släpps på marknaden som Lyrebird
och
Deep Voice, där du bara behöver tala några få meningar innan AI:n har vant sig vid din röst och intonation. När du matar in mer ljud av dig själv blir den här programvaran kraftfull nog att klona din röst. Efter att ha matat in datauppsättningen av dina egna ljudprover, kan du bara ge en mening eller ett stycke och den här deepfake programvaran kommer att berätta texten i din röst!
Upptäcker djupt falskt ljud
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
Ta till exempel GPT-2 – den senaste sorten av textgenereringssystemet som släppts av forskningslabbet OpenAI från Silicon Valley. Den här tekniken har imponerat både lekmän och domänexperter med sin förmåga att ta fram sammanhängande text med minimala uppmaningar.
OpenAI-ingenjörer använde över 8 miljoner textdokument som skrotades (metod för relevant dataextraktion från webbsidor) och kombinerades med en miljard parametrar för modellering och träning av GPT-2 AI.
Deepfakes på sociala medier
Kärnan i deepfake och andra sådana tekniker som deeplearning, som utnyttjar artificiell teknologi, ligger i att träna programvaran att tänka och anpassa sig själv med hjälp av tidigare data den matas genom datamängder. Du kan läsa mer om artificiell intelligens i den här artikeln.
Med GPT-2 kan du slå bara in rubriken så kommer den djupfalska textalgoritmen att generera en fiktiv nyhet kring den rubriken. Eller ange helt enkelt en första rad i en dikt så returnerar den hela versen.
Många mediehus använder deepfake-algoritmer i kombination med webbskrotning för att generera berättelser eller bloggar som är skrivna av programvaran själva.
Forskare vid Middlebury Institute of International Studies Center on Terrorism, Extremism, and Counter-terrorism (CTEC) varnar för att verktyg som GPT-2 kan missbrukas för att sprida rasöverhöghet eller sprida radikala budskap från extremistiska organisationer.
Deepfakes på sociala medier
I tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningar
Forskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake video
Att göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Hur deepfake video produceras?
Det här videotricket använder en teknik som kallas generativt motståndsnätverk (
GAN ). GAN är en del av en maskininlärningsgren som kallas neurala nätverk. Dessa nätverk är utformade för att efterlikna neuronala processer i den mänskliga hjärnan. Programmerare kan träna neurala nätverk att känna igen eller manipulera en specifik uppgift.
I GAN används för deepfake generation, två neurala nätverk ställs mot varandra för att generera en realistisk utdata. Syftet med att göra det är att säkerställa att deepfakes skapas för att se så verkliga ut som möjligt. Kärnan i GAN ligger i rivaliteten mellan de två neurala nätverken. I GAN försöker bildförfalskaren och förfalskningsdetektorn upprepade gånger överlista varandra. Båda de neurala nätverken tränas med samma datauppsättning.
Det första nätet kallas generator, vars jobb det är att generera en förfalskad bild med hjälp av brusvektorer (en lista med slumptal) som ser ut så realistiskt som möjligt. Det andra nätet, kallat
diskriminatorn,
bestämmer sanningshalten för de genererade bilderna. Den jämför den förfalskade bilden som genereras av generatorn med de äkta bilderna i datamängden för att avgöra vilka bilder som är verkliga och vilka som är falska. På basis av dessa resultat varierar generatorn parametern för att generera bilder. Denna cykel fortsätter tills diskriminatorn misslyckas med att säkerställa att en genererad bild är falsk, som sedan används i den slutliga utmatningen. Det är därför deepfakes ser så kusligt verkliga ut.
Upptäcker deepfake-videor
Rättsmedicinska experter över hela världen sliter hårt för att komma på sätt och verktyg för att identifiera deepfakes, eftersom de blir mer och mer övertygande för varje dag.
T.ex. tänk på den här djupfalska demonstrationsvideon av Obama som släpptes av Buzzfeed 2018, som gjorde tittare över hela världen förvirrade. Du kan kolla in det här:
.content-media–video{background-color:#ddd;display:block;position :relative;padding:0 0 56,25% 0}.content-media–video iframe{position:absolute;bottom:0;left:0;width:100%;height:100%}#featured-video{transition:width .2s ease-in-out,height .2s ease-in-out,transform .38s ease-in-out}#featured-video.is-sticky{position:fixed;bottom:120px;left:revert;right:10px ;max-width:280px;max-height:158px;width:280px;height:158px}
När maskininlärningsverktyg når ut till massorna har det blivit mycket lättare att skapa övertygande fa ke videos som kan användas för att sprida propagandadrivna nyheter eller för att helt enkelt trakassera en riktad individ.
USA:s försvarsdepartement (DARPA) har släppt ett verktyg för att upptäcka deepfakes som kallas Media Forensics. Ursprungligen utvecklades programmet för att automatisera befintliga kriminaltekniska verktyg, men med uppkomsten av deepfakes har de använt AI för att motverka AI-drivna deepfakes. Låt oss se hur det fungerar.
Den resulterande videon som genereras med deepfake tekniskt sett har märkbara skillnader i sättet videons metadata distribueras, jämfört med den ursprungliga. Dessa skillnader hänvisas till som
glimtar i matris, vilket är vad DARPAs verktyg för deepfake-detektering försöker utnyttja när det detekterar deepfake media.
Siwei Lyu, professor från datavetenskapsavdelningen vid State University of New York , har noterat att ansikten skapade med deepfake-teknik sällan blinkar. Även om de gör det verkar det onaturligt. Han hävdar att detta beror på att de flesta av de deepfake-drivna videorna tränas med stillbilder. Fortfarande, fotografier av en person tas vanligtvis när deras ögon är öppna. Förutom att blinka med ögonen kan andra datapunkter om ansiktsrörelser, som när de höjer överläppen medan de samtalar, hur de skakar på huvudet etc. också ge ledtrådar om huruvida den streamade videon är falsk.
Deepfake ljud
Kraften i artificiell intelligens och neurala nätverk är inte bara begränsade till text, bilder och video. De kan klona en persons röst med samma lätthet. Allt som krävs är en datauppsättning av ljudinspelningen av en person vars röst behöver emuleras. Deepfake-algoritmer kommer att lära sig av den datamängden och får befogenhet att återskapa prosodin av en målpersons tal.
Kommersiell programvara släpps på marknaden som Lyrebird
och
Deep Voice, där du bara behöver tala några få meningar innan AI:n har vant sig vid din röst och intonation. När du matar in mer ljud av dig själv blir den här programvaran kraftfull nog att klona din röst. Efter att ha matat in datauppsättningen av dina egna ljudprover, kan du bara ge en mening eller ett stycke och den här deepfake programvaran kommer att berätta texten i din röst!
Upptäcker djupt falskt ljud
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
I tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningar
Forskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake video
Att göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Hur deepfake video produceras?
Det här videotricket använder en teknik som kallas generativt motståndsnätverk (
GAN ). GAN är en del av en maskininlärningsgren som kallas neurala nätverk. Dessa nätverk är utformade för att efterlikna neuronala processer i den mänskliga hjärnan. Programmerare kan träna neurala nätverk att känna igen eller manipulera en specifik uppgift.
I GAN används för deepfake generation, två neurala nätverk ställs mot varandra för att generera en realistisk utdata. Syftet med att göra det är att säkerställa att deepfakes skapas för att se så verkliga ut som möjligt. Kärnan i GAN ligger i rivaliteten mellan de två neurala nätverken. I GAN försöker bildförfalskaren och förfalskningsdetektorn upprepade gånger överlista varandra. Båda de neurala nätverken tränas med samma datauppsättning.
Det första nätet kallas generator, vars jobb det är att generera en förfalskad bild med hjälp av brusvektorer (en lista med slumptal) som ser ut så realistiskt som möjligt. Det andra nätet, kallat
diskriminatorn,
bestämmer sanningshalten för de genererade bilderna. Den jämför den förfalskade bilden som genereras av generatorn med de äkta bilderna i datamängden för att avgöra vilka bilder som är verkliga och vilka som är falska. På basis av dessa resultat varierar generatorn parametern för att generera bilder. Denna cykel fortsätter tills diskriminatorn misslyckas med att säkerställa att en genererad bild är falsk, som sedan används i den slutliga utmatningen. Det är därför deepfakes ser så kusligt verkliga ut.
Upptäcker deepfake-videor
Rättsmedicinska experter över hela världen sliter hårt för att komma på sätt och verktyg för att identifiera deepfakes, eftersom de blir mer och mer övertygande för varje dag.
T.ex. tänk på den här djupfalska demonstrationsvideon av Obama som släpptes av Buzzfeed 2018, som gjorde tittare över hela världen förvirrade. Du kan kolla in det här:
.content-media–video{background-color:#ddd;display:block;position :relative;padding:0 0 56,25% 0}.content-media–video iframe{position:absolute;bottom:0;left:0;width:100%;height:100%}#featured-video{transition:width .2s ease-in-out,height .2s ease-in-out,transform .38s ease-in-out}#featured-video.is-sticky{position:fixed;bottom:120px;left:revert;right:10px ;max-width:280px;max-height:158px;width:280px;height:158px}
När maskininlärningsverktyg når ut till massorna har det blivit mycket lättare att skapa övertygande fa ke videos som kan användas för att sprida propagandadrivna nyheter eller för att helt enkelt trakassera en riktad individ.
USA:s försvarsdepartement (DARPA) har släppt ett verktyg för att upptäcka deepfakes som kallas Media Forensics. Ursprungligen utvecklades programmet för att automatisera befintliga kriminaltekniska verktyg, men med uppkomsten av deepfakes har de använt AI för att motverka AI-drivna deepfakes. Låt oss se hur det fungerar.
Den resulterande videon som genereras med deepfake tekniskt sett har märkbara skillnader i sättet videons metadata distribueras, jämfört med den ursprungliga. Dessa skillnader hänvisas till som
glimtar i matris, vilket är vad DARPAs verktyg för deepfake-detektering försöker utnyttja när det detekterar deepfake media.
Siwei Lyu, professor från datavetenskapsavdelningen vid State University of New York , har noterat att ansikten skapade med deepfake-teknik sällan blinkar. Även om de gör det verkar det onaturligt. Han hävdar att detta beror på att de flesta av de deepfake-drivna videorna tränas med stillbilder. Fortfarande, fotografier av en person tas vanligtvis när deras ögon är öppna. Förutom att blinka med ögonen kan andra datapunkter om ansiktsrörelser, som när de höjer överläppen medan de samtalar, hur de skakar på huvudet etc. också ge ledtrådar om huruvida den streamade videon är falsk.
Deepfake ljud
Kraften i artificiell intelligens och neurala nätverk är inte bara begränsade till text, bilder och video. De kan klona en persons röst med samma lätthet. Allt som krävs är en datauppsättning av ljudinspelningen av en person vars röst behöver emuleras. Deepfake-algoritmer kommer att lära sig av den datamängden och får befogenhet att återskapa prosodin av en målpersons tal.
Kommersiell programvara släpps på marknaden som Lyrebird
och
Deep Voice, där du bara behöver tala några få meningar innan AI:n har vant sig vid din röst och intonation. När du matar in mer ljud av dig själv blir den här programvaran kraftfull nog att klona din röst. Efter att ha matat in datauppsättningen av dina egna ljudprover, kan du bara ge en mening eller ett stycke och den här deepfake programvaran kommer att berätta texten i din röst!
Upptäcker djupt falskt ljud
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
Forskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake video
Att göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Hur deepfake video produceras?
Det här videotricket använder en teknik som kallas generativt motståndsnätverk (
GAN ). GAN är en del av en maskininlärningsgren som kallas neurala nätverk. Dessa nätverk är utformade för att efterlikna neuronala processer i den mänskliga hjärnan. Programmerare kan träna neurala nätverk att känna igen eller manipulera en specifik uppgift.
I GAN används för deepfake generation, två neurala nätverk ställs mot varandra för att generera en realistisk utdata. Syftet med att göra det är att säkerställa att deepfakes skapas för att se så verkliga ut som möjligt. Kärnan i GAN ligger i rivaliteten mellan de två neurala nätverken. I GAN försöker bildförfalskaren och förfalskningsdetektorn upprepade gånger överlista varandra. Båda de neurala nätverken tränas med samma datauppsättning.
Det första nätet kallas generator, vars jobb det är att generera en förfalskad bild med hjälp av brusvektorer (en lista med slumptal) som ser ut så realistiskt som möjligt. Det andra nätet, kallat
diskriminatorn,
bestämmer sanningshalten för de genererade bilderna. Den jämför den förfalskade bilden som genereras av generatorn med de äkta bilderna i datamängden för att avgöra vilka bilder som är verkliga och vilka som är falska. På basis av dessa resultat varierar generatorn parametern för att generera bilder. Denna cykel fortsätter tills diskriminatorn misslyckas med att säkerställa att en genererad bild är falsk, som sedan används i den slutliga utmatningen. Det är därför deepfakes ser så kusligt verkliga ut.
Upptäcker deepfake-videor
Rättsmedicinska experter över hela världen sliter hårt för att komma på sätt och verktyg för att identifiera deepfakes, eftersom de blir mer och mer övertygande för varje dag.
T.ex. tänk på den här djupfalska demonstrationsvideon av Obama som släpptes av Buzzfeed 2018, som gjorde tittare över hela världen förvirrade. Du kan kolla in det här:
.content-media–video{background-color:#ddd;display:block;position :relative;padding:0 0 56,25% 0}.content-media–video iframe{position:absolute;bottom:0;left:0;width:100%;height:100%}#featured-video{transition:width .2s ease-in-out,height .2s ease-in-out,transform .38s ease-in-out}#featured-video.is-sticky{position:fixed;bottom:120px;left:revert;right:10px ;max-width:280px;max-height:158px;width:280px;height:158px}
När maskininlärningsverktyg når ut till massorna har det blivit mycket lättare att skapa övertygande fa ke videos som kan användas för att sprida propagandadrivna nyheter eller för att helt enkelt trakassera en riktad individ.
USA:s försvarsdepartement (DARPA) har släppt ett verktyg för att upptäcka deepfakes som kallas Media Forensics. Ursprungligen utvecklades programmet för att automatisera befintliga kriminaltekniska verktyg, men med uppkomsten av deepfakes har de använt AI för att motverka AI-drivna deepfakes. Låt oss se hur det fungerar.
Den resulterande videon som genereras med deepfake tekniskt sett har märkbara skillnader i sättet videons metadata distribueras, jämfört med den ursprungliga. Dessa skillnader hänvisas till som
glimtar i matris, vilket är vad DARPAs verktyg för deepfake-detektering försöker utnyttja när det detekterar deepfake media.
Siwei Lyu, professor från datavetenskapsavdelningen vid State University of New York , har noterat att ansikten skapade med deepfake-teknik sällan blinkar. Även om de gör det verkar det onaturligt. Han hävdar att detta beror på att de flesta av de deepfake-drivna videorna tränas med stillbilder. Fortfarande, fotografier av en person tas vanligtvis när deras ögon är öppna. Förutom att blinka med ögonen kan andra datapunkter om ansiktsrörelser, som när de höjer överläppen medan de samtalar, hur de skakar på huvudet etc. också ge ledtrådar om huruvida den streamade videon är falsk.
Deepfake ljud
Kraften i artificiell intelligens och neurala nätverk är inte bara begränsade till text, bilder och video. De kan klona en persons röst med samma lätthet. Allt som krävs är en datauppsättning av ljudinspelningen av en person vars röst behöver emuleras. Deepfake-algoritmer kommer att lära sig av den datamängden och får befogenhet att återskapa prosodin av en målpersons tal.
Kommersiell programvara släpps på marknaden som Lyrebird
och
Deep Voice, där du bara behöver tala några få meningar innan AI:n har vant sig vid din röst och intonation. När du matar in mer ljud av dig själv blir den här programvaran kraftfull nog att klona din röst. Efter att ha matat in datauppsättningen av dina egna ljudprover, kan du bara ge en mening eller ett stycke och den här deepfake programvaran kommer att berätta texten i din röst!
Upptäcker djupt falskt ljud
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
Det här videotricket använder en teknik som kallas generativt motståndsnätverk (
GAN ). GAN är en del av en maskininlärningsgren som kallas neurala nätverk. Dessa nätverk är utformade för att efterlikna neuronala processer i den mänskliga hjärnan. Programmerare kan träna neurala nätverk att känna igen eller manipulera en specifik uppgift.
I GAN används för deepfake generation, två neurala nätverk ställs mot varandra för att generera en realistisk utdata. Syftet med att göra det är att säkerställa att deepfakes skapas för att se så verkliga ut som möjligt. Kärnan i GAN ligger i rivaliteten mellan de två neurala nätverken. I GAN försöker bildförfalskaren och förfalskningsdetektorn upprepade gånger överlista varandra. Båda de neurala nätverken tränas med samma datauppsättning.
Det första nätet kallas generator, vars jobb det är att generera en förfalskad bild med hjälp av brusvektorer (en lista med slumptal) som ser ut så realistiskt som möjligt. Det andra nätet, kallat
diskriminatorn,
Upptäcker deepfake-videor
Upptäcker djupt falskt ljud
bestämmer sanningshalten för de genererade bilderna. Den jämför den förfalskade bilden som genereras av generatorn med de äkta bilderna i datamängden för att avgöra vilka bilder som är verkliga och vilka som är falska. På basis av dessa resultat varierar generatorn parametern för att generera bilder. Denna cykel fortsätter tills diskriminatorn misslyckas med att säkerställa att en genererad bild är falsk, som sedan används i den slutliga utmatningen. Det är därför deepfakes ser så kusligt verkliga ut.
Upptäcker deepfake-videor
Rättsmedicinska experter över hela världen sliter hårt för att komma på sätt och verktyg för att identifiera deepfakes, eftersom de blir mer och mer övertygande för varje dag.
T.ex. tänk på den här djupfalska demonstrationsvideon av Obama som släpptes av Buzzfeed 2018, som gjorde tittare över hela världen förvirrade. Du kan kolla in det här:
.content-media–video{background-color:#ddd;display:block;position :relative;padding:0 0 56,25% 0}.content-media–video iframe{position:absolute;bottom:0;left:0;width:100%;height:100%}#featured-video{transition:width .2s ease-in-out,height .2s ease-in-out,transform .38s ease-in-out}#featured-video.is-sticky{position:fixed;bottom:120px;left:revert;right:10px ;max-width:280px;max-height:158px;width:280px;height:158px}
När maskininlärningsverktyg når ut till massorna har det blivit mycket lättare att skapa övertygande fa ke videos som kan användas för att sprida propagandadrivna nyheter eller för att helt enkelt trakassera en riktad individ.
USA:s försvarsdepartement (DARPA) har släppt ett verktyg för att upptäcka deepfakes som kallas Media Forensics. Ursprungligen utvecklades programmet för att automatisera befintliga kriminaltekniska verktyg, men med uppkomsten av deepfakes har de använt AI för att motverka AI-drivna deepfakes. Låt oss se hur det fungerar.
Den resulterande videon som genereras med deepfake tekniskt sett har märkbara skillnader i sättet videons metadata distribueras, jämfört med den ursprungliga. Dessa skillnader hänvisas till som
glimtar i matris, vilket är vad DARPAs verktyg för deepfake-detektering försöker utnyttja när det detekterar deepfake media.
Siwei Lyu, professor från datavetenskapsavdelningen vid State University of New York , har noterat att ansikten skapade med deepfake-teknik sällan blinkar. Även om de gör det verkar det onaturligt. Han hävdar att detta beror på att de flesta av de deepfake-drivna videorna tränas med stillbilder. Fortfarande, fotografier av en person tas vanligtvis när deras ögon är öppna. Förutom att blinka med ögonen kan andra datapunkter om ansiktsrörelser, som när de höjer överläppen medan de samtalar, hur de skakar på huvudet etc. också ge ledtrådar om huruvida den streamade videon är falsk.
Deepfake ljud
Kraften i artificiell intelligens och neurala nätverk är inte bara begränsade till text, bilder och video. De kan klona en persons röst med samma lätthet. Allt som krävs är en datauppsättning av ljudinspelningen av en person vars röst behöver emuleras. Deepfake-algoritmer kommer att lära sig av den datamängden och får befogenhet att återskapa prosodin av en målpersons tal.
Kommersiell programvara släpps på marknaden som Lyrebird
och
Deep Voice, där du bara behöver tala några få meningar innan AI:n har vant sig vid din röst och intonation. När du matar in mer ljud av dig själv blir den här programvaran kraftfull nog att klona din röst. Efter att ha matat in datauppsättningen av dina egna ljudprover, kan du bara ge en mening eller ett stycke och den här deepfake programvaran kommer att berätta texten i din röst!
Upptäcker djupt falskt ljud
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
Just nu finns det inte många dedikerade deepfake ljudverktyg tillgängliga, men utvecklare och cybersäkerhetsföretag arbetar med detta domän för att komma med bättre skyddslösningar i detta avseende.
Till exempel förra året, utvecklare vid teknisk start
Resemble
utvecklade ett verktyg med öppen källkod som heter Resemblyzer för att upptäcka deepfake ljudklipp. Resemblyzer använder avancerade maskininlärningsalgoritmer för att härleda beräkningsrepresentationer av röstprover för att förutsäga om de är verkliga eller falska. Närhelst en användare skickar in en ljudfil för utvärdering, genererar den en matematisk representation som sammanfattar de unika egenskaperna hos det inlämnade röstexemplet. Genom denna omvandling blir det möjligt för maskinen att upptäcka om rösten är verklig eller artificiellt producerad av deepfake-verktyg.
Vägen framåt med deepfakes
En undersökning gjord av Deeptrace labs förra året visade att över 14 000 deepfake-videor är lurar på nätet. De har också noterat en ökning med 84 % i sin produktion på bara sju månader. Intressant nog är mer än 90 % av deepfake-videorna pornografiskt material, där kända kvinnor byts ut i porr.
Eftersom deepfake blir allvarligt genomslag, utgör det ett allvarligt problem att inkräkta inte bara på integriteten utan även individers värdighet. Ironiskt nog, för att motverka AI-drivna deepfakes, används artificiell intelligens i sig. Även om en “bra” AI hjälper till att identifiera djupa förfalskningar, förlitar sig detta detekteringssystem i hög grad på den datauppsättning som den förbrukar för träning. Det betyder att de kan fungera bra för att upptäcka deepfake-videor av kändisar, eftersom en stor mängd data finns tillgänglig om dem. Men att upptäcka deepfake hos en person som har en låg profil skulle vara utmanande för sådana detektionssystem.
Techjättar för sociala medier arbetar med deepfake detektionssystem också. Facebook meddelade nyligen att de arbetar på ett automatiserat system för att identifiera djupt falskt innehåll på sin plattform och sålla bort det. På liknande linjer föreslog Twitter att flagga djupförfalskningar och eliminera dem om de visar sig vara provocerande.
Även om vi erkänner och uppskattar ansträngningar från dessa teknikföretag, kommer bara tiden att utvisa hur framgångsrika de är med att hålla skadliga deepfakes på avstånd!
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
Referenser
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
,,,,
,
,
,,
,
,
,,,,,
,,,,,,,,,
,,,
- Tilburgs universitet
- OpenAI-rapport
- Registret
- Konsekvenser av artificiell intelligens för cybersäkerhet
- Github
Referenser
Referenser
- Referenser
,,,,