Innehållsförteckning
- Vad är Deepfake?
- Deepfake text
- Deepfake video
- Deepfake audio
- Vägen framåt med deepfakes
Deepfake är en ny medieteknik där en person helt enkelt tar befintlig text, bild, video eller ljud och sedan manipulerar, dvs. “förfalskar” den för att se ut som någon annan med hjälp av avancerad artificiell intelligens (AI) och neural nätverksteknik (NN)
Efter dess första framträdande för några år sedan har deepfake-tekniken utvecklats från en ofarlig tekniknörd till ett illvilligt förtalsvapen. I den här artikeln kommer vi att se exakt vad denna fruktade deepfake-teknik är, hur den fungerar, vilka olika former den kommer i och hur vi kan upptäcka eller avbryta en deepfake.
Vad är Deepfake?
Deepfake är ett av modeorden inom medieteknik där en person tar helt enkelt befintlig text, bild, video eller ljud och manipulerar sedan, dvs “förfalskar” den så att den ser ut som någon annan med hjälp av avancerad artificiell intelligens (AI) och neural nätverksteknik (NN).
Vill du lägga kränkande ord i munnen på din fiende? Eller byta ut filmens huvudperson med din favorit Hollywood-superstjärna? Eller vill du bara få dig själv att dansa som Michael Jackson? Då är deepfake vad du behöver!
Deepfake-innehåll växer exponentiellt. Tyvärr har deepfake-teknik redan använts upprepade gånger för att vinna politiska miltal, för att smutskasta bilden av en rival eller för att begå ekonomiskt bedrägeri.
Låt oss nu undersöka de tre huvudtyperna av deepfakes och utforska datavetenskapen som gör att de kan fungera. Vi kommer också att fokusera på deepfake-detekteringstekniker som forskare och säkerhetskonsulter arbetar med för att stävja den skadliga användningen av deepfake.Deepfake textI de tidiga dagarna av artificiell intelligens (AI) och naturlig språkbehandling (NLP), ansågs det vara en utmaning för en maskin att göra en kreativ aktivitet som att måla eller skriva. Snabbspola framåt till 2021; med de kraftfulla språkmodellerna och biblioteken som har byggts upp under årens lopp av forskare och datavetenskapsexperter, kan topprankad AI-genererad prosa nu skriva med mänsklig känsla och koherens.Med kraftfulla språkmodeller och bibliotek, AI-driven mjukvaruverktyg kan nu komponera prosa med människoliknande kärna och koherens. (Fotokredit: kung_tom/Shutterstock)
GPT-2Ta till exempel GPT-2 – den senaste sorten av textgenereringssystemet som släppts av forskningslabbet OpenAI från Silicon Valley. Den här tekniken har imponerat både lekmän och domänexperter med sin förmåga att ta fram sammanhängande text med minimala uppmaningar.
OpenAI-ingenjörer använde över 8 miljoner textdokument som skrotades (metod för relevant dataextraktion från webbsidor) och kombinerades med en miljard parametrar för modellering och träning av GPT-2 AI. Kärnan i deepfake och andra sådana tekniker som deeplearning, som utnyttjar artificiell teknologi, ligger i att träna programvaran att tänka och anpassa sig själv med hjälp av tidigare data den matas genom datamängder. Du kan läsa mer om artificiell intelligens i den här artikeln.
Med GPT-2 kan du slå bara in rubriken så kommer den djupfalska textalgoritmen att generera en fiktiv nyhet kring den rubriken. Eller ange helt enkelt en första rad i en dikt så returnerar den hela versen.
Många mediehus använder deepfake-algoritmer i kombination med webbskrotning för att generera berättelser eller bloggar som är skrivna av programvaran själva.
Forskare vid Middlebury Institute of International Studies Center on Terrorism, Extremism, and Counter-terrorism (CTEC) varnar för att verktyg som GPT-2 kan missbrukas för att sprida rasöverhöghet eller sprida radikala budskap från extremistiska organisationer.
Deepfakes på sociala medierI tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningarForskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake videoAtt göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
I de tidiga dagarna av artificiell intelligens (AI) och naturlig språkbehandling (NLP), ansågs det vara en utmaning för en maskin att göra en kreativ aktivitet som att måla eller skriva. Snabbspola framåt till 2021; med de kraftfulla språkmodellerna och biblioteken som har byggts upp under årens lopp av forskare och datavetenskapsexperter, kan topprankad AI-genererad prosa nu skriva med mänsklig känsla och koherens.
Med kraftfulla språkmodeller och bibliotek, AI-driven mjukvaruverktyg kan nu komponera prosa med människoliknande kärna och koherens. (Fotokredit: kung_tom/Shutterstock)
GPT-2Ta till exempel GPT-2 – den senaste sorten av textgenereringssystemet som släppts av forskningslabbet OpenAI från Silicon Valley. Den här tekniken har imponerat både lekmän och domänexperter med sin förmåga att ta fram sammanhängande text med minimala uppmaningar.
OpenAI-ingenjörer använde över 8 miljoner textdokument som skrotades (metod för relevant dataextraktion från webbsidor) och kombinerades med en miljard parametrar för modellering och träning av GPT-2 AI. Kärnan i deepfake och andra sådana tekniker som deeplearning, som utnyttjar artificiell teknologi, ligger i att träna programvaran att tänka och anpassa sig själv med hjälp av tidigare data den matas genom datamängder. Du kan läsa mer om artificiell intelligens i den här artikeln.
Med GPT-2 kan du slå bara in rubriken så kommer den djupfalska textalgoritmen att generera en fiktiv nyhet kring den rubriken. Eller ange helt enkelt en första rad i en dikt så returnerar den hela versen.
Många mediehus använder deepfake-algoritmer i kombination med webbskrotning för att generera berättelser eller bloggar som är skrivna av programvaran själva.
Forskare vid Middlebury Institute of International Studies Center on Terrorism, Extremism, and Counter-terrorism (CTEC) varnar för att verktyg som GPT-2 kan missbrukas för att sprida rasöverhöghet eller sprida radikala budskap från extremistiska organisationer.
Deepfakes på sociala medierI tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningarForskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake videoAtt göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Ta till exempel GPT-2 – den senaste sorten av textgenereringssystemet som släppts av forskningslabbet OpenAI från Silicon Valley. Den här tekniken har imponerat både lekmän och domänexperter med sin förmåga att ta fram sammanhängande text med minimala uppmaningar.
OpenAI-ingenjörer använde över 8 miljoner textdokument som skrotades (metod för relevant dataextraktion från webbsidor) och kombinerades med en miljard parametrar för modellering och träning av GPT-2 AI.Deepfakes på sociala medier
Kärnan i deepfake och andra sådana tekniker som deeplearning, som utnyttjar artificiell teknologi, ligger i att träna programvaran att tänka och anpassa sig själv med hjälp av tidigare data den matas genom datamängder. Du kan läsa mer om artificiell intelligens i den här artikeln.
Med GPT-2 kan du slå bara in rubriken så kommer den djupfalska textalgoritmen att generera en fiktiv nyhet kring den rubriken. Eller ange helt enkelt en första rad i en dikt så returnerar den hela versen.
Många mediehus använder deepfake-algoritmer i kombination med webbskrotning för att generera berättelser eller bloggar som är skrivna av programvaran själva.
Forskare vid Middlebury Institute of International Studies Center on Terrorism, Extremism, and Counter-terrorism (CTEC) varnar för att verktyg som GPT-2 kan missbrukas för att sprida rasöverhöghet eller sprida radikala budskap från extremistiska organisationer.
Deepfakes på sociala medierI tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningarForskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake videoAtt göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
I tandem med skriva berättelser eller bloggar, kan deepfake-teknik också utnyttjas för att skapa en falsk onlineprofil som skulle vara svår för en normal användare att urskilja. Till exempel, en Bloomberg (icke-existerande) journalist med namnet
Maisy Kinsley
på sociala nätverkssajter som LinkedIn och Twitter var troligen en djupförfalskning. Hennes profilbild verkade konstig, kanske datorgenererad. Profilen skapades förmodligen för ekonomisk nytta, eftersom profilen för
Maisy Kinsley
upprepade gånger försökte få kontakt med kortsäljare av Tesla-aktier på sociala medier. Short-sellers är människor som är baisse på aktiemarknaden och de shortar, dvs säljer aktien med övertygelsen om att aktiekursen kommer att falla och köper sedan aktier till ett lägre pris, vilket i praktiken genererar en vacker vinst.
En annan profil med namnet
Katie Jones, som påstås nämna att arbeta vid Centrum för strategiska och internationella studier, visade sig vara en djupförfalskning skapad med den mala fide avsikten att spionera.
Upptäcker djupa textförfalskningarForskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake videoAtt göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.
Forskare från Allen Institute for Artificial Intelligence har utvecklat ett mjukvaruverktyg som heter Grover för att upptäcka syntetiskt innehåll som flyter online. Forskare hävdar att den här programvaran kan upptäcka djupfalskskrivna uppsatser 92 % av tiden. Grover arbetar på en testuppsättning sammanställd från Common Crawl, ett webbarkiv och sökrobot med öppen källkod. På samma sätt har ett team av forskare från Harvard och MIT-IBM Watson-laboratoriet gått samman för att designa Giant Language Model Test Room, ett webbverktyg som försöker avgöra om den inmatade texten är genererad av AI.
Deepfake video
Att göra falska foton och videor är den huvudsakliga arsenalen av deepfakes. Det är den mest använda formen av deepfake, med tanke på att vi lever i den allestädes närvarande världen av sociala medier, där bilder och videor belyser händelser och berättelser bättre än vanlig text.
Modern videogenererande AI är mer kapabel, och kanske farligare, än dess naturliga språkmotsvarighet. Det Seoul-baserade teknikföretaget Hyperconnect utvecklade nyligen ett verktyg som heter MarioNETte som kan generera djupfalska videor av historiska personer, kändisar och politiker. Detta görs genom ansiktsreenactment av en annan person, vars ansiktsuttryck sedan överlagras på målpersonligheten vars deepfake ska skapas.