I dag skal vi snakke om deepfake, som nå har blitt utbredt og ganske vanlig fenomen. Takket være denne teknologien har informasjonsmanipulasjon nådd et nytt nivå.
Så du dronning Elizabeth danse på bordet under sendingen av nyttårsbudskapet? Eller lyttet til Kim Jong-uns tale om demokrati, eller beundret Salvador Dali, som snakket om hans død (hvorfor han ikke tror på det)?
Alle disse fantastiske videoene har én ting til felles – de er falske. Deepfake er en teknikk for å lage og publisere falsk informasjon i form av videoer, lyd og bilder. Det blir lettere å komme over slikt materiale, så vi har utarbeidet en instruksjon for å lage, gjenkjenne og søke etter dypfalske videoer på Internett.
Les også: Morgendagens blokkjeder: Fremtiden til kryptovalutaindustrien i enkle ord
Deepfake - hva er det?
Deepfake (Deepfake) er faktisk et foto-, video- eller lydmateriale som ikke er ekte, falskt, det vil si falskt. Deepfake (kombinasjon av to ord - deep learning "deep learning" og falsk "fake") bruker kunstig intelligens (AI) for dyp læring for å skape likheten til en person med en annen i videoer og annet digitalt mediemateriale. Den er laget av algoritmer basert på ekte stemme-, lyd-, video- eller fotoeksempler som er sydd sammen. Algoritmen tar valgt informasjon fra mange forskjellige steder og kombinerer den deretter til ett materiale. Som et resultat skapes noe nytt (falskt), som er basert på en kombinasjon av ulike reelle data.
Men det er ikke alt. Deepfake kan også "male" et bilde fra bunnen av, for eksempel ved å lage ansikter til karakterer som aldri har eksistert.
Hva er hensikten med slike handlinger? Blant annet brukes Deepfake til å spre feil informasjon på Internett (for eksempel om politiske personer eller hendelser), tyveri (for eksempel forfalske stemmekommandoer) og lage pornografi (filmer med kjendiser - dypfalske porno). Den kan også brukes til utdannings- og underholdningsformål.
Les også: Om kvantedatamaskiner i enkle ord
Deepfake - Hvordan fungerer det?
Generelt er det to måter å lage dypt falskt materiale på. Den første metoden bruker to algoritmer. Først ser den første (koderen) etter fellestrekk ved to bilder (de som skal kombineres til ett), deretter kan den andre (dekoderen) overføre dem til det nyopprettede bildet. For eksempel, hvis vi ønsker å lage en video der en skuespiller vil bevege seg som oss, tar koderen bevegelsen fra videoen der vi danser, og dekoderen vil allerede erstatte ansiktet vårt med skuespillerens ansikt og få ham til å reprodusere bevegelsene våre. . Nøkkelen her er de valgte handlingene som kopieres til det nye bildet (for eksempel bevegelser, gester, ansiktsuttrykk).
Den andre måten er gjennom generative adversarial networks (GAN), der to algoritmer fungerer sammen. Den første kalles en generator fordi den ved hjelp av generell informasjon skaper bilder (for eksempel bildet av en person) som kombinerer dets kjennetegn (en person har en kropp, et ansikt, øyne). Den andre algoritmen er en diskriminator som vurderer om bildene som gis til den av generatoren er sanne eller ikke.
Over tid blir begge algoritmene mer avanserte, slik at de lærer og forbedrer seg selv. Hvis generatoren er trent på en slik måte at diskriminatoren ikke gjenkjenner et falskt bilde (betrakter det som ekte), er prosessen fullført.
En stor mengde forfalsket programvare kan bli funnet på GitHub, et åpen kildekodefellesskap for skript, programmer og kode. Noen av disse programmene brukes utelukkende til underholdningsformål, så det er ikke forbudt å lage en deepfake, men mange av dem kan også brukes til kriminelle formål.
Mange eksperter tror at i fremtiden, med utviklingen av teknologier, vil deepfakes bli mye mer komplekse og kan skape mer alvorlige trusler mot samfunnet, relatert til innblanding i valg, skaping av politisk spenning og kriminelle aktiviteter.
Les også:
- Observere den røde planeten: En historie om Mars-illusjoner
- Teleportering fra et vitenskapelig synspunkt og dets fremtid
Trusselen om Deepfake - siden når har den eksistert?
For første gang dukket slik falsk informasjon opp i 2017. Da er brukeren et alias deepfake publisert på Reddit flere pornografiske filmer der kjendiser var involvert, inkludert Scarlett Johansson, Gal Gadot og Taylor Swift. Siden den gang har denne industrien utviklet seg raskt, fordi nesten hvem som helst kan ta deepfake-filmer.
https://youtu.be/IvY-Abd2FfM
Deepfaking-teknologien har de siste årene utviklet seg så mye at det nå er stadig vanskeligere å avgjøre om det er en fabrikkert video eller et ekte opptak av ekte mennesker. Et eksempel kan være en video med en melding fra Elizabeth II eller en tale av Barack Obama, som raskt ble publisert på mange forskjellige nettsteder. Videoen med den tidligere amerikanske presidentens uttalelse tok for seg de globale truslene som kan forårsakes av feilinformasjon og falske nyheter publisert på Internett. I materialet publisert av kanalen BuzzFeedVideos ble den amerikanske regissøren og skuespilleren Jordan Peele stemmen til USAs 44. president. Imidlertid er kunstig intelligens allerede i dag i stand til å generere en stemme basert på arkivopptak av en person som skal vises i en falsk film.
Slike avanserte teknologier kan bli et farlig verktøy i hendene på nettkriminelle og internettsvindlere i fremtiden. Publisering av falske videoer av taler fra viktige politikere kan forårsake reell skade på internasjonalt nivå. Slike filmer, basert på deepfake-teknologi, kan forårsake diplomatiske konflikter og skandaler, og derfor påvirke opinionen og folks oppførsel.
En annen potensiell trussel er voksent innhold, som alltid har generert mest trafikk i det virtuelle rommet. Det er ikke rart deepfake-teknologi treffer Internett så raskt. I følge en rapport fra det nederlandske cybersikkerhetsselskapet Deeptrace, er 96 % av de fabrikerte videoene laget ved hjelp av deepfake-teknologi innhold om slike emner. Oftest brukes bildene av filmstjerner, idrettsutøvere og til og med politikere og representanter for regjeringen til produksjon av slike materialer.
Les også: Hvorfor et romoppdrag ikke kan fly når som helst: Hva er et oppskytningsvindu?
Hvordan lage en deepfake?
Hvis noen kan lage dypfalske videoer, kan de også lages hjemme? Definitivt ja, men kvaliteten deres vil selvfølgelig ikke være perfekt. Å lage slike videoer krever store dataressurser og kraftige skjermkort. De vi vanligvis har i hjemmedatamaskiner er ikke nok, og selve utviklingsprosessen kan vare i flere uker. Kvaliteten på filmene vil også etterlate mye å være ønsket - det vil være synlige feil, munnbevegelser vil kanskje ikke samsvare med lyden, det vil være synlige steder hvor det "gamle" innholdet overlapper med det "nye".
Men hvis vi ønsker å "touch up" et bilde eller lage en kort deepfake-video, kan programmet for dette lastes ned direkte til smarttelefonen. Det svært brukervennlige programmet vil på noen få minutter eliminere utseendefeil, gjøre deg til den valgte kjendisen eller la hunden din snakke med en menneskelig stemme.
Les også:
- Observere den røde planeten: En historie om Mars-illusjoner
- Teleportering fra et vitenskapelig synspunkt og dets fremtid
Hvordan gjenkjenne en deepfake?
Profesjonelle dypfalske videoer blir vanskeligere og vanskeligere å få øye på. Til å begynne med hadde algoritmene problemer med grunnleggende oppførsel (som f.eks. øyeblink), og det var umiddelbart klart at filmen var en falsk. Denne feilen er nå rettet. De falske karakterene blunker, beveger seg naturlig og snakker flytende. Noen ganger har de imidlertid fortsatt problemer med naturlig øyebevegelse.
Så, hvordan oppdage en deepfake? Her er hva du bør være oppmerksom på når du ser videoen:
- Følger lyden med bevegelsene i munnen? Noen ganger stemmer de ikke helt, og personen i videoen beveger leppene med en forsinkelse i forhold til lyden, eller artikulerer ord feil.
- Alle slags fenomener som virker unaturlige. Det er her snakk om blant annet posisjonen til hele kroppen eller hodet i forhold til overkroppen, feil refleksjon av lys på gjenstander, feil refleksjon av lys i smykker m.m. En unaturlig hudfarge kan også være et tegn på at filmen er falsk.
- Lyd- og videokvalitet. Forskjellen mellom dem vil bidra til å oppdage en deepfake. Vanligvis er lydsporet av dårligere kvalitet.
- Bildeuregelmessigheter. Oftest vises de i krysset mellom kroppen og hodet. Når hodet til en kjendis er "limt" til en annen kropp, kan det oppstå en uskarphet i nakkeområdet. Noen ganger er det rammehopp (intermittens) og rammefeil (forskjellig lysvinkel, type eller retning).
- Å endre hashtaggen under videoen kan også bety at vi har en deepfake-video.
Når du vurderer materialer fra synspunktet til en deepfake, bør du også stole på dine egne følelser. Noen ganger får vi inntrykk av at noe er "galt". Dette skjer blant annet når følelsene til personen som er avbildet på skjermen ikke stemmer med det ansiktsuttrykket eller tonefallet viser oss. Dette tyder også på at videoen kan ha blitt forfalsket.
Også interessant:
- De 10 rareste tingene vi lærte om sorte hull i 2021
- Terraforming Mars: Kan den røde planeten bli til en ny jord?
Hvordan beskytte deg mot deepfake?
For å unngå en dyp falsk svindel, anbefaler eksperter å følge disse trinnene:
- Lag et hemmelig ord eller slagord med kjære, for eksempel familiemedlemmer eller kolleger, som vil bevise virkeligheten av situasjonen med en video eller et opptak. Dette vil tillate deg å raskt verifisere falskheten i situasjonen og unngå for eksempel utpressing av penger.
- Bli enige med slektninger eller kolleger om en liste over informasjon som aldri vil bli spurt om via meldinger, for eksempel på sosiale nettverk eller SMS. Det er avgjørende at alle interesserte parter blir informert om farens reelle omfang.
- Implementering av multifaktorautentiseringskanaler for å verifisere hver forespørsel. Hvis kommunikasjonen starter med en tekstmelding, er den sikreste måten å bekrefte informasjonen på å kontakte avsenderen av meldingen i form av en samtale gjennom en forhåndsavtalt og sikker kommunikasjonskanal.
- Kontinuerlig forbedring av sikkerhetskompetansen, for eksempel i form av opplæring av personalet om sikkerhet og nettkriminalitet. Øke bevisstheten om hva deepfake er og hvordan man kan motvirke denne trusselen.
- Støtte og utvikling av sikkerhetssystemer i informasjons- og kommunikasjonsteknologi (IKT) miljøer.
Hvor kan du møte en deepfake?
Falsk materiale kan finnes overalt hvor det kan nå et stort publikum, det vil si det potensielle deepfake-publikummet. Facebook, Instagram, TikTok og andre sosiale medier er fulle av denne typen ting.
Dette er ikke bare fantastiske videoer, men også «raffinerte» bilder og lydopptak. Noen av de autentiske kjendisprofilene har noen ganger blitt helt fylt med dypfalske ting!
Dette er ikke det eneste stedet du kan finne en deepfake. En applikasjon for en smarttelefon er også basert på denne teknologien, som lar deg legge til bart og skjegg eller andre spesialeffekter til et bilde (for eksempel aldring med flere tiår). Så det kan vise seg at det siste bildet du fikk fra vennene dine er litt "undertegnet".
Også interessant:
Deepfake-filmer er ikke bare pornografiske
Bruken av deepfake kan være både positiv og negativ. Deepfake-filmer kan være lekne eller underholdende. Her bør vi nevne videoen av dronning Elizabeth som danser på bordet under nyttårsbudskapet. Dette er også formålet med de fleste bildemodifikasjonene vi gjør med deepfake-appen på smarttelefonene våre. Det skal være morsomt og morsomt.
Deepfake-materialer kan også spille en pedagogisk rolle, for eksempel "gjenopplive" allerede døde artister, sangere eller musikere. Noen museer, spesielt Salvador Dali-museet i Florida, bruker denne teknologien, der besøkende blir "presentert" med verkene sine av kunstneren selv, som du kan snakke med og til og med ta bilder med.
Deepfake-teknologi brukes i stemmegeneratorer - enheter designet for personer som har mistet evnen til å snakke. Takket være dem kan slike mennesker fortsatt snakke til oss med sin egen stemme. Val Kilmers stemme, som han mistet på grunn av strupekreft, ble modellert i Top Gun: Maverick.
Dessverre har vi også mange eksempler på negativ bruk av deepfaking. Politikk er et eksempel der denne typen falsk informasjon kan ha vidtrekkende, globale konsekvenser, som å miskreditere offentlige personer, påvirke aksjemarkedet, økonomien eller valgresultater, eller til og med gjennomføring av krigføring i en krig. En godt forberedt journal gjør det lettere å manipulere opinionen. Den progressive utviklingen av teknologier vil gjøre det enda vanskeligere å skille ekte materialer fra forfalskninger. Så dette er et skritt mot sosial tillits fall og informasjonskaos.
Deepfake-videoer, som vi allerede har nevnt, er utbredt i pornoindustrien. Oftest består endringene i å erstatte ansiktet til pornoskuespilleren/skuespilleren med ansiktet til kjendiser eller filmstjerner, selvfølgelig, uten deres samtykke.
Les også: Bemannede romoppdrag: Hvorfor er retur til jorden fortsatt et problem?
Deepfake er en reell trussel for oss alle
Deepfake er ikke bare et problem for skuespillere og politikere. Alle kan bli påvirket av falskt innhold. Et element av utpressing og utpressing kan være en oppdiktet video der vi begår en forbrytelse eller kommer i en tvetydig situasjon – enten betaler du eller vi avslører. Hvis du jobber i næringslivet, må du forstå at det er en fare for å bruke deepfake for å diskreditere selskapet blant dets motparter.
Økningen i mengden manipulerende materiale kan også påvirke sosial tillit og tillit til informasjonen som gis. Hvordan kan du tro noe når en film som er bevis i en domstol kan være falsk og nyhetsreportasjer om ikke-eksisterende hendelser?
Teknologi som lar deg lage et ondsinnet bilde, lydopptak eller film hvis karakterer ligner andre mennesker, er et nytt trusselnivå fra nettkriminelle. Spesielt gitt det faktum at de i sosiale nettverk kan trekke nesten ubegrensede ressurser av kildemateriale for å lage dype forfalskninger.
Maskinlæringsprogramvare kan søke i Facebook abo Instagram, for eksempel, og ta interessante bilder eller videoer av potensielle «skuespillere». På dette grunnlaget kan det lages en veldig tydelig stemme, bilde og video av personen, men med en spesiallaget falsk appell som simulerer for eksempel å være i alvorlig trøbbel – som offer for en kidnapping eller en ulykke. På neste trinn genereres en falsk forespørsel om hjelp, for eksempel økonomisk, adressert til pårørende til "offeret".
Les også: James Webb-romteleskopet: 10 mål å observere
Kampen mot deepfake
Strømmen av falsk informasjon er så stor at mange sosiale nettverk har bestemt seg for å kjempe mot deepfakes. Facebook і Twitter prøv å oppdage falske videoer og slette dem automatisk. Store selskaper (inkludert Microsoft eller Amazon) investerer i programvare som vil oppdage falskt innhold. Forskere jobber også med en løsning på dette problemet.
Men i en situasjon der en smarttelefon-app er nok til å lage en falsk film, er det å kjempe mot en deepfake som å kjempe mot vindmøller. Det er heller ingen juridiske normer som vil avgjøre konsekvensene av å manipulere informasjon eller bruke andres bilde på denne måten.
Deepfake blir mer og mer populært, og det er stadig vanskeligere å skille det fra sannheten. Dette skyldes forbedringen av teknologier som bedre kan imitere menneskelige bevegelser og gester. Deepfakes kan brukes til gode formål, som å lage undervisningsmateriell eller hjelpe mennesker som har mistet stemmen etter strupeoperasjoner, men de er også et verktøy for hackere, utpressere og internett-troll.
Så hvis du kommer over en fantastisk video igjen på Internett, må du først sjekke om den noen ganger er modifisert eller falsk. Kanskje det du ser på aldri var i virkeligheten!
Les også:
- 100 år med kvantefysikk: Fra teorier fra 1920-tallet til datamaskiner
- 5 fremtidige romoppdrag å tenke på
Men ikke glem at det pågår en krig i Ukraina. Hvis du vil hjelpe Ukraina med å bekjempe de russiske okkupantene, er den beste måten å gjøre det på å donere til Ukrainas væpnede styrker gjennom Redd livet eller via den offisielle siden NBU.