Fra og med neste måned vil Kina innføre nye regler som begrenser en av de farligste bruken av kunstig intelligens -- dype forfalskninger. Regler som skal implementeres av Cyberspace Administration Kina siden 10. januar, designet for å beskytte folk mot å få stemmen eller bildet digitalt imitert uten deres samtykke.
Plattformer og tjenester som bruker teknologien for å redigere en persons stemme eller bilde kalles "deep syntese providers" av regulatorer. Disse dypsynteseteknologiene kan inkludere bruk av dyplæringsalgoritmer og utvidet virkelighet for å generere tekst, lyd, bilder eller video.
Etter de nye reglene skal de som bruker dette teknologi, må først kontakte og innhente samtykke fra enkeltpersoner før de redigerer stemmen eller bildet. Reglene, offisielt kalt Deep Synthesis Administrative Regulations for Internet Information Services, er et svar på regjeringens bekymringer om at skruppelløse aktører kan utnytte fremskritt i bransjen AI for svindel eller ærekrenkelse.
I stedet for å innføre et direkte forbud, sier regulatoren at den faktisk vil fremme lovlig bruk av teknologien og «gi sterk juridisk beskyttelse for å sikre og lette» utviklingen av teknologien. Nyheter som sendes med denne teknologien må komme fra en myndighetsgodkjent liste over nyhetsbyråer. Reglene krever også at alle "leverandører av dyp syntese" overholder lokale lover og opprettholder "korrekt politisk retning og korrekt orientering til opinionen". Korrektheten her bestemmes selvfølgelig utelukkende av staten ensidig.
Selv om noen amerikanske stater, som New Jersey og Illinois, har vedtatt lokale personvernlover som tar for seg deepfakes, begrenser mangelen på meningsfulle føderale lover regulatorers evne til å håndtere denne teknologien på nasjonalt nivå. Hvis Kinas nye regler lykkes, kan de legge et politisk grunnlag som andre land kan bygge videre på.
Dette vil ikke være første gang Kina gjennomfører strenge teknologiske reformer. I fjor introduserte landets ledelse omfattende nye personvernlover som radikalt begrenset måten private selskaper kan samle inn personlig informasjon om en enkeltperson. De krevde at selskaper innhentet samtykke før de samlet inn personopplysninger.
Men det er ett grelt smutthull i Kinas personvernlovgivning. Mens loven beskytter folk fra private selskaper som leverer dataene deres, gjør den lite for å forhindre den samme skaden som kan gjøres direkte av myndighetene. Tilsvarende, når det gjelder «dyp forfalskninger», er det uklart hvordan de nye foreslåtte reglene for eksempel kan forby et offentlig organ fra å forfalske eller manipulere visse tekst- eller lydopptak for å påvirke fortellingen om kontroversielle eller sensitive politiske hendelser.
Du kan hjelpe Ukraina med å kjempe mot de russiske inntrengerne. Den beste måten å gjøre dette på er å donere midler til Ukrainas væpnede styrker gjennom Redd livet eller via den offisielle siden NBU.
Også interessant: