Fra næste måned vil Kina indføre nye regler, der begrænser en af de farligste anvendelser af kunstig intelligens -- dybe forfalskninger. Regler, der skal implementeres af Cyberspace Administration Kina siden 10. januar, designet til at beskytte folk mod at få deres stemme eller billede digitalt efterlignet uden deres samtykke.
Platforme og tjenester, der anvender teknologien til at redigere en persons stemme eller billede, kaldes af tilsynsmyndigheder "udbydere af dyb syntese". Disse dybe synteseteknologier kan omfatte brugen af deep learning algoritmer og augmented reality til at generere tekst, lyd, billeder eller video.
Ifølge de nye regler skal de, der bruger dette teknologi, skal først kontakte og indhente samtykke fra enkeltpersoner, før de redigerer deres stemme eller billede. Reglerne, officielt kaldet Deep Synthesis Administrative Regulations for Internet Information Services, er et svar på regeringens bekymringer om, at skruppelløse aktører kunne udnytte fremskridt i branchen AI for bedrageri eller ærekrænkelse.
I stedet for at indføre et direkte forbud, siger regulatoren, at den faktisk vil fremme den lovlige brug af teknologien og "give stærk juridisk beskyttelse for at sikre og lette" dens udvikling. Nyhedsudsendelser ved hjælp af denne teknologi skal komme fra en regeringsgodkendt liste over nyhedsbureauer. Reglerne kræver også, at alle "leverandører af dyb syntese" overholder lokale love og opretholder "korrekt politisk retning og korrekt orientering til den offentlige mening". Rigtigheden her bestemmes naturligvis udelukkende af staten ensidigt.
Selvom nogle amerikanske stater, såsom New Jersey og Illinois, har vedtaget lokale love om beskyttelse af personlige oplysninger, der adresserer deepfakes, begrænser manglen på meningsfulde føderale love tilsynsmyndighedernes mulighed for at håndtere denne teknologi på nationalt plan. Hvis Kinas nye regler lykkes, kan de lægge et politisk grundlag, som andre lande kan bygge videre på.
Det vil ikke være første gang, at Kina gennemfører strenge teknologiske reformer. Sidste år indførte landets ledelse omfattende nye databeskyttelseslove, der radikalt begrænsede måderne, hvorpå private virksomheder kan indsamle personlige oplysninger om en person. De krævede, at virksomhederne indhentede samtykke, før de indsamlede personoplysninger.
Men der er et iøjnefaldende smuthul i Kinas privatlivslovgivning. Mens loven beskytter folk mod private virksomheder, der lever af deres data, gør den ikke meget for at forhindre den samme skade, som kan gøres direkte af regeringen. Tilsvarende er det i tilfælde af "dybe forfalskninger" uklart, hvordan de nye foreslåede regler for eksempel kunne forbyde et statsligt organ i at forfalske eller manipulere visse tekst- eller lydoptagelser for at påvirke fortællingen om kontroversielle eller følsomme politiske begivenheder.
Du kan hjælpe Ukraine med at kæmpe mod de russiske angribere. Den bedste måde at gøre dette på er at donere midler til Ukraines væbnede styrker gennem Red livet eller via den officielle side NBU.
Også interessant: