Tirsdag annoncerede Meta sin plan om at begynde at tagge AI-genererede billeder fra andre virksomheder som OpenAI og Google. Flytningen har til formål at øge gennemsigtigheden på platforme som f.eks Facebook, Instagram og Tråde, ved at informere brugerne om, at det indhold, de ser, er syntetiserede digitale medier og ikke et autentisk foto eller video.
Metas løsning er en del af en bredere teknologiindustriindsats for at sætte standarder for mærkning af indhold skabt med generative AI-modeller, der er i stand til at skabe falsk, men realistisk lyd, billeder og video baseret på skriftlige prompter.
Metas præsident for globale anliggender, Nick Clegg, meddelte det i et blogindlæg på Metas hjemmeside. "Vi vil fortsætte med at følge denne tilgang i løbet af det næste år, hvor en række vigtige valg vil blive afholdt rundt om i verden," skrev Clegg. "I løbet af denne tid håber vi at lære meget mere om, hvordan folk skaber og deler indhold med kunstig intelligens, hvilken gennemsigtighed folk værdsætter mest, og hvordan disse teknologier udvikler sig."
Clegg bemærkede, at Metas AI-genererede indholdstagging-initiativ vil udvide den eksisterende praksis med at tagge indhold, der er oprettet med sine egne AI-værktøjer, til at omfatte billeder, der er oprettet ved hjælp af andre virksomheders tjenester.
"Vi er ved at bygge brancheførende værktøjer, der kan identificere usynlige markører i skala – specifikt den 'AI-genererede' information i C2PA og IPTC tekniske standarder – så vi kan tagge billeder fra Google, OpenAI, Microsoft, Adobe, Midjourney og Shutterstock, mens de implementerer deres planer om at tilføje metadata til billeder skabt af deres værktøjer."
Meta siger, at den AI-genererede indholdsmærkningsteknologi vil være baseret på usynlige vandmærker og metadata indlejret i filer. Meta tilføjer et lille "Imagined with AI"-vandmærke til billeder oprettet med dens offentlige AI-billedgenerator.
I indlægget udtrykte Clegg tillid til virksomheders evne til pålideligt at mærke AI-genererede billeder, selvom han bemærkede, at værktøjer til at mærke lyd- og videoindhold stadig er under udvikling. I mellemtiden vil Meta kræve, at brugerne tagger modificeret lyd- og videoindhold med uspecificerede bøder for undladelse af at gøre det.
"Vi vil kræve, at folk bruger dette afslørings- og mærkningsværktøj, når de poster organisk indhold med fotorealistisk video eller realistisk lyd, der er blevet digitalt skabt eller ændret, og vi kan pålægge sanktioner, hvis de ikke gør det," skrev han.
Clegg bemærkede dog, at der i øjeblikket ikke er nogen effektiv måde at mærke AI-genereret tekst på, hvilket tyder på, at det er for sent at implementere sådanne foranstaltninger for skriftligt indhold. Dette falder sammen med vores rapporter om, at AI-tekstdetektorerne ikke virker.
Meddelelsen kom en dag efter, at Metas uafhængige tilsynsråd kritiserede virksomhedens politik om vildledende ændrede videoer som for snæver og anbefalede at markere sådant indhold i stedet for at fjerne det. Clegg var enig i kritikken og indrømmede, at eksisterende Meta-politikker er utilstrækkelige til at styre den voksende mængde syntetisk og hybridt indhold på internettet. Han ser det nye mærkningsinitiativ som et skridt i retning af at implementere vagthundens anbefalinger og anspore industriomspændende momentum til lignende foranstaltninger.
Meta anerkender, at det ikke vil være i stand til at detektere AI-genereret indhold, der er oprettet uden vandmærker eller metadata, såsom billeder oprettet med nogle open source AI-billedsynteseværktøjer. Meta forsker i en billedvandmærketeknologi kaldet Stable Signature, som den håber kan indbygges i open source billedgeneratorer. Men så længe pixels er pixels, kan de skabes på måder, der ikke er kontrolleret af teknologiindustrien, og dette er fortsat en udfordring for AI-indholdsdetektering, efterhånden som open source AI-værktøjer bliver mere sofistikerede og realistiske.
Læs også: