Meta jobber med et verktøy som integrerer bilder og videoer med sin nye bildegenerasjonsmodell, Muse Image. Selskapet viste en forhåndsvisning nettbasert verktøy som kan sjekke de usynlige vannmerkene som brukes av den nye modellen.
Dette vannmerkesystemet, kalt Content Seal, forblir på plass «selv når det beskjæres, komprimeres, endres størrelse eller skjermdumpes,» forklarer Meta i blogginnlegg. «Vi introduserer et deteksjonsverktøy som lar deg sjekke om et bilde har et Content Seal-vannmerke, og gir den første måten å bedre forstå om et bilde ble opprettet med Meta AI.»
Content Seal ser ut til å være en ny tilnærming for Meta. Versjonen som er en del av Muse Image er proprietær, selv om selskapet tidligere har gitt ut åpne versjoner av teknologien, sier Meta til Engadget. De nye Meta-modellene inkluderer ikke noen synlige vannmerker, som noen tidligere versjoner av Meta AI, som la til en liten logo nederst i høyre hjørne.
For øyeblikket er Meta AIs deteksjonsmuligheter begrenset til bilder opprettet eller redigert med Muse Image, selv om selskapet sa at det planlegger å utvide Content Seal-vannmerker til AI-genererte og redigerte videoer. Meta jobber også med en egen videogenerasjonsmodell kalt Muse Video, som «kommer snart».
Jeg testet den nye deteksjonsfunksjonen på bilder jeg laget med Meta AI i dag, og det nettbaserte verktøyet var i stand til å oppdage vannmerker for redigerte bilder og fullstendig AI-genererte kreasjoner (som den som er avbildet ovenfor). Den fant også vannmerket på skjermbildene av bildene mine. «Et positivt resultat betyr at bildet har blitt redigert ved hjelp av Meta AI-programmet meta.ai,» forklarer selskapet i en FAQ. «Et negativt resultat betyr at bildet sannsynligvis ikke har blitt behandlet med Meta AI eller meta.ai.»
Interessant nok er de nye Meta AI-deteksjonsfunksjonene ennå ikke en del av Meta AI-programmet. Da jeg spurte Meta-programassistenten om bildet som nettverktøyet laget som AI, svarte det at det ikke var i stand til å verifisere. «Jeg kan ikke si deg sikkert om dette bestemte bildet ble laget med Meta Al bare ved å se på det,» sa han. «Meta Al viser ikke automatisk vannbilder, og jeg har ikke et verktøy for å finne ut hvilken Al-modell som opprettet det eksisterende bildet.»
Meta har tidligere møtt en del kritikk over hvordan den merker og identifiserer AI-generert innhold i appene sine. Representantskapet orienterte selskapet begynnelsen av dette året som var «bekymret» for at Meta «inkonsekvent brukte» digitale vannmerker på AI-innhold laget av verktøyene deres.
Den nye funksjonen har imidlertid fortsatt noen andre begrensninger. Content Seal er ikke kompatibel med SynthID eller C2PA Content Credentials, to etablerte vannmerkemetoder som brukes av andre selskaper. Den nettbaserte funksjonen klarte ikke å oppdage bilder opprettet eller redigert med tidligere versjoner av Metas AI-modeller i min testing. Da jeg la til bilder laget i gamle chatter med Meta AI, kunne den ikke fortelle meg om bildet ble laget med AI. Funksjonen er også underlagt metakriteriebegrensninger av en eller annen grunn. Etter å ha lastet opp noen eksempler ble jeg advart om at jeg hadde nådd min «daglige grense for spesifikke tester».