Elon Musks oppstart av kunstig intelligens saksøker en mann i Sør-Carolina som ble arrestert tidligere i år på grunn av anklager om seksuell utnyttelse av barn, med påstand om at han misbrukte selskapets AI-system Grok for å lage materiale om seksuelle overgrep mot barn.
I et søksmål anlagt tirsdag i Texas føderale domstol, hevder xAI at Terry Harwood brøt selskapets tjenestevilkår. Saken er en av de første som er anlagt av et AI-selskap mot en av brukerne for angivelig å ha brukt AI-systemet for å generere materiale om seksuelle overgrep mot barn.
En talsmann for xAI svarte ikke umiddelbart på en forespørsel om kommentar onsdag. Selskapets søksmål mot Harwood følger en intens global xAI-gjennomgang av påstander om at Grok tillot brukere å lage angivelig seksuelle forfalskninger eller ekte videoer laget av AI. Kontaktinformasjon for Harwood, som ble arrestert i februar, var ikke umiddelbart tilgjengelig. .
etter å ha kjørt stemmeseddelen
xAIs klage sier at selskapet «håndhever sine retningslinjer mot overtredere ved å suspendere kontoer, avslutte kontoer og ved å rapportere mistenkt materiale om seksuelle overgrep mot barn til National Center for Missing + Exploited Children.»
xAI påsto at Harwood lastet opp ikke-seksuelle bilder av voksne og mindreårige til Grok og forsøkte å bruke systemet til å generere seksuelt eksplisitt innhold basert på dem. Klagen hevder også at han laget seksuelle bilder av voksne uten samtykke.
Selskapet ba retten om et ikke avslørt beløp for økonomisk erstatning og en rettskjennelse som permanent hindrer Harwood fra å bruke Grok.
– Saksøktes handlinger utgjorde et kalkulert opplegg for å utstyre saksøkeren som et verktøy for kriminelle formål, og utsette de faktiske ofrene for dyp og varig skade, samtidig som saksøkeren ble utsatt for alvorlig juridisk risiko og skade på omdømmet, heter det i søksmålet.