Chongqing, Kina – For tre år siden, i den vakre byen Woodside, sør for San Francisco, holdt USA og Kina sine første samtaler på høyt nivå om faren forårsaket av kunstig intelligens. President Xi Jinping og hans mangeårige utenriksminister har virket seriøse i sin tro på at det bør etableres en kanal mellom Beijing og Washington – en hotline for AI i nødssituasjoner.
De autoriserte en diplomatisk innsats for å starte i Sveits i 2024, bare måneder før det amerikanske presidentvalget. Ifølge fire kilder som deltok i samtalene kom en stor amerikansk delegasjon med store forhåpninger som plutselig ble knust. Den kinesiske kontingenten avfeide amerikanske bekymringer om løpsk AI som akademiske, nesten teoretiske, og snudde raskt samtalen til eksportkontroller, sett i Beijing som nok en amerikansk innsats for å begrense Kina.
Jake Sullivan, USAs nasjonale sikkerhetsrådgiver for president Biden, sa i et intervju: «De ser naturligvis på ethvert amerikansk diplomatisk initiativ som har begrensninger eller begrensninger av en eller annen smak på kapasitet som en felle.»
Til tross for mistilliten – og at demokratene tapte Det hvite hus til Donald Trump – ble det oppnådd et kompromiss i Peru i november samme år, der begge sider ble enige om å holde AI fra kommando og kontroll over atomvåpen.
«Det var en forseglingsbryter at vi faktisk kunne gjøre noe med AI,» sa Sullivan. «Under overgangen sa jeg til Trumps innkommende team at de virkelig trengte å ha den dialogen. Men Trump-administrasjonens syn var mye mer liberalt, og de var ikke spesielt interessert i det.»
«Alt endret seg de siste ukene,» sa han.
Trump-administrasjonen, som en gang var ivrig etter å bevæpne teknologisk dominans, vurderer nå for første gang kraften AI kan frigjøre hvis den ikke kontrolleres.
Med felles advarsler i Beijing og Washington om debuten til Mythos, Anthropics kraftige nye modell, har det vært stille diskusjoner i forkant av president Trumps statsbesøk i Kina denne uken, sa tjenestemenn til The Times.
En høytstående embetsmann i administrasjonen fortalte journalister på søndag at Det hvite hus leter etter en kommunikasjonskanal for AI, som andre, som de «har på mange områder som har et sterkt fokus med USA og Kina.»
«Jeg tror hva den kommunikasjonskanalen vil være, formaliteten og hva den vil være, ennå ikke er bestemt,» sa tjenestemannen, «men vi ønsker å benytte anledningen med ledermøtet til å åpne samtalen. Vi må etablere en kommunikasjonskanal om dette.»
Mythos-evner blir sett på som evner på tvers av industri og myndigheter et enestående cybervåpeni stand til å få tilgang til og utnytte digitale kommunikasjonssystemer, inkludert offentlige databaser, finansinstitusjoner og helsetjenester – med ubegrensede konsekvenser.
Det er foreløpig ikke klart om kunngjøringen kommer denne uken. Eksperter sier at alle samtaler mellom USA og Kina om AI-bestemmelser – utforming av en slags våpenkontrollavtale som regulerer bruken av teknologi som ingen av partene forstår eller kontrollerer – vil være beheftet med usikkerhet, forvirring og risiko.
«Akkurat nå er det nesten ingen støtte fra amerikanske beslutningstakere for formelle diskusjoner om AI-styring med Kina,» sa Aalok Mehta, direktør for Wadhwani Center for AI ved Senter for strategiske og internasjonale studier.
«Logikken er at dette er et vinner-tar-alt-løp,» sa Mehta, «og å akselerere fremgangen til AI er avgjørende for å sikre at USA vinner dette løpet.»
Amerika er foran
Kina vil gå inn i disse debattene med et sterkt argument om at amerikansk ledelse innen AI – og den dominerende strategien til amerikanske AI-selskaper – presser verden til en mektig grense.
Alle store amerikanske aktører på arenaen – OpenAI, Google, Anthropic, Microsoft og Meta Platforms – prøver å være den første som kan bygge sin egen modell. kunstig generell intelligens, eller AGIen terskel uten en felles definisjon, men de fleste er enige om at det kreves en modell for å utføre enhver menneskelig intellektuell oppgave.
Den rådende teorien er at den første personen som oppnår AGI vil høste en selvøkende belønning: selvopprettholdende læring, rekursiv intelligens vil bli forbedret, vokse eksponentielt, og etterlate alle konkurrenter.
Derimot følger kinesiske selskaper en statsgodkjent strategi rettet mot integrering av AI i siloindustrien og systemer, læringsmodeller for å forbedre individuelle oppgaver og akselerere veksten i en mer konsistent tilnærming.
«Kineserne tror at det ikke er én rase, men at det er forskjellige raser,» sa Scott Kennedy, seniorrådgiver for kinesisk handel og økonomi ved Senter for strategiske og internasjonale studier. «USA er fokusert på å oppnå AGI, mens Kina er fokusert på spredning og implementering av AI i resten av økonomien – produksjon, humanoid robotikk og alle aspekter av tingenes internett.»
Kinesiske forskere, AI-industriinnsidere og påfølgende administrasjoner har stilt spørsmål ved Beijings strategiske tenkning og ærlighet.
Matt Sheehan, en lærd av globale teknologispørsmål ved Carnegie Endowment for International Peace med fokus på Kina, «er så moden i samfunnet at AGI kommer til å ha dette transformative potensialet at folk ikke kan tro at Kina ikke også er fokusert på det.» «Det står at det er rettet mot programmer, men er det et falskt program for et AGI-program gjemt i fjellet?»
Men de fleste innsidere tror at Beijings veiledning til kinesiske selskaper avslører deres sanne intensjoner.
«De er ikke så sterke på AGI som USA er, og jeg tror det fortsatt er tilfelle i dag,» sa Sullivan, «så de så mye av praten i USA om ekstrem grenserisiko – inkonsekvens og tap av kontroll – som litt abstrakt og ikke egentlig i tråd med hvordan de så spredningen av AI i Kina.»
President Biden ønsker Kinas president Xi Jinping velkommen i Woodside, California i 2023.
(Doug Mills/Pool-bilder)
Selv om Kinas fremgang har overgått USAs forventninger – spesielt siden den gang DeepSeek ga ut sin modell for mer enn ett år siden – har regjeringen fokusert datakraft på spesifikke applikasjoner i stedet for den brede strategien som trengs for å utvikle kraftigere modeller som er i stand til å fremme AGI.
«Det er ikke bare chips. Det er penger,» la Sheehan til. «Ledende kinesiske selskaper er mer økonomisk begrenset enn amerikanske selskaper. Det er bekymring for en boble her, men OpenAI er verdt rundt 800 milliarder dollar. Ledende kinesiske selskaper som har gått på børs er verdt 20 milliarder dollar. Det er bare et ordnet gap i eksisterende finansiering.»
Likevel frykter noen i den amerikanske regjeringen at Kina ikke vil trenge sammenlignbar datakraft hvis det bare stjeler teknologi på engros.
Dette er ikke lett. Men forrige måned, i et notat, anklaget Det hvite hus kontor for vitenskap og teknologipolitikk kinesiske aktører for «kampanjer i industriell skala for å utnytte amerikanske grense-AI-systemer» som i hovedsak gjenskaper ytelsen til eksisterende avanserte modeller «til en brøkdel av prisen.» Notatet anklaget ikke Beijing for å støtte aktiviteten.
I prosessen, la notatet til, blir nøye utformede sikkerhetsprotokoller bevisst undergravd.
Kinas fordel i forhandlinger
Uansett hvilke strategiske beregninger de har, går Kina i forhandlinger med Trump-administrasjonen, som henger etter i løpet – mens de er uenige om målstrekens natur.
AGI kan i teorien nå et stadium med rekursiv forbedring som vil føre til tap av menneskelig forståelse eller kontroll. Men hvis det er amerikanerne og ikke kineserne som er ansvarlige for å nå denne terskelen, hvem er da ansvarlig for å stoppe det?
Daniel Remler, som ledet utenriksdepartementets AI-politikk under Biden-administrasjonen og deltok i Genève-samtalene, stilte spørsmål ved Kinas påstander om likegyldighet til AGI og uvitenhet om risikoen. Han sa at det ikke er en strategisk plan for Kina å henge etter i løpet.
«Kinesiske teknologer er nære observatører av det amerikanske AI-økosystemet, og noen ganger sier de hva de tenker,» sa Remler. «Mange har blitt skuffet over (Mythos)-modellen. Ledere av Kinas fremste AI-laboratorier har vært vokale de siste månedene, selv før Mythos, om hvor begrenset deres databehandlingsevne er ved grensen. Noen har sagt at de aldri vil ta igjen sine amerikanske rivaler.
Forhandlinger på dette stadiet av løpet kan følge et kjent mønster i den nyere historien til amerikansk-kinesisk diplomati, der Beijing hevder å støtte USA i utviklingen og til slutt sikre mer innflytelse og innrømmelser ved forhandlingsbordet.
På andre konkurranseområder, som Kinas inntreden i Verdens handelsorganisasjon og i cybersikkerhetssamtalene mellom Beijing og Obama-administrasjonen, har det endelig blitt enighet om at Washington tror på å ta vare på fattige amerikanske selskaper.
Trump-administrasjonen, la Remler til, «må nærme seg AI-diplomati med Kina med klare forventninger basert på våre nasjonale interesser.»
Silicon Valley selv er delt i å regulere AI. Anthropic, som ble grunnlagt av bekymring for at andre AI-selskaper ikke tok sikkerhet og interoperabilitet på alvor, har advart Trump-administrasjonen om Mythos, dens modell, som har gitt Det hvite hus et øyeblikk til å tenke på den beste veien videre.
Den amerikanske finansministeren Scott Bessent uttrykte bekymring for deres sårbarhet etter å ha møtt toppledere i amerikanske banker for å gi råd til den amerikanske regjeringen om fremtidige vurderinger av modellene – en praksis som allerede er i gang i Kina, hvor modellens treningsparametere, kjent som «vekter», har blitt offentliggjort.
Selv forslaget om statlig tilsyn har fått reaksjoner fra Silicon Valley. Forrige uke sendte Det hvite hus et notat for å forsikre industriallierte om at det ville være helt frivillig å sende inn nye modeller for føderal vurdering.
Hvis forhandlingene mellom Washington og Beijing om AI til slutt gjenopptas, sier eksperter at forhandlingene vil være langt mer komplekse enn de som er involvert i våpenkontrollavtalene som styrte atomvåpen under den kalde krigen.
Supermaktene vil ikke bare vurdere trusler mot ustabiliteten i det globale finanssystemet, men også frykten for spredning – avanserte AI-verktøy i hendene på dårlige aktører som kan bruke biologiske våpen eller cybervåpen som kan være målrettet mot begge land.
Og de vil til slutt måtte bestemme seg for om de skal vurdere å regulere integreringen av AI i de kinesiske og amerikanske militærene, et nesten absurd mål mellom verdens største rivaler, der tilliten er lavest og verifiseringen er vanskeligst.
De i bransjen som frykter hva kunstig intelligens kan bringe, har fortalt Trump-administrasjonen at forhandlinger med Kina er en eksistensiell nødvendighet.
Dario Amodi, administrerende direktør og medgründer av Anthropic, vil tale på et arrangement i New York i 2025.
(Michael M. Santiago/Getty Images)
Men selv innen Anthropic, som forfekter diplomati, er det bekymringer for at Beijing kan dra nytte av sin nåværende ulempe til å sette amerikansk industri på randen av et gjennombrudd.
I stedet for å presse på for en enkelt, omfattende avtale, råder industriinnsidere administrasjonen til å forfølge målrettede avtaler med Beijing for å redusere spesifikke risikoer, for eksempel en kjernefysisk kommando- og kontrollpakt, sa to industrikilder.
Sullivan sa at både Xi og Kinas utenriksminister Wang Yi privat så ut til å se alvoret i de fremvoksende teknologiene som krever en form for samarbeid.
«På et konseptuelt nivå tror jeg at de trodde på det og tillot det,» sa Sullivan, «men jeg tror at deres hastenivå var mye lavere enn vårt, og jeg ser på dette som en langsiktig prosess som vil spille ut over tid.»
«Deres grad av press og deres eierandel i det har gått opp,» sa han.