Ei eksplosiv veke for AI-bransjen
På berre nokre få dagar viste heile AI-bransjen kor betent temaet militær bruk av kunstig intelligens kan vera. Avinstalleringsstatistikken for ChatGPT skaut i vêret med nesten 300 prosent etter at selskapet skreiv under ein kontroversiell kontrakt med det amerikanske forsvarsdepartementet.
Det heile starta med eit avslag frå Anthropic. Skaparen av Claude-modellen fekk eit samarbeidstilbod frå Pentagon, men valde å ikkje kryssa sine eigne etiske grenser. Resultatet var ei svartelisting, tap av lukrative kontraktar og ei uventa brukarforskyving mellom konkurrerande appar.
For vanlege brukarar kan dette høyrast ut som eit fjernt amerikansk problem. Røynda er at dei avgjerslene som vert tekne i dag i Washington og Silicon Valley, kjem til å påverka direkte kva funksjonar appane på telefonane våre har om nokre år. Ekspertar frå Oxford-universitetet og amerikanske tenkjetankar åtvarar om at private selskap ikkje bør fastsetja dei etiske grensene for teknologiar som kan ha innverknad på menneskeliv over heile verda.
Korleis Anthropic avslo Pentagon og hamna på ei svarteliste
Historia starta med eit tilbod til Anthropic, selskapet bak Claude-modellen. Pentagon ville integrera kunstig intelligens i system som i sanntid analyserer enorme datamengder – frå satellittbilete og etterretningsrapportar til sensordata frå stridsfelta. Målet var å gjera avgjerdsprosessen raskare for kommandørar under kampoperasjonar.
Anthropic sette likevel opp to urokkanlege etiske grenser. For det første måtte ikkje Claude-modellen støtta utviklinga av fullt autonome våpensystem der maskina sjølv avgjer om maktbruk mot menneske. For det andre måtte systemet ikkje nyttast til masseovervaking av vanlege borgarar på amerikansk territorium.
Desse vilkåra viste seg å vera uakseptable frå militære representantars synsstad. Ifølgje medium sette Donald Trumps administrasjon Anthropic på ei svarteliste over einingar utan tilgang til statlege kontraktar. Selskapet fekk eit rykte som eit «ubøyeleg etisk» føretak, men miste eit potensielt svært lukrativt marknad.
Situasjonen vert ytterlegare komplisert av at Claude-modellen ifølgje kjelder nær Pentagon likevel vert nytta i operasjonar knytte til spenningane mellom USA, Israel og Iran, sjølv om selskapet formelt er blokkert frå anbudsprosedyrar. Forsvarsdepartementet kommenterer ikkje desse opplysningane, noko som let ei rekkje spørsmål stå usvara.
Kva OpenAI skreiv under på, og kvifor det provoserte brukarane
Då Anthropic avviste samarbeidet, steig OpenAI inn på banen. Ein fredag vart det skrive under ein kontrakt som reelt sett fyller holet etter konkurrenten. ChatGPT skulle rettast mot forsvarsapplikasjonar, medan detaljar i kontrakten delvis vart haldne hemmelege.
Sam Altman, sjef i OpenAI, offentleggjorde dagen etter ei fråsegn der han hevda at dei forhandla sikringstiltaka visstnok var strengare enn det Anthropic var viljug til å godta. Denne meldinga skulle verna selskapet sitt omdøme, men i mange menneske sine auge framstod ho som eit forsøk på å dra nytte av rivalens «prinsippfastheit».
Brukarreaksjonen kom umiddelbart. Data frå analyseselskapet Sensor Tower syner at den gjennomsnittlege daglege avinstalleringsraten for ChatGPT-appen steig med 295 prosent samanlikna med normalnivået. På sosiale medium hagla det med skuldingar om svik mot erklærte verdiar og om å selja seg til militære kontraktar. I nettdiskusjonar vrimla det av kommentarar frå skuffa utviklarar og akademikarar som hadde nytta ChatGPT til forskingsføremål.
Måndag gjekk Altman fram i rolla som «den skuldige som innrømer feilen». Han erklærte offentleg at kommunikasjonen hadde vore forhastig og ugjennomtenkt, og at heile saka framstod som reint opportunistisk. Han kunngjorde òg endringar i kontrakten med forsvarsdepartementet. I løpet av nokre få dagar endra ChatGPT seg i mange menneske sin medvit frå å vera eit symbol på «ansvarleg AI» til å verta eit verkty knytt til det militære maskineriet.
Kva konkrete endringar OpenAI lova å gjera i kontrakten
Under press frå den offentlege meining og den veksande boikotten la OpenAI til fleire svært konkrete føresegner i kontrakten. Dei viktigaste av desse gjeld overvaking av amerikanske borgarar og etterretningstenestene sin tilgang til modellane.
Dei vesentlege endringane omfattar:
- eit uttrykkjeleg forbod mot medviten bruk av OpenAI-system til overvaking av borgarar i USA
- blokkering av automatisk tilgang for etterretningsbyråar som NSA utan ein separat, eksplisitt avtala kontraktendring
- ei fråsegn om at kunstig intelligens skal støtta analytikarar og ikkje erstatta mennesket i avgjerder om maktbruk
- eit krav om gjennomsiktig rapportering av tilfelle med potensielt misbruk av systema
- OpenAI sin rett til å stansa tenesteyting ved brot på avtalte grenser
- uavhengig revisjon av teknologibruk kvar sjette månad
- avgrensing av tilgang til dei nyaste modellane for applikasjonar med letalt potensial
Dette er ei delvis tilnærming til Anthropics tilnærming, men skilnaden er tydeleg. Anthropic valde å trekkja seg frå kontraktane framfor å gje etter for Pentagons forventningar. OpenAI valde vegen med å leggja til avgrensingar samstundes som samarbeidet vart halde ved lag. Ifølgje analytikarar frå Center for American Progress er desse tilleggsgarantiane likevel mogleg ikkje tilstrekkelege dersom det manglar uavhengig kontroll med overhaldinga.
Kvifor militæret så intenst søkjer å ta i bruk kunstig intelligens
I bakgrunnen for heile historia ligg ein breiare visjon for moderne væpna styrkar. Plattformer skapte av mellom andre Palantir integrerer allereie i dag data frå mange kjelder – sensorar, dronar, satellittar og etterretningsrapportar – og legg dei fram for kommandørar i form av ferdige tilrådingar.
Ifølgje bransjerepresentantar gjer slike system det mogleg å analysera tusenvis av satellittbilete raskare enn tiarar av analytikarar, å spå rørsler til fiendtlege einingar basert på mønster frå tidlegare konfliktar, og å identifisera mål med større presisjon enn tradisjonelle metodar. General Roger Cloutier frå USAs kommando i Europa har nyleg uttalt at integrering av kunstig intelligens i kampsystem er like avgjerande som innføringa av dampmaskina i industrien.
Her oppstår den sentrale spenningen. Generativ kunstig intelligens er feilbarleg, tilbøyeleg til «hallusinasjonar» og i stand til å produsera falske opplysningar med fullstendig overtyding. I sivile applikasjonar endar det med eit kompromitterande svar i chatten. På slagmarka ville det bety at uskuldig folk mistar livet. Forskarar frå Massachusetts Institute of Technology åtvarar om at det psykologiske presset på kommandørar om å akseptera AI sine tilrådingar under tidspress kan vera enormt.
Korleis ChatGPT-krisa gav Claude ein uventa vekst
Mediastormen skapte ein umiddelbar marknadseffekt. Når brukarar sletta ChatGPT-appen, søkte mange av dei etter eit alternativ. Det naturlege valet synte seg å vera nettopp Claude – modellen til produsenten som gjekk i konfrontasjon med Pentagon.
Data frå App Store syner at Anthropics app laurdag hoppa til fyrsteplassen på nedlastingslistene og heldt seg der minst til torsdag. Amerikanske medium skriv at Claude gjekk forbi ChatGPT i tal på nye installasjonar, noko som berre nokre veker tidlegare hadde verka lite sannsynleg. Marknadsanalytikarar vurderer at Anthropic i løpet av ei einaste veke fekk like mange nye brukarar som dei under normale tilhøve ville trengja tre månaders intensiv marknadsføring for å oppnå.
På internett starta ein organisert pressekampanje mot OpenAI. Emneknaggar som CancelChatGPT og QuitGPT vart populære og oppfordra til permanent oppgjeving av selskapet sine produkt så lenge det samarbeidar med forsvarsdepartementet. Nokre aktivistgrupper ser dette som ein test på om brukarpress reelt kan endra åtferda til AI-gigantane.
OpenAI sin imagekrise bygde i praksis ein gratis marknadsføringskampanje for Anthropic basert på eitt einaste bodskap: «vi gav ikkje etter». I teknologifellesskap på Reddit og Hacker News har det oppstått diskusjonar om etikken ved å nytta AI-verktøy, og mange utviklarar melder offentleg at dei skiftar til Claude for prosjekta sine.
Bør vanlege AI-brukarar følgja med på militære kontraktar?
For den gjennomsnittlege ChatGPT- eller Claude-brukaren kan dette militære puslespelet høyrast ut som noko svært fjernt. Like fullt vil dei avgjerslene som vert tekne i dag i Washington og Silicon Valley, slå direkte inn på kva funksjonar appane på telefonane vil ha om nokre år.
Dersom språkmodellar «vert opplærde» på data frå militære operasjonar, kan dei kanskje betre forstå strategiske analysar, men vil òg tileigna seg fordommar som er typiske for denne sektoren. Dersom private selskap oppdagar at forsvarscontraktar er meir motstandsdyktige mot boikott enn forbrukarpremium, vil dei lettare velja finansiell tryggleik framfor etiske avgrensingar. Mariarosaria Taddeo frå Oxford-universitetet påpeikar at utdrivinga av den mest varsame aktøren – Anthropic – svekker tryggleiken i heile økosystemet.
Det er eit godt tidspunkt å undersøkja kva vilkår selskap som tilbyr AI skriv inn i sine brukarvilkår. Definerer dei tydeleg kven dei samarbeider med? Erklærer dei grenser knytte til overvaking og militære applikasjonar? Marknadspress kan riktignok ikkje erstatta lovgjeving, men det syner selskapa at omdøme har vorte ein reell valuta. Ekspertar frå Center for American Progress skriv direkte at Pentagons strid med Anthropic og den påfølgjande kontrakten med OpenAI er eit signal til Kongressen om endeleg å ta fatt på regulering av militærets bruk av AI.
Spenningen mellom innovasjonshastigheit og stabilitet samt tryggleik vert stadig tydelegare. Generative modellar utviklar seg i eit svimmelheitsskapande tempo, men tilbøyelegheita deira til hallusinasjonar i militære, helsemessige eller finansielle applikasjonar kan ha dramatiske fylgjer. Grensa mellom «assistent» og «medavgjerdar» har byrja å verta utviskar – og det er nettopp no striden om kva side av denne linja kunstig intelligens bør stoppa ved, utfoldar seg.
