Ein auke på nesten 300 prosent i avinstallasjonar tvinga OpenAI til handling
Då det daglege talet på avinstallasjonar av ChatGPT-appen nærma seg ein auke på 300 prosent, skjøna leiinga i OpenAI at militærkontraktar kunne koste verksemda brukarlojaliteten. Endringane i kontrakten kom i løpet av berre nokre få dagar.
Heile AI-sektoren følgde med stor interesse kor raskt temaet om militær bruk av kunstig intelligens kunne vekke vanlege brukarar til sinne. OpenAI underteikna først ein kontrakt med det amerikanske forsvarsdepartementet – og måtte deretter i all hast revidere han, då statistikken over avinstallasjonar av ChatGPT skaut i vêret med nesten 300 prosent. Pentagon pressar samstundes verksemder til å gi dei flest mogleg høve, medan nokre av dei set harde etiske grenser.
Ekspertar frå Center for American Progress åtvarar om at private verksemder ikkje sjølve bør fastsetje dei etiske grensene for militær bruk av AI. Ifølgje forskarar frå Oxford-universitetet svekker det å utestengje dei mest varsame aktørane – som Anthropic – stryggleiken i heile økosystemet. Denne saka illustrerer kor skjør brukaranes tillit er når teknologiverksemder kjem i kontakt med militære strukturar.
For den vanlege brukaren er dette eit augneblink som viser om verksemdene bak ChatGPT, Claude eller andre AI-assistentar vel openleikens side – eller gir etter for presset frå militærkontraktar. Dei avgjerslene som i dag vert tekne i Washington og Silicon Valley, vil direkte påverke funksjonane i mobilappar om nokre få år.
Korleis Anthropic avviste Pentagon og hamna på ei svarteliste
Historia byrjar hjå Anthropic, skaparane av modellen Claude, som mottok eit liknande samarbeidstilbod frå Pentagon. Forsvarsdepartementet ønskte å integrere AI-en deira i system som i sanntid analyserer enorme datamengder – frå satellittbilete til etterretningsrapportar – for å framskunde avgjerdstakinga på slagmarka.
Anthropic sette likevel to svært harde etiske grenser. For det første måtte ikkje Claude støtte utviklinga av fullt autonome våpensystem – det vil seie system der maskinen sjølv tek avgjerder om maktbruk. For det andre måtte ikkje modellen medverke til masseovervaking av vanlege borgarar på amerikansk territorium.
Desse vilkåra viste seg å vere uakseptable sett frå militæret sitt perspektiv. Ifølgje medijekilder sette Donald Trump-administrasjonen Anthropic på ei svarteliste over einingar utan tilgang til offentlege kontraktar. Verksemda bygde seg eit rykte som «kompromisslaust etisk» – men mista ein potensielt innbringande marknad.
Situasjonen vert ytterlegare innfløkt av at Claude ifølgje medijekilder likevel til tider vert nytta i operasjonar knytte til spenningane mellom USA, Israel og Iran – trass i den formelle utestenginga frå anbod. Pentagon har ikkje kommentert desse opplysningane, noko som lèt ei rekkje spørsmål stå usvarte.
OpenAI underteiknar det Anthropic avviste
Då Anthropic seier nei, steg OpenAI til. Ein fredag vert ein kontrakt underteikna som i praksis fyller tomrommet etter konkurrenten. ChatGPT skal rettast mot forsvarsapplikasjonar, og detaljane i kontrakten er delvis haldne hemmelege.
Sam Altman, administrerande direktør i OpenAI, offentleggjer dagen etter ei fråsegn der han hevdar at dei forhandla beskyttingstiltaka visstnok er strengare enn dei Anthropic var viljuge til å akseptere. Denne utsegna skal forsvare verksemda, men framstår i mange sine auge som eit freistnad på å profittere på rivalens «prinsippfastleik».
Brukarreaksjonen er augneblikkeleg. Data frå Sensor Tower viser at det gjennomsnittlege daglege talet på avinstallasjonar av ChatGPT-appen stig med 295 prosent samanlikna med normalen. På sosiale medium dukkar det opp skuldingar om svik mot erklærte verdiar og sal til militærkontraktar.
- Anthropic avviste fullt autonome våpensystem
- Pentagon utestengde Anthropic frå offentlege anbod
- OpenAI underteikna kontrakten ein fredag
- Sam Altman hevda at vernet var strengare enn hjå Anthropic
- Avinstallasjonar av ChatGPT steig med 295 prosent
- Brukarar starta ein kampanje under emneknaggen CancelChatGPT
- Claude-appen nådde førsteplassen i App Store
- OpenAI lova endringar i kontrakten måndag
I løpet av nokre få dagar forvandle ChatGPT seg i mange sitt medvit frå eit symbol på «ansvarleg AI» til eit verkty knytt til det militære apparatet. Altman tek måndag på seg rolla som «den skuldige som vedkjenner seg det». Han erkjende offentleg at kommunikasjonen var hastverk og uforberedt, og at heile saka framstod reint opportunistisk. Samstundes kunngjorde han endringar i kontrakten med forsvarsdepartementet.
Kva OpenAI konkret lova å endre
Under press frå den offentlege meining og ein veksande boikott bygde OpenAI inn fleire svært konkrete føresegner i kontrakten. Dei viktigaste gjeld overvaking av amerikanske borgarar og etterretningstenestenes tilgang til modellane.
Eit eksplisitt forbod mot medviten bruk av OpenAI sine system til overvaking av innbyggjarar i USA er ei av dei viktigaste endringane. Verksemda blokkerer òg automatisk tilgang for etterretningsbyråar som NSA utan ei sjølvstendig og ope avtalt kontraktsendring. Ho erklærer dessutan at AI skal støtte analytikarar – ikkje erstatte mennesket i avgjerder om maktbruk.
Dette er ei delvis tilnærming til Anthropic sin tilgang, men skilnaden er tydeleg. Anthropic valde heller å gi avkall på kontraktar enn å etterkomme Pentagons krav. OpenAI vel vegen med å leggje til avgrensingar og oppretthalde samarbeidet.
Forskarar frå Oxford-universitetet åtvarar om at det å presse den mest varsame aktøren – Anthropic – ut av forhandlingane svekker stryggleiken i heile økosystemet. Mariarosaria Taddeo frå same universitet understrekar at private verksemder ikkje individuelt bør fastsetje etiske grenser, ettersom dei alltid vil vere under press frå profitt og marknadsdel.
Kvifor militæret er så interessert i kunstig intelligens
Bak denne historia ligg ein breiare visjon for moderne væpna styrkar. Plattformer skapte av mellom andre Palantir integrerer allereie data frå mange kjelder – sensorar, dronar, satellittar og etterretningsrapportar – og presenterer dei for kommandantar i form av ferdige tilrådingar.
Ifølgje representantar for bransjen gjer slike system det mogleg å analysere satellittbilete langt raskare, automatisk prioritere etterretningsrapportar og varsle tidleg om truslar før direkte angrep finn stad. Militærtenestemenn med ansvar for AI-prosjekt innanfor NATO understrekar at mennesket i dei gjeldande systema formelt alltid forblir i avgjerdsløkka.
Her oppstår likevel den sentrale speninga. Generativ AI er feilbarleg, lid av «hallusinasjonar» og kan produsere falsk informasjon med full overtyding. I sivile applikasjonar endar det i verste fall med eit pinleg chatsvar. På slagmarka ville det bety dauden til uskuldige menneske.
Jo meir avansert og «trygg» AI er, desto vanskelegare er det psykologisk å utfordre tilrådingane hennar – særleg under stress og tidspress. Ekspertar frå Center for American Progress åtvarar om at utan eit lovgjevingsrammeverk vil verksemder alltid velje finansiell tryggleik framfor etiske avgrensingar.
Claude veks, ChatGPT mistar brukarar
Mediabråket førte med seg ein augneblikkeleg marknadseffekt. Når brukarar slettar ChatGPT-appen, leitar mange av dei etter eit alternativ. Det naturlege valet viser seg å vere nettopp Claude – ein modell der produsenten gjekk i direkte konflikt med Pentagon.
Data frå App Store viser at Anthropic sin app laurdag sprang til førsteplassen på nedlastingslistene og heldt seg der minst til torsdag. Amerikanske medium skriv at Claude spring forbi ChatGPT i tal på nye installasjonar – noko som berre nokre veker tidlegare verka lite sannsynleg.
På nettet køyrer ein organisert pressekampanje mot OpenAI. Emneknaggerne CancelChatGPT og QuitGPT har vorte populære og oppmodar til permanent å forlate verksemdas produkt så lenge ho samarbeider med forsvarsdepartementet. Nokre aktivistgrupper ser dette som ein test på om brukarpress reelt kan endre åtferda til AI-gigantane.
OpenAI sin imagekrisa gav i praksis Anthropic ein gratis marknadsføringskampanje bygd på eitt einskilt slagord: «Vi gav ikkje etter.» Sosiale medium fyllest med historier frå folk som byter frå ChatGPT til Claude. Forskarar følgjer nøye kor raskt ei etisk avgjerd frå ei verksemd kan flytte heile marknaden.
Kvifor denne saka bør interessere sjølv vanlege brukarar
For den vanlege brukaren av ChatGPT eller Claude kan denne militæraffæren høyrast ut som noko svært fjernt. Likevel vil dei avgjerslene som i dag vert tekne i Washington og Silicon Valley, direkte påverke kva funksjonar mobilappar vil ha om nokre få år.
Dersom språkmodellar vert «oppfostra» på data frå militære operasjonar, kan dei verte betre på strategiske analysar – men dei kan òg tileigne seg dei fordomane som er typiske for den sektoren. Dersom private verksemder erfarer at forsvarskontraktar er meir motstandsdyktige mot boikott enn forbrukarabonnement, vil dei lettare velje finansiell tryggleik framfor etiske avgrensingar.
Det er eit godt tidspunkt å undersøkje kva vilkår verksemdene som tilbyr AI skriv inn i bruksvilkåra sine. Definerer dei tydeleg kven dei samarbeider med? Erklærer dei grenser for overvaking og militære applikasjonar? Marknadspress erstattar ikkje lovgjeving, men det viser verksemdene at omdøme har vorte ein reell valuta.
Vi ser stadig oftare speninga mellom innovasjonstempo og stabilitet og tryggleik. Generative modellar utviklar seg med svimleheitsframkallande fart, men tilbøyelegheita deira til hallusinasjonar i militære, medisinske eller finansielle applikasjonar kan få dramatiske konsekvensar. Grensa mellom «assistent» og «medavgjetar» byrjar å verte utviska – og nettopp no pågår striden om på kva side av den linja AI bør stanse.
