DUBAI, De forente arabiske emirater — DUBAI, De forente arabiske emirater (AP) – Administrerende direktør for ChatGPT-produsenten OpenAI sa tirsdag at farene som holder ham våken om natten angående kunstig intelligens er de «veldig subtile samfunnsmessige feiljusteringene» som kan få systemene til å ødelegge.
Sam Altman, som talte på World Government Summit i Dubai via en videosamtale, gjentok sin oppfordring til å opprette et organ som Det internasjonale atomenergibyrået for å overvåke AI som sannsynligvis går raskere enn verden forventer.
«Det er noen ting der inne som er lett å forestille seg hvor ting virkelig går galt. Og jeg er ikke så interessert i morderrobotene som går på gaten når ting går galt,» sa Altman. «Jeg er mye mer interessert i de svært subtile samfunnsmessige feiljusteringene der vi bare har disse systemene ute i samfunnet og gjennom ingen spesielt dårlige hensikter, ting går bare fryktelig galt.»
Altman understreket imidlertid at AI-industrien, i likhet med OpenAI, ikke bør være i førersetet når det gjelder å lage forskrifter som styrer bransjen.
«Vi er fortsatt i en fasen av mye diskusjon. Så det er du vet, alle i verden har en konferanse. Alle har en idé, et policypapir, og det er OK,» sa Altman. «Jeg tror vi fortsatt er i en tid hvor debatt er nødvendig og sunn, men på et tidspunkt i løpet av de neste årene tror jeg vi må flytte på oss. mot en handlingsplan med reell buy-in over hele verden.»
OpenAI, en San Francisco-basert oppstart av kunstig intelligens, er en av lederne på feltet. Microsoft har investert milliarder av dollar i OpenAI. Associated Press har signert en avtale med OpenAI for å få tilgang til nyhetsarkivet. I mellomtiden har The New York Times saksøkt OpenAI og Microsoft for bruken av historiene deres uten tillatelse til å trene OpenAIs chatbots.
OpenAIs suksess har gjort Altman til det offentlige ansiktet for generativ AIs raske kommersialisering – og frykten for hva som kan komme fra den nye teknologien.
UAE, en autokratisk føderasjon av syv arvelig styrte sjeikdomer, har tegn på denne risikoen. Tale forblir tett kontrollert. Disse begrensningene påvirker flyten av nøyaktig informasjon – de samme detaljene AI-programmer som ChatGPT er avhengige av som maskinlæringssystemer for å gi brukerne svarene sine.
Emiratene har også Abu Dhabi-firmaet G42, overvåket av landets mektige nasjonale sikkerhetsrådgiver. G42 har det eksperter foreslår er verdens ledende arabiskspråklige kunstig intelligens-modell. Selskapet har møtt spionanklager for sine bånd til en mobilapp identifisert som spionvare. Den har også møtt påstander om at den kunne ha samlet genetisk materiale i hemmelighet fra amerikanere for den kinesiske regjeringen.
G42 har sagt at de vil kutte båndene til kinesiske leverandører på grunn av amerikanske bekymringer. Diskusjonen med Altman, moderert av UAEs statsminister for kunstig intelligens Omar al-Olama, berørte imidlertid ingen av de lokale bekymringene.
Altman sa på sin side at han var oppmuntret over å se at skoler, der lærere fryktet at elever ville bruke AI til å skrive oppgaver, nå omfavner teknologien som avgjørende for fremtiden. Men han la til at AI fortsatt er i sin spede begynnelse.
«Jeg tror grunnen er at den nåværende teknologien vi har er som … den aller første mobiltelefonen med en svart-hvitt-skjerm,» sa Altman. «Så gi oss litt tid. Men jeg vil si at jeg tror at om noen år til vil det være mye bedre enn det er nå. Og om et tiår burde det være ganske bemerkelsesverdig.»
