I det minste etter min erfaring har verktøy for kunstig intelligens (AI) vist seg å være svært nyttige mange ganger, spesielt når du trenger å få informasjon raskt. Imidlertid er det fortsatt situasjoner der AI viser seg å være ganske dum og ikke tenker logisk. For eksempel har AI-oppsummeringsverktøyet Search Generative Experience (SGE) foreslått at brukere spiser steiner, fester ost på pizza, får en gravid kvinne til å røyke sigaretter og andre rariteter.
I begynnelsen av dette året introduserte Google SGE-verktøyet, som genererer sammendrag av et spesifikt emne, blogginnlegg eller artikkel ved hjelp av AI. Men i det siste har de tatt ganske feil. Et slikt eksempel er et sammendrag av en artikkel fra The Onion, som hevder: «Ifølge Berkeley-geologer bør mennesker spise minst en liten stein om dagen.» Den fortsetter med å forklare at steiner er en viktig kilde til mineraler og vitaminer, og at hvis du har problemer med å spise en porsjon grus, småstein til hvert måltid, kan de blandes inn og gjemmes i is eller peanøttsmør.
I andre sammendrag uttalte SGE-verktøyet at en gravid kvinne kunne røyke to til tre sigaretter om dagen. På den annen side et «verdifullt» tips for pizzaelskere – glir osten av, er det bare å feste den til pizzaen med giftfritt lim. MI fikk sannsynligvis inspirasjonen til dette forslaget fra en spøkkommentar på Reddit.
Google har i mellomtiden forsøkt å rettferdiggjøre ytelsen til AI-verktøyet sitt, og sa at disse anbefalingene er basert på uvanlige spørsmål og ikke gjenspeiler opplevelsen til folk flest. Understreket at «de fleste MI-abstrakter gir informasjon av høy kvalitet». På den annen side brukes de ikke så vellykkede eksemplene for å forbedre løsningen.
Samtidig er den største bekymringen ikke hvor morsomme disse AI-genererte svarene kan være, men risikoen for å spre feilinformasjon. I noen tilfeller kan det være svært vanskelig å skille usann fra sannhet. Derfor bør du fortsatt ikke stole blindt på informasjonen MI gir, og du bør nok en gang sjekke sannheten til svaret.
