I AI-revolusjonen er det vanskelig å tro at vi er vitne til noe virkelig banebrytende. Og det handler ikke om politikk – det handler om matematikk. Problemet ligger i AI-hallusinasjoner.
Se for deg en verden der en kalkulator av og til sier 2+2=5. Eller hvor regnskapsprogramvare finner opp transaksjoner som aldri har skjedd. Høres absurd ut, ikke sant? Likevel er dette den typen verden vi går inn i med dagens AI-revolusjon.
Helt fra begynnelsen av den digitale æra var én ting sikkert - datamaskiner kunne krasje, skrivere kunne oppføre seg feil, og brukere kunne bli drevet gale av dødens blå skjermer. Men gjennom det hele ble de klarert til å gjøre én ting feilfritt: utføre beregninger. Dette grunnlaget for tillit, bygget over flere tiår, blir nå jevnlig erodert av det eksperter kaller AI-hallusinasjoner.
Datamaskinens historie begynte ikke med sosiale medier eller videospill, men med behovet for å utføre komplekse beregninger. Den første elektroniske datamaskinen for generell bruk, ENIAC, okkuperte et rom som målte 7 x 13 meter og inneholdt nesten 18,000 5,000 vakuumrør sammen med tusenvis av releer. Denne massive maskinen ble utviklet for å beregne artilleriavfyringstabeller og hjelpe til med arbeidet med hydrogenbomben. Den kunne utføre 350 addisjoner, 40 multiplikasjoner eller XNUMX divisjoner per sekund – raskere enn noe man kan tenke seg på den tiden.
Mer enn 75 år har gått siden den gang, og datamaskiner har gjennomgått en dramatisk transformasjon. Fra romstore giganter har de utviklet seg til enheter som er små nok til å passe i lommene våre. Til tross for alle de teknologiske revolusjonene, har deres kjerneformål forblitt det samme - datamaskiner er fremfor alt maskiner bygget for å beregne.
Les også: Teknoføydalisme – en ny form for verdensorden
Excel – matematikk du kan stole på
Et godt eksempel på denne kontinuiteten er Microsoft Excel – et program som i sin kjerne fortsatt er en avansert visuell kalkulator. I løpet av tiårene har Excel blitt en ryggrad i den globale økonomien, brukt av alle fra små bedrifter til multinasjonale selskaper, fra husholdningsbudsjettering til de komplekse økonomiske modellene i Wall Street. Selv om det har sine kritikere og begrensninger, har én ting holdt seg konsekvent: beregningene er pålitelige.
Selvfølgelig kan det også oppstå feil i Excel. Et vanlig eksempel er #VERDI! melding, som vises når vi prøver å utføre matematiske operasjoner på tekst i stedet for tall. Men - og dette er den viktigste forskjellen - slike feil har alltid klare, identifiserbare årsaker og enkle rettinger. Enda viktigere er at Excel aldri gjetter eller finner opp resultater. Formelen =SUM(A1:A10) vil alltid returnere den samme utgangen for den samme inngangen, enten du kjører den for første gang eller den tusende.
Denne deterministiske karakteren til tradisjonell programvare har forsterket vår tillit til datamaskiner i flere tiår. Vi kan ha klaget på brukergrensesnitt, ytelse eller kompatibilitet, men vi stilte aldri spørsmål ved den matematiske nøyaktigheten til resultatene.
Les også: Panamakanalen: Historie om dens konstruksjon og grunnlag for amerikanske krav
AI-hallusinasjoner – når matematikk begynner å fantasere
Og dette bringer oss til kjernespørsmålet i dagens kunstig intelligens-revolusjon. Moderne AI-modeller – spesielt store språkmodeller (LLM) – skiller seg fundamentalt fra tradisjonell programvare. I stedet for å utføre spesifikke, deterministiske operasjoner, er de designet for å gjenkjenne mønstre i massive datasett og generere plausible svar basert på disse mønstrene.
Dette grunnleggende skiftet i arkitektur fører til det eksperter kaller AI-hallusinasjoner – tilfeller der AI-modeller genererer informasjon som ser ut til å være ekte, men som er helt feil eller frakoblet virkeligheten. Viktigere er at disse hallusinasjonene ikke er tilfeldige feil; de er et resultat av selve naturen til disse systemene – det komplekse samspillet mellom treningsdata, modellkonstruksjon og måten modellen tolker spørringer på.
Det mest bekymringsfulle aspektet er at AI-hallusinasjoner ofte vises med samme grad av selvtillit som faktainformasjon. En modell kan trygt si at Kiev er hovedstaden i Ukraina (noe som er sant) og at det var vertskap for sommer-OL 1995 (som er helt oppdiktet). For brukeren, spesielt en ikke-ekspert, kan det være ekstremt vanskelig å skille fakta fra hallusinasjon.
Les også: Use It or Lose It: How AI is Changing Human Thinking
Omfanget av hallusinasjonsproblemet
Selv om det er vanskelig å etablere eksakt statistikk over frekvensen av AI-hallusinasjoner, er eksperter enige om at dette er et utbredt problem som påvirker alle store språkmodeller. Systemer som er mest utsatt for hallusinasjoner, er de som mangler effektive informasjonsverifiseringsmekanismer, er avhengige av utdaterte data og ikke klarer å tolke konteksten til spørringene på riktig måte.
Årsakene til hallusinasjoner er komplekse og flerlags. Blant hovedfaktorene peker eksperter på:
-
Ufullkommenhet i treningsdata: Hvis dataene som brukes til å trene modellen inneholder feil, unøyaktigheter eller motstridende informasjon, kan modellen replikere disse problemene eller generere nytt, falskt innhold.
- Overtilpasning av modellen: Dette skjer når algoritmen tilpasser seg for tett til treningsdatasettet, og mister evnen til å generalisere og korrekt identifisere nye mønstre.
- Feilaktige forutsetninger i modelldesign: Hvis AI-utviklere baserer designen sin på feilaktige forutsetninger, kan modellen konsekvent generere hallusinasjoner.
Spesifikke eksempler på AI-systemer, spesielt utsatt for hallusinasjoner, inkluderer kinesiske løsninger som Qwen og DeepSeek. Til tross for deres teknologiske fremskritt, står disse modellene fortsatt overfor dette problemet. De genererer ofte informasjon som virker plausibel, men som faktisk er falsk eller ikke er på linje med virkeligheten, spesielt i sammenhenger der dataene kan være ufullstendige eller motstridende.
Les også: Alt om Microsoft'S Majorana 1 Kvanteprosessor: Gjennombrudd eller evolusjon?
Problemet med tillit – 98 % er fortsatt ikke nok
Og her kommer vi til det grunnleggende spørsmålet om tillit. I tradisjonell programvare var feil unntak, ikke regelen. Når det gjelder kunstig intelligens, er hallusinasjoner en iboende del av systemets drift. Selv om en modell genererer nøyaktig informasjon 98 % av tiden, er de resterende 2 % et alvorlig problem.
Tenk deg å bruke en kalkulator som gir riktig resultat 98 % av tiden, men i 2 % av tilfellene gir den feil svar. Ville vi stole på en slik enhet for oppgaver som å beregne skatter, utvikle medisin eller designe en bro? Svaret er klart.
Spørsmålet om AI-hallusinasjoner er spesielt kritisk på felt som krever fullstendig nøyaktighet og faktisk korrekthet, som medisin, juss, finans og ingeniørfag. I disse områdene kan selv den minste sjanse for feil føre til katastrofale konsekvenser.
Les også: Tektoniske endringer i AI: Is Microsoft Spill på DeepSeek?
Excel vs. kunstig intelligens: beregning vs. konfabulering
I Excel, når en feil som #VALUE! vises, viser programmet tydelig at noe gikk galt. Den prøver ikke å gjette resultatet eller skjule problemet. Dessuten er det spesifikke anbefalinger om hvordan du kan løse slike feil - for eksempel å sikre at alle verdier i en matematisk formel er tall, ikke tekst.
På den annen side, når det gjelder AI-systemer, når modellen ikke vet svaret, genererer den ofte en overbevisende, men falsk respons i stedet for å erkjenne mangelen på kunnskap. Det verste er at brukeren kanskje ikke engang innser at informasjonen som gis er en hallusinasjon.
Ifølge Salesforcesin rapport om tilstanden til data og analyser er 9 av 10 (nesten 87 %) analytikere og IT-ledere enige om at fremgang innen kunstig intelligens har gitt datahåndtering en høyere prioritet. Den samme rapporten fremhever imidlertid respondentenes usikkerhet om nøyaktigheten av data og bekymringer angående datasikkerhet i sammenheng med AI.
Les også: Hvordan Taiwan, Kina og USA kjemper for teknologisk dominans: den store brikkekrigen
Tilhengere av kunstig intelligens hevder at spørsmålet om hallusinasjoner kan løses gjennom informasjonsverifisering. Faktisk er faktasjekking og validering av utdataene til AI-systemer i ferd med å bli viktig praksis i enhver organisasjon som bruker disse teknologiene. Problemet er imidlertid at behovet for verifikasjon reduserer verdien av disse systemene betydelig.
Se for deg denne situasjonen – vi ber en AI-assistent skrive en rapport om elbilmarkedet. Systemet genererer et 20-siders dokument fylt med statistikk, trender og prognoser. Dokumentet ser profesjonelt ut og inneholder overbevisende argumenter. Problemet er at vi ikke vet hvilke deler av informasjonen som er nøyaktig og hvilke som var et resultat av AI-hallusinasjoner. For å fastslå dette, må vi verifisere hver statistikk, hver påstand, hvert faktum. Dette betyr faktisk at vi gjør jobben som AI-systemet skulle gjøre for oss.
Dette er det grunnleggende paradokset i den nåværende AI-revolusjonen – systemer som skulle spare oss tid krever ofte ekstra arbeid for å verifisere resultatene. Ved bruk av tradisjonell programvare, som Excel, kan vi ganske enkelt stole på beregningsresultatene og fokusere på å tolke dataene.
Les også: Alt om USB-standarder og spesifikasjoner
Den matematisk ufullkomne verden av AI
Mangelen på tillit til AI-systemer er ikke et spørsmål om teknofobi eller motstand mot endringer. Det er et rasjonelt svar på et grunnleggende skifte i forholdet mellom mennesker og datamaskiner. I flere tiår har vi bygget relasjoner basert på den deterministiske påliteligheten til datamaskiner. Nå går vi inn i en æra med sannsynlighetsmodeller som av natur ikke kan garantere samme grad av pålitelighet.
Den kanskje mest nøyaktige måten å beskrive dette på er gjennom analogien til menneskelig kommunikasjon. Tradisjonell programvare er som et leksikon – den kan være ufullstendig eller inneholde utdatert informasjon, men det som er inkludert kan anses som bevist. AI, på den annen side, ligner en samtale med en person som besitter imponerende, men ufullkommen kunnskap – noen ganger gjør de feil, noen ganger blir de forvirret, og noen ganger forvrider de fakta.
Denne analogien, i sammenheng med datamaskiner, betyr en grunnleggende regresjon når det gjelder pålitelighet. Vi har alltid forventet mer nøyaktighet fra maskiner enn fra mennesker. Nå, paradoksalt nok, ser vi at vi trenger å bekrefte AI-genererte resultater med samme forsiktighet som vi ville brukt på informasjon fra en ukjent person.
Les også: Hva er DeepSeek og hvorfor snakker alle om det?
På jakt etter matematisk pålitelighet
Betyr dette at vi helt bør forlate kunstig intelligens? Absolutt ikke. AI-systemer har et enormt potensial på ulike felt – fra å generere kreativt innhold til å analysere enorme datasett. Problemet ligger i det faktum at vi må lære en ny tilnærming til å jobbe med disse systemene, en som erkjenner deres grunnleggende begrensninger.
For tiden pågår intensiv forskning for å redusere AI-hallusinasjoner. Foreslåtte løsninger inkluderer forbedring av kvaliteten på treningsdata (jo bedre data, desto lavere er sannsynligheten for hallusinasjoner), utvikling av mer transparente treningsmetoder (modeller som er forståelige og forklarlige er mindre sannsynlige for å generere falsk informasjon), og fremme faktasjekkingsmekanismer (systemer som automatisk verifiserer generert innhold mot autoritative kilder).
Les også: Biomimicry: How Nature Inspires Engineers to Innovation
Ny etikk for digital virkelighet
Den nåværende revolusjonen innen kunstig intelligens krever ikke bare nye verktøy og metoder, men også et nytt digitalt etikkrammeverk. Vi må revurdere hva tillit mellom mennesker og maskiner betyr, grensene for ansvar for AI-induserte feil, og hvordan vi kan beskytte oss mot feilinformasjon i en verden der grensen mellom fakta og fiksjon blir stadig mer utydelig.
Ifølge en Salesforce rapport som utforsker datatillit i AI-alderen, sikkerhetsrisikoer og mangel på dataharmonisering hindrer påliteligheten. Derfor anser selskaper som bruker AI-baserte data for kritiske beslutninger datasikkerhetstrusler som deres største bekymring.
Dette er spesielt viktig i sammenheng med såkalt generativ kunstig intelligens, som medfører ytterligere risiko for at bedriftsdata lekker inn i offentlige store språkmodeller.
Les også: 10 eksempler på den merkeligste bruken av AI
I stedet for tusen ord...
Jeg mistroer ikke den nåværende AI-revolusjonen fordi jeg ikke ser dens potensiale, men fordi jeg forstår dens grunnleggende begrensninger. I flere tiår har vi bygget vår digitale sivilisasjon på grunnlaget for pålitelige beregninger – fra de tidligste mekaniske kalkulatorene, gjennom den monumentale ENIAC, til de allestedsnærværende regnearkene. Denne matematiske vissheten har vært hjørnesteinen i fremskritt på tvers av utallige livsfelt.
Den nåværende bølgen av kunstig intelligens fører oss inn i en probabilistisk verden, hvor 98% sikkerhet er den nye normen. Selv om dette kan være tilstrekkelig for mange applikasjoner, kreves det mye høyere standarder på kritiske områder som helsevesen, finans og sikkerhet.
Den virkelige utfordringen ligger altså i å utnytte potensialet til kunstig intelligens uten å miste den matematiske sikkerheten som har vært grunnlaget for vår tillit til teknologi i flere tiår. Mens datamaskiner nå kan snakke, lage bilder og skrive poesi, forblir deres mest avgjørende funksjon feilfri beregning – den samme funksjonen de utførte da de en gang fylte hele rom og ble drevet av team av forskere i laboratoriefrakker. For i en verden hvor det blir stadig vanskeligere å skille fakta fra fiksjon, er matematisk sikkerhet mer verdifull enn noen gang.
Les også:
