Mystisk Prosjekt Q* fra OpenAI skaper bekymring blant eksperter. Kan han virkelig være farlig for menneskeheten? Hva er kjent om ham? Etter at Sam Altman først ble sparket i forrige uke og han og teamet nesten flyttet til Microsoft, så kom han tilbake til arbeidsplassen sin (om det vi skrev her), OpenAI er i nyhetene igjen. Denne gangen på grunn av det noen forskere kaller en mulig trussel mot menneskeheten. Ja, du leste riktig, en trussel mot menneskeheten.
Den virkelige omveltningen i teknologiverdenen ble forårsaket av Project Q* - et ikke avslørt prosjekt for generell kunstig intelligens (AGI) - uttalt Q-Star. Selv om dette prosjektet er i sine tidlige stadier, anses det for å være virkelig banebrytende i AGI-utviklingen. Noen ser det imidlertid som en fare for menneskeheten.
Et hemmelig kunstig intelligensprosjekt utviklet av det berømte kunstig intelligenslaboratoriet OpenAI har potensial til å revolusjonere teknologi og samfunnet generelt. Men det reiser også noen etiske spørsmål om risikoen. Etter hvert som detaljer dukker opp om Project Q*s forbløffende evner, dukker det opp flere og flere spekulasjoner om hva det kan bety for menneskehetens fremtid.
Også interessant: Historien til OpenAI: Hva det var og hva som ligger foran selskapet
Hva er kunstig generell intelligens (AGI)?
For å forstå hypen rundt Project Q* (Q-Star), la oss først prøve å forstå hva konseptet med kunstig generell intelligens (AGI) handler om. Mens dagens systemer for kunstig intelligens utmerker seg med smale, spesifikke oppgaver som å spille sjakk eller generere bilder, refererer generell kunstig intelligens til maskiner som kan lære og tenke på et menneskelig nivå på mange områder. Det vil si at de kan studere som små barn på skolen, for eksempel det grunnleggende i matematikk, kjemi, biologi osv.
General Artificial Intelligence (AGI) er en type maskinintelligens som hypotetisk kan etterligne menneskelig intelligens eller atferd, med evnen til å lære og bruke dette potensialet til å løse en rekke problemer. AGI kalles også sterk kunstig intelligens, full kunstig intelligens eller kunstig intelligens på menneskelig nivå. Generell AI skiller seg fra svak eller smal AI, som bare er i stand til å utføre spesifikke eller spesialiserte oppgaver innenfor gitte parametere. ZHI vil selvstendig kunne løse ulike komplekse problemer fra ulike kunnskapsfelt.
Å skape kunstig intelligens er hovedfokuset for forskning på kunstig intelligens av selskaper som DeepMind og Anthropic. CSI er et veldig populært tema i science fiction-litteratur og kan forme fremtidig forskning. Noen hevder at det er mulig å opprette en UCI innen år eller tiår, mens andre hevder at det kan ta et århundre eller mer. Men det er de som tror at dette aldri vil bli oppnådd. Noen har sett begynnelsen på en URI i GPT-3, men den ser fortsatt ut til å være langt fra å oppfylle de grunnleggende kriteriene.
Opprettelsen av kunstig generell intelligens (AGI) anses av forskere som den hellige gral av kunstig intelligens, en teoretisk mulighet som lenge har fanget deres fantasi. Derfor forårsaket utseendet til et slikt prosjekt som OpenAI Project Q* en stor resonans i verden av kunstig intelligens-algoritmeforskning. Selv om alle forstår at dette bare er de første trinnene, nesten blindt, til en verden hvor kunstig intelligens vil ha samme evner som mennesker, eller enda høyere.
Også interessant: Alt om Microsoft Copilot: fremtiden eller feil vei?
Hva er Project Q*?
Prosjekt Q* er ikke en typisk algoritme fordi det er en kunstig intelligens-modell som i økende grad nærmer seg den kunstige generelle intelligens-modellen (AGI). Dette betyr at, i motsetning til ChatGPT, viser Project Q* bedre tenkning og kognitive ferdigheter sammenlignet med andre algoritmer. ChatGPT svarer for tiden på spørsmål basert på en enorm mengde faktamateriale, men med AGI vil AI-modellen lære resonnement og evnen til å tenke og forstå selv. Det er allerede kjent at Project Q* er i stand til å løse enkle matematiske problemer som ikke var en del av opplæringsmaterialet. I dette ser noen forskere et betydelig skritt mot etableringen av generell kunstig intelligens (AGI). OpenAI definerer AGI som kunstige intelligenssystemer som er smartere enn mennesker.
Utviklingen av Project Q* ledes av OpenAI-sjefforsker Ilya Sutzkever, og grunnlaget ble underbygget av forskerne Jakub Pakhotsky og Shimon Sidor.
Evnen til en algoritme til å løse matematiske problemer på egen hånd, selv om disse problemene ikke var en del av treningsdatasettet, regnes som et gjennombrudd innen kunstig intelligens. Uenigheter i teamet angående dette prosjektet er knyttet til den midlertidige fjerningen av OpenAI-sjefen Sam Altman. Det er kjent at før Altman fikk sparken, sendte en gruppe selskapsforskere et brev til styret hvor de advarte om oppdagelsen av AI som kan utgjøre en trussel mot menneskeheten. Dette brevet, som angivelig diskuterte Project Q*-algoritmen, ble sitert som en av faktorene som førte til Altmans spark. Men mulighetene til Project Q* og de potensielle risikoene det kan utgjøre er ikke fullt ut forstått fordi detaljene er ukjente. Ingenting har blitt gitt ut til allmennheten.
I kjernen er Project Q* en modellfri forsterkende læringsmetode som avviker fra tradisjonelle modeller ved å ikke kreve noen forkunnskaper om miljøet. I stedet lærer den gjennom erfaring, tilpasser handlinger basert på belønning og straff. Tekniske eksperter mener at Project Q* vil være i stand til å oppnå fremragende evner ved å tilegne seg evner som ligner på menneskelige kognitive evner.
Det er imidlertid denne funksjonen som er mest imponerende i den nye modellen for kunstig intelligens som bekymrer forskere og kritikere og øker deres frykt for virkelige anvendelser av teknologien og de underliggende risikoene som er involvert. Hva er forskere og forskere så redde for? La oss finne ut av det.
Også interessant: Slik oppdaterer du hjemmeenhetene dine for å støtte Wi-Fi 6
De er redde for det ukjente
Mennesker har alltid vært redde for det ukjente, det ukjente. Dette er den menneskelige essensen, et trekk ved vår karakter og livsstil.
Teknologiens verden lærte om Project Q* i november 2023 etter Reuters rapportert om et internt brev skrevet av bekymrede OpenAI-forskere. Innholdet i brevet var vagt, men det skal etter sigende seriøst analysere mulighetene til Project Q*. Som jeg nevnte ovenfor, er det til og med spekulasjoner om at det var dette brevet som utløste Sam Altmans oppsigelse.
Denne eksplosive oppdagelsen har gitt opphav til forskjellige hypoteser angående arten av prosjekt Q*. Forskere har antydet at dette kan være en revolusjonerende naturlig språkmodell for AI. En slags oppfinner av nye algoritmer som skal lage dem for andre former for AI, eller noe helt annet på dette feltet.
Altmans provoserende kommentarer om generell kunstig intelligens som den "gjennomsnittlige ansatt" har allerede reist bekymringer om jobbsikkerhet og den ustoppelige utvidelsen av AIs innflytelse. Denne mystiske algoritmen er definert som en milepæl i utviklingen av Artificial General Intelligence (AGI). Alle forstår imidlertid at denne milepælen er dyr. Og det handler ikke om penger nå. Nivået på kognitive ferdigheter som er lovet av den nye AI-modellen bærer med seg usikkerhet. OpenAI-forskere lover at AI vil tenke på menneskelig nivå. Og dette betyr at vi ikke kan vite mange ting og forutse konsekvensene. Og jo mer ukjent, jo vanskeligere er det å forberede seg på å kontrollere eller fikse det. Det vil si at den nye algoritmen er i stand til selvforbedring og utvikling. Vi har allerede sett dette et sted...
Også interessant: Windows 12: Hva blir det nye operativsystemet
Utrolige detaljer om Project Qs evner*
Da mer informasjon begynte å dukke opp, sjokkerte det mange forskere. Tidlige indikasjoner var at Project Q* hadde en fantastisk evne til matematikk. I motsetning til en kalkulator som utfører mekaniske beregninger, kan Project Q* visstnok bruke logikk og resonnement for å løse komplekse matematiske problemer. Denne matematiske evnen til å generalisere antyder utviklingen av en bred intelligens.
Autonom trening av Project Q*, uten de spesifikke datasettene som brukes til å trene typiske AI-er, vil også være et stort skritt fremover. Det er fortsatt ukjent om Project Q* har mestret noen andre ferdigheter. Men hans matematiske evner er så fantastiske i seg selv at de forvirrer selv erfarne forskere.
Les også: Human Brain Project: Et forsøk på å imitere den menneskelige hjernen
Project Q*s vei til dominans?
Det er både optimistiske og pessimistiske scenarier i denne saken. Optimister vil si at Project Q* kan være gnisten som fører til et teknologisk gjennombrudd. Ettersom systemet rekursivt forbedrer seg selv, kan dets overnaturlige intelligens bidra til å løse noen av menneskehetens viktigste problemer, fra klimaendringer til sykdomskontroll. Project Q* kan automatisere kjedelig arbeid og frigjøre fritiden vår til andre aktiviteter.
Selv om det er mange flere pessimistiske alternativer. Noen ganger er de ganske rimelige og har en viss betydning.
Tap av arbeidsplasser
Raske endringer i utviklingen av teknologi kan overgå den individuelle tilpasningen til mennesker. Dette vil føre til tap av en eller flere generasjoner som ikke vil være i stand til å tilegne seg nødvendige ferdigheter eller kunnskaper for å tilpasse seg nye realiteter. Det vil si at dette igjen betyr at færre får beholde jobben. Det vil i stedet bli utført av maskiner, automatiserte systemer og roboter. Svaret er imidlertid ikke så entydig når det gjelder kvalifiserte spesialister. I tillegg kan det dukke opp nye yrker spesielt knyttet til utviklingen av kunstig intelligens-algoritmer. Men det er fortsatt risiko, og menneskeheten har ingen rett til å ignorere dem.
Faren for ukontrollert kraft
Hvis en AI så kraftig som Project Q* faller i hendene på de med ondsinnede intensjoner, risikerer det katastrofale konsekvenser for menneskeheten. Selv uten potensielt ondsinnede hensikter, kan beslutningsnivået til Project Q* føre til skadelige utfall, noe som understreker den kritiske viktigheten av nøye evaluering av søknaden.
Hvis Project Q* er dårlig optimalisert for menneskelige behov, kan det forårsake skade med evnen til å maksimere noen vilkårlige beregninger. Eller det kan ha en politisk dimensjon, som å bli brukt til statlig overvåking eller undertrykkelse. En åpen debatt rundt konsekvensanalysen av Project Q* vil bidra til å definere mulige scenarier for utviklingen av ZHI.
Er vi inne for et "Man vs. Machine"-oppgjør?
Hollywood har allerede laget mange scenarier for en slik konfrontasjon i filmene sine. Vi husker alle det berømte SkyNet og konsekvensene av en slik oppdagelse. Kanskje OpenAI-forskere burde se denne filmen igjen?
Menneskeheten må akseptere signaler og utfordringer og være forberedt på hva som kan skje. En kunstig intelligensmodell som er i stand til å tenke som et menneske, kan en dag bli vår fiende. Mange vil hevde at i fremtiden vil forskere vite nøyaktig hvordan de skal holde situasjonen under kontroll. Men når det gjelder maskiner kan man ikke helt utelukke at de vil prøve å overta mennesker.
Også interessant: Ikke alt vi kaller AI er faktisk kunstig intelligens. Her er det du trenger å vite
Hvorfor er OpenAI stille?
Til tross for vanvidd av offentlig interesse for Project Q*, tier OpenAIs ledelse stille om detaljene til algoritmen. Men den interne lekkasjen viser økende spenninger i laboratoriet over prioriteringer og åpenhet i utviklingen. Mens mange OpenAI-innsidere støtter opprettelsen av Project Q*, hevder kritikere at åpenhet har tatt en baksete for å akselerere vitenskapelig fremgang for enhver pris. Og noen forskere er bekymret for at det gis utrolig kraft til systemer hvis mål ikke nødvendigvis sammenfaller med menneskelige verdier og etikk. Disse forskerne mener at debatter rundt tilsyn og ansvarlighet har blitt farlig dempet. De krever mer publisitet og detaljer.
Som skaperne av Project Q*, må OpenAI forstå at de har en teknologi som enten i stor grad kan utvide mulighetene for samfunnets utvikling, eller hensynsløst ødelegge den. Slike betydelige innovasjoner fortjener mye mer åpenhet for å bygge offentlig tillit. Eventuelle prognostatorer av maskinalderen må nøye veie risikoen ved siden av fordelene. Og utviklerne av Project Q* må vise nok visdom og omsorg for å trygt føre samfunnet inn i en ny æra med generell kunstig intelligens som kan komme raskere enn vi noen gang hadde forestilt oss.
For at generell kunstig intelligens skal være nyttig og trygg for menneskeheten, må det sikres at den fungerer trygt, etisk og i samsvar med menneskehetens verdier og mål. Dette krever utvikling og implementering av passende regulatoriske handlinger, standarder, regler og protokoller som vil kontrollere og begrense handlingene og oppførselen til CSI. I tillegg må de potensielle truslene og risikoene knyttet til overgrep, ulykker, inkompatibiliteter, manipulasjoner og konflikter som kan føre til ødeleggelse av menneskeheten elimineres. I mellomtiden investorer og Microsoft venter spent på et salgbart produkt som kan generere profitt, noe som utvilsomt er i konflikt med behovet for å handle ansvarlig. La oss håpe sunn fornuft seirer.
Les også: