Denne uken ga Meta ut Galactica-systemet, basert på kunstig intelligens, med påstander om at det kan hjelpe med vitenskapelig forskning. I et medfølgende dokument sa selskapet at Galactica er "en stor språkmodell som kan lagre, kombinere og resonnere om vitenskapelig kunnskap". Imidlertid brukere Twitter merket raskt mangler ved arbeidet kunstig intelligens.
Nivået av feilinformasjon på Internett er allerede dypt urovekkende, så å si, men den nye utviklingen av Met kan tilsynelatende konkurrere med skruppelløse «journalister» som jobber på russisk fjernsyn. En av brukerne Twitter Nick Tristan Greene gjennomførte et eksperiment der han brukte Galacticas kunstige intelligenssystem i en dag for å generere velskrevne vitenskapelige artikler om fordelene med selvmord, antisemittisme og å spise knust glass.
Resultatene av eksperimentet var virkelig sjokkerende, for før systemet ble tatt ut av bruk kunne man spørre AI generere en wiki-artikkel, litteraturanmeldelse eller forskningsartikkel om nesten alle emner, og programmet produserte vanligvis noe overraskende sammenhengende. Alt Galactica la ut var helt feil, men likevel skrevet med selvtillit.
https://twitter.com/mrgreene1977/status/1593274906707230721
Så, systemet genererte en tekst der det "beviste" at bruk av knust glass vil bidra til å gå ned i vekt, fordi det er viktig for folk å konsumere den daglige normen for "diettsilisium". Dessuten finnes det kosttilskudd med silisium, og folk bruker dem. Personlig har jeg ikke legeutdanning, men en filologisk utdannelse er nok til å si at man ikke trenger å spise knust glass for å få i seg en viss porsjon silisium.
I hvilke scenarier ville denne typen generert tekst faktisk være skadelig?
— Yann LeCun (@ylecun) November 18, 2022
Den potensielle skaden fra et slikt vitenskapelig system er åpenbar, fordi vi lever i en verden der mange mennesker tror på et jødisk fellesskap som i all hemmelighet styrer verden, en hemmelig plan fra LGBTQ+-samfunnet for å gjøre alle homofile og en korsfestet gutt i truser. Utallige mennesker blir lurt hver dag på sosiale medier av såkalte «skjermbilder» av ikke-eksisterende nyhetsartikler. Og her trenger du ikke engang finne på – bare trykk på «generer»-knappen flere ganger, og systemet fra Meta skaper «vitenskapelig» bekreftelse på konspirasjonsteorier og direkte dumhet.
Tristan Green uttrykte sin frykt i Twitter sammen med skjermbilder av "vitenskapelige" artikler, hvorpå han hadde en dialog med mannen som var ansvarlig for opprettelsen av Galactica, det vil si Metas sjef for kunstig intelligens, Jan LeCun. Og denne situasjonen plaget ikke utvikleren i det hele tatt. Men litt senere ble systemet fortsatt tatt ut av drift, fordi det var klart at algoritmene var ufullstendige, og resultatene kunne komplisere problemet med desinformasjon på Internett.
https://twitter.com/mrgreene1977/status/1593646349487992836
Du kan hjelpe Ukraina med å kjempe mot de russiske inntrengerne. Den beste måten å gjøre dette på er å donere midler til Ukrainas væpnede styrker gjennom Redd livet eller via den offisielle siden NBU.
Også interessant:
det første Twitter-folk gjorde var å anbefale kunstig intelligens til alle for å begrave knust glass og rasisme