Filosof om AI: ”Jeg er bekymret for mere kraftfuld teknologi, som vi ikke forstår”
De nye gennembrud inden for kunstig intelligens kommer så hurtigt, at det nogle gange kan være svært at følge med. Det fortæller filosof og lektor Rune Nyrup, der forsker i etiske problemstillinger med fokus på kunstig intelligens på Institut for Matematik. Men mange er heldigvis opmærksomme på udfordringerne, og det er "superpositivt", siger han.
Nytårsserie
I forbindelse med årsskiftet har Omnibus spurgt en række af AU's forskere på tværs af fakulteter, hvad der har været det mest bemærkelsesværdige, der er sket inden for deres felt i 2025. Og vi har talt med dem om håb og frygt, når de ser frem mod 2026.
I dette afsnit kan du møde Rune Nyrup, der er filosof og lektor ved Institut for Matematik, hvor han forsker i kunstig intelligens og etik.
Tidligere afsnit:
Kunstig intelligens er pludselig blevet en del af hverdagen og arbejdslivet for rigtig mange af os, og udviklingen inden for området ser på ingen måde ud til at bremse op. Filosof og lektor på Institut for Matematik, Rune Nyrup, underviser datalogistuderende i videnskabsteori og etik og forsker i etiske og erkendelsesteoretiske problemstillinger med fokus på kunstig intelligens. I dette afsnit af Omnibus’ nytårsserie kan du læse, hvad der har været det mest bemærkelsesværdige i et hæsblæsende år inden for hans felt.
Hvad er du optaget af lige nu?
”AI er et meget stort tema for tiden, og der foregår mange forskellige ting lige nu, som jeg interesserer mig for. Men det, jeg er mest optaget af, er det, som man kalder uigennemsigtighed eller uforklarlighed.
Når man har et meget komplekst AI-system, som er trænet på en masse data, og systemet har fundet mønstre i den data for derefter at indkode mønstrene i en model, kan det pludselig være rigtig svært for mennesker at forstå, hvordan den her model fungerer. Det bliver svært at vide, hvornår vi kan stole på systemerne, hvis vi ikke forstår, hvordan modellerne fungerer. Når vi ikke forstår, hvordan de virker, bliver det også svært at forudse, hvornår de virker, og hvornår de ikke virker.”
Hvad er det mest bemærkelsesværdige, der er sket inden for dit felt i år?
”Det er nok sprogmodellerne. Der er virkelig turbo på dem. Der er begyndt at komme nogle modeller, som er meget kraftfulde. Flere af mine kolleger i datalogi bruger nu sprogmodeller som kodepartnere. De får modellen til at lave udkast, og så retter de koden til bagefter. Og nogle af mine kolleger på Institut for Matematik, som interesserer sig for AI til matematik, begynder at se nogle modeller, som potentielt kan løse forskningsproblemer inden for matematikken, som matematikere ikke selv havde kunnet løse. Forudsigelsen er, at vi kommer til at få offentliggjort eksempler på det i løbet af næste år. En ting er at implementere AI på et lavt anvendelsesniveau for at automatisere nogle processer, som vi egentlig godt ved, hvordan man gør i hånden, så at sige. Noget andet er at have systemer, som kan løse problemer helt op på niveau af fundamental forskning, som vi ikke vidste, hvordan man løste før.
Så opstår der så et spørgsmål om, hvorvidt det kan underminere menneskelig forståelse. Hvis der findes algoritmer, som kan løse matematiske problemer på forskningsniveau, så kan de bestemt også løse den slags opgaver, som man bliver stillet, når man skal lære matematik. Så bliver det pludselig et spørgsmål om, hvordan vi lærer vores studerende, elever i gymnasiet og elever i folkeskolen at bruge AI, uden at det betyder, at de ikke kan noget selv. Der er virkelig mange undervisere, der klør sig i nakken, fordi de ikke ved, hvordan de skal løse den udfordring. Mig bekendt er der ikke nogen, der har formuleret, nogle specielt gode løsninger endnu.”
Hvad bekymrer dig mest, når du skuer frem mod 2026?
”Jeg er bekymret for, at der kommer endnu flere gennembrud. Det er virkelig, virkelig store beløb, der bliver investeret i den her teknologi. Det vil være overraskende, hvis de ikke gav noget afkast. Men jeg kunne godt bekymre mig for, at der pludselig sker en hel masse nye gennembrud, som vi slet ikke er begyndt at tænke over, fordi vi stadigvæk er ved at forholde os til den sidste generation af AI. Det er svært at sætte ord på, præcis hvad det skulle være for gennembrud, men jeg er bekymret for, at vi får mere og mere kraftfuld teknologi, som vi faktisk ikke forstår, og som vi ikke ved, hvordan vi skal integrere i vores samfund på en god måde. ”
Hvad giver dig anledning til håb og optimisme?
”Det er positivt, at der er rigtig mange mennesker, inden for de tekniske videnskaber og inden for teknologi, som er opmærksomme på de her udfordringer og bekymrer sig om dem. I videnskabshistorien har man nogle gange set eksempler på, at videnskabsfolk har vasket hænder og sagt; ”vi laver jo bare værktøjer, og så er det andre, der beslutter sig for, hvordan de skal bruges.” Det er i meget mindre grad tilfældet her. Der er store forskningsfelter inden for datalogi, der handler om, hvordan man designer AI på en sikker måde, som vi kan forstå. Jeg oplever det også i mit eget arbejde. Det er ikke altid tilfældet, at videnskabsfolk har lyst til at snakke med en pessimistisk filosof, men i det her tilfælde, vil de meget gerne tale og samarbejde med mig. Det er superpositivt.”