Vem ska ha makten över AI-genererad forskning?

När artificiell intelligens (AI) gör sitt intåg inom forskningen kan den vetenskapliga diskursen snart styras av stora teknikgiganter som tar kontrollen över framtidens ”metavetenskap”. Det är på tiden att vi säkerställer forskningens hemvist i det offentliga rummet.

Intåget av de stora språkmodellerna inom AI har fångat allmänhetens intresse på ett alldeles särskilt sätt: Från hotet om den intelligente roboten som kommer att förgöra mänskligheten till drömmen om den ultimata frigörelsen från allt tråkigt arbete. Investeringarna i utvecklingen av alltmer avancerade AI-modeller från de stora teknikbolagen är hisnande. Bara Microsoft allena investerade 13 miljarder US dollar i OpenAI och sägs vilja avsätta 56 procent av sina utgifter framöver i utvecklingen av AI. Ett fåtal bolag kommer fullständigt att dominera AI. På vilket sätt det kommer att påverka vetenskapens framtid har inte uppmärksammats mycket.

Forskningen har alltid använt sig av den senaste utvecklingen inom datatekniken. Välkända problem har kunnat lösas med hjälp av maskininlärning, till exempel hur proteiner hittar sin mest förmånliga inre struktur (proteinveckning). Men vad händer när avancerade AI-system tillägnar sig hela den vetenskapliga litteraturen och kunskapen inom ett område som medicin? Här kan en enskild plattform utvecklas till en ”intelligent” kunskapsbärare med ett vetande som är onåbart för det vetenskapliga samfundet. Att en sådan plattform kan ta fram nya medicinska behandlingar som till och med skulle kunna patenteras är lätt att inse.

En stor del av den vetenskapliga utvecklingen sker i små steg, vilket innebär att ackumulerad tidigare kunskap banar väg för framtida utveckling. Samtidigt är den enorma ackumuleringen av vetenskaplig kunskap idag av sådan omfattning att enskilda forskare omöjligen kan hålla sig uppdaterade ens inom sina egna områden. Avancerade språkmodeller och AI-stödd analys av vetenskapliga data och kunskap kommer att vara till stor hjälp för enskilda forskare och forskargrupper.

Som nyligen rapporterades i Nature används det redan av många forskare för litteratursökningar. Att skriva sammanfattningar till sin artikel kan ombesörjas lättare med AI. Översiktsartiklar skrivs i framtiden inte längre av enskilda forskare eller grupper – AI­-generade texter kommer kunna ge bättre sammanställningar. Och AI-stödda algoritmer kan lösa specifika problem som hittills varit utom räckhåll för forskarna. De som utvärderar forskningen eller arbetar som granskare kommer också att få nya verktyg för att bedöma ansökningar och värdet av publikationer.

Idag finns de mest avancerade AI-systemen i händerna på ett fåtal aktörer.

När hela vetenskapsområden så enkelt kan sammanställas, bearbetas och lagras blir frågan vem som kommer att äga denna nya ”metavetenskap” och ”metakunskap”. Och vem kommer att kunna skörda frukterna? Det kan bli ett fåtal bolag – om vi inte säkerställer att den kunskap som samhället har skapat över århundraden också i framtiden kommer hela samhället tillgodo.

Idag finns de mest avancerade AI-systemen i händerna på ett fåtal aktörer. De kan göra anspråk på att äga all samlad kunskap, denna "metavetenskap", och därmed vetenskapen om hur vetenskap bedrivs med hjälp av AI.

Med tanke på att mycket forskning nu publiceras med öppen tillgång finns det få hinder för att tränga in och samla in relevant information för att skapa AI-baserad metakunskap. Även om många forskningspublikationer skyddas av upphovsrätt kommer det inte att vara svårt att antingen kringgå den eller få tillgång till informationen på olika sätt. Det kan till och med bli omöjligt att direkt spåra källorna till AI-genererad ny kunskap, vilket gör begreppet upphovsrätt i viss mån föråldrat.

Och i praktiken kommer tillgången till vetenskaplig litteratur aldrig att vara en fråga om upphovsrätt utan snarare om teknisk kapacitet – programvaruverktyg, databaser och analys. Här har stora utvecklare som Microsoft och Apple, med sina enorma FoU-budgetar och globala marknadsdominans, ett försprång.

Vi står på randen till skapandet av vetenskapliga superkrafter som ägs av ett, två eller tre företag.

Vi kan vara säkra på att metakunskap och metavetenskap kommer att växa fram i de privatutvecklade AI-plattformarnas fotspår. Steg för steg penetrerar dessa plattformar medicin, materialvetenskap och så småningom hela den naturvetenskapliga och humanistiska världen. Vi står på randen till skapandet av vetenskapliga superkrafter som ägs av ett, två eller tre företag, och möjligen också några regeringar.

Vad bör göras?

EU-kommissionen för forskning offentliggjorde planer på en enhet som ska hantera frågor om AI inom vetenskapen, men detaljerna är ännu inte offentliga. EU är kanske den enda globala aktör som kan se till att vetenskapen förblir inom allmänhetens domän och också framledes bidrar till nytta för mänskligheten. Detta behöver ske i samverkan med nationella organ för forskning, såsom Vetenskapsrådet i Sverige.

Vi som är forskare behöver aktivt engagera oss i diskussionen kring framtida riktlinjer. Akademierna har ett ansvar. Det finns en uppsjö av policyfrågor som måste redas ut så snart som möjligt:
Hur vi ska behandla översiktsartiklar som är skrivna av AI – vem ska agera som granskare – AI? Och tappar vi förmågan att själva skapa översikt över forskningen när de bästa artiklarna inte längre skrivs av oss forskare?

Vi behöver framförallt lyfta blicken bortom användandet av AI för vår egen forskning, till AI:s inflytande på vetenskapens framtid. Och i denna fråga ligger vem som har makten över dess användning.

Enligt min mening är några få riktlinjer avgörande för att skydda både AI-drivna vetenskapliga framsteg och för att garantera att de kommer alla medborgare till godo:

1. Initiera en oberoende plattform med uppgift att utveckla metakunskap och metavetenskap.
2. Se till att plattformens tjänster är öppna för forskarsamhället och allmänheten i stort, och verka för öppen vetenskap och öppen innovation.
3. Skapa ett regelverk för hur privata aktörer kan få tillgång till och använda sig av vetenskaplig litteratur.

Ramon Wyss
Professor emeritus i teoretisk kärnfysik på KTH och var under många år vicerektor med ansvar för internationella frågor

En sammanställning av OECD över AI:s betydelse för den vetenskapliga utvecklingen: Artificial Intelligence in Science: Challenges, Opportunities and the Future of Research, OECD (engelska) Länk till annan webbplats.

Artifical-intelligence search wrangles literature (Nature), pdf (engelska) Länk till annan webbplats.