+ Tags
IDstory /The Conversation/

AI-förfalskade bilder kan lura vetenskapliga tidskrifter och undergräva forskningens trovärdighet

(2026.06) Anyone can fake a scientific image with AI, tricking even academic journals – and undermining trust in science

Referenser | Skribent | Kommentarer (0)

En bild av jorden väcker frågor om tillit

Månbild tagen av Apollo 8 2026
Denna bild av jorden tagen under Artemis II-uppdraget i april 2026 är helt verklig. Men tror alla på det?NASA

Ett fotografi av jorden som lyser i det djupa rymden, med månens kraterfyllda horisont som sträcker sig över förgrunden, fångade mångas uppmärksamhet i april 2026. Astronauter tog bilden ombord på NASA:s Artemis II-uppdrag, och likt den berömda Apollo 8-bilden “Earthrise” kändes den omedelbart verklig och inspirerande för många.

Från media- och forskarsajten The Conversation
Lista och Ämneskatalog ( 242 )
AI-relaterat Media Vetenskap och universitet

Men när nästan vem som helst kan skapa en visuellt liknande bild på några sekunder från en textprompt med hjälp av artificiell intelligens, hur avgör människor då vilken bild som är äkta?

Spridningen av AI-genererade vetenskapliga bilder i offentliga miljöer är inte bara ett problem med desinformation. Som forskare som studerar visuell vetenskapskommunikation och allmänhetens förtroende menar jag att det också bidrar till en förtroendekris för vetenskapen i AI-eran, och att de verktyg forskare länge har använt för att etablera visuell trovärdighet håller på att förlora sitt grepp.

AI-genererade bilder inom vetenskapen

AI-verktyg förändrar redan hur vetenskapliga visualiseringar skapas, delas och sprids.

Forskare använder dem för att generera illustrationer, skapa syntetiska data, redigera laboratoriebilder och producera material för utbildning och samhällsinformation.

Även om AI kan hjälpa forskare att kommunicera komplexa idéer mer kreativt och effektivt, suddar dessa verktyg samtidigt ut gränserna mellan illustration, förbättring och fabricering.

År 2024 drogs två artiklar tillbaka efter att ha publicerat AI-genererade figurer med biologiskt omöjliga strukturer. I april 2026 drog New England Journal of Medicine tillbaka en artikel efter att ha upptäckt att en klinisk bild hade manipulerats med AI. Dessa fall är bara de som fått bred offentlig uppmärksamhet och utgör sannolikt toppen av ett isberg. Forskare har varnat för att AI-genererade visualiseringar utgör växande hot inom områden som i hög grad bygger på visuell evidens, såsom materialvetenskap.

Akademiska förlag börjar nu införa verktyg för att upptäcka AI-genererat innehåll. Men system som är utformade för att identifiera falska bilder kommer nästan alltid att ligga efter systemen som skapar dem. Många detektorer kan endast känna igen bildmönster de tränats på. När nya AI-modeller utvecklas måste systemen ständigt uppdateras med ny data för att hinna ikapp.

Den största oron gäller realistiska bilder som subtilt förvränger vetenskapliga detaljer samtidigt som de förblir trovärdiga nog att passera en första granskning.

Tillit till vetenskapliga bilder

Under decennier har vetenskapliga bilder haft auktoritet delvis eftersom de var svåra att producera. Mikroskopbilder, klimatdiagram och rymdfotografier krävde dyr utrustning, institutionella resurser och specialiserad expertis. De flesta antog att sådana bilder representerade verkliga observationer eftersom få personer kunde skapa dem.

Forskning inom vetenskapskommunikation, inklusive min egen, tyder på att människor bedömer vetenskapliga bilder med hjälp av några mentala genvägar. Ser bilden tekniskt avancerad ut? Kommer den från en tillförlitlig institution? Stämmer den överens med vad jag redan tror? Generativ AI undergräver alla dessa tumregler.

I dag kan vem som helst skapa en polerad, vetenskapligt trovärdig bild från en textprompt. Bilder lossnar dessutom från sin ursprungliga källa när de sprids på nätet. När visuell kvalitet och institutionell avsändare inte längre är tillförlitliga indikatorer på trovärdighet, tenderar människor att förlita sig på något annat: sina egna förutfattade uppfattningar.

Som en följd kan autentiska vetenskapliga bilder som utmanar någons uppfattningar avfärdas som AI-genererade, medan fabricerade bilder som bekräftar dem lätt accepteras som bevis. På så sätt kan AI förstärka motiverat tänkande – människors tendens att acceptera det de redan håller med om och ifrågasätta det de inte gör.

Denna förändring är viktig eftersom bilder länge har fungerat som bevis för vetenskapliga påståenden. Icke-experter förlitar sig på bilder inte bara för att se vad forskare har upptäckt utan också för att skapa en känslomässig koppling och uppfatta trovärdighet i den presenterade vetenskapen.

Om publiken slutar lita på visuella bevis helt och hållet förlorar vetenskapen ett av sina mest kraftfulla verktyg för kommunikation.

Transparens, inte begränsning

AI-verktyg erbjuder verkliga fördelar för forskare som vill kommunicera sitt arbete till olika målgrupper. Utmaningen är att använda dessa verktyg utan att i tysthet överföra AI:s trovärdighetsunderskott till den vetenskap som bilderna är avsedda att förmedla.

En praktisk väg framåt är att forskare behandlar bilders ursprung – varifrån en bild kommer och hur den skapats – med samma noggrannhet som de redan tillämpar på data.

Forskare redovisar rutinmässigt finansiering, metodik och intressekonflikter. Liknande standarder kan nu behövas för vetenskapliga bilder. Användes AI för att skapa eller modifiera bilden? Är det en direkt observation, en simulering eller en illustration? Vad representerar bilden exakt, och hur har den verifierats? Kan den reproduceras av andra forskare?

En särskilt felaktig vetenskaplig bild av en råtta som publicerades i en tidskrift blev viral.

Mina kollegor och jag fann att människors förtrogenhet med AI i hög grad påverkar hur de bedömer trovärdigheten hos AI-genererade bilder. De som var bekanta med AI-verktyg var mer benägna att se AI-deklarationer som ett tecken på transparens, och vissa bedömde tydligt märkta AI-bilder som mer trovärdiga än omärkta.

Transparens ger publiken det sammanhang som krävs för att bedöma vad de ser, men löser inte alla tvister om hur bilder skapas. Ansvarsfull användning av AI-genererade vetenskapliga bilder kräver ärlighet, efterlevnad av professionella normer och en gemensam utveckling av evidensbaserade standarder inom olika fält.

Varför autentiska bilder fortfarande är viktiga

Den ursprungliga “Earthrise”-bilden från Apollo 8 år 1968 har stor emotionell påverkan. Detsamma gäller Artemis II-bilderna från 2026.

Det som gör dem meningsfulla är inte enbart deras skönhet. Det är deras spårbara koppling till vetenskaplig verklighet. När människor ser dessa bilder av planeter vet de också att det finns astronauter, fysiska kameror, dokumenterade uppdrag och verifierbara observationer bakom dem. I denna mening är autenticitet en dokumenterad relation mellan en bild och världen.

I den generativa AI:ns tidsålder kan vetenskapliga institutioner inte längre utgå från att publiken automatiskt litar på deras bilder. Förtroende beror nu på transparens, dokumentation och tydlig kommunikation om hur visuella bevis produceras.

Utan riktlinjer och standarder riskerar vetenskapen att hamna i en situation där varje bild kan ifrågasättas och ingen bild har inneboende trovärdighet.

Referenser

Skribent

Nan Li, Associate Professor of Science Communication, University of Wisconsin-Madison

The Conversation: 2026.06.22 Publicerades på BiBB: 2026.07.09



SMS:a en kommentar
genom att klicka här [ öppnar din app ] SMS:a en kommentar till 076 034 32 20 eller mejla.

Kategorier 25 The Conversation 242 2 flags

QR-code

Kommentarer - info

  1. Din kommentar // Namn, titel (Datum)


Vad skulle du vilja läsa om på BiBB? Hör av dig.



You know a lot, we may add a little®