SDU Business School får international opmærksomhed

Lektor Anna Schneider-Kamp fra SDU Business School er både glad og lidt stolt i disse dage. Sammen med et internationalt forskerteam, der bl.a. inkluderer kolleger fra nogle af de højest rangerede universiteter i verden, Harvard og MIT, har hun fået resultaterne af sit seneste forskningsprojekt i digital sundhed publiceret i The Lancet, som er det absolut førende medie indenfor sundhedsforskning.

Vi er mange der flere gange dagligt tjekker digitale sundhedsapps, der tjekker kroppens tilstand her og nu. Der er store forventninger til at sundhedsteknologier kan bidrage til at løse udfordringerne omkring ulighed i sundhed, fordi de gør sundhedsviden langt mere tilgængelig for alle. Men forskningsprojektet har afdækket, at de måske slet ikke bidrager til mere lighed i sundhed – måske endda tværtimod! Så det er forskning, der vedkommer rigtig mange mennesker.
Fra ledelsen på SDU Business School er der stor tilfredshed over den internationale forskning som Anna Schneider-Kamp er en del af.

Hvis sundhed?

Forskerne har undersøgt algoritmerne bag de diagnoser, som sundhedsteknologierne når frem til. De er fortrinsvis baseret på AI, og det er tit her problemet ligger: AI er selvfølgelig ikke klogere end de data, den bliver fodret med, og ifølge forskerteamet er datagrundlaget i sundhedsapps stærkt præget af vestlige, Eurocentriske forståelser og synsvinkler, som overser andre kulturers tilgang til sundhed.

De algoritmer, der bruges til at diagnosticere hudens tilstand, er fx fortrinsvis trænet på lys hud, hvilket kan føre til fejldiagnoser hos mennesker med mørkere hud. Da det er algoritmerne, der danner grundlag for den behandling, som leverer data til næste generation af algoritmiske modeller, er der etableret et skævvredet loop, som kan medvirke til at forstærke den kulturelle ulighed i sundhed. Den slags bias i teknologiernes algoritmer kan i nogle tilfælde volde skade på de befolkningsgrupper, der er underrepræsenterede i datagrundlaget.

Sundhed og sygdom er også kultur

Det omtalte bidrag til sundhedsforskningen, som er publiceret i The Lancet, peger på konkrete forslag til, hvordan udviklingen af sundhedsteknologier kan forbedres gennem en dybere indsigt i de mennesker, der bruger dem og en bredere forståelse af, hvad sundhed er. 

Ifølge forskerne skal der kulturel og ikke kun medicinsk indsigt til, for at sikre mere lighed i sundhed, og de LHS (Learning Health System) modeller, som har ligget til grund for udviklingen af sundhedsapps skal ses nøje efter i sømmene. 

- Vores forskning viser, hvor vigtigt det er at gentænke og omdefinere forskningens og innovationens tilgange og grundlæggende antagelser for at skabe et mere retfærdigt og inkluderende grundlag for sundhed og trivsel, udtaler Anna Schneider-Kamp.

Den kulturelle bias, der præger AI algoritmerne medfører nemlig, at sundhedsteknologierne kommer til at viderekolportere fordomme og antagelser om sundhed og trivsel, om hvad der er en ”normal” krop og hvilke typer af viden, der er legitim. De ”overser”, at der i virkeligheden eksisterer mange forskellige opfattelser af sundhed og trivsel.

Hvem har magten?

Når det kommer til selve udformningen af teknologierne, er det techfirmaer, investorer og forskningsinstitutioner, der sidder omkring bordet. Det er dem, der bestemmer hvilke problemer, der er vigtige og hvis viden, der er legitim. Marginaliserede samfund bliver typisk slet ikke spurgt i forbindelse med udviklingen af sundhedsteknologier – og hvis de gør, så er de vigtige beslutninger som regel allerede truffet.

Udviklerne undersøger normalt ikke de bredere sociale og historiske kontekster, som er med til at forme folks sundhed og velbefindende, og derfor kan deres teknologi forårsage utilsigtet skade. Formodninger og fordomme omkring de mere marginaliserede samfund spænder ofte ben for, at der bliver udviklet teknologier, der retter sig præcist mod deres sundhed og trivsel. Og dét er i den grad med til at fastholde ulighed i sundhed. Projektets resultater viser også klart, at det som investorer og tech-udviklere ønsker sig af en sundhedsteknologi - fx teknologiske fremskridt og profit - ikke nødvendigvis er det, der står øverst på ønskesedlen hos dem, der skal bruge teknologien.

Men hvis sociale og kulturelle aspekter som disse bliver integreret i udviklingen af sundhedsteknologier, kan det virkelig bidrage til at skabe mere lighed i sundhed, mener forskerholdet:
- For at få det til at ske skal vi dog have en alvorlig samtale med investorer og udviklere, før der bliver skrevet så meget som èn linje i en kode!.