Vi forbrugere deler ukritisk private oplysninger med AI
Som forbrugere bliver vi ofte mindet om vigtigheden af at beskytte vores personlige oplysninger – alligevel viser et nyt studie, at vi i højere grad foretrækker at dele vores data med en AI-chatbot fremfor et menneske.
Forbrugere foretrækker at dele deres private oplysninger med kunstig intelligens frem for mennesker. Det er hovedkonklusionen i et nyt forskningsstudie, der undersøger forbrugeres oplevelse af digitalt privatliv. Studiet – med titlen “Artificial Intelligence versus Human Service Agents: How Their Presence Shapes Consumer Information Privacy Concerns” – er udarbejdet af professor Stefanie Sohn fra Institut for Erhverv og Bæredygtighed i samarbejde med en række internationale forskere. Deres resultater peger bl.a. på, at mange forbrugere faktisk føler sig mere trygge ved at dele personlige oplysninger med en AI, dog sker dette ofte, uden at forbrugeren er klar over, at chatbotten er styret af AI.
En af forklaringerne på, hvorfor vi som forbrugere foretrækker at dele private oplysninger med en maskine frem for et menneske, er, at AI-agenter opfattes som mindre magtfulde. AI-serviceagenter forbindes ofte med lavere grad af menneskelighed, begrænset kompetence og mindre kontrol – og netop derfor tillægger vi AI-agenter mindre magt. Ifølge forskningen har dette stor betydning for, hvordan vi oplever risikoen ved at dele data: Jo mere magt vi tilskriver en serviceagent, desto større bliver vores bekymring for privatlivets fred. Magt forbindes her med kontrol, og når det handler om personlige oplysninger – som i stigende grad betragtes som en værdifuld ressource – føler forbrugerne sig mere trygge ved at interagere med en AI-chatbot. Forbrugerne oplever nemlig ikke, at en AI har et personligt incitament til at misbruge deres data, hvilket reducerer oplevelsen af risiko.
Studiet belyser også, hvordan forskellige scenarier påvirker vores tillid til AI-serviceagenter. Når forbrugeren er i ”præ-købsfasen” – altså før selve købet – opfattes agentens magt som en potentiel trussel, da forbrugeren ofte er bekymret for, hvad der vil ske med deres data. Derimod når købet er foretaget ses serviceagentens magt som et middel til at yde ekstra støtte og forbedre købsoplevelsen. Forbrugeren føler sig altså mere tryg ved at dele oplysninger med en AI efter et køb end før. Når købet er foretaget er forskellen i at dele data med en AI-agent fremfor et menneske også mindre udtalt.
Udover magt spiller troværdighed en central rolle, når vi beslutter, om vi vil dele vores personlige data med en serviceagent. Vi er mere tilbøjelige til at handle med dem, vi anser for at være troværdige – og samme princip gælder, når vi interagerer med en serviceagent. Hvis en agent opfattes som troværdig, kan selv en magtfuld agent vække færre bekymringer hos forbrugerne. Forskellen mellem AI- og menneskelige serviceagenter forsvinder dog, når forbrugerne bliver opmærksomme på agenternes troværdighed. Effekten kan endda vende, når forbrugerne bliver bevidste om den magt, AI-agenter har over mennesker. Når vi ved, hvad AI-agenter er i stand til, forbinder vi deres tilstedeværelse med en større indtrængen i privatlivet. Denne tendens kan ses på tværs af forskellige detailsektorer, uanset om vi handler på apoteket eller hos blomsterhandleren.
Studiet er udarbejdet af professor Stefanie Sohn, der har forsket i kunstig intelligens i en længere årrække. Den 26. april er der Forskningens Døgn, hvor hun vil dele indsigt om, hvordan digitale værktøjer ikke kun fungerer som praktiske hjælpemidler, men også som magtfulde aktører, der påvirker den måde, vi kommunikerer, handler og interagerer med verden omkring os. Fra personlige shopping-oplevelser til stemmestyrede smarte enheder og AI-drevet kundeservice, omdefinerer disse teknologier vores forbrugeradfærd, købsbeslutninger og forholdet mellem mennesker og kunstig intelligens. Ved Forskningens Døgn får du som forbruger mulighed for at lære, hvordan du bedst beskytter dine personlige data, når du handler online. Forskningens Døgn er en årlig begivenhed, hvor SDU inviterer familier og interesserede til at udforske den nyeste forskning på universitetet, og det er helt gratis at deltage i de mange aktiviteter for alle aldre.
Link til Forskningens Døgn
Magt spiller en rolle
En af forklaringerne på, hvorfor vi som forbrugere foretrækker at dele private oplysninger med en maskine frem for et menneske, er, at AI-agenter opfattes som mindre magtfulde. AI-serviceagenter forbindes ofte med lavere grad af menneskelighed, begrænset kompetence og mindre kontrol – og netop derfor tillægger vi AI-agenter mindre magt. Ifølge forskningen har dette stor betydning for, hvordan vi oplever risikoen ved at dele data: Jo mere magt vi tilskriver en serviceagent, desto større bliver vores bekymring for privatlivets fred. Magt forbindes her med kontrol, og når det handler om personlige oplysninger – som i stigende grad betragtes som en værdifuld ressource – føler forbrugerne sig mere trygge ved at interagere med en AI-chatbot. Forbrugerne oplever nemlig ikke, at en AI har et personligt incitament til at misbruge deres data, hvilket reducerer oplevelsen af risiko.Studiet belyser også, hvordan forskellige scenarier påvirker vores tillid til AI-serviceagenter. Når forbrugeren er i ”præ-købsfasen” – altså før selve købet – opfattes agentens magt som en potentiel trussel, da forbrugeren ofte er bekymret for, hvad der vil ske med deres data. Derimod når købet er foretaget ses serviceagentens magt som et middel til at yde ekstra støtte og forbedre købsoplevelsen. Forbrugeren føler sig altså mere tryg ved at dele oplysninger med en AI efter et køb end før. Når købet er foretaget er forskellen i at dele data med en AI-agent fremfor et menneske også mindre udtalt.
Forbrugernes manglende opfattelse
Udover magt spiller troværdighed en central rolle, når vi beslutter, om vi vil dele vores personlige data med en serviceagent. Vi er mere tilbøjelige til at handle med dem, vi anser for at være troværdige – og samme princip gælder, når vi interagerer med en serviceagent. Hvis en agent opfattes som troværdig, kan selv en magtfuld agent vække færre bekymringer hos forbrugerne. Forskellen mellem AI- og menneskelige serviceagenter forsvinder dog, når forbrugerne bliver opmærksomme på agenternes troværdighed. Effekten kan endda vende, når forbrugerne bliver bevidste om den magt, AI-agenter har over mennesker. Når vi ved, hvad AI-agenter er i stand til, forbinder vi deres tilstedeværelse med en større indtrængen i privatlivet. Denne tendens kan ses på tværs af forskellige detailsektorer, uanset om vi handler på apoteket eller hos blomsterhandleren.
Bevidst eller ubevidst adfærd over for AI-agenter
Studiet er udarbejdet af professor Stefanie Sohn, der har forsket i kunstig intelligens i en længere årrække. Den 26. april er der Forskningens Døgn, hvor hun vil dele indsigt om, hvordan digitale værktøjer ikke kun fungerer som praktiske hjælpemidler, men også som magtfulde aktører, der påvirker den måde, vi kommunikerer, handler og interagerer med verden omkring os. Fra personlige shopping-oplevelser til stemmestyrede smarte enheder og AI-drevet kundeservice, omdefinerer disse teknologier vores forbrugeradfærd, købsbeslutninger og forholdet mellem mennesker og kunstig intelligens. Ved Forskningens Døgn får du som forbruger mulighed for at lære, hvordan du bedst beskytter dine personlige data, når du handler online. Forskningens Døgn er en årlig begivenhed, hvor SDU inviterer familier og interesserede til at udforske den nyeste forskning på universitetet, og det er helt gratis at deltage i de mange aktiviteter for alle aldre. Link til Forskningens Døgn