Det er algoritmer, der fodrer vores hjerner på sociale medier. Algoritmer
styrer også aktiemarkederne og træffer beslutninger om, hvilken behandling
vi skal tilbydes på hospitalerne. Snart er de også med til at beslutte
hvilke produkter, der udvikles.
– Der er sat et algoritme-kapløb i gang. Alle store virksomheder taler om
det. Jeg siger, at om fem år vil store virksomheders beslutninger
vedrørende innovation og investeringer være støttet af algoritmer og
kunstig intelligens, siger professor Alf Rehn fra Institut for Teknologi og
Innovation.
Han er med i projektet ’Algoritmer, Data og Demokrati’, hvor forskere har
modtaget 100 millioner kroner fra VILLUM FONDEN og VELUX FONDEN til at
undersøge, hvordan kunstig intelligens påvirker demokratiet.
- System.Web.HttpUnhandledException (0x80004005): An unhandled exception occurred. ---> System.Web.HttpCompileException (0x80004005): c:\home\site\wwwroot\Views\Article\ArticleQuote.cshtml(17): error CS1061: 'Cabana.SDU.Feature.Article.ArticleQuote' does not contain a definition for 'Text' and no extension method 'Text' accepting a first argument of type 'Cabana.SDU.Feature.Article.ArticleQuote' could be found (are you missing a using directive or an assembly reference?)
- at System.Web.Compilation.BuildManager.PostProcessFoundBuildResult(BuildResult result, Boolean keyFromVPP, VirtualPath virtualPath)
- at System.Web.Compilation.BuildManager.GetBuildResultFromCacheInternal(String cacheKey, Boolean keyFromVPP, VirtualPath virtualPath, Int64 hashCode, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVPathBuildResultFromCacheInternal(VirtualPath virtualPath, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVPathBuildResultInternal(VirtualPath virtualPath, Boolean noBuild, Boolean allowCrossApp, Boolean allowBuildInPrecompile, Boolean throwIfNotFound, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVPathBuildResultWithNoAssert(HttpContext context, VirtualPath virtualPath, Boolean noBuild, Boolean allowCrossApp, Boolean allowBuildInPrecompile, Boolean throwIfNotFound, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVirtualPathObjectFactory(VirtualPath virtualPath, HttpContext context, Boolean allowCrossApp, Boolean throwIfNotFound)
- at System.Web.Compilation.BuildManager.GetCompiledType(VirtualPath virtualPath)
- at System.Web.Mvc.BuildManagerCompiledView.Render(ViewContext viewContext, TextWriter writer)
- at System.Web.Mvc.ViewResultBase.ExecuteResult(ControllerContext context)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultFilterRecursive(IList`1 filters, Int32 filterIndex, ResultExecutingContext preContext, ControllerContext controllerContext, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultFilterRecursive(IList`1 filters, Int32 filterIndex, ResultExecutingContext preContext, ControllerContext controllerContext, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultFilterRecursive(IList`1 filters, Int32 filterIndex, ResultExecutingContext preContext, ControllerContext controllerContext, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultWithFilters(ControllerContext controllerContext, IList`1 filters, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeAction(ControllerContext controllerContext, String actionName)
- at Sitecore.Mvc.Pipelines.MvcEvents.Exception.ShowAspNetErrorMessage.ShowErrorMessage(ExceptionContext exceptionContext, ExceptionArgs args)
- at Sitecore.Mvc.Pipelines.MvcEvents.Exception.ShowAspNetErrorMessage.Process(ExceptionArgs args)
- at (Object , Object )
- at Sitecore.Pipelines.CorePipeline.Run(PipelineArgs args)
- at Sitecore.Pipelines.DefaultCorePipelineManager.Run(String pipelineName, PipelineArgs args, String pipelineDomain, Boolean failIfNotExists)
- at Sitecore.Pipelines.DefaultCorePipelineManager.Run(String pipelineName, PipelineArgs args, String pipelineDomain)
- at Sitecore.Mvc.Pipelines.PipelineService.RunPipeline[TArgs](String pipelineName, TArgs args)
- at Sitecore.Mvc.Filters.PipelineBasedRequestFilter.OnException(ExceptionContext exceptionContext)
- at System.Web.Mvc.ControllerActionInvoker.InvokeExceptionFilters(ControllerContext controllerContext, IList`1 filters, Exception exception)
- at System.Web.Mvc.ControllerActionInvoker.InvokeAction(ControllerContext controllerContext, String actionName)
- at System.Web.Mvc.Controller.ExecuteCore()
- at System.Web.Mvc.ControllerBase.Execute(RequestContext requestContext)
- at Sitecore.Mvc.Controllers.ControllerRunner.ExecuteController(Controller controller)
- at Sitecore.Mvc.Controllers.ControllerRunner.Execute(TextWriter writer)
- at Sitecore.Mvc.Pipelines.Response.RenderRendering.ExecuteRenderer.Render(Renderer renderer, TextWriter writer, RenderRenderingArgs args)
- at Sitecore.Mvc.Pipelines.Response.RenderRendering.ExecuteRenderer.Process(RenderRenderingArgs args)
- at Helpfulcore.RenderingExceptions.Pipelines.RenderRendering.ExecuteRenderer.Process(RenderRenderingArgs args)
– Vi taler meget om dark data. Når vi bruger Google, ved vi ikke, hvilke
datasæt Google bruger for at finde de rigtige informationer. Det er dark
data. I takt med, at algoritmerne bestemmer mere og mere, er det vigtigt at
diskutere de datasæt, vi putter ind i algoritmerne, og deres
gennemsigtighed, understreger Alf Rehn.
Legetøj til hvide mænd
Som professor i innovation er Alf Rehn bekymret for, at vi går glip af
vigtig udvikling, når algoritmerne skal grovsortere projekterne. Hvis vi
ikke er meget bevidste om egne blinde vinkler i den data, vi klæder
algoritmerne på med, ender vi med at reproducere flere af de produkter, vi
i forvejen har.
– Vi kalder det innovation bias. Hvis algoritmerne tænker; Vi har altid
udviklet legetøj til Alf, så nu fortsætter vi med at udvikle ting til Alf,
så er der mange mennesker i verden, som ikke nyder godt af denne
innovation, siger Alf Rehn, som er en 48-årig højtuddannet hvid mand.
Han peger på, at langt størstedelen af udviklingen i dag sker for at
tilfredsstille en minoritet: nemlig den privilegerede midaldrende vestlige
mands behov for underholdning og for ikke at blive for tyk eller tabe
håret. Samtidig dør over 700.000 børn af diarré hvert år.
- System.Web.HttpUnhandledException (0x80004005): An unhandled exception occurred. ---> System.Web.HttpCompileException (0x80004005): c:\home\site\wwwroot\Views\Article\ArticleQuote.cshtml(17): error CS1061: 'Cabana.SDU.Feature.Article.ArticleQuote' does not contain a definition for 'Text' and no extension method 'Text' accepting a first argument of type 'Cabana.SDU.Feature.Article.ArticleQuote' could be found (are you missing a using directive or an assembly reference?)
- at System.Web.Compilation.BuildManager.PostProcessFoundBuildResult(BuildResult result, Boolean keyFromVPP, VirtualPath virtualPath)
- at System.Web.Compilation.BuildManager.GetBuildResultFromCacheInternal(String cacheKey, Boolean keyFromVPP, VirtualPath virtualPath, Int64 hashCode, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVPathBuildResultFromCacheInternal(VirtualPath virtualPath, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVPathBuildResultInternal(VirtualPath virtualPath, Boolean noBuild, Boolean allowCrossApp, Boolean allowBuildInPrecompile, Boolean throwIfNotFound, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVPathBuildResultWithNoAssert(HttpContext context, VirtualPath virtualPath, Boolean noBuild, Boolean allowCrossApp, Boolean allowBuildInPrecompile, Boolean throwIfNotFound, Boolean ensureIsUpToDate)
- at System.Web.Compilation.BuildManager.GetVirtualPathObjectFactory(VirtualPath virtualPath, HttpContext context, Boolean allowCrossApp, Boolean throwIfNotFound)
- at System.Web.Compilation.BuildManager.GetCompiledType(VirtualPath virtualPath)
- at System.Web.Mvc.BuildManagerCompiledView.Render(ViewContext viewContext, TextWriter writer)
- at System.Web.Mvc.ViewResultBase.ExecuteResult(ControllerContext context)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultFilterRecursive(IList`1 filters, Int32 filterIndex, ResultExecutingContext preContext, ControllerContext controllerContext, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultFilterRecursive(IList`1 filters, Int32 filterIndex, ResultExecutingContext preContext, ControllerContext controllerContext, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultFilterRecursive(IList`1 filters, Int32 filterIndex, ResultExecutingContext preContext, ControllerContext controllerContext, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeActionResultWithFilters(ControllerContext controllerContext, IList`1 filters, ActionResult actionResult)
- at System.Web.Mvc.ControllerActionInvoker.InvokeAction(ControllerContext controllerContext, String actionName)
- at Sitecore.Mvc.Pipelines.MvcEvents.Exception.ShowAspNetErrorMessage.ShowErrorMessage(ExceptionContext exceptionContext, ExceptionArgs args)
- at Sitecore.Mvc.Pipelines.MvcEvents.Exception.ShowAspNetErrorMessage.Process(ExceptionArgs args)
- at (Object , Object )
- at Sitecore.Pipelines.CorePipeline.Run(PipelineArgs args)
- at Sitecore.Pipelines.DefaultCorePipelineManager.Run(String pipelineName, PipelineArgs args, String pipelineDomain, Boolean failIfNotExists)
- at Sitecore.Pipelines.DefaultCorePipelineManager.Run(String pipelineName, PipelineArgs args, String pipelineDomain)
- at Sitecore.Mvc.Pipelines.PipelineService.RunPipeline[TArgs](String pipelineName, TArgs args)
- at Sitecore.Mvc.Filters.PipelineBasedRequestFilter.OnException(ExceptionContext exceptionContext)
- at System.Web.Mvc.ControllerActionInvoker.InvokeExceptionFilters(ControllerContext controllerContext, IList`1 filters, Exception exception)
- at System.Web.Mvc.ControllerActionInvoker.InvokeAction(ControllerContext controllerContext, String actionName)
- at System.Web.Mvc.Controller.ExecuteCore()
- at System.Web.Mvc.ControllerBase.Execute(RequestContext requestContext)
- at Sitecore.Mvc.Controllers.ControllerRunner.ExecuteController(Controller controller)
- at Sitecore.Mvc.Controllers.ControllerRunner.Execute(TextWriter writer)
- at Sitecore.Mvc.Pipelines.Response.RenderRendering.ExecuteRenderer.Render(Renderer renderer, TextWriter writer, RenderRenderingArgs args)
- at Sitecore.Mvc.Pipelines.Response.RenderRendering.ExecuteRenderer.Process(RenderRenderingArgs args)
- at Helpfulcore.RenderingExceptions.Pipelines.RenderRendering.ExecuteRenderer.Process(RenderRenderingArgs args)
– Hvis algoritmerne ikke forstår de store problemer i verden og fortsat
udvikler legetøj til mig, giver det globale demokratiske problemer.
– Det er mennesker, der styrer det datagrundlag, som algoritmerne træffer
beslutninger ud fra, derfor er det hamrende vigtigt, at vi diskuterer
algoritmers gennemsigtighed og beslutningsgrundlag, før de bliver låst
fast, siger Alf Rehn.
Er algoritmer racistiske?
Et forskningsresultat fra M.I.T Media Lab er et lysende eksempel på, at
algoritmer ikke er klogere, end det datasæt de bliver trænet med. Efter at
have undersøgt en bred vifte af ansigtsgenkendelsesteknologier kunne
forskere i 2018 konkludere, at teknologierne havde meget lettere ved at
identificere en hvid mand end nogen anden kombination af hudfarve og køn.
Det samme gjorde sig gældende, da Google i 2015 måtte undskylde, fordi en
algoritme kategoriserede billeder af mørke mennesker som gorillaer.
– Det er ikke fordi algoritmen er racist, men algoritmen kommer til at
reproducere de ubevidste bias, som de, der udvikler algoritmerne, har. Hvis
vi ikke forstår algoritmens begrænsninger, så er der risiko for, at vi
mister en hel gren af udvikling, fordi algoritmen er programmeret til at
fortætte med at udvikle legetøj til Alf, forklarer Alf Rehn og fortsætter:
– Jeg siger ikke, at det hele bliver meget værre med algoritmestyret
innovation. Faktisk har vi en gylden mulighed for, at det bliver bedre, men
det sker ikke af sig selv.
– Det sker kun, hvis vi er bevidste om blinde vinkler og forholder os
kritisk omkring den data, vi fodrer algoritmen med. Hvis det lykkes, er der
mulighed for, at algoritmer vil træffe bedre valg, end de valg mennesker
træffer i dag.
Fakta om projektet
-
Projektnavn: Algoritmer, Data og Demokrati
- Projektpartnere: Københavns Universitet, Aalborg Universitet, Copenhagen
Business School, DPU, Aarhus Universitet og Syddansk Universitet.Projektet
ledes af professor Sine Nørholm Just fra Roskilde Universitet
- Bevilling: VILLUM FONDEN og VELUX FONDEN har som en del af
jubilæumsaktiviteter i 2021 besluttet at bevilge 100 millioner kroner til
projektet
- Projektperiode: 10 år.