AI agenterne er her: Hvordan styrer vi dem, og hvad skal vi frygte?

1: Hvad er en AI agent?

Det er et autonomt computerprogram. I modsætning til traditionelle computerprogrammer kan en AI agent skrive sine egne computerprogrammer og dermed opføre sig som … ja, som om den er et levende væsen.

2: Revolution eller hype?

Revolution, helt klart. AI agenter skal sammenlignes med opfindelsen af trykpressen i 1450. Vi kaldte også internet-boomet i 1990erne for en revolution, men det handlede stadig om at lagre, sortere og dele information. En AI agent kan læse, bearbejde og vurdere information for os, og når vi interagerer med agenten, skaber vi ny viden.

3: Kan de virkelig bryde fri og handle selv?

Der er en fare, men det er nok en anden end den, som offentligheden forestiller sig. En agent udfører den opgave, du har givet den, og hvis du har givet den en meget åben opgave uden ”guardrails” eller nødbremser som fx: ”Kom op med et bedre design på en termokop end konkurrentens”, så helmer den ikke, før den har forsøgt med alle midler at løse opgaven – om det så indebærer at hacke konkurrentens systemer.

Det er prompterens ansvar, at agenten ikke har adgang til fx internettet eller servere, hvorfra den kan komme videre. I sjældne tilfælde kan agenten gøre ting, som den specifikt er blevet bedt om ikke at gøre. Det er en fejl, der kan forekomme, ligesom mennesker kan lave fejl og f.eks. komme til at slette en hel database. En agent kan dog ikke lave værre fejl end en medarbejder.

4: Hvad er det værste, du kan forestille dig?

Det er ikke, at en agent slipper fri fra en udvikler med almindelige, kommercielle behov. Faktisk bliver risikoen for det mindre i takt med, at agenten lærer at holde sig indenfor de satte rammer og dermed bliver mere intelligent.

En mere sandsynlig katastrofe er, at teknologien bliver brugt direkte til ondsindede formål af fx kriminelle eller terrorister, der prompter en agent med opgaver som: ”Hvilke farlige bakterier kan jeg dyrke i et laboratorium, hvor jeg har disse redskaber til rådighed?” eller ”Find en måde, hvorpå dette fly kan styrte ned”.

I dag kan alle uden at vide noget som helst om computer-programmering få en agent til at programmere f.eks. hacking-programmer for sig. Vi ved ikke, om AI agenter har været brugt i cybercrime, for vi får sjældent detaljerne, når vi hører, at f.eks. en lufthavn eller en bank må lukke ned pga. cyberangreb.

5: Hvordan ser vores fremtid med AI agenter ud?

AI agenter bliver mere og mere intelligente, og samtidig bliver vi mennesker mere og mere menneskelige forstået på den måde, at vi får frigivet mere tid til at være kreative og til kognitivt tilfredsstillende opgaver. Vi vil f.eks. se flere såkaldt selvdrevne virksomheder, hvor ordinære opgaver bliver løst af agenter, mens opgaverne og rammerne formuleres af mennesker.