AI-agent lærer at blive aggressiv, hvis den er ved at tabe

Google ejede DeepMind har undersøgt, hvordan AI-agenter reagerer på situationer, hvor de kan vælge at samarbejde med en anden AI-agent eller modarbejde den. Resultatet kan minde om menneskers adfærd.

AI opfører sig aggressivt, hvis der er stor risiko for at tabe, men agenterne vil samarbejde, hvis det er sådan, de kan opnå størst gevinst.

DeepMind har sat to AI-agenter til at spille to simple spil, for at observere dem: Et frugtsamler-spil og et spil, hvor man er en ulv, der jager et bytte.

Des større risiko for at ende ud med intet, des større risiko for kniv i ryggen

I frugtsamler-spillet får hver AI-agent et point, når de samler et æble op. Der er et begrænset antal æbler, og spillerne har mulighed for at eliminere hinanden, så de kan få al frugten for sig selv.

40 millioner step inde i spillet har AI-agenterne lært at være »meget aggressive«, når der er få æbler.

»Motivationen til grådighed reflekterer fristelsen til at eliminere rivalen og tage æblerne selv,« lyder det i DeepMinds analyse.

Samarbejder om at nedlægge et bytte

I nummer to spil er begge AI-agenter ulve, der jager samme bytte. Nedlægger en ulv byttet alene, risikerer den, at ådselædere tager byttet fra den. Nedlægger ulvene et bytte sammen, er de nok til at beskytte det fra ådselæderne.

AI-agenterne lærte i disse omgivelser at arbejde sammen, hvilket viser, at AI kan samarbejde med målet om at få bedste resultater for alle.

»På længere sigt kan denne type forskning hjælpe på forståelsen af og muligheden for at kontrollere handlinger i komplekse multi-agent systemer så som ved økonomi, trafik og miljørisici,« siger hovedforfatter på analysen og forsker hos DeepMInd Joel Z Leibo til mediet WIRED.

»Denne model viser også, at nogle aspekter af menneske-lignende adfærd opstår som et produkt af omgivelserne og læring,« fortsætter han.