Nee, Facebook heeft geen levensgevaarlijke AI gecreëerd

Facebook test nieuwe machine learningtechnieken uit op twee AI’s die met elkaar moeten onderhandelen. Initieel praten de bots op een manier die wij begrijpen, maar de gesprekken tussen de AI’s worden al snel wartaal. Het internet spreekt over Frankenstein en moordende robots. Facebook spreekt simpelweg over een mislukt experiment zonder enig gevaar.

Onderhandelen

Enkele weken geleden startte Facebook met het creëren van een ‘generative adversarial network’. Dat algoritme wordt gebruikt wanneer je twee neurale netwerken ongesuperviseerd wil trainen voor een competitief spelletje. Facebook bood verschillende items aan zijn AI’s aan en vroeg hen om deze onderling te verdelen. Het bedrijf wilde observeren hoe de programma’s met elkaar onderhandelen.

Deze observaties waren echter van korte duur: al snel sloegen de robots onbegrijpelijke wartaal uit. De AI’s hadden hun eigen taal gecreëerd, die niet verstaanbaar was voor mensen, doordat de programmeurs waren vergeten om de AI’s op te dragen zoals mensen te praten. De bots vonden een efficiëntere manier van onderhandelen door uitsluitend de noodzakelijke woorden uit te spreken. Wij begrijpen er maar weinig van, maar de AI’s verstaan elkaar zonder problemen.

Paniek

Conversaties tussen de bots belandden op het internet, waar reacties niet lang uitbleven. “Hebben we Frankenstein gecreëerd?” vraagt de International Business Times zich af. “In een Frankenstein-twist gebruikte de robot niet langer Engels en kon hij alleen begrepen worden door andere AI’s. De onderzoekers waren geschokt en schakelden de machines uit,” gaat Metro verder op het verhaal in.

Facebook legt echter uit dat het om een vrij onschuldige gebeurtenis gaat. “Agents drijven soms af van verstaanbare taal en vinden hun eigen codewoorden uit,” vertelt Dhruv Batra van Facebook AI Research. “Als ik bijvoorbeeld ‘het’ vijf keer zeg, kan je dat interpreteren als dat ik vijf kopieën van een item wil hebben. Dat is niet zo verschillend van de manier waarop mensen afkortingen verzinnen.”

Over het feit dat Facebook de AI’s uitschakelde, heeft het internet dan weer wel gelijk, al gebeurde deze actie niet omdat het bedrijf in paniek was. “We wilden bots hebben die kunnen praten zoals mensen. Daarom besloten we om de software aan te passen, zodat ze op een leesbare manier met elkaar converseren,” aldus Batra.

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Gevaar

Bij dit onderzoek waren mensen nooit in gevaar. De bots discussieerden simpelweg over de verdeling van voorwerpen, zelfs wanneer mensen hun conversaties niet langer begrepen. Toch toont het onderzoek aan hoe snel er iets kan mislopen wanneer een programmeur iets over het hoofd ziet. AI’s die hun eigen taal verzinnen, waardoor we hun snode plannen niet onderscheppen, kunnen gevaarlijk zijn. We zullen echter pas echt problemen krijgen wanneer een programmeur vergeet om een fysieke robot te verbieden mensen pijn te doen.

Artificiële intelligentie is een interessant onderwerp dat de mensheid op vele vlakken kan helpen. Wetenschappers moeten echter steeds het mogelijke gevaar van slimme machines in hun achterhoofd houden. Met een goede omkadering kunnen robots een meerwaarde brengen aan ons leven. Wanneer er iets schort aan deze omkadering kunnen AI’s echter onverwachte dingen doen, zoals bij het onderzoek van Facebook het geval was.