Kunstmatige intelligentie maakt niet te detecteren malware

Op de Def Con-hackersconferentie in Las Vegas demonstreerde onderzoeker Hyrum Anderson hoe hij kunstmatige intelligentie kan inzetten om malware te maken die een beveiligingsprogramma niet kan detecteren. De onderzoeker gebruikte daartoe het OpenAI-raamwerk, dat nota bene door Elon Musk in het leven werd geroepen net om er voor te zorgen dat toekomstige kunstmatige intelligenties geen gevaar worden voor de mensheid.

Anderson liet zijn AI bestaande software lichtjes aanpassen met aanvallende code. In principe moet je antivirusprogramma aangepaste software ontdekken, maar geen beveiligingssuite is perfect. Anderson gebruikte machine learning om gaten te vinden in een beveiligingssuite waarvan de naam niet wordt genoemd.+

Machine learning

Zijn slimme programma stuurde vijandelijke code naar het antivirusprogramma en keek naar de respons. Werd de code gedetecteerd, dan paste het programma de aanval aan. Zo leerde de AI na verloop van tijd de zwaktes van de beveiliging kennen. Na amper 15 uur training waarin de AI 100.00 samples naar het antivirusprogramma gooide, slaagde het algoritme er in om in 60 procent van de gevallen de verdediging te verschalken.

Volgens Anderson ligt de sluiten in het succes bij het aanpassen van heel kleine stukjes code om de beveiligingssoftware te misleiden. Ook beveiligingsbedrijven maken immers gebruik van big data en machine learning om hun systemen te trainen. “Ieder model heeft blinde vlekken”, zegt Anderson in The Register. Als voorbeeld haalt hij beeldherkenning aan, waarbij een foto van een struisvogel bij het aanpassen van enkele tactisch geplaatste pixels plots herkent wordt als een foto van een bus.

Het succes van Anderson toont aan dat de beveiligingsuitdagingen van morgen niet min zijn. Krachtige computers, big data, machine learning en kunstmatige intelligentie geven bedrijven interessante tools om digitale transformatie te stimuleren, maar hackers met minder nobele bedoelingen kunnen dezelfde technieken net zo goed inzetten om de grote ransomware-aanval van morgen te faciliteren.