Facebook gaat AI trainen om gewelddadige video’s te bannen
Facebook wil de strijd aangaan met geweld en gewelddadige inhoud van het platform weren. Facebook gaat zijn AI trainen om geweld in onder andere video’s van schietpartijen sneller op te sporen en te verwijderen. Vanaf oktober zal Facebook hiervoor samenwerken met Britse politiediensten, en willen ze de Amerikaanse politiediensten hier ook voor overhalen. De Britse politiediensten hebben Facebook alvast de toestemming gegeven om gebruik te maken van de bodycambeelden. Belangrijk om hierbij op te merken is dat het enkel zal gaan om beelden van trainingsoefeningen.
Facebook zal de bodycams gratis ter beschikking stellen aan de politie, in ruil voor de camerabeelden. De beelden zullen dan geanalyseerd worden door AI. Door veelvuldige blootstelling hoopt Facebook dat AI schietincidenten sneller kan herkennen als deze zouden gedeeld worden op het platform. Zo krijgen gewelddadige video’s niet langer meer de kans om viraal te gaan.
Restricties op Facebook live
De samenwerking met de Britse politie is een volgende stap in een reeks van maatregelen die Facebook neemt in de strijd tegen geweld en extremisme. Facebook kwam onder hevige kritiek na de aanslag in Christchurch in maart dit jaar. De dader deelde zijn daden via Facebook Live, de streamingsdienst van Facebook. Deze video werd 1,5 miljoen keer gedeeld alvorens ze pas van Facebook kon worden verwijderd. Facebook werd aangewreven dat de overduidelijk gewelddadige inhoud niet vroegtijdig door diens algoritmen kon gedetecteerd worden.
Facebook reageerde hier vrijwel meteen op en kondigde in mei aan dat het zijn beleid omtrent het delen van live-video’s zou verscherpen. Als iemand de gedragsregels overtreedt, wordt deze persoon meteen tijdelijk geblokkeerd van Facebook Live. Voordien zou enkel het bericht verwijderd worden en volgde de blokkering pas na herhaaldelijke overtredingen. Ook haatboodschappen, oproepen tot geweld of links naar terroristische bewegingen leiden zonder pardon tot een (tijdelijke) blokkering. Facebook wil door strenger en sneller op te treden geweld geen kans geven op het platform.
