Betrouwbaar toetsingskader borderline content nu niet haalbaar

In dit artikel:

Het International Centre for Counter-Terrorism (ICCT) publiceerde op 2 december 2025 in opdracht van het WODC een onderzoek naar de juridische, ethische en praktische knelpunten bij het modereren van schadelijke maar vaak niet duidelijk illegale online content. Onderzoekers constateren dat extremistische groepen steeds vaker generatieve AI, memes, humor, ironie en gecodeerde taal inzetten om boodschappen te verspreiden en detectie te ontwijken, met name onder jongeren. Daardoor verschuift veel propaganda van het donkere web naar zichtbare, mainstreamplatforms zoals TikTok, Reddit en Instagram en worden grenzen tussen schadelijke en strafbare uitingen vaag.

Grote hostingbedrijven (HSP’s) spelen een cruciale rol bij tegenmaatregelen, maar hun aanpak is volgens het rapport inconsistent en slecht inzichtelijk. Er wordt zwaar geïnvesteerd in geautomatiseerde detectie, terwijl menselijke moderatieteams juist krimpen — een combinatie die problemen geeft bij contextafhankelijke inhoud. Volledige automatisering schiet tekort; menselijke beoordeling blijft nodig, maar neemt af. Veel platforms weigerden mee te werken aan het onderzoek, wat transparantie en waarborging van vrijheid van meningsuiting belemmert.

Een universeel, feilloos toetsingskader is momenteel niet haalbaar zonder rechten te schaden. De term 'borderline content' is juridisch onduidelijk; het rapport adviseert te werken met het begrip 'impliciet extremistische content' en ontwikkelde vijf indicatorcategorieën voor detectie die interpretatieruimte laten. De onderzoekers pleiten voor adaptieve, hybride modellen waarin AI en menselijke beoordeling samenwerken en doen aanbevelingen aan beleidsmakers, waaronder de Nederlandse Coördinator Terrorismebestrijding en Veiligheid, om moderatie praktischer, transparanter en rechterlijk proportioneel te maken.