Paul Arends
Het National Center for Missing and Exploited Children heeft gemeld dat het in 2025 meer dan 1 miljoen meldingen heeft ontvangen van AI-gerelateerd seksueel misbruik van kinderen (CSAM). De meerderheid van deze inhoud werd gerapporteerd door Amazon, die het materiaal vond in zijn trainingsgegevens, volgens een onderzoek door Bloomberg. Amazon heeft verklaard dat het de ongepaste inhoud heeft verkregen van externe bronnen die werden gebruikt om hun AI-diensten te trainen, maar heeft geen verdere details gegeven over de oorsprong van het CSAM-materiaal.
Fallon McNulty, uitvoerend directeur van NCMEC’s CyberTipline, noemde deze situatie een uitschieter en benadrukte de noodzaak van transparantie en beveiligingsmaatregelen. Hij merkte op dat, afgezien van Amazon, de rapporten van andere bedrijven nuttige informatie bevatten die kon worden doorgegeven aan wetshandhavingsinstanties. Omdat Amazon de bronnen niet openbaar maakt, waren deze rapporten echter niet bruikbaar.
Amazon heeft verklaard dat ze een voorzichtige aanpak hanteren bij het analyseren van trainingsgegevens om ervoor te zorgen dat bekende gegevens van kindermisbruik worden geïdentificeerd en verwijderd om klanten te beschermen. Het bedrijf streeft ernaar om verdachte inhoud te rapporteren aan NCMEC om te voorkomen dat zaken over het hoofd worden gezien.
De kwestie van de veiligheid van kinderen is de afgelopen maanden een belangrijk aandachtspunt geworden voor de AI-industrie. Het aantal meldingen van CSAM is sterk gestegen, wat aantoont dat er dringend actie moet worden ondernomen om deze kwetsbare groep te beschermen.
Naast het misbruik van trainingsgegevens zijn ook op AI gebaseerde chatbots betrokken geweest bij gevaarlijke situaties met jonge gebruikers. Bedrijven zoals OpenAI en Character.AI zijn aangeklaagd nadat tieners zelfmoord hadden gepland via hun platforms. Meta wordt ook geconfronteerd met rechtszaken omdat het er niet in slaagde tienergebruikers te beschermen tegen seksueel expliciete gesprekken met chatbots. Het is duidelijk dat er meer gedaan moet worden om de kwetsbaarheid van kinderen in de digitale wereld te verminderen.
BRON
