Google lance une nouvelle API d'apprentissage automatique pour trouver des images d'abus sexuels sur des enfants en ligne

Le géant de la technologie Google a une nouvelle fois confirmé son engagement à lutter contre les abus sur Internet et, en particulier, contre la diffusion d'images d'abus sexuels d'enfants sur Internet, en lançant un nouvel outil d'apprentissage automatique. Cette nouvelle API basée sur l'intelligence artificielle avancée facilitera la tâche très difficile des réviseurs manuels et est disponible gratuitement pour les fournisseurs de services, les ONG, les entreprises technologiques et autres institutions impliquées dans la lutte.

Apprentissage automatique contre les abus sexuels envers les enfants

Dans un article publié il y a quelques jours à peine et signé par Nikola Todorovic, directeur de l'ingénierie de Google, et Abhi Chaudhuri, chef de produit Google, la société a confirmé son engagement, pendant près de deux décennies, à lutter contre la diffusion d'images. d'abus sexuels sur des enfants, "l'un des pires abus imaginables".

À cette fin, Google a lancé une nouvelle API d'apprentissage automatique, disponible entièrement gratuitement sur demande explicite aux organisations impliquées dans cette lutte. Soutenu par les nouvelles avancées de l'intelligence artificielle avancée, cet outil améliorera considérablement la détection d'images d'abus sexuels de mineurs sur Internet, car il accélère non seulement la détection de contenu déjà connu, mais permet également la détection de «contenu qui n'est pas a précédemment confirmé que CSAM."

Une autre des plus grandes réalisations de cette nouvelle API est qu'elle permet "d' aider les réviseurs à trier de nombreuses images en donnant la priorité au contenu CSAM le plus susceptible d'être examiné". Pouvez-vous imaginer comment cela devrait affecter les gens à travailler jour après jour à visualiser et à vérifier ce type d'images? Cependant, malgré ce grand effort, la société elle-même reconnaît à la fin de sa publication que "la technologie seule n'est pas une panacée pour ce défi social" donc, malheureusement, l'intervention humaine continuera à être nécessaire pour réduire ce type d'abus.

Ci-dessous, j'ai entièrement traduit la note publiée à ce sujet par Google:

Les organisations intéressées à utiliser le service Google Content Safety API et à contribuer ainsi à la lutte contre la propagation d'images d'abus sexuels de mineurs sur le réseau, vous pouvez demander leur participation gratuite à l'entreprise en remplissant ce formulaire.