OpenAI, Google et Discord ont lancé ROOST, une suite d'outils open source pour lutter contre les contenus abusifs sur Internet, avec un focus particulier sur la protection des mineurs. Annoncée lors du Sommet pour l’action sur l'IA à Paris, cette plateforme vise à offrir des solutions de sécurité accessibles aux petites entreprises et aux organisations publiques.
ROOST (Robust Open Online Safety Tools) est conçu pour répondre à un besoin croissant de cybersécurité, notamment face à l'essor de l'IA générative. Ce projet bénéficie du soutien d'acteurs majeurs comme Microsoft, Roblox et Hugging Face. Grâce à un financement de 27 millions de dollars, l’initiative souhaite démocratiser l'accès aux technologies de protection avancées.
L'un des principaux objectifs de ROOST est de renforcer la lutte contre l'exploitation des enfants en ligne, avec des outils permettant de détecter et signaler les contenus pédopornographiques (CSAM). En 2023, plus de 36 millions de signalements d'abus ont été enregistrés, un chiffre en constante hausse.
Si ROOST parvient à surmonter les défis techniques et à être adopté par un large écosystème, il pourrait bien devenir un acteur central dans le domaine de la cybersécurité en ligne.
