« Al principio de Internet, cada uno hacía un poco lo que quería. Era responsabilidad de las plataformas organizarse para controlar los contenidos enviados por los usuarios », explica Alexandre Sossou.
Con la evolución de las regulaciones europeas y el aumento de contenidos problemáticos, como el acoso, las noticias falsas, los contenidos pedocriminales o los discursos de odio, las plataformas deben ahora reforzar sus mecanismos de control.
Sin embargo, la mayoría de las veces, esta misión se confía a inteligencias artificiales generalistas, que no siempre están suficientemente adaptadas a los desafíos específicos de la moderación.
Moderering desarrolla agentes de inteligencia artificial (IA) especializados, que pueden adaptarse a las diferentes problemáticas encontradas, especialmente en lo que respecta a la protección de menores, la lucha contra el acoso o la detección de contenidos ilegales.
La empresa trabaja, entre otras cosas, en la detección de comportamientos peligrosos, como cuando adultos intentan contactar a menores, así como en contenidos más sutiles que a veces escapan a los sistemas tradicionales.
« Lo que marca la gran diferencia es que hemos basado nuestra tecnología desde el principio en las leyes europeas y francesas », explica Alexandre Sossou. Este enfoque podría permitir a Europa desarrollar sus propias soluciones frente a los gigantes tecnológicos internacionales.
El próximo paso para Moderering consiste en comercializar sus agentes de IA. La empresa también quiere lanzar una red social completamente moderada por sus propias tecnologías en el verano de 2026, con el fin de demostrar que es posible un Internet más seguro. « Existen soluciones, pero hay que acelerar », concluye Alexandre Sossou.
