"Al principio de Internet, cada uno hacía un poco lo que quería. Era responsabilidad de las plataformas organizarse para controlar los contenidos enviados por los usuarios," explica Alexandre Sossou.
Con la evolución de las regulaciones europeas y el aumento de contenidos problemáticos, como el acoso, las noticias falsas, los contenidos pedocriminales o los llamados a la violencia, las plataformas deben ahora reforzar sus mecanismos de control.
Sin embargo, la mayoría de las veces, esta misión se confía a inteligencias artificiales generalistas, que no siempre son lo suficientemente adecuadas para los desafíos específicos de la moderación.
Moderering desarrolla agentes de IA especializados, que pueden adaptarse a las diferentes problemáticas encontradas, especialmente aquellas relacionadas con la protección de menores, la lucha contra el acoso o la detección de contenidos ilegales.
La empresa trabaja, entre otras cosas, en la detección de comportamientos peligrosos, como cuando adultos intentan contactar a menores, así como en contenidos más sutiles que a veces escapan a los sistemas tradicionales.
"Lo que marca la gran diferencia es que hemos basado nuestra tecnología desde el principio en las leyes europeas y francesas," explica Alexandre Sossou. Un enfoque que podría permitir a Europa desarrollar sus propias soluciones frente a los gigantes tecnológicos internacionales.
Próximo paso para Moderering: comercializar sus agentes de IA y lanzar una red social completamente moderada por sus propias tecnologías en el verano de 2026, con el fin de demostrar que un Internet más seguro es posible. "Existen soluciones, pero hay que acelerar," concluye Alexandre Sossou.
