"Zu Beginn des Internets hat jeder gemacht, was er wollte. Es lag an den Plattformen, sich zu organisieren, um die von den Nutzern gesendeten Inhalte zu kontrollieren," erklärt Alexandre Sossou.
Mit der Entwicklung der europäischen Vorschriften und der Zunahme problematischer Inhalte wie Belästigung, Fake News, kinderpornografische Inhalte oder Aufrufe zur Gewalt müssen die Plattformen nun ihre Kontrollmechanismen verstärken.
Dennoch wird diese Aufgabe meistens an allgemeine Künstliche Intelligenzen delegiert, die nicht immer ausreichend auf die spezifischen Herausforderungen der Moderation zugeschnitten sind.
Moderering entwickelt spezialisierte KI-Agenten, die je nach den verschiedenen auftretenden Problemen angepasst werden können, insbesondere zum Schutz von Minderjährigen, zur Bekämpfung von Belästigung oder zur Erkennung illegaler Inhalte.
Das Unternehmen arbeitet insbesondere an der Erkennung gefährlicher Verhaltensweisen, wie wenn Erwachsene versuchen, Kontakt zu Minderjährigen aufzunehmen, aber auch an subtileren Inhalten, die manchmal den traditionellen Systemen entgehen.
"Was den großen Unterschied ausmacht, ist, dass wir unsere Technologie von Anfang an auf den europäischen und französischen Gesetzen basieren," erklärt Alexandre Sossou. Ein Ansatz, der es Europa ermöglichen könnte, eigene Lösungen gegenüber internationalen Technologiegiganten zu entwickeln.
Der nächste Schritt für Moderering: den Vertrieb seiner KI-Agenten und die Einführung eines sozialen Netzwerks, das vollständig mit eigenen Technologien moderiert wird, im Sommer 2026, um zu zeigen, dass ein sichereres Internet möglich ist. "Es gibt Lösungen, die existieren, aber wir müssen beschleunigen," schließt Alexandre Sossou.
