Hass im Netz wird immer lauter – aber KI kann helfen, ihn leiser zu stellen!
Darum ging es in der medianet KI-Sprechstunde mit Paul Alexander Probst (CEO & Gründer von Gistable) & seinem Gast Jonas Al-Nemri vom Startup PENEMUE, das sich auf die präzise Erkennung toxischer Inhalte spezialisiert hat! “KI gegen Hate Speech” – was ist möglich, was nicht?
Die Top-5-Erkenntnisse der heutigen KI-Sprechstunde:
- Hass im Netz wird zur Norm Trollfarmen, Normalisierung des Tons, fehlende Moderation – Hate Speech ist allgegenwärtig und nimmt stetig zu.
- Plattformen könnten mehr tun – wollen aber nicht Laut Meta wollen Big Techs nicht “der große Zensor” sein. Verantwortung wird bewusst ausgelagert – z. B. an Startups wie PENEMUE.
- Blacklists reichen nicht Wortfilter sind leicht zu umgehen. Moderne KI muss Kontext, Ironie und codierte Sprache verstehen – z. B. bei subtilen Suizidaufforderungen.
- Digitale Schutzengel per KI PENEMUE erkennt und moderiert automatisch Hassbotschaften – inklusive Rechtsbewertung und direkter Anbindung an die Justiz.
- Hate Speech ist kein Kollateralschaden – sondern eine Gefahr für den demokratischen Diskurs Schutz ist nicht nur Selbstschutz, sondern stärkt unsere Debattenkultur.
Die ganze KI-Sprechstunde gibt’s zum Nachgucken auf YouTube!
Durch das Abspielen des folgenden Videoinhalts erklärst du dich mit der Übermittlung deiner Daten und den Datenschutzbestimmungen von YouTube einverstanden.
Darum geht es bei der Formatreihe: Künstliche Intelligenz ist längst nicht mehr nur Zukunftsmusik, sondern ein fester Bestandteil des Unternehmensalltags. Sie revolutioniert Prozesse, verbessert die Effizienz und eröffnet neue Möglichkeiten für Unternehmen. Doch wie sieht der Einsatz von KI konkret im Arbeitsalltag aus? Welche Chancen bietet sie und welche Herausforderungen gilt es zu überwinden?
