KI-Einsatz bei Internet-Aufsicht: Bilanz zur Software KIVI

Die Medienanstalt Berlin-Brandenburg (mabb) setzt seit 2022 die Künstliche Intelligenz 'KIVI' ein, um Rechtsverstöße im Internet wie Hassrede oder Verstöße gegen den Jugendschutz zu finden. Das Programm analysiert Texte, Bilder und Videos, wobei die monatlichen Betriebskosten bei etwa 900 Euro liegen. Die endgültige rechtliche Bewertung der Funde erfolgt weiterhin durch menschliche Mitarbeiter*innen, nicht durch die KI selbst. Da öffentliche Beiträge geprüft werden, verarbeitet das System auch personenbezogene Daten von Nutzer*innen.