Medien 24. Jun 2022 Von Wilfried Urbe

Mit künstlicher Intelligenz gegen Hass im Netz

Hassrede, Pornografie, volksverhetzende oder gegen die Menschenwürde verstoßende Inhalte – die Anzahl von Rechtsverstößen auf Websites sowie in sozialen Medien ist gigantisch und zurzeit eigentlich nicht einzudämmen. Deutsche Aufsichtsbehörden versuchen es trotzdem und setzen dabei neuerdings auch auf künstliche Intelligenz (KI).

Künstliche Intelligenz (KI) kann auch dabei helfen, illegale Inhalte, ob Hassreden oder Gewaltdarstellungen im Internet und andere Verstöße, schneller zu finden und die Menschen, die sich damit beschäftigen müssen, zu entlasten.
Foto: PantherMedia / Gudrun Best

„Wir haben so 20 000 potenzielle Rechtsverstöße innerhalb eines Jahres gefunden“, berichtet Barbara Banczyk von der Landesmedienanstalt NRW (LfM) in Düsseldorf. Bereits im Jahr 2019 lieferte eine Machbarkeitsprüfung Hinweise, ob manuelle Vorgänge bei der Durchforstung nach illegalem Content nicht auch technologisch unterstützt werden könnten.

EU-Parlament strebt weltweite Standards für künstliche Intelligenz an

Die Idee: Künstliche Intelligenz (KI) sollte problematische Inhalte identifizieren, dabei sowohl effizient als auch effektiv sein, und die Menschen, die mit der Aufgabe betraut sind, auch psychisch entlasten. Denn das Anschauen von Gewaltdarstellungen im Netz, zum Beispiel von Enthauptungsvideos, kann traumatische Nachwirkungen auslösen, etwa bei den studentischen Hilfskräften, die bei der LfM im Einsatz sind.

Künstliche Intelligenz hilft Medienaufsicht auf der Suche nach illegalen Inhalten

Entstanden ist so in Zusammenarbeit mit der Condat AG die Software Kivi (aus KI und „Vigilante“), mit der in den „relevanten Kategorien“ der Aufsichtsbehörde mit Sitz in Düsseldorf seit über einem Jahr gesucht und analysiert wird. Grundlage dafür ist die Smart Media Engine des Berliner Softwarehauses.

„Mit ihrer semantischen Analyse und Fingerprinting-Technologie sichtet die Engine automatisch Multimediainhalte und reichert ihre Metadaten mit thematischen Links, Abkürzungen und Synonymen für maximale Sichtbarkeit und Zugänglichkeit an“, erklärt das Unternehmen den Ansatz. Das Computerprogramm könne jede verfügbare Datenquelle in ihre Content-Analyse einbeziehen.

Artikel weiterlesen?

Erhalten Sie Zugang zu allen kostenpflichtigen VDI nachrichten Plus-Beiträgen (Vn+)

Monatsabo VDI nachrichten Plus
mit wöchentlichem News-Alert
Das Abo ist monatlich kündbar.
7,99 EUR/Monat
1 Monat kostenlos testen

Jetzt abonnieren

Jahresabo VDI nachrichten Plus
mit wöchentlichem News-Alert
Das Abo ist monatlich kündbar.
92 EUR/Jahr
1 Monat kostenlos testen

Jetzt abonnieren

Oder Sie werden VDI-Mitglied und lesen im Rahmen der Mitgliedschaft Vn+

Jetzt Mitglied werden
Ein Beitrag von:

Stellenangebote

Hochschule Anhalt

Lehrkraft (m/w/d) für besondere Aufgaben

Köthen
THD - Technische Hochschule Deggendorf

Professur (d/m/w) für das Lehrgebiet "Mobile autonome Systeme"

Deggendorf
Hochschule für angewandte Wissenschaften Kempten

Professur (m/w/d) Algorithmen in der Robotik

Kempten
Hochschule für angewandte Wissenschaften Würzburg-Schweinfurt

Professorin/Professor (m/w/d) (Besoldungsgruppe W 2) Professur für Wasserstoffsicherheit und Werkstofftechnik

Schweinfurt
Hochschule Weihenstephan-Triesdorf

Professur für "Maschinenbau und Verfahrenstechnik in der Landwirtschaft"

Triesdorf
Bundesanstalt für Straßenwesen

Wissenschaftliche Mitarbeiterin / Wissenschaftlicher Mitarbeiter (m/w/d)

Bergisch Gladbach
Berliner Hochschule für Technik (BHT)

Professur (W2) Gebäudetechnik und Energiemanagement

Berlin
Bundesanstalt für Immobilienaufgaben

Sachverständige / Sachverständigen (w/m/d) Immobilienbewertung

Koblenz
BAM - Bundesanstalt für Materialforschung und -prüfung

Wissenschaftliche*r Mitarbeiter*in (m/w/d) der Fachrichtung Bauingenieurwesen, Maschinenbau, Physikalische Ingenieurwissenschaft o. vglb.

Berlin-Steglitz
Auswärtiges Amt

Ingenieur/-in (m/w/d) als Gefahrgutbeauftragte/-n und zur Unterstützung des Umweltmanagements gemäß EMAS (Eco Management and Audit Scheme)

Berlin
Zur Jobbörse

Das könnte Sie auch interessieren

Empfehlungen des Verlags

Top 5 aus der Kategorie Informationstechnik