Logo von heise online

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.702.466 Produkten

Tilman Wittenhorst 26

Britisches Innenministerium empfiehlt KI-Software gegen Islamistenvideos

Britisches Innenministerium empfiehlt KI-Software gegen IS-Videos

Ein Algorithmus soll IS-Propagandavideos zuverlässig etwa von Nachrichten mit ähnlichem Bildmaterial unterscheiden können.

Bild: BBC (Screenshot aus Video)

In Kooperation mit einem britischen Unternehmen wurde eine KI-Software entwickelt, die Propagandavideos aus dem Netz filtern soll. Nachdrücklich empfiehlt die Innenministerin den Einsatz vor allem für kleine Websites.

Großbritanniens Innenministerium (Home Office) hat gemeinsam mit dem Londoner Unternehmen ASI Data Science einen Algorithmus entwickelt, der mit Hilfe von künstlicher Intelligenz Propagandavideos von Terrororganisationen wie dem Islamischen Staat (IS) zuverlässig erkennen soll. Nach Aussage des Ministeriums soll die KI dabei eine Treffsicherheit von 94 Prozent erreichen. Trainiert wurde die Software laut Herstellerangaben mit etwa 1000 Videos.

Anzeige

In einem BBC-Beitrag ist zu sehen, wie zwei Videos mit ähnlichen Merkmalen (Kriegsgerät, arabische Schriftzeichen bzw. Flaggensymbole) nebeneinander laufen und die Software beide unterschiedlich bewertet: Ein Nachrichtenbeitrag von Al-Jazeera erhält einen niedrigen Wert für "Extremismuswahrscheinlichkeit" und darf ohne Prüfung online gehen.

Ein IS-Video dagegen erhält einen hohen Wert und das System schlägt eine manuelle Prüfung vor. Die Rate an falsch-positiver Erkennung soll laut Hersteller ASI bei 0,005 Prozent liegen. Für die Zusammenarbeit mit ASI bezahlte das Innenministerium 600.000 britische Pfund.

Bei der Demonstration der Software vor Reportern (im BBC-Beitrag zu sehen) wollte das Unternehmen nicht auf Details des Algorithmus und seines Einsatz eingehen. Offenbar ist die KI ausschließlich auf das Erkennen von IS-Propaganda zugeschnitten.

Die britische Innenministerin Amber Rudd bewarb die Software bei einer Reise durchs Silicon Valley. Ziel sei vor allem, die öffentliche Präsenz und leichte Zugänglichkeit solcher Videos im Internet zu unterbinden. Demnach sollen derzeit über 1000 IS-Propagandavideos auf über 400 Websites online sein. Eine Sperre auf Google oder Facebook allein würde also kaum Wirkung zeigen.

Amber Rudd lobte Initiativen wie das Global Internet Forum to Counter Terrorism, bei der Internet-Konzerne freiwillig extremistische Inhalte im Netz bekämpfen wollen. Das reiche jedoch nicht, so die Ministerin. Mit der von ihr vorgestellten Technik könnten auch kleine Websites Inhalte filtern, und sie hoffe, dass dies auch geschehe. Sie schließe allerdings rechtliche Maßnahmen nicht aus, die Seitenbetreiber zum Einsatz zwingen würden, sollte dies nötig sein, so Rudd. (tiw)

26 Kommentare

Themen:

Anzeige
  1. 33C3: Netzzensur durch die Hintertür?

    33C3: Netzzensur durch die Hintertür?

    Bei den geplanten Maßnahmen gegen Terror und Fake-News im Internet droht die Etablierung einer Zensur-Infrastruktur, warnt Blogger Markus Beckedahl.

  2. Britische Innenministerin will Zugriff auf WhatsApp & Co.

    Britische Innenministerin will Zugriff auf WhatsApp & Co.

    Neue Episode in den Crypto Wars: Nach dem Terroranschlag in London fordert die britische Innnenministern Amber Rudd vehement Zugriffsmöglichkeiten auf verschlüsselnde Messenger-Apps.

  3. Facebook: Künstliche Intelligenz soll Terrorinhalte finden

    Facebook

    Im Kampf gegen Terror-Propaganda verlässt Facebook sich nicht nur auf Nutzerhinweise. Ein Algorithmus soll nun lernen, terroristische Einstellung in Texten zu erkennen. Auf ein menschliches Prüfteam kann das Netzwerk deshalb aber nicht verzichten.

  4. Künstliche Intelligenz: Facebook holt Watson-Entwickler

    Künstliche Intelligenz: Facebook holt Watson-Entwickler an Bord

    Jérôme Pesenti, der bei IBM die Plattform Watson aufgebaut hat, übernimmt bei Facebook eine neu geschaffene Führungsposition für Künstliche Intelligenz (KI). Yann LeCun bleibt als KI-Chefforscher bei dem Konzern.

  1. Firewall gegen Hass

    Firewall gegen Hass

    Die dunkle Seite des Netzes hat 2016 eine steile Karriere hingelegt. Den Anfang machten hasserfüllte Kommentare oder Posts, dann folgten im Zuge des US-Wahlkampfs gefälschte Nachrichten. Was hilft gegen Hass und Lüge im Netz

  2. Schlanke KI für Mobilgeräte

    Schlanke KI für Mobilgeräte

    Mit einem neuen Filter können Facebook-Nutzer Bilder und Videos aussehen lassen wie berühmte Kunstwerke. Das ist eher eine Spielerei – doch sie dürfte den Weg zu vielen Angeboten mit künstlicher Intelligenz auf Mobilgeräten bereiten.

  3. Mit Reklametechnik gegen den IS

    Mit Reklametechnik gegen ISIS

    Das Weiße Haus versucht mit neuen Algorithmen, Terrorsympathisanten im Internet aufzuhalten. Google hilft dabei.

  1. Sternenexplosion: Amateur-Astronom beobachtet erstmals Beginn einer Supernova

    Astronomie: Amateur-Astronom beobachtet erstmals Beginn einer Supernova

    Der Argentinier Victor Buso widmet sich in seiner Freizeit der Astronomie: Nun ist es ihm offenbar als erstem Menschen überhaupt gelungen, die Anfänge einer Supernova abzulichten. Forscher erhoffen sich wichtige neue Erkenntnisse.

  2. Fritzbox 7583: Neuer AVM-Router für extraschnelles DSL

    MWC: Fritzbox 7583 für extraschnelles DSL

    Äußerlich gleich, innen flotter als der Vorgänger 7580: Die Fritzbox 7583 schafft an gebondeten G.fast-Anschlüssen maximal 3 GBit/s Downloadrate. Super Vectoring beherrscht sie aber auch.

  3. Klartext: Der Frosch, der Auto fährt

    Klartext

    Bei Comma.ai kann man sich an einem Open-Source-Projekt zum autonomen Fahren beteiligen. Das ist cool. Gründer George Hotz prahlt gern: "We are going to win autonomous cars." Das ist weniger cool. Ich verbreite etwas Ernüchterung

  4. Studie: IT-Freiberufler nagen nicht am Hungertuch

    Xing AG

    Selbständige werden häufig als Risikogruppe für Altersarmut dargestellt, was laut einer repräsentativen Allensbach-Studie zumindest für den IT-Bereich nicht zutrifft. Dort liege das frei verwertbare Monatsnetto-Einkommen für Freelancer bei fast 4700 Euro.

Anzeige