Logo von Mac & i

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.734.790 Produkten

Ben Schwan 59

iOS-App "Nude" findet mittels ML Nacktbilder und versteckt sie

App nutzt Apples maschinelles Lernen zum Erkennen von Nacktbildern

Alles sicher? Nude-App auf dem iPhone.

Bild: Entwickler

Die iOS-Software "Nude" soll in der Fotobibliothek nach sensiblen Aufnahmen suchen und sie dann in einen Bildtresor verschieben – dank CoreML lokal auf dem Gerät.

Die Entwickler der App Nude, das amerikanische Studio Hexa, nehmen den Mund recht voll: Die Software sei die "sexiest app ever", heißt es in Apples App Store. Das Tool hat eine einzige, wenn auch kitzlige Aufgabe: Menschen davor zu bewahren, beim Sexting erstellte oder erhaltene Nacktbilder aus Versehen zu veröffentlichen oder sich diese entwenden zu lassen.

Anzeige

Dazu nutzt Nude Ansätze aus dem Bereich der künstlichen Intelligenz. Zum Durchsuchen der Fotobibliothek auf dem iPhone wird Apples seit iOS 11 verfügbares Maschinelles-Lernen-Framework CoreML verwendet. Die zwei Hauptmacher hinter Nude, Jessica Chiu und Y.C. Chen, trafen sich laut The Verge in einem Unternehmerprogramm der Universität Berkeley. Der armenische Entwickler Edgar Khanzadian war für die Umsetzung zuständig.

Nude ist auf das Auffinden von Nacktaufnahmen trainiert – momentan geht das nur bei Fotos, nicht bei Videos. Werden diese auf dem Gerät erkannt, lassen sie sich in einen Bildtresor innerhalb der Nude-App verschieben, der mittels PIN gesichert ist. Parallel soll die App auch die Fotobibliothek überwachen können und diesen Schritt im Hintergrund initiieren, was allerdings noch nicht sehr zuverlässig funktioniert. Nach dem Verschieben in den Bildtresor werden die Originalbilder gelöscht. Um Hackversuche abzuwehren, kann Nude von Eingebern fehlerhafter PINs auch gleich ein Foto mit der iPhone-Frontkamera erstellen.

Nude betont, dass man selbst die Bilder nicht zu Gesicht bekommt, da CoreML nur rein auf dem Gerät eingesetzt wird. Nutzt man die App unter iOS 10 oder früher, verwendet sie allerdings nicht Apple-Technik, sondern das Deep-Learning-Framework Caffe2 von Facebook – dies aber ebenfalls nur lokal. Eine Android-Version, die in Arbeit ist, soll Tensorflow verwenden.

Für das Training ihres Systems haben Chiu und Chen laut eigenen Angaben unter anderem Pornoplattformen wie PornHub verwendet und dabei 30 Millionen Bilder analysiert. Gewisse Probleme hat der Algorithmus allerdings noch – zum Beispiel mit Männerbrüsten, wie die Macher gegenüber The Verge mitteilten. (bsc)

59 Kommentare

Themen:

Anzeige
  1. Nude-App soll iPhone-Nacktfotos schützen – und lädt diese in die Cloud

    Nude-App

    Zur Analyse werden die Fotos des Nutzers mitsamt der E-Mail-Adresse auf Amazon-Server übertragen, wie ein Sicherheitsforscher bemerkte – nur in iOS 11 laufe die Nackterkennung lokal ab.

  2. Apple wirft Nacktbild-Schutzapp Nude raus

    Nude-App

    Angeblich störte sich der Konzern an der Beschreibung als “sexiest App ever”. Nude soll Nacktfotos des Nutzers automatisch schützen – lädt diese dafür unter Umständen aber auf Amazon-Server.

  3. App Store sperrte offenbar iranische iPhone-Nutzer aus

    App Store sperrte iranische iPhone-Nutzer aus

    Der Zugriff auf den zentralen App Store wurde wohl mit einer IP-basierten Sperre für iranische Nutzer blockiert. Apps iranischer Entwickler hat Apple bereits im vergangenen Jahr entfernt.

  4. Apples Gesichtserkennung: Missbrauch durch Apps denkbar

    Face ID iPhone X

    Die TrueDepth-Kamera im iPhone X kann 52 Veränderungen des Gesichtes live erkennen – und Apps können dies nutzen. Noch scheint deren Zulassungsprozess recht locker zu sein.

  1. Die 10 besten Smart-TV-Apps

    Auf deinem Smart TV solltest du einige Apps unbedingt installieren! Wir zeigen dir die 10 besten Apps für deinen Fernseher.

  2. Google Kalender unter Android nutzen - so geht's

    Sie möchten Ihren Google Kalender auch auf Ihrem Android-Smartphone nutzen? Dann folgen Sie einfach unserer Anleitung.

  3. Netzwerkdrucker absichern - so geht's

    Netzwerkdrucker sind eine praktische Hilfe in jedem Büro. Doch sie können auch ein Sicherheitsrisiko darstellen!

  1. Zahlen, bitte! Hubble-Weltraumteleskop blickt 13,4 Milliarden Lichtjahre tief ins All

    Zahlen, bitte! Ein 13,4 Milliarden Jahre tiefer Lichtblick in die universelle Kinderstube.

    Seit genau 28 Jahren liefert das Hubble-Weltraumteleskop im All beeindruckende Bilder und lichtete sogar ein Objekt in der unvorstellbaren Entfernung von 13,4 Milliarden Lichtjahren ab.

  2. Zahlen, bitte! 1,5 Millionen km entfernt – Lagrange-Punkt zwischen Erde und Sonne

    1,5 Mio. km

    Der innere Lagrange-Punkt L1 liegt auf der Verbindungslinie zwischen Sonne und Erde rund 1,5 Millionen Kilometer in Richtung Sonne. Dort startet die Sonde LISA Pathfinder gerade mit Experimenten zum Messen von Gravitationswellen.

  3. God of War angespielt: Einfach göttlich

    God of War angespielt: Einfach göttlich

    God of War ist ein bombastisches, packendes Actionspektakel für Solisten. Da stört es kaum, dass dieses Abenteuer nur noch wenig mit den Vorgängern zu tun hat.

  4. Prag streitet über Fahrradverbot im Stadtzentrum

    Zweirad

    Ein geplantes Fahrradverbot in Teilen des Prager Stadtzentrums empört die Freunde des umweltfreundlichen Verkehrsmittels. Betroffen wären auch viele Touristen. Die Bürgervereinigung Auto*Mat kündigte am Dienstag (24. April 2018) an, vor Gericht Klage gegen die Maßnahme einzureichen

Anzeige