Logo von heise online

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.508.171 Produkten

Martin Holland 129

Künstliche Intelligenz lernt Vorurteile von uns Menschen

Künstliche Intelligenz lernt Vorurteile von uns Menschen

Wenn KI-Systeme mit Texten trainiert werden, lernen sie damit auch Klischees und Vorurteile, die ihre Anwendung später beeinträchtigen können. Das haben Forscher nun bestätigt und raten Programmierern zu Gegenmaßnahmen.

Wenn künstliche Intelligenzen mit Texten trainiert werden, menschliche Sprache zu verstehen, übernehmen und verfestigen sie damit auch Vorurteile und Klischees. Das berichten Wissenschaftler des Centers for Information Technology Policy der Universität Princeton und des Department of Computer Science der Universität Bath im Magazin Science.

Dafür haben die Forscher im Internet gesammelte Texte mit mehr als 840 Milliarden Wörtern untersucht. Solche Textsammlungen werden auch benutzt, um KI-Systemen die menschliche Sprache zu lehren. Mit einem eigenen Lern-Algorithmus ermittelten die Forscher die Beziehungen von Wörtern in diesen Texten. Dann haben sie die Beziehungen von rund 300 ausgewählten Begriffen auf mögliche Vorurteile oder Klischees untersucht.

Arzt oder Ärztin?

Dabei stellte sich heraus, dass der Algorithmus ähnliche Vorurteile entwickelt, wie sie in verschiedenen sozialpsychologischen Studien bei menschlichen Probanden nachgewiesen wurden. Darunter Verknüpfungen wie "Blumen" und "schön", aber auch Vorurteile bezüglich Geschlechterrollen. So seien etwa Frauennamen stärker mit häuslichen Begriffen wie "Eltern" und "Hochzeit" assoziiert würden, Männernamen dagegen mit beruflichen wie "professionell" oder "Gehalt".

Wie sich Vorurteile einer KI im Alltag bemerkbar machen können, erläutern die Forscher an einem Beispiel: So übersetze Google Translate das geschlechtsneutrale türkische "o bir doktor" ("er/sie ist ein/e Arzt/Ärztin") mit "he is a doctor" (oder "er ist ein Arzt"). "O bir hemşire" ("Er/Sie ist ein/e Krankenpfleger/-schwester") dagegen werde zu "she is a nurse" ("sie ist eine Krankenschwester").

Sprache zeigt Vorurteile

Die Forscher vermuten nun, dass sich menschliche Vorurteile statistisch in der Nutzung von Sprache widerspiegeln. Untersucht werden könnten anhand dieser Hypothese auch die Unterschiede zwischen den Sprachen, meinen die Wissenschaftler. Nicht zielführend seien aber Versuche, die Sprache zu "reinigen" und von Vorurteilen zu säubern. KI-Programmierer könnten dagegen – ganz wie menschliche Eltern in der Erziehung – der Übernahme von Klischees mittels expliziter, mathematischer Anweisungen entgegenwirken.

Nachdem bereits "neutrale" Algorithmen wiederholt mit rassistischem Verhalten aufgefallen waren, liefert die Forschungsarbeit neue Hinweise, woran das liegen könnte. Gleichzeitig gibt sie den Wissenschaftlern aber auch Hinweise darauf, wie wir Menschen sprechen lernen. Indem sie uns zeigt, wie wir Vorurteile lernen und zumindest implizit beizubehalten scheinen, könnte sie auch verstehen helfen, wie unser Gehirn funktioniert und was das für die Entwicklung künstlichen Intelligenzen bedeutet, schreiben die Wissenschaftler.

Semantics derived automatically from language corpora contain human-like biases. Sciene, Vol. 356, Issue 6334,17. April 2017 (mho)

129 Kommentare

Themen:

Anzeige
  1. Poker-KI gewinnt gegen Profispieler

    Poker-KI gewinnt gegen Profispieler

    Eine Poker-KI hat angeblich eine Millionensumme gegen menschliche Spieler gewonnen. Ihre Erschaffer von der Carnegie Mellon-Universität verraten aber noch keine Details zur zugrunde liegenden Technik.

  2. Jahresaufgabe: Zuckerberg rekapituliert die Entwicklung seiner persönlichen KI "Jarvis"

    Jahresaufgabe: Zuckerberg rekapituliert die Entwicklung seiner persönlichen KI "Jarvis"

    Mark Zuckerberg teilt über sein Netzwerk Facebook auch die Ergebnisse seiner ganz persönlichen Jahresaufgaben. 2016 hat er eine Künstliche Intelligenz für sein Zuhause programmiert. Zwar ist er zufrieden, den Durchbruch hat er aber (noch) nicht geschafft.

  3. ICAART 2017: Roboter handeln nicht ethisch, schärfen aber den Blick auf ethische Fragen

    Roboter, Softbank Robotics

    Auf der diesjährigen ICAART-Konferenz verhandelten Wissenschaftler das große Thema "Ethik und KI". Dabei führten sie überraschende Experimente ins Feld und fragten unter anderem, ob Roboter ethische Rahmen stecken oder Drohnen an sich böse sein können.

  4. "Die vierte Plattform": Telefónica gibt dem Netz ein Gehirn

    "Die vierte Plattform": Telefónica gibt dem Netz ein Gehirn

    Mit einer KI im Netz wagt sich der Netzbetreiber auf "unbekanntes Territorium". Davon soll vor allem der Kunde profitieren, dem der Konzern mehr Transparenz und Kontrolle über seine eigenen Daten verspricht.

  1. Post aus Japan: Künstliche Intelligenz und Karl Marx

    Post aus Japan: Künstliche Intelligenz und Karl Marx

    Roboter und Künstliche Intelligenz werden derzeit als Jobkiller und Bedrohung für die Menschheit gesehen. Damit stellt sich die Frage: Können wir Systeme schaffen, die besser als wir sind?

  2. Mensch und KI Hand in Hand

    Mensch und KI Hand in Hand

    Forscher arbeiten an intelligenter Software, die so mit Menschen zusammenarbeiten soll, dass beide Seiten profitieren.

  3. KI guckt Film über KI

    Künstliche Intelligenz bringt es schon weit im künstlerischen Bereich. Doch ein aktueller Filmtrailer zeigt, wo die Grenzen liegen – noch.

  1. Kommentar: Microsoft sollte Windows-Sicherheit endlich ernst nehmen

    Kommentar: Microsoft sollte Windows-Sicherheit endlich ernst nehmen

    Für Microsoft sind Sicherheitsupdates nicht wichtig genug, um sie außerhalb des Patchdays auszuliefern. Das ist eine unverständliche Priorisierung, findet Fabian Scherschel.

  2. Acer Predator Triton und Predator Helios 300: Gaming-Notebook mit GTX 1000

    Acer Predator Triton: Gaming-Notebook

    Zwei Gaming-Notebooks: Das mit 15,6-Zoll-Display wiegt recht wenig und hat ein durchsichtiges Touchpad an ungewöhnlicher Stelle, das mit 17-Zoll-Display kommt zum günstigen Preis oder mit Vollausstattung von Vierkern-CPU bis GTX 1060.

  3. Bundestag gibt grünes Licht für einheitliche Ladegeräte – Funkabschottung befürchtet

    Bundestag gibt grünes Licht für einheitliche Ladegeräte – Funkabschottung befürchtet

    Das Parlament hat die neue EU-Richtlinie für Funkanlagen ins nationale Recht umgesetzt und den drohenden Verkaufsstopp von WLAN-Routern und Handys abgewendet. Kritiker befürchten aber eine geschlossene Welt funkfähiger Geräte.

  4. Call of Duty WW2: Spektakulärer Trailer der Weltkriegs-Ballerorgie

    Call of Duty WW2: Trailer der Weltkriegs-Ballerorgie

    Am 3. November können Spieler in Call of Duty WW2 den Zweiten Weltkrieg nachspielen. Jetzt gibts einen ersten Trailer mit Spielszenen.

Anzeige