Logo von heise online

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.703.356 Produkten

Hans-Arthur Marsiske 11

ICAART 2017: Roboter handeln nicht ethisch, schärfen aber den Blick auf ethische Fragen

Roboter, Softbank Robotics

Bild: Softbank Robotics<br>

Auf der diesjährigen ICAART-Konferenz verhandelten Wissenschaftler das große Thema "Ethik und KI". Dabei führten sie überraschende Experimente ins Feld und fragten unter anderem, ob Roboter ethische Rahmen stecken oder Drohnen an sich böse sein können.

In Porto treffen sich an diesem Wochenende Wissenschaftler, um auf der Konferenz ICAART 2017 über neue Forschungen zu Software-Agenten und künstlicher Intelligenz zu diskutieren. Gleich am ersten Tag wurde deutlich, dass die Organisatoren keine Scheu haben, die ganz großen Themen anzugehen: Zur Eröffnung erörterte ein mit sechs Teilnehmern besetztes Podium die Frage, wie Computer ethische Entscheidungen intelligenter Personen wahrnehmen und bewerten.

Anzeige

Dahinter steht die Frage, ob künstliche Intelligenz als Wächter der Cybersecurity dienen kann. Moderator Jaap van den Herik von der niederländischen Leiden University brachte als Beispiel die Aktion einer Bank in Amsterdam, die im Jahr 2012 für 10 Euro einen psychologischen Test zur Eignung als Unternehmer anbot. Der Test war Bedingung, um einen Kredit für eine Firmengründung zu erhalten.

Die Bank verkündete stolz, dass 45.000 Personen an der Aktion teilgenommen hätten. Darunter war auch einer von van den Heriks Studenten, der erfuhr, dass er das Ergebnis im Internet unter einer Adresse <URL>?id=45420 abrufen könne. Der Student gab versuchshalber am Ende der Adresse die Nummer 45419 ein – und stellte fest, dass er auf diese Weise die Ergebnisse aller anderen Teilnehmer hätte abrufen können. Die Bank hatte die Daten nicht weiter gesichert.

War es ethisch vertretbar, dass der Student eine andere Zahl eingab? Van den Herik richtete die Frage ans Publikum und nahm die zögerlichen Reaktionen als Indiz, dass sie offenbar nicht ganz leicht zu beantworten ist. Mit etwas mehr Zeit zum Nachdenken käme man aber darauf, dass der Test einer anderen Zahl zu rechtfertigen sei, da damit die Sicherheit der eigenen Daten geprüft werde. Das Abrufen weiterer Testergebnisse könne dann allerdings nicht mehr gebilligt werden.

Telenoid, der ferngesteuerte Telepräsenzroboter des japanischen Forscher Hiroshi Ishiguro, soll mit alten Menschen kommunizieren.
Der ferngesteuerter Telepräsenzroboter Telenoid soll als Projektionsfläche in der Komunikation mit alten Menschen dienen. (Bild:  )

Die Frage, ob künstliche Intelligenz (KI) solche Fragen beantworten könne, beantworteten die Podiumsteilnehmer eher skeptisch. Ana Paula Rocha (University of Porto) hält die KI nicht für reif, ethische Entscheidungen zu treffen, und glaubt nicht, dass Softwareagenten dazu in der Lage sein könnten. „Menschliche Werte müssen durch Menschen repräsentiert werden“, sagte sie.

João Leite (Universidade Nova de Lisboa) verwies darauf, wie Kindern Ethik erklärt werde. „Jedenfalls nicht durch Training an 50.000 Beispielen, wie es bei Softwareagenten üblich ist“, stellte er fest. Nach den wissensbasierten Systemen und den Lernverfahren sei eine dritte Generation der KI nötig, die ihre Entscheidungen erklären könne und zur symbolischen Kommunikation in der Lage sei.

Microsofts  KI-Chatbot Tay wurde auf ihrem Siegeszug von böswilligen Nutzern ausgeknockt.
Microsofts KI-Chatbot Tay wurde auf ihrem Siegeszug von böswilligen Nutzern ausgeknockt.

In eine ähnliche Richtung argumentierte Nuno Lau (Universidade de Aveiro). Er erinnerte an den Twitterbot Tay von Microsoft, der offensichtlich nicht auf böswillige Nutzer vorbereitet war und für rassistische Äußerungen missbraucht wurde. Wie können Softwareagenten vor „schlechten“ Lehrern geschützt werden, fragte Lau und verwies darauf, dass Menschen beim Lernen immer auch sozial eingebettet seien. Vanessa Evers (University of Twente) sagte es noch pointierter: Nicht superintelligente Roboter seien notwendig, sondern sozial intelligente.

Anzeige

Roboter Spencer am Flughafen Schiphol

In ihrem Plenarvortrag vermittelte sie später einen Überblick, wie vielfältig dieses Forschungsgebiet ist: Da ging es um Roboter, die am Flughafen Gruppen von Menschen erkennen und ihnen respektvoll ausweichen, Experimente mit Telepräsenzrobotern in Seniorenheimen und um Studien, wie autistische Kinder mithilfe von Robotern besser lernen können, Emotionen zu erkennen. Beeindruckend auch die Testfahrten eines (angeblich) autonomen Fahrzeugs, bei dem die unterschiedlichen Reaktionen der Fußgänger beobachtet wurden.

69 Prozent der Autofahrer in Deutschland würden sich in die Hände eines Autopiloten begeben. Ob sie auch für einen möglichen Unfall haften wolten?
69 Prozent der Autofahrer in Deutschland würden sich in die Hände eines Autopiloten begeben. Ob sie auch für einen möglichen Unfall haften wolten? (Bild: Mercedes)

Da es ethisch nicht zu rechtfertigen und rechtlich nicht zulässig wäre, tatsächlich ein Auto ohne Sicherheitsfahrer auf die Straßen zu lassen, war das Fahrzeug tatsächlich von einem Menschen gelenkt, der Fahrer aber im Fahrersitz versteckt. Im Video, das Evers zeigte, war zu sehen, dass die Fußgänger angesichts des Testfahrzeugs generell vorsichtiger waren und einige ganz darauf verzichteten, vor dem Auto, selbst wenn es stand, die Straße zu überqueren.

Die fliegende Roboter-Fledermaus B2 besteht hauptsächlich aus flexiblem Material und stelle deshalb nach Einschätzung ihrer Entwickler bei Kollisionen keine Gefahr dar. Ist sie damit per se ungefährlich?
Die fliegende Roboter-Fledermaus B2 besteht hauptsächlich aus flexiblem Material und stelle deshalb nach Einschätzung ihrer Entwickler bei Kollisionen keine Gefahr dar. Ist sie damit per se ungefährlich?

Aus ethischer Sicht besonders heikel ist natürlich der militärische Einsatz von Robotern und KI. Auf den kürzlich vom US-Militär getesteten Roboterschwarm mit 103 Drohnen angesprochen, sagte João Leite, dass Objekte nicht ethisch beurteilt werden könnten, nur Taten. Für diese auffallend defensive Einschätzung erhielt er prompt Kritik aus dem Publikum, dass Waffen grundsätzlich unethisch seien. Man dürfe schließlich auch nicht vergessen, dass Objekte aus Taten hervorgehen: So gibt es Waffen nur, weil sie von Menschen entwickelt werden. Die Diskussion zu diesem Thema verlief erwartungsgemäß kurz, heftig und ergebnislos.

Gleichwohl gelang ein versöhnliches Ende mit der Frage, ob KI helfen könne, Ethik besser zu verstehen. Ja, sagte Nuno Lau, es sei ja von Anfang an die Idee der KI gewesen, durch diese Forschung den Menschen selbst besser zu verstehen. Experimente in alle Richtungen müssten daher möglich sein. Auf den Bereich der Anwendungen bezogen mahnte Lau jedoch zur Vorsicht: Es sei riskant, Softwareagenten zu erlauben, ihre eigenen ethischen Rahmen zu entwickeln. (Hans-Arthur Marsiske) / (uk)

11 Kommentare

Themen:

Anzeige
  1. Initiative für ethische KI: Gründer von eBay und Linkedin spenden Millionen

    Künstliche Intelligenz, Informationsfreiheit

    Mit 27 Millionen US-Dollar Vermögen soll ein neuer Stiftungsfonds die Forschung über KI und Ethik voranbringen. Hauptspender sind eBay-Gründer Pierre Omidyar und Linkedin-Gründer Reid Hoffman.

  2. Robotik: Ethik-Debatte über den intelligenten Bankräuber

    Robotik: Ethik-Debatte über den intelligenten Bankräuber

    Auf der CUBE Tech Fair in Berlin müssen sich Robotik-Startups der großen Frage nach den Jobs und der Automatisierung stellen. Diese Debatte muss geführt werden – und wird uns wohl eine Weile beschäftigen.

  3. Ethik-Kommission: Keine Lösung für "echte dilemmatische" Situationen beim autonomen Fahren

    Autobahn A14

    Wenn es ausweglos um Leben oder Tod auf der Straße geht, kann ein autonomes System laut einem Expertenbericht nicht weiterhelfen. Derartige Ereignisse seien weder normier- noch programmierbar. Haftung und Datenautonomie sind weitere Schwerpunkte.

  4. Microsoft-Chef Nadella: Künstliche Intelligenz ist eine demokratisierende Technik

    Microsoft-Chef Nadella: Künstliche Intelligenz ist eine demokratisierende Technik

    Seit dem Verkauf von Microsoft Basic für den Altair hat sich an der Identität von Microsoft als "Tool Company" nichts geändert, erklärte Microsoft-CEO Satya Nadella in München. Nun will Microsoft allen Entwicklern gute KI-Werkzeuge zur Hand geben.

  1. Künstliche Intelligenz für alle

    Künstliche Intelligenz für alle

    Die Möglichkeiten von intelligenter Technik erscheinen fast unbegrenzt. Bei einer Konferenz in Genf ging es jetzt um die Frage, wie sich erreichen lässt, dass sie der gesamten Menschheit zugute kommt.

  2. Autonome Autos können Ethik

    Autonome Autos können Ethik

    Menschen handeln in Extremsituationen instinktiv. Dieses Handeln kann von autonomen Autos simuliert werden, sagen Osnabrücker Forscher in einer neuen Studie.

  3. Wer gesehen wird, hat schon verloren

    Der neue Dokumentarfilm "Krieg & Spiele" versucht die Beziehungen zwischen Drohnentechnologie, Robotik, KI und Computerspielen zu zeigen

  1. Ermittlungen gegen Top-Manager aus VW-Motorentwicklung

    Auspuff, VW, Volkswagen, Abgas-Skandal

    Die Staatsanwaltschaft ermittelt im Rahmen des Dieselskandals gegen einen weiteren Manager von Volkswagen.

  2. Welt-Pressefoto des Jahres 2017: Die Nominierungen stehen fest

    Zivilisten während der Kämpfe um die irakische Stadt Mossul

    Bilder von Krieg und Frieden, Liebe und Hass, Natur und Naturzerstörung – mehr als 4500 Fotografen haben sich am World Press Photo Contest für das beste Pressefoto des Jahres 2017 beteiligt, nun steht die Vorauswahl für die besten Aufnahmen fest.

  3. Vorstellung: Volvo V60

    Volvo V60 2018

    Kurz vor dem Genfer Autosalon zeigt Volvo erste Bilder des zweiten V60. Der wird deutlich größer als sein Vorgänger und auch teurer. Bei der Gestaltung gibt es kaum neue Akzente: Der Kombi ist ganz im Stil der restlichen Modelle geformt

  4. Das Universum ist flach

    In den letzten Jahrzehnten haben Astronomen intensiv geprüft, ob wir in einem Universum leben, in dem sich die Lichtstrahlen geradeaus bzw. entlang einer Kurve fortsetzen. Auskunft darüber beantwortet die Frage nach der Geometrie des Universums - im großen Maßstab

Anzeige