Logo von heise online

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.733.931 Produkten

Wolfgang Stieler 102

Zahlen bitte! 3 Regeln für Roboter - Zum Geburtstag von Isaac Asimov

Zahlen bitte! 3 Regeln für Roboter - Zum Geburtstag von Isaac Asimov

Lange bevor Wissenschaftler sich ernsthaft darüber Gedanken machten, wie man künstliche Intelligenzen daran hindern könnte, aus dem Ruder zu laufen, formulierte Isaac Asimov drei simple Grundregeln dafür: die Robotergesetze.

1942, als die fortschrittlichsten weltweit verfügbaren Computer noch mit Röhren betriebene Spezialmaschinen zur Lösung linearer Gleichungssysteme waren, dachte ein junger Schriftsteller über das Zusammenleben von Menschen und autonomen Robotern nach. Besonders faszinierte den jungen Isaac Asimov, der heute, am 2. Januar 2018, 98 Jahre alt geworden wäre, wie man verhindern könnte, dass an sich gutwillige, intelligente Maschinen Schaden anrichten.

Anzeige

Zahlen, bitte!

In dieser Rubrik stellen wir immer dienstags verblüffende, beeindruckende, informative und witzige Zahlen aus den Bereichen IT, Wissenschaft, Wirtschaft und der Mathematik vor.

Denn die autonomen Roboter, die Asimov sich vorstellte, sollten durchaus eine gewisse Eigenständigkeit besitzen - schließlich sollten sie ja selbstständig Lösungen für unerwartet auftretende Probleme finden. Die "positronischen Gehirne" solcher autonomer Maschinen stellte Asimov sich daher als eine Art Black Box vor, deren eventuell auftretende Fehlfunktion nur durch "Roboter-Psychologen" wieder beseitigt werden können. Einfach beliebig umprogrammieren konnte man diese Roboter jedenfalls nicht.

Die Lösung, auf die Asimov schließlich kam, waren drei Grundregeln, die jeder Roboter tief in sein Bewusstsein eingebrannt hatte:

Erstens, dass kein Roboter einem Menschen Schaden zufügen darf, noch dass er zulassen darf, dass ein Mensch Schaden erleidet.

Zweitens, dass ein Roboter sich immer an menschliche Anweisungen halten muss.

Drittens, dass ein Roboter nichts unternehmen darf, was seine eigene Existenz gefährdet.

Später ergänzte Asimov ein "nulltes Gesetz", nach dem ein Roboter nicht nur Schaden von individuellen Menschen, sondern auch von "der Menschheit" abzuwenden habe.

Isaac Asimov zählt zusammen mit Arthur C. Clarke und Robert A. Heinlein zu den "Großen Drei" der Science-Fiction-Literatur.

Die laut FAQ der Usenet-Newsgruppe alt.books.isaac-asimov erstmals in der Kurzgeschichte "Runaround" erwähnten Gesetze erwiesen sich für Asimov sehr schnell als äußerst wertvoll. Denn die Regeln klingen zwar zunächst logisch, sind in sich aber keineswegs widerspruchsfrei - und eröffnen damit die Möglichkeit, diese Widersprüche in vielen Folgegeschichten explizit durchzuspielen.

Die Zeitschrift "Astounding Science Fiction", in der die Story im Mai 1942 erstmals erschien, erwies sich dafür als ideale Bühne. Denn ihr Herausgeber, John W. Campbell war, anders als seine Vorgänger, sehr an Logik und wissenschaftlichen Fakten interessiert. In zahlreichen Editorials schoss er scharf gegen die weit verbreiteten "Space Operas", in denen glubschäugige außerirdische Monster – Bug Eyed Monsters, kurz BEM – die Erde erobern, um die Menschheit als Fleischlieferant zu verwenden. "Das mag ein hübscher Hintergrund für Horror-Fantasy sein", spottete er. "Aber besonders wirtschaftlich wäre es nicht. Es dauert schätzungsweise zehn Jahre, um einhundert Pfund Menschenfleisch heranzuziehen, und dazu braucht man sehr teueres Futter."

Anzeige

Spätestens seit den jüngsten Erfolgen der KI-Forschung ist die Diskussion um Roboter-Ethik jedoch auch in der realen Welt angekommen, beispielsweise in der Diskussion um selbstfahrende Autos und ihre Opfer oder die Forderung von EU-Parlamentariern nach einem "Kill-Schalter" für Roboter. Während Asimov die Widersprüche, die sich aus den Robotergesetzen ergeben, nur in fiktionalen Geschichten durchspielte, arbeiten Robotiker an Experimenten zu dem Thema. So hat beispielsweise Alan Winfield von der University of Bristol 2015 erste Experimente mit Robotern durchgeführt, die die Asimov-Regeln beachten müssen. Fun Fact: 2015 ist das Jahr, in dem Asimovs Kurzgeschichte "Runaway" spielt.

Winfield verwendete einen A-Roboter – benannt nach Asimov – und ein H-Roboter, der simulierte "Humanoide". Der A-Roboter bekam die Anweisung, zu einer bestimmten Position zu fahren. Der H-Roboter sollte auf ein Loch zurollen. Der A-Roboter, der die Position des anderen Roboters in seine Planung mit einbezog, konnte nun entweder die ursprüngliche Anweisung erfüllen, oder den H-Roboter retten, damit gegen einen Befehl handeln und sich eventuell selbst in Gefahr bringen. Das Experiment – zunächst mit simulierten, später mit echten Robotern – hat in manchen Fällen geklappt, in anderen Fällen konnte sich der A-Roboter nicht entscheiden und blieb in einer Art Endlosschleife gefangen. Um solche Deadlocks zu vermeiden, hat Winfield die Architektur seiner Ethik-Software seither noch einmal deutlich verfeinert.

Unser Messenger-"Botti" hält sich natürlich auch an die Robotergesetze. (Bild:  heise-News direkt in WhatsApp, Telegram, FB Messenger und Insta abonnieren (oder auf das Bild klicken))

Asimov wird zwar immer wieder vorgeworfen, kein besonders großartiger Literat gewesen zu sein, weil sein Stil schnörkellos und minimalistisch war. Aber "Robbie" beispielsweise, die erste Kurzgeschichte der Roboter-Reihe, schildert geradezu anrührend die Freundschaft zwischen dem Mädchen Annie und ihrem "Kindermädchen", dem stummen Androiden Robbie. Dabei nimmt Asimov die aktuelle Diskussion um Kinder und Jugendliche, die zuviel Zeit mit ihren "elektronischen Freunden" verbringen – Spielkonsolen, Smartphones und sozialen Netzen –, den gesellschaftlichen Druck auf die Eltern, die Angst der Menschen um ihre Arbeitsplätze und den menschlichen Standesdünkel erstaunlich hellsichtig vorweg. (wst)

102 Kommentare

Themen:

Anzeige
  1. 50 Jahre "2001 Odyssee im Weltraum" – oder: Wie ich lernte, den Computer zu lieben

    50 Jahre "2001 Odyssey im Weltraum": Oder, wie ich lernte, den Computer zu lieben

    Am 6. April 1968 kam der Film "2001 – Odyssee im Weltraum" in die Kinos und veränderte das Genre des Science-Fiction-Films für immer. Der Film ist heute aufgrund der Diskussionen über Machine Learning aktueller denn je.

  2. Roboterwettbewerb Enrich: "Wir wollen bis 2022 ein Bündel robotischer Systeme haben"

    Roboterwettbewerb Enrich: "Wir wollen bis 2022 ein Bündel robotischer Systeme haben"

    Nach dem Roboterwettbewerb Enrich in Zwentendorf stellt sich General Michael Janisch vom österreichischen Amt für Rüstung und Wehrtechnik den Fragen von heise online.

  3. Human-Robot Interaction: Roboter als Friedensstifter

    Human-Robot Interaction: Roboter als Friedensstifter

    Können Roboter dabei helfen, Konflikte zu lösen? In einigen Fällen ja, sagt die Forscherin Solace Shen. Sie ließ den Roboter Keepon zwischen Kindern vermitteln, die beim Spielen in Streit gerieten.

  4. Bundesrat stimmt Gesetz für selbstfahrende Autos zu

    Autonomes Fahren

    Nachdem der Bundestag bereits Ende März einer Gesetzesvorlage zu autonomen Autos zugestimmt hatte, folgte am Freitag das Ja des Bundesrates. Damit ist autonomes Fahren erlaubt, aber mit einigen Einschränkungen.

  1. Die Aktualität von Asimovs Robotergesetzen

    In Simulationen treten bei Robotern innere Zustände immer dann auf, wenn Katastrophen wie der eigene Totalausfall drohen

  2. Roboter brauchen Rechte

    Alles andere wäre blauäugig und verantwortungslos

  3. Ein nie vollendetes Spiel

    Am vergangenen Wochenende begann auf der Webseite nevercompletedgame.com ein Spiel, das die Internet-Community über zahlreiche Stunden auf Trab hielt. Was hat es mit dem Spiel auf sich, und wie lässt es sich lösen?

  1. Erste Ausfahrt: Mercedes A 200

    Mercedes A-Klasse

    Die vierte A-Klasse ist ein hervorragendes Auto geworden, wie eine erste Ausfahrt zeigt. Eindrucksvoll ist der Vorsprung im Bereich Infotainment. Ein Modell für die breite Masse ist es aber nicht, denn Mercedes langt selbst für Kleinigkeiten heftig zu

  2. Nahles zur SPD-Parteichefin gewählt

    Das Ergebnis von 66 Prozent ist weitaus schlechter als von ihrem Vorgänger Schulz, aber besser als in Umfragen. Ob sie die Partei auf neuen Kurs bringt?

  3. c't uplink 21.9: Cryptojacking, dicke LTE-Tarife, Photoshop-Alternativen

    c't uplink 21.9: Cryptojacking, dicke LTE-Tarife, Photoshop-Alternativen

    Kryptomining – warum nicht mal auf fremden Rechnern? Jürgen Schmidt erklärt im c’t uplink, warum Cryptojacking zum illegalen Trend geworden ist und wie es funktioniert. Außerdem in der Sendung: LTE-Tarife mit 6 bis 20 GByte und preiswerte Alternativen zu Adobe Photoshop.

  4. Private Videoüberwachung: Illegaler Einsatz ist strafbar

    Überwachung im Innenhof: Beschwerden von Nachbarn nehmen zu

    Private Überwachungskameras hängen in Hauseingängen oder an Balkonen, filmen den Innenhof oder Besucher im Hausflur. Immer mehr Menschen sehen sich dadurch belästigt. Berlins Datenschutzbeauftragte bekommt es zu spüren.

Anzeige