Logo von heise online

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.684.056 Produkten

Wolfgang Stieler 102

Zahlen bitte! 3 Regeln für Roboter - Zum Geburtstag von Isaac Asimov

Zahlen bitte! 3 Regeln für Roboter - Zum Geburtstag von Isaac Asimov

Lange bevor Wissenschaftler sich ernsthaft darüber Gedanken machten, wie man künstliche Intelligenzen daran hindern könnte, aus dem Ruder zu laufen, formulierte Isaac Asimov drei simple Grundregeln dafür: die Robotergesetze.

1942, als die fortschrittlichsten weltweit verfügbaren Computer noch mit Röhren betriebene Spezialmaschinen zur Lösung linearer Gleichungssysteme waren, dachte ein junger Schriftsteller über das Zusammenleben von Menschen und autonomen Robotern nach. Besonders faszinierte den jungen Isaac Asimov, der heute, am 2. Januar 2018, 98 Jahre alt geworden wäre, wie man verhindern könnte, dass an sich gutwillige, intelligente Maschinen Schaden anrichten.

Anzeige

Zahlen, bitte!

In dieser Rubrik stellen wir jede Woche Dienstag verblüffende, beeindruckende, informative und witzige Zahlen aus den Bereichen IT, Wissenschaft, Wirtschaft und der Mathematik selbst vor.

Denn die autonomen Roboter, die Asimov sich vorstellte, sollten durchaus eine gewisse Eigenständigkeit besitzen - schließlich sollten sie ja selbstständig Lösungen für unerwartet auftretende Probleme finden. Die "positronischen Gehirne" solcher autonomer Maschinen stellte Asimov sich daher als eine Art Black Box vor, deren eventuell auftretende Fehlfunktion nur durch "Roboter-Psychologen" wieder beseitigt werden können. Einfach beliebig umprogrammieren konnte man diese Roboter jedenfalls nicht.

Die Lösung, auf die Asimov schließlich kam, waren drei Grundregeln, die jeder Roboter tief in sein Bewusstsein eingebrannt hatte:

Erstens, dass kein Roboter einem Menschen Schaden zufügen darf, noch dass er zulassen darf, dass ein Mensch Schaden erleidet.

Zweitens, dass ein Roboter sich immer an menschliche Anweisungen halten muss.

Drittens, dass ein Roboter nichts unternehmen darf, was seine eigene Existenz gefährdet.

Später ergänzte Asimov ein "nulltes Gesetz", nach dem ein Roboter nicht nur Schaden von individuellen Menschen, sondern auch von "der Menschheit" abzuwenden habe.

Isaac Asimov zählt zusammen mit Arthur C. Clarke und Robert A. Heinlein zu den "Großen Drei" der Science-Fiction-Literatur.
Isaac Asimov zählt zusammen mit Arthur C. Clarke und Robert A. Heinlein zu den "Großen Drei" der Science-Fiction-Literatur.

Die laut FAQ der Usenet-Newsgruppe alt.books.isaac-asimov erstmals in der Kurzgeschichte "Runaround" erwähnten Gesetze erwiesen sich für Asimov sehr schnell als äußerst wertvoll. Denn die Regeln klingen zwar zunächst logisch, sind in sich aber keineswegs widerspruchsfrei - und eröffnen damit die Möglichkeit, diese Widersprüche in vielen Folgegeschichten explizit durchzuspielen.

Die Zeitschrift "Astounding Science Fiction", in der die Story im Mai 1942 erstmals erschien, erwies sich dafür als ideale Bühne. Denn ihr Herausgeber, John W. Campbell war, anders als seine Vorgänger, sehr an Logik und wissenschaftlichen Fakten interessiert. In zahlreichen Editorials schoss er scharf gegen die weit verbreiteten "Space Operas", in denen glubschäugige außerirdische Monster – Bug Eyed Monsters, kurz BEM – die Erde erobern, um die Menschheit als Fleischlieferant zu verwenden. "Das mag ein hübscher Hintergrund für Horror-Fantasy sein", spottete er. "Aber besonders wirtschaftlich wäre es nicht. Es dauert schätzungsweise zehn Jahre, um einhundert Pfund Menschenfleisch heranzuziehen, und dazu braucht man sehr teueres Futter."

Anzeige

Spätestens seit den jüngsten Erfolgen der KI-Forschung ist die Diskussion um Roboter-Ethik jedoch auch in der realen Welt angekommen, beispielsweise in der Diskussion um selbstfahrende Autos und ihre Opfer oder die Forderung von EU-Parlamentariern nach einem "Kill-Schalter" für Roboter. Während Asimov die Widersprüche, die sich aus den Robotergesetzen ergeben, nur in fiktionalen Geschichten durchspielte, arbeiten Robotiker an Experimenten zu dem Thema. So hat beispielsweise Alan Winfield von der University of Bristol 2015 erste Experimente mit Robotern durchgeführt, die die Asimov-Regeln beachten müssen. Fun Fact: 2015 ist das Jahr, in dem Asimovs Kurzgeschichte "Runaway" spielt.

Winfield verwendete einen A-Roboter – benannt nach Asimov – und ein H-Roboter, der simulierte "Humanoide". Der A-Roboter bekam die Anweisung, zu einer bestimmten Position zu fahren. Der H-Roboter sollte auf ein Loch zurollen. Der A-Roboter, der die Position des anderen Roboters in seine Planung mit einbezog, konnte nun entweder die ursprüngliche Anweisung erfüllen, oder den H-Roboter retten, damit gegen einen Befehl handeln und sich eventuell selbst in Gefahr bringen. Das Experiment – zunächst mit simulierten, später mit echten Robotern – hat in manchen Fällen geklappt, in anderen Fällen konnte sich der A-Roboter nicht entscheiden und blieb in einer Art Endlosschleife gefangen. Um solche Deadlocks zu vermeiden, hat Winfield die Architektur seiner Ethik-Software seither noch einmal deutlich verfeinert.

heise-News direkt in WhatsApp, Telegram, FB Messenger und Insta abonnieren.
Unser Messenger-"Botti" hält sich natürlich auch an die Robotergesetze. (Bild:  heise-News direkt in WhatsApp, Telegram, FB Messenger und Insta abonnieren (oder auf das Bild klicken))

Asimov wird zwar immer wieder vorgeworfen, kein besonders großartiger Literat gewesen zu sein, weil sein Stil schnörkellos und minimalistisch war. Aber "Robbie" beispielsweise, die erste Kurzgeschichte der Roboter-Reihe, schildert geradezu anrührend die Freundschaft zwischen dem Mädchen Annie und ihrem "Kindermädchen", dem stummen Androiden Robbie. Dabei nimmt Asimov die aktuelle Diskussion um Kinder und Jugendliche, die zuviel Zeit mit ihren "elektronischen Freunden" verbringen – Spielkonsolen, Smartphones und sozialen Netzen –, den gesellschaftlichen Druck auf die Eltern, die Angst der Menschen um ihre Arbeitsplätze und den menschlichen Standesdünkel erstaunlich hellsichtig vorweg. (wst)

102 Kommentare

Themen:

Anzeige
  1. EU-Parlamentarier fordern "Kill-Schalter" für Roboter

    EU-Parlamentarier fordern "Kill-Schalter" für Roboter

    Der Rechtsausschuss des EU-Parlaments will, dass "intelligente Maschinen" strenger reguliert werden. Es geht um ethische Standards und Haftung bei autonomen Autos genauso wie ums bedingungslose Grundeinkommen.

  2. Warum heise online derzeit keine Links zum LG Hamburg setzt

    Statt eines Kommentars: Warum heise online keine Links zum LG Hamburg setzt

    Nach dem Linkhaftungsurteil des Landgerichts Hamburg: Verlagsjustiziar Joerg Heidrich hat für heise online nachgeforscht, ob sich der Verlag in Abmahngefahr begibt, wenn er Links zum Online-Auftritt des LG Hamburg setzt.

  3. Roboterwettbewerb Enrich: "Wir wollen bis 2022 ein Bündel robotischer Systeme haben"

    Roboterwettbewerb Enrich: "Wir wollen bis 2022 ein Bündel robotischer Systeme haben"

    Nach dem Roboterwettbewerb Enrich in Zwentendorf stellt sich General Michael Janisch vom österreichischen Amt für Rüstung und Wehrtechnik den Fragen von heise online.

  4. Bundesrat stimmt Gesetz für selbstfahrende Autos zu

    Autonomes Fahren

    Nachdem der Bundestag bereits Ende März einer Gesetzesvorlage zu autonomen Autos zugestimmt hatte, folgte am Freitag das Ja des Bundesrates. Damit ist autonomes Fahren erlaubt, aber mit einigen Einschränkungen.

  1. Die Aktualität von Asimovs Robotergesetzen

    In Simulationen treten bei Robotern innere Zustände immer dann auf, wenn Katastrophen wie der eigene Totalausfall drohen

  2. Roboter brauchen Rechte

    Alles andere wäre blauäugig und verantwortungslos

  3. Ein nie vollendetes Spiel

    Am vergangenen Wochenende begann auf der Webseite nevercompletedgame.com ein Spiel, das die Internet-Community über zahlreiche Stunden auf Trab hielt. Was hat es mit dem Spiel auf sich, und wie lässt es sich lösen?

  1. Klein und open: Daihatsus Beitrag zum Thema Fahrspaß

    „Oh Gott, der ist ja noch kleiner als ich dachte“, schießt es mir beim ersten Anblick des Daihatsu Copen „100th Anniversary“ durch den Kopf. Skeptisch beäuge ich den nur 3,39 Meter langen Japaner von allen Seiten

  2. Honda CB 1000 R

    CB 1000 R

    Honda hatte ein Jahr lang das Naked Bike CB 1000 R aus dem Programm genommen, was bei den Fans für Unruhe sorgte. Die Nachfolgerin versöhnt beim ersten Anblick, das Design ist eine interessante Mischung aus modernen Formen und klassischen Elementen. Dazu bekam der Vierzylinder 20 PS mehr

  3. Fahrbericht: Ford Expedition 2018

    Ford Expedition

    In den USA herrschen, was die richtige Fahrzeuggröße angeht, vielfach andere Vorstellungen als in Europa. Ein Ausflug mit dem für europäische Verhältnisse riesigen, auf dem US-Markt recht populären Ford Expedition 2018 zeigt dies eindrücklich

  4. Klartext: *Brrzzz*

    Subaru BRZ

    Vor allem als Schreiber sollte man sich wo immer möglich die Zeit nehmen, ein eigenes Urteil zu bilden. Das Beispiel Subaru BRZ zeigt den Grund dafür genauso wie den Grund, warum ebendies in der Praxis nie passiert

Anzeige