Logo von heise online

Suche
Abonnieren

Tägliche Top-News bei WhatsApp, Facebook Messenger, Telegram & Insta

preisvergleich_weiss

Recherche in 1.703.356 Produkten

Stefan Krempl 89

EU-Parlamentarier fordern "Kill-Schalter" für Roboter

EU-Parlamentarier fordern "Kill-Schalter" für Roboter

Die Menschheit stehe an der Schwelle einer Ära, "in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln", meint der Rechtsausschuss des EU-Parlaments.

Bild: heise online

Der Rechtsausschuss des EU-Parlaments will, dass "intelligente Maschinen" strenger reguliert werden. Es geht um ethische Standards und Haftung bei autonomen Autos genauso wie ums bedingungslose Grundeinkommen.

Die EU-Kommission soll ethische Grundprinzipien festlegen, "die bei der Entwicklung, Programmierung und Nutzung" von Robotern und Künstlicher Intelligenz (KI) eingehalten werden müssen. Dafür macht sich der Rechtsausschuss des EU-Parlaments in einem am Donnerstag angenommenen Bericht der luxemburgischen Sozialdemokratin Mady Delvaux stark. Für die Resolution stimmten 17 Volksvertreter, zwei dagegen, zwei enthielten sich. Die Entschließung muss im Februar noch vom Plenum EU-Parlaments in Straßburg bestätigt werden.

Anzeige

Der Rechtsausschuss plädiert dafür, die technische Revolution rund um "intelligente Maschinen" so zu gestalten, dass sie in den Dienst der Menschheit gestellt wird. Er skizziert in dem noch überarbeiteten Resolutionsentwurfs der Berichterstatterin eine eigene Charta, die aus einem Verhaltenskodex für Ingenieure und Forscher sowie Musterlizenzen für Konstrukteure und Nutzer besteht. Entwickler sollen demnach in das Maschinendesign unter anderem "offensichtliche Ausklinkmechanismen" in Form eines "Kill-Schalters" integrieren.

Das Entfaltungspotenzial der Robotik sehen die Rechtspolitiker durch einige Spannungen oder Risiken im Zusammenhang mit Sicherheit, Privatsphäre, Unversehrtheit, Würde, Autonomie und des Dateneigentums des Menschen berührt. Die geforderten Grundprinzipien müssten auf diesen Werten beruhen.

Allgemein spannt der Bericht einen weiten historischen Bogen vom klassischen Pygmalion-Mythos der Antike über Frankensteins Monster von Mary Shelley und der Prager Golem-Legende und Karel Capek, der den Begriff Roboter prägte, bis zu den Robotergesetzen des Science-Fiction-Autors Isaac Asimov. Mittlerweile stehe die Menschheit an der Schwelle einer Ära, "in der immer ausgeklügeltere Roboter, Bots, Androiden und sonstige Manifestationen Künstlicher Intelligenz anscheinend nur darauf warten, eine neue industrielle Revolution zu entfesseln".

Diese Entwicklung lasse vermutlich keine Gesellschaftsschicht unberührt, sodass der Gesetzgeber dringend gefragt sei. Letztlich bestehe die Möglichkeit, dass die KI die intellektuellen Fähigkeiten des Menschen innerhalb nur weniger Jahrzehnte in einer Weise überflügeln könnte und es damit schwer wäre, die "eigene Schöpfung zu kontrollieren", Herr über das eigene Schicksal zu bleiben und für das Überleben der Spezies Mensch Sorge zu tragen.

Auch die körperliche Unversehrtheit sorgt die Parlamentarier. So könnte sich etwa ein Robotercode als fehlbar erweisen. Zu erwägen seien zudem die potenziellen Folgen von Systemausfällen oder Hackerangriffen auf verbundene Systeme zu einer Zeit, in der immer mehr autonome Anwendungen eingesetzt werden oder bevorstehen. Die Abgeordneten blicken hier vor allem auf Kraftfahrzeuge und Drohnen, auf Pflegeroboter oder gar maschinelle Ordnungshüter (Robocops).

Die Abgeordneten wollen eine europäische Agentur für Robotik und KI einrichten. Diese solle sicherstellen, dass den relevanten Akteuren das nötige technische, ethische und regulatorische Fachwissen zur Verfügung steht. Dabei sollten auch externe Sachverständige hinzugezogen werden, die sich der sektor- und disziplinübergreifenden Überwachung robotikbasierter Anwendungen widmen.

Ein Großteil der Arbeiten, die heute von Menschen erledigt werden, könnten in Zukunft von Robotern übernommen werden. Die EU-Kommission soll daher genau überwachen, auf welchen Gebieten Jobs geschaffen oder zerstört werden. Angesichts der möglichen enormen Auswirkungen auf den Arbeitsmarkt müssten alle Mitgliedsstaaten dabei ein "allgemeines Grundeinkommen ernsthaft in Erwägung" ziehen und die Tragfähigkeit ihrer Sozialversicherungssysteme prüfen.

Anzeige

Gesetze rund um autonome Systeme sollen nach Meinung des Rechtsausschusses eine verschuldensunabhängige Haftung vorschreiben und so lediglich den Beweis verlangen, dass der Schaden eingetreten und auf einen Roboter zurückzuführen sei. Auch ein verpflichtendes Versicherungssystem für Hersteller oder Eigentümer sowie einen Entschädigungsfonds bringt das Gremium ins Spiel.

Standardisierung und Sicherheit liegen den Volksvertretern ebenfalls am Herzen. Roboter müssen ihnen zufolge "in lebensnahen Szenarien" jenseits reiner Versuchslabore geprüft werden, um die mit ihnen potenziell verbundenen Risiken ermitteln und bewerten zu können. Vor allem der Automobilsektor brauche dringend europäische und globale Regeln, um grenzüberschreitend automatisierte Fahrzeuge auf die Straße bringen zu können. Besondere Vorkehrungen seien auch bei Medizinrobotern, Maschinen zur "Reparatur und Optimierung des Menschen" sowie Drohnen zu treffen.

Die Abgeordneten appellieren an die Kommission, auch ein ausgewogenes Konzept "für geistige Eigentumsrechte zur Anwendung auf Hardware- und Softwarestandards sowie Kodizes vorzulegen", mit denen Innovationen geschützt und gefördert werden können. Dabei müsse die Kommission Kriterien für eine "eigene geistige Schöpfung" für urheberrechtlich schützbare Werke ausarbeiten, "die von Computern oder Robotern erzeugt werden". Auch sollte das Rechtskonzept einer "elektronischen Person" ausgelotet werden. Nicht zuletzt will der Ausschuss Forschungsprogramme gefördert wissen, um die tatsächlichen Risiken und Chancen auszuloten, die mit der Verbreitung dieser Technik verbunden sind. (Stefan Krempl) / (anw)

89 Kommentare

Themen:

Anzeige
  1. "Kill-Schalter": EU-Parlament drängt auf klare Haftungsregeln für Roboter

    Robotik

    Die EU-Abgeordneten fordern einheitliche Vorschriften für intelligente Maschinen und Systeme, um ethische Normen und Sicherheitsstandards durchzusetzen. Bei autonomen Autos soll ein Fonds Opfer entschädigen.

  2. Münchner Sicherheitskonferenz: Ein Killswitch für gefährliche KI?

    Münchner Sicherheitskonferenz: Ein Killswitch gegen Gefahren durch KI?

    Noch vor Beginn lud die Münchner Sicherheitskonferenz zur Debatte über autonome Waffensysteme und KI und versuchte gleich eine Lanze zu brechen für eine (fast) automatische Moderatorin: Roboter Sophia versicherte: "Ich bin kein KillerRobot".

  3. Internet-TV: EU-Abgeordnete dampfen geplantes Aus für Geoblocking stark ein

    Fernseher

    Fernsehsender sollen nur Nachrichten und Beiträge zum aktuellen Zeitgeschehen in der ganzen EU online abrufbar machen, wenn es nach dem EU-Parlament geht. Ein breiter grenzüberschreitender Zugriff auf Mediatheken ist nicht vorgesehen.

  4. DLD 2017: Auf der Suche nach dem verlorenen Plan

    DLD 2017: Auf der Suche nach dem verlorenen Plan

    "What's the plan?" war das Motto der DLD-Konferenz von Hubert Burda Media. Die Antwort: man hat zwar keinen Plan, macht aber munter weiter.

  1. Roboter brauchen Rechte

    Alles andere wäre blauäugig und verantwortungslos

  2. Chinesischer Roboter besteht weltweit erstmals Zulassungsprüfung für Mediziner

    Der mit viel Wissen gefütterte Roboter soll ab nächstem Jahr bei der Diagnose und der Ausbildung von Ärzten helfen

  3. Die Aktualität von Asimovs Robotergesetzen

    In Simulationen treten bei Robotern innere Zustände immer dann auf, wenn Katastrophen wie der eigene Totalausfall drohen

  1. Fahrbericht Audi A7 55 TFSI

    Wenn brandneue Smartphones das erste Mal in die Hände neugieriger Tester geraten, nennt man das gerne ein „Hands On“. Fahren kann das Ding auch. Vom hübsch gefalteten Blechkleid mal abgesehen, stecken aber gerade in den elektronischen Komponenten viele der Highlights der neuesten Generation

  2. MateBook X Pro: Huawei möbelt sein 3:2-Windows-Notebook auf

    Huawei möbelt sein 3:2-Windows-Notebook auf

    Das MateBook X Pro macht vieles besser als der erste Notebook-Versuch von Huawei. Das praktische 3:2-Display wird größer und höher aufgelöst, der Prozessor schneller, die Kühlung besser. Kurios ist die aufklappbare Kamera in der Tastatur.

  3. Noch ein Klassiker: HMD legt das Nokia 8110 neu auf

    Noch ein Klassiker: HMD legt das Nokia 8810 neu auf

    Der ikonische gebogene Slider ist wieder da: Das Nokia 8110 soll für Furore sorgen, obwohl es nur ein einfaches Handy ohne Smart-Funktionen ist. Im vergangenen Jahr ist Hersteller HMD Global das mit dem Nokia-Klassiker 3310 gelungen.

  4. Dimensionen der Tiefe: Die Bilder der Woche (KW8)

    Dimensionen der Tiefe: Die Bilder der Woche (KW8)

    Können Sie echte von unechten Bildern unterscheiden? Die Bilder dieser Woche machen deutlich, dass Fotos nicht zwingend ein Abbild der Wirklichkeit, sondern die Wirklichkeit des Fotografen wiedergeben.

Anzeige