handverlesenswert

Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.

Du befindest dich im Kanal:

Technologie und Gesellschaft

"Künstliche Intelligenz ist Politik“ – über die Moral der Maschinen

Neugier und Misstrauen

Kurator'in für: Technologie und Gesellschaft Fundstücke

In Hohenlimburg geboren und in Berlin lebend. Recherchen in knapp vierzig Ländern für Feature-Redaktionen des Deutschlandfunks, verschiedener ARD-Sender sowie u.a. auch DIE ZEIT und FAS, einige Auszeichnungen, Bücher zu den Themen MENSCHENWERTBERECHNUNG, DEMENZ und HEIMAT, zuletzt vorwiegend Theaterstücke mit Uraufführungen an den Staatstheatern Karlsruhe, Nürnberg und Weimar.

Zum Kurator'innen-Profil

Jörn Klare

5 0

Donnerstag, 25.04.2019

Folgen

In der SZ widmet sich Andrian Kreye der Forderung von Wissenschaftlern "führender Universitäten“ nach einer Verhaltensforschung für Maschinen. Denn nur so ließen sich Maschinen verstehen und programmieren, "dass sie den Menschen dienen und nicht schaden.“

Kreye besucht dafür Iyad Rahwan, KI-Forscher am Massachusetts Institute of Technolgy. Bekannt wurde Rahwan durch die Entwicklung der hochspannenden „Moral Machine“. Dabei geht es um den Versuch herauszufinden, wie Menschen aus verschiedenen Weltregionen und Naturkreisen selbstfahrende Autos programmieren würden, wenn sie bei Entscheidungen in sogenannten Dilemma-Situationen, auf die Kreye ausführlicher eingeht, Menschenleben bewerten müssen.

Das sind grundlegende Moralfragen, die jetzt geklärt werden müssen, weil sich Maschinen in Zukunft danach verhalten werden.

40 Millionen Antworten von rund vier Millionen Teilnehmern aus 233 Ländern und Territorien liegen bereits vor.

"In Ländern mit ausgeprägtem Rechtsbewusstsein wie Deutschland überfahren die Leute eher mal jemanden, der bei Rot über die Straße geht."

Abhängig etwa vom Quellcode, dem Auftrag und den Lerneffekten muss man davon ausgehen, dass KI-gesteuerte Maschinen eigene Verhaltensmuster entwickeln. Dabei sind diese KIs als Black Boxes zu verstehen, deren Algorithmen als Betriebsgeheimnisse gelten.

"Derzeit sind die Wissenschaftler, die das Verhalten von Maschinen untersuchen, dieselben Wissenschaftler, welche die KIs geschaffen haben. Diese konzentrieren sich aber vor allem auf die Funktionstüchtigkeit ihrer künstlichen Intelligenzen."

Dazu kommt, dass Veränderungen im Sinne eines eigenständigen Lernens, selbst von den verantwortlichen Programmierern in der Regel nicht mehr nachvollzogen werden können, weswegen die geforderte Verhaltensforschung unabdingbar erscheint

Da tun sich nicht nur in ethischen Einzelfragen Widersprüche auf. "Die nächste Herausforderung wird die Politik sein", sagt Iyad Rahwan. "Denn künstliche Intelligenz ist Politik."

Lesenswert.

"Künstliche Intelligenz ist Politik“ – über die Moral der Maschinen

Quelle: Süddeutsche.de GmbH, Munich, Germany Bild: dpa/General Motor sueddeutsche.de

24.04.2019

Moral für Maschinen

Wissenschaftler aus der ganzen Welt fordern in einem Aufsatz in Nature eine eigene Verhaltensforschung für Maschinen. In der Veröffentlichung bemängeln sie, dass sich bisher vor allem Mathematiker und Ingenieure mit künstlicher Intellige...

zum Beitrag