sharing is caring
ist wirklich so!
Vielen Dank fürs Teilen!
handverlesenswert
Kluge Köpfe filtern für dich relevante Beiträge aus dem Netz.
Entdecke handverlesene Artikel, Videos und Audios zu deinen Themen.
Du befindest dich im Kanal:
Wenn folgenreiche Entscheidungen von Algorithmen als Geschäftsgeheimnis geschützt werden
Neugier und Misstrauen
Kurator'in für: Technologie und Gesellschaft Fundstücke
In Hohenlimburg geboren und in Berlin lebend. Recherchen in knapp vierzig Ländern für Feature-Redaktionen des Deutschlandfunks, verschiedener ARD-Sender sowie u.a. auch DIE ZEIT und FAS, einige Auszeichnungen, Bücher zu den Themen MENSCHENWERTBERECHNUNG, DEMENZ und HEIMAT, zuletzt vorwiegend Theaterstücke mit Uraufführungen an den Staatstheatern Karlsruhe, Nürnberg und Weimar.
In der FAZ erläutern die Professoren Gerd Gigerenzer, Gert G. Wagner und Klaus-Robert Müller, wie algorithmen-basierte Entscheidungen überprüft werden könnten.
Dies vor dem Hintergrund, dass z. B. die Schufa folgenreiche Entscheidungen zur individuellen Kreditwürdigkeit allein Computerprogrammen überlässt. Wie die Urteile zustande kommen, lässt sich nicht nachvollziehen. Eine juristische Klage auf Offenlegung des Schufa-Algorithmus wurde mit dem Hinweis auf das zu schützende Geschäftsgeheimnis abgewiesen.
Derzeit werden immer mehr kommerzielle Algorithmen eingesetzt, um uns in fast allen Bereichen des Lebens einen Score zuzuteilen.
Andere Programme gehen noch weiter. Compas erstellt in den USA algorithmen-basierte Vorhersagen zur Rückfallgefahr von Straftätern, die bei der Urteilsfindung genutzt werden, wobei weder der Angeklagte, sein Anwalt noch der Richter selbst durchschauen, wie es zu den Compas-Empfehlungen kommt. Auch diese Algorithmen sind durch das Geschäftsgeheimnis geschützt.
Abgesehen davon können auch Experten die Codes selbstlernender Programme in aller Regel kaum noch kontrollieren.
Im Koalitionsvertrag der Bundesregierung steht jedoch, dass „Algorithmen- und KI-basierte Entscheidungen, Dienstleistungen und Produkte“ überprüfbar gemacht werden sollen.
Um dabei das Geschäftsgeheimnis wahren zu können, schlagen die drei Professoren nun „Transparenz-Schnittstellen“ vor, an denen zumindest die Merkmale, die zur Entscheidungsfindung herangezogen werden, offen liegen, um sie „durchzuspielen“. Sollte dies schon zu weit gehen, könnte unter strengen Auflagen zur Verschwiegenheit eine noch einfachere Schnittstelle von Betroffenen zur Überprüfung genutzt werden, die dann – wieder zum Schutz des Geschäftsgeheimnisses – sehr aufwendige gerichtliche „In-camera-Verfahren“ anstrengen könnten.
So interessant das ist, bleibt die Frage doch, ob wir als Gesellschaft solche Entscheidungen überhaupt undurchschaubaren kommerziellen Programmen überlassen sollten.
Quelle: Frankfurter Allgemeine Zeitung GmbH Bild: Picture-Alliance Artikel kostenpflichtig faz.net
KOSTENPFLICHTIGKOSTENPFLICHTIG
Kommentare
0
Bleib immer informiert! Hier gibt's den Kanal Technologie und Gesellschaft als Newsletter.
AntennaPod
Podcast Addict
Downcast
Instacast
Apple Podcasts
PodGrasp
gPodder
Pocket Casts
