Passwort vergessen?  | 
 |  Passwort vergessen?  | 
Suche
  • Login
  • Login

Donnerstag, 23. November 2017, Ausgabe Nr. 47

Donnerstag, 23. November 2017, Ausgabe Nr. 47

Künstliche Intelligenz

Ethik-Standards für autonome Systeme

Von Ariane Rüdiger | 10. August 2017 | Ausgabe 32

Je mehr die Digitalisierung alle Lebensbereiche durchdringt, desto öfter treffen Algorithmen kritische Entscheidungen. Der US-Verband IEEE erarbeitet derzeit ethische Normen für die Entwicklung intelligenter Hard- und Software.

Ethik BU
Foto: Jake Curtis/Softbank Robotics

Freund oder Feind? Roboter und andere autonome Systeme sollen künftig die ethischen Wertmaßstäbe ihrer menschlichen Gegenüber beachten.

Algorithmen können heute entscheiden, wer in das Fadenkreuz automatisierter Waffen oder polizeilicher Ermittlungen gerät, einen Kredit erhält oder bestimmte medizinische Behandlungen bekommt. Algorithmen bestimmen durch automatisierten Handel auch den Finanzmarkt und die individuelle Preisgestaltung im Handel. Doch wer kontrolliert diese Algorithmen? Wer sorgt dafür, dass sie ethische Maßstäbe und Werte widerspiegeln?

Wie notwendig es ist, hier neue Regeln zu entwickeln, konnte man auf dem Kongress des „World Forum for Ethics in Business“ und der Max-Planck-Gesellschaft erfahren, der Ende Juni im Deutschen Patent- und Markenamt in München stattfand. Dort berichtete etwa Burkhard Schafer von der Universität Edinburgh vom Einsatz intelligenter Algorithmen bei der Polizeiarbeit für das sogenannte Predictive Policing, der Vorhersage von Straftaten. „Werden in solche Programme die Daten aus vielen Jahren rassendiskriminierender Polizeiarbeit und Rechtsprechung eingespeist, erhält man diskriminierende Prognosen, die dann wiederum die aktuelle Arbeit prägen“, erklärte er die Krux solcher Lösungen.

Der US-Verband IEEE (Institute of Electrical and Electronics Engineers) hat eine globale Initiative für ethische Überlegungen zu künstlicher Intelligenz und autonomen Systemen ins Leben gerufen. Damit existiert ein Gremium, das sich mit diesen Themen kontinuierlich im globalen Maßstab auseinandersetzt. Seine Mitglieder kommen zwar vor allem aus Universitäten und Unternehmen im angloamerikanischen Raum, es wird aber um neue Mitglieder aus bisher unterrepräsentierten Regionen geworben, um dem globalen Anspruch gerecht zu werden.

Die Diskussionen und Arbeitsergebnisse fließen in die Formulierung der neuen Standardserie IEEE P7000 zum ethischen Design von intelligenten und autonomen informationstechnischen Systemen ein. Jährlich gibt die Initiative eine frei erhältliche Publikation heraus, die den aktuellen Status der Arbeit dokumentiert und zur öffentlichen Diskussion einlädt. Die erste Version von „Ethically Aligned Design“ ist im Dezember 2016 erschienen. Die 138 Seiten lange Veröffentlichung stellt Fragen wie die anfangs genannten, liefert Argumente und erste Lösungsvorschläge sowie Hinweise auf Literatur, in der sich der derzeitige Diskussionsstand widerspiegelt.

Die Lösungsvorschläge stoßen auf Neuland vor. Ein großes Problem sieht das Gremium in der partiell fehlenden ethischen Fundierung des Unternehmenshandelns. Um sie besser zu verankern, rät das Papier zur Etablierung eines Chief Value Officer (CVO). Ethik solle am besten von Anfang an Pflichtfach für alle Ingenieur- und Informatikstudenten werden. Roboter und Algorithmen sollen nach Meinung der Spezialisten stets erklären können, wie sie zu einer Entscheidung gekommen sind, und zwar so, dass die jeweiligen Nutzer diese Erklärung selbst nachvollziehen können. Zur Prüfung komplexer Algorithmen schlägt das Papier separate Behörden vor, wie sie nun auch Bundesjustizminister Heiko Maas mit der geplanten Digital-Agentur erwägt.

Um Ethik in intelligente Software und autonome Systeme hineinzubringen, rät das Papier zu einer dreistufigen Methode: Zunächst sei durch umfangreiche Untersuchungen festzustellen, welche Normen und Werte unter den geplanten Nutzern eines Algorithmus gelten. Anschließend sollen diese Normen als Regeln in den Algorithmus hineincodiert werden, und zwar unter Berücksichtigung von Wertkonflikten und -konkurrenzen. Schließlich sei jeder Algorithmus rigoros im Einsatzfeld zu testen und – falls nötig – zu modifizieren. Dafür muss die Arbeit eines solchen Systems umfassend dokumentiert werden. Für Tests sollen auch Zonen ausgewiesen werden, in denen autonome Roboter unter realen Bedingungen mit der Welt interagieren.

Die Normierung beginnt gerade erst. In Arbeit sind u. a. der Basisstandard P7000, der generell die Methoden ethischen Designs beschreibt, sowie P7001 (Transparenz autonomer Systeme) und P7002 (Datenschutz). Vorbild ist hier die Europäische Datenschutz-Grundverordnung.

Derzeit wirken erst rund 240 Experten an den Standardisierungsbemühungen mit – weit weniger als Tausende, die sich etwa um die Weiterentwicklung des Ethernet-Standards kümmern. Kay-Firth Butterfield, stellvertretende Vorsitzende der IEEE-Initiative, betonte: „Jeder Experte für Technologie oder Ethik ist qualifiziert, sich hier einzubringen. Besonders junge Leute sollten sich beteiligen, denn wir normieren gerade die Welt, in der sie leben müssen!“

stellenangebote

mehr