TU München forscht zu ethischen Fragen der KI

Die Technische Universität München (TUM) hat gestern gemeinsam mit Staatsministerin Dorothee Bär, Beauftrage der Bundesregierung für Digitalisierung, das TUM Institute for Ethics in Artificial Intelligence eröffnet. Dabei wurden erste Forschungsprojekte an den Schnittstellen von Ethik und Künstlicher Intelligenz (KI) vorgestellt.

Bereits seit 2012 erforscht die TUM mit ihrem im Rahmen der Exzellenzinitiative eingerichteten Munich Center for Technology in Society (MCTS) die vielfältigen Wechselwirkungen von Wissenschaft, Technologie und Gesellschaft. Als Teil des MCTS konzentriert sich das TUM Institute for Ethics in Artificial Intelligence (IEAI) auf die ethischen Implikationen der Künstlichen Intelligenz. Facebook unterstützt die Initiative mit 6,5 Mio. €. Die TUM weist in diesem Zusammenhang darauf hin, dass dies ohne irgendwelche Auflagen und Erwartungen seitens Facebook geschieht.

Machine-Learning auf dem Vormarsch

Anlässlich eines Symposiums zu Eröffnung des IEAI sagte Staatsministerin Dorothee Bär, die Beauftragte der Bundesregierung für Digitalisierung: „Machine-Learning-Algorithmen bestimmen schon heute in Teilen, welche Nachrichten wir lesen – die Möglichkeiten gehen aber noch viel weiter wie etwa in der medizinischen Diagnostik.“ Aus diesen weitgreifenden technologischen Veränderungen ergäben sich auch viele ethische Fragen. Bär: „Es ist gut, dass die TU München dazu beiträgt, diese zu beantworten.“

Mit dem IEAI sollen laut TUM ihre Wissenschafts- und Technikdisziplinen mit den Geistes- und Gesellschaftswissenschaften zusammengebracht werden, um KI-basierte Technologien vertrauenswürdig zu machen und zu gesellschaftlicher Akzeptanz beizutragen. „Als Technische Universität können wir nur dann wirksam zum gesellschaftlichen Fortschritt beitragen, wenn wir unsere technologischen Innovationen auf die Werte, Bedürfnisse und Erwartungen der Menschen ausrichten,“ sagte Thomas F. Hofmann, Präsident der TUM. Deshalb kooperieren im IEAI Forscher aus Medizin, Natur- und Ingenieurwissenschaften gemeinsam mit den Sozial- und Ethikwissenschaften in interdisziplinären Teams. Mit einer Förderhöhe von insgesamt rund 2,3 Mio. € gab die TUM nun den Startschuss für die ersten Forschungsprojekte:

Ethik des autonomen Fahrens

Dazu gehört die Ethik des autonomen Fahrens. Hier sollen Theorien aus der Ethik in Algorithmen übersetzt und in Programme integriert werden, um Fahrtrichtung und Geschwindigkeit autonomer Fahrzeuge an aktuelle Situationen anpassen. Das soll helfen, um zum Beispiel bei einer unvermeidbaren Kollision mit Menschen ethisch vertretbare Entscheidungen zu treffen. Die erweiterten Programme werden anhand von bekannten und neuen Szenarien im Simulator getestet und evaluiert.

Ein weiteres Projekt betrifft KI-basierte Entscheidungshilfe bei ethischen Fragen im Klinikalltag. Hier wird untersucht, ob es möglich und sinnvoll ist, mit Ansätzen des Maschinellen Lernens Ärztinnen und Ärzten Hilfestellung bei wichtigen Entscheidungen im Klinikalltag zu bieten, zum Beispiel bei der Entscheidung für oder gegen ein Medikament.

Gegen Hass und Fake News

Bei der großen Dynamik von Hasskommentaren und Fake News, die sich in den Sozialen Medien mitunter wie ein Flächenbrand ausbreiten, spielen vermutlich KI-Algorithmen der jeweiligen Plattformen eine entscheidende Rolle. Deshalb soll in einem Projekt die Dynamiken solcher Meinungsbildung mathematisch modelliert werden, um diese besser zu verstehen und mögliche Kontrollmechanismen zu erforschen.

Die KI-gestützte Ansprache von Täterinnen und Tätern in Sozialen Medien erforscht ein anderes Projekt. Es geht um die Frage, ob sich mithilfe von KI-automatisierten, personalisierten Interventionen Täterinnen und Täter dazu bewegen lassen, ihr Verhalten beim Verbreiten von Fake News zu ändern. Untersucht werden ethische und psychologische Fragen sowie Themen des Datenschutzes und der Privatsphäre der Betroffenen.

Vertrauen in KI schaffen

Vertrauen in KI durch Regulation soll ein Projekt schaffen, das Lösungsvorschläge für die Regulierung und die Zertifizierung von KI-basierten Programmen anhand ihrer gesellschaftlichen und technischen Handhabbarkeit untersucht. Daraus sollen konkrete Handlungsempfehlungen für Gesellschaft und Politik sowie Anforderungen an die Technik entwickelt werden, um der Gesellschaft mehr Kontrollmöglichkeiten und Vertrauen zu geben.

Last but not least geht es um KI für am Menschen orientierte Industrie 4.0. Die beim Betrieb vernetzter Fertigungsanlagen (Industrie 4.0) erfassten Daten ermöglichen die Optimierung von Prozessabläufen in Echtzeit. Für Arbeitskräfte kann daraus jedoch ein Gefühl permanenter Überwachung entstehen. Das Projekt untersucht ethisch problematische Aspekte der Verwendung von KI und versucht, Algorithmen zu entwickeln, die die Produktionsprozesse für den arbeitenden Menschen mit seinen Stärken, Schwächen und Bedürfnissen optimieren, statt den Menschen den technischen Bedürfnissen der Produktionsprozesse unterzuordnen.