Zertifizierte KI „made in Germany“

Das Fraunhofer IAIS und das Bundesamt für Sicherheit in der Informationstechnik haben eine Kooperation zur Entwicklung von Prüfverfahren zur Zertifizierung von Systemen der künstlichen Intelligenz gestartet.

Gestern haben Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik (BSI), und Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, im Beisein von NRW-Digitalminister Andreas Pinkwart eine Kooperationsvereinbarung unterzeichnet: In ihr geht es darum, die Entwicklung einer KI-Zertifizierung „made in Germany“ voranzubringen. Ziel der Zusammenarbeit ist es, Prüfverfahren zu entwickeln, die als Basis für technische Standards und Normen dienen können. Dazu arbeiten die Kooperationspartner mit zahlreichen Partnern aus Deutschland und Europa zusammen.

Als erstes großes Vorhaben im Rahmen der Kooperation startet Anfang 2021 das Flagshipprojekt „Zertifizierte KI“ der Kompetenzplattform „Künstliche Intelligenz Nordrhein-Westfalen“ (KI.NRW). In dem Projekt legen unter anderem Unternehmen die konkreten Bedarfe an Prüfverfahren fest und führen Pilotprüfungen durch.

Vertrauenswürdige Systeme

Künstliche Intelligenz (KI) ist eine wichtige Schlüsseltechnologie der Gegenwart. Intelligente Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen. Sie seien schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledigen als der Mensch, erklärte dazu das BSI. Damit Unternehmen mit dem Einsatz von KI entscheidende Wettbewerbsvorteile erzielen könnten, sollten KI-Systeme vertrauenswürdig sein und verlässlich funktionieren. Dazu brauche es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichten und die auch Anwendenden sowie Verbrauchern Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

KI als Bestandteil der Digitalisierung

„Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung. KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt“, erklärte Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik. Seine Behörde will die Bundesregierung dabei unterstützen, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben. „Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden“, ist sich Schönborn sicher. Dies entstehe unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen.

Interdisziplinäre Zusammenarbeit

Die Kooperation von BSI und Fraunhofer IAIS ermöglicht die intensive Zusammenarbeit von Expertinnen und Experten, um technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren. Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Experten des Fraunhofer IAIS bereits im vergangenen Jahr geschaffen. Im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftlern aus den Bereichen Informatik, Recht und Philosophie wurden zentrale Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert. Die Ergebnisse wurden 2019 in dem White Paper „Vertrauenswürdiger Einsatz von Künstlicher Intelligenz“ publiziert.

Prüfungen schon 2021

Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS in Sankt Augustin, ist stolz auf den kontinuierlichen Ausbau des Forschungsschwerpunkts zur KI-Absicherung in den letzten Jahren an seinem Institut. „Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von Systemen.“ Bereits im kommenden Jahr, so Wrobel, könnten erste Prüfungen mit Unternehmen durchgeführt werden.

Breiter Beteiligungsprozess

Bei der Weiterentwicklung der Prüfverfahren sollen Praxistauglichkeit und Marktfähigkeit in enger Abstimmung mit der Wirtschaft weiter verbessert werden. Dazu startet Anfang 2021 ein großes Flagshipprojekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird. In dem Projekt arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen und das Deutsche Institut für Normung DIN. Hinzu kommen zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie, und Handel. In branchen- und technologiebezogenen Anwenderkreisen sollen die Beteiligten dann konkrete Bedarfe, Kriterien und Maßstäbe für eine Prüfung in der Praxis festlegen und Pilotprüfungen durchführen.

BSI und Fraunhofer sind überzeugt, dass mit diesem breiten Beteiligungsprozess sichergestellt wird, dass sich die Verfahren zu allgemein akzeptierten Standards entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert würden.

Kompetenzplattform in NRW

Nordrhein-Westfalen könne eine führende Rolle bei der Weiterentwicklung von KI für Wirtschaft und Gesellschaft spielen, glaubt NRW-Wirtschaftsminister Andreas Pinkwart. „Damit das gelingt, machen wir den Einsatz der künstlichen Intelligenz vertrauenswürdig und sicher.“ Eine unabhängige Zertifizierung von KI-Systemen stärke das Vertrauen in moderne IT-Technik und werde auch international als wichtiger Wettbewerbsvorteil erkannt. Vor allem jedoch ist Pinkwart überzeugt: „Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ,KI made in Germany‘ beiträgt.“