Standardisierung 19. Jul 2023 Von Elke von Rekowski Lesezeit: ca. 2 Minuten

Neue KI-DIN soll Vertrauen schaffen

Wie gefährlich ist KI? Die Diskussion darüber hat insbesondere durch den Chatbot ChatGPT die breite Öffentlichkeit erfasst. Auch der UN-Sicherheitsrat hat sich jetzt mit den Chancen und Risiken künstlicher Intelligenz beschäftigt. Kann eine neue DIN nun hierzulande dazu beitragen, das Vertrauen in KI zu stärken?

PantherMedia B220811904
Eine neue DIN soll dabei helfen, künstliche Intelligenz aus der Blackbox zu holen und das Vertrauen in KI zu stärken.
Foto: PantherMedia / sdecoret

Die meisten Menschen sehen durchaus den Nutzen von künstlicher Intelligenz (KI), sind jedoch gleichzeitig sehr besorgt wegen möglicher Risiken. Das zeigte sich auch bei der ersten Sitzung des UN-Sicherheitsrats, die jetzt zu diesem Thema stattfand. „Wie jeden hier haben mich die neuesten Formen von KI geschockt und beeindruckt“, sagte UN-Generalsekretär António Guterres. Er warnte eindringlich vor den Risiken künstlicher Intelligenz und mahnte einen verantwortungsvollen Umgang mit der Technologie an. Eine Expertenrunde soll die Vereinten Nationen künftig bei dem Thema beraten.

Vom Programmierer zum Problemlöser: Wie KI Berufsbilder verändert

KI: DIN für mehr Transparenz

Auch in Deutschland zeigt sich Misstrauen gegenüber KI-Anwendungen, die vielen wie eine Blackbox erscheinen. Denn es lässt sich kaum nachvollziehen, wie KI- Anwendungen zu ihren Ergebnissen kommen oder auf Grundlage welcher Quellen sie entstanden sind. Darüber hinaus sorgt das „Halluzinieren“ von Anwendungen wie ChatGPT für Verunsicherung, da Nutzende nicht davon ausgehen können, dass die generierten Aussagen der Wahrheit entsprechen. Standards zur Erklärbarkeit von KI fehlten bislang. Die neue DIN SPEC 92001–3 soll das ändern. Der Standard spezifiziert Kriterien zur Förderung der Erklärbarkeit von KI.

DIN: Der große KI-Check für jede Norm kommt

„Der neue Standard soll dabei helfen, Vertrauen in die Nutzung und die Sicherheit durch Erklärbarkeit von KI-Anwendungen zu fördern und damit sichere Rahmenbedingungen für die Entwicklung der Zukunftstechnologie zu schaffen“, sagt Annegrit Seyerlein-Klug, Standardization Manager/Product Management bei der Neurocat GmbH und Leiterin des DIN-SPEC-Konsortiums.

Qualitätskriterien für alle Arten von KI-Systemen

Die neue DIN SPEC 92001–3 definiert und beschreibt die Quellen und Auswirkungen von Intransparenz in der heutigen KI. Dazu betrachtet der Standard die Art und Weise, wie Erklärungen eingesetzt werden können und sollten, um diese Auswirkungen für verschiedene Interessengruppen in unterschiedlichen Phasen des Lebenszyklus von KI-Systemen abzumildern. Die DIN soll einen Leitfaden für geeignete Ansätze und Methoden zur Förderung der Erklärbarkeit in allen Phasen des Lebenszyklus eines KI-Systems bieten.

KI-Boom findet ohne deutsche Beteiligung statt

Die beschriebenen Qualitätskriterien sind für alle Arten von KI-Systemen sowie für alle Einsatzbereiche angelegt. Die Kriterien gelten vor allem für KI-Systeme mit unterschiedlichem Grad an Intransparenz. Auf diese Weise sollen sie besseres Verständnis ermöglichen und so eine effektivere Nutzung von erklärbarer KI erleichtern. Organisationen soll es so ermöglicht werden, Prinzipien des Vertrauens und der Transparenz in ihre KI-basierten Anwendungen einzubetten. Nicht zuletzt sollen die Kriterien die Grundlage bilden, um spezifische Anforderungen an die Erklärbarkeit und den nachvollziehbaren Nachweis des technisch korrekten Betriebs zu formulieren.

Derzeit sind drei KI-DIN-Standards verfügbar

Die DIN SPEC 92001–3 ist ein Ergebnis des KI.NRW-Flagship-Projekts „Zertifizierte KI“. Das vom Ministerium für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen geförderte Projekt wurde vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI), dem Deutschen Institut für Normung (DIN) sowie weiteren wissenschaftlichen Partnern und assoziierten Industriepartnern durchgeführt.

Die DIN SPEC 92001–3 ist der dritte Teil einer Reihe von KI-Standards. Die ersten beiden Dokumente in dieser Reihe – DIN SPEC 92001–1 und DIN SPEC 92001–2 – legen ein KI-Qualitätsmetamodell und einen Lebenszyklus fest, um die allgemeinen KI-Qualitätskriterien Robustheit, Erklärbarkeit und Leistung hervorzuheben. Zudem werden Kriterien zur Sicherstellung der Robustheit von KI-Systemen spezifiziert. Die drei KI-Standards stehen unter www.beuth.de zum kostenlosen Download zur Verfügung.

Themen im Artikel

Ein Beitrag von:

Stellenangebote

Staatliches Baumanagement Weser-Leine

Fachbereichsleitung Ingenieurbau (m/w/d)

Nienburg, Wunstorf
HAMM AG

Konstrukteur für mobile Arbeitsmaschinen (m/w/d)

Tirschenreuth
Hochschule für Technik und Wirtschaft des Saarlandes

W2-Professur (m/w/d) für Fahrzeugtechnik - Fahrdynamik und Fahrwerke

Saarbrücken
Bundesamt für Bauwesen und Raumordnung (BBR)

Ingenieurinnen und Ingenieure (w/m/d) der Elektrotechnik bzw. Informationstechnik für Kulturbauten und das RKI

Berlin
Staatliches Baumanagement Lüneburger Heide

Baugruppenleitung (m/w/d)

Celle
MAX-DELBRÜCK-CENTRUM FÜR MOLEKULARE MEDIZIN

Fachkraft für Arbeitssicherheit (m/w/d) bei der Stabsstelle Sicherheit

Berlin
Bundesanstalt für Materialforschung und -prüfung

Technische*r Mitarbeiter*in bzw. Ingenieur*in (m/w/d) in einer ingenieurwissenschaftlichen Fachrichtung mit dem Schwerpunkt Elektronik/Mikroelektronik oder vergleichbar

Berlin-Steglitz
Polizei Berlin

Technische Sachbearbeiterin / Technischer Sachbearbeiter Kommunikationstechnik (w/m/d) (TSB/in Telekommunikationstechnik)

Berlin
Forschungszentrum Jülich GmbH

Direktor (w/m/d) für das Institute of Climate and Energy Systems (ICE-2) Forschungszentrum Jülich / W3-Universitätsprofessur Techno-ökonomische Bewertung von Energiesystemen RWTH Aachen - Fakultät für Maschinenwesen

Jülich
Technische Hochschule Mittelhessen

W2-Professur mit dem Fachgebiet Material- und Fertigungstechnologie Metallischer Werkstoffe

Friedberg
Zur Jobbörse

Das könnte Sie auch interessieren

Empfehlungen des Verlags

Meistgelesen