Standardisierung 19. Jul 2023 Von Elke von Rekowski Lesezeit: ca. 2 Minuten

Neue KI-DIN soll Vertrauen schaffen

Wie gefährlich ist KI? Die Diskussion darüber hat insbesondere durch den Chatbot ChatGPT die breite Öffentlichkeit erfasst. Auch der UN-Sicherheitsrat hat sich jetzt mit den Chancen und Risiken künstlicher Intelligenz beschäftigt. Kann eine neue DIN nun hierzulande dazu beitragen, das Vertrauen in KI zu stärken?

PantherMedia B220811904
Eine neue DIN soll dabei helfen, künstliche Intelligenz aus der Blackbox zu holen und das Vertrauen in KI zu stärken.
Foto: PantherMedia / sdecoret

Die meisten Menschen sehen durchaus den Nutzen von künstlicher Intelligenz (KI), sind jedoch gleichzeitig sehr besorgt wegen möglicher Risiken. Das zeigte sich auch bei der ersten Sitzung des UN-Sicherheitsrats, die jetzt zu diesem Thema stattfand. „Wie jeden hier haben mich die neuesten Formen von KI geschockt und beeindruckt“, sagte UN-Generalsekretär António Guterres. Er warnte eindringlich vor den Risiken künstlicher Intelligenz und mahnte einen verantwortungsvollen Umgang mit der Technologie an. Eine Expertenrunde soll die Vereinten Nationen künftig bei dem Thema beraten.

Vom Programmierer zum Problemlöser: Wie KI Berufsbilder verändert

KI: DIN für mehr Transparenz

Auch in Deutschland zeigt sich Misstrauen gegenüber KI-Anwendungen, die vielen wie eine Blackbox erscheinen. Denn es lässt sich kaum nachvollziehen, wie KI- Anwendungen zu ihren Ergebnissen kommen oder auf Grundlage welcher Quellen sie entstanden sind. Darüber hinaus sorgt das „Halluzinieren“ von Anwendungen wie ChatGPT für Verunsicherung, da Nutzende nicht davon ausgehen können, dass die generierten Aussagen der Wahrheit entsprechen. Standards zur Erklärbarkeit von KI fehlten bislang. Die neue DIN SPEC 92001–3 soll das ändern. Der Standard spezifiziert Kriterien zur Förderung der Erklärbarkeit von KI.

DIN: Der große KI-Check für jede Norm kommt

„Der neue Standard soll dabei helfen, Vertrauen in die Nutzung und die Sicherheit durch Erklärbarkeit von KI-Anwendungen zu fördern und damit sichere Rahmenbedingungen für die Entwicklung der Zukunftstechnologie zu schaffen“, sagt Annegrit Seyerlein-Klug, Standardization Manager/Product Management bei der Neurocat GmbH und Leiterin des DIN-SPEC-Konsortiums.

Qualitätskriterien für alle Arten von KI-Systemen

Die neue DIN SPEC 92001–3 definiert und beschreibt die Quellen und Auswirkungen von Intransparenz in der heutigen KI. Dazu betrachtet der Standard die Art und Weise, wie Erklärungen eingesetzt werden können und sollten, um diese Auswirkungen für verschiedene Interessengruppen in unterschiedlichen Phasen des Lebenszyklus von KI-Systemen abzumildern. Die DIN soll einen Leitfaden für geeignete Ansätze und Methoden zur Förderung der Erklärbarkeit in allen Phasen des Lebenszyklus eines KI-Systems bieten.

KI-Boom findet ohne deutsche Beteiligung statt

Die beschriebenen Qualitätskriterien sind für alle Arten von KI-Systemen sowie für alle Einsatzbereiche angelegt. Die Kriterien gelten vor allem für KI-Systeme mit unterschiedlichem Grad an Intransparenz. Auf diese Weise sollen sie besseres Verständnis ermöglichen und so eine effektivere Nutzung von erklärbarer KI erleichtern. Organisationen soll es so ermöglicht werden, Prinzipien des Vertrauens und der Transparenz in ihre KI-basierten Anwendungen einzubetten. Nicht zuletzt sollen die Kriterien die Grundlage bilden, um spezifische Anforderungen an die Erklärbarkeit und den nachvollziehbaren Nachweis des technisch korrekten Betriebs zu formulieren.

Derzeit sind drei KI-DIN-Standards verfügbar

Die DIN SPEC 92001–3 ist ein Ergebnis des KI.NRW-Flagship-Projekts „Zertifizierte KI“. Das vom Ministerium für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen geförderte Projekt wurde vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI), dem Deutschen Institut für Normung (DIN) sowie weiteren wissenschaftlichen Partnern und assoziierten Industriepartnern durchgeführt.

Die DIN SPEC 92001–3 ist der dritte Teil einer Reihe von KI-Standards. Die ersten beiden Dokumente in dieser Reihe – DIN SPEC 92001–1 und DIN SPEC 92001–2 – legen ein KI-Qualitätsmetamodell und einen Lebenszyklus fest, um die allgemeinen KI-Qualitätskriterien Robustheit, Erklärbarkeit und Leistung hervorzuheben. Zudem werden Kriterien zur Sicherstellung der Robustheit von KI-Systemen spezifiziert. Die drei KI-Standards stehen unter www.beuth.de zum kostenlosen Download zur Verfügung.

Themen im Artikel

Ein Beitrag von:

Stellenangebote

Volksbank eG

Abteilungsleiter (m/w/d) Gebäudemanagement, Verwaltung und Versorgung

Wolfenbüttel
Hochschule Merseburg

Professur (W2): Steuerungstechnik

Merseburg
Westsächsische Hochschule Zwickau (FH)

Laboringenieur (m/w/d) für Digitale Schaltungen, Mikroprozessortechnik, Nachrichtentechnik, Elektromagnetische Verträglichkeit

Zwickau
Bundesanstalt für Immobilienaufgaben

Betriebsmanagerin / Betriebsmanager Elektrotechnik mit Vertretung der Objektmanagementteamleitung (w/m/d)

Hannover
Hochschule Esslingen - University of Applied Sciences

Professor:in (W2) für das Lehrgebiet "Grundlagen der Elektrotechnik/ Elektronik und Mikrocontrollertechnik"

Esslingen am Neckar
Hochschule Esslingen - University of Applied Sciences

Professor:in (W2) für das Lehrgebiet "Grundlagen der Elektrotechnik / Elektronik und elektrischer Antriebssysteme"

Esslingen am Neckar
Hochschule Düsseldorf University of Applied Sciences

Professur (W2) "Produktentwicklung und Additive Fertigung"

Düsseldorf
Siegfried PharmaChemikalien Minden GmbH

Fachkraft für Anlagensicherheit (m/w/d)

Minden
Stadtwerke Leipzig GmbH

Anlagenmanager (w/m/d) Erneuerbare Energien

Leipzig
Modular Management Deutschland GmbH

Ingenieur Maschinenbau (m/w/d) als Consultant für modulare Produktarchitekturen

Frankfurt am Main
Zur Jobbörse

Das könnte Sie auch interessieren

Empfehlungen des Verlags

Top 5 aus der Kategorie Informationstechnik