Neue KI-DIN soll Vertrauen schaffen
Wie gefährlich ist KI? Die Diskussion darüber hat insbesondere durch den Chatbot ChatGPT die breite Öffentlichkeit erfasst. Auch der UN-Sicherheitsrat hat sich jetzt mit den Chancen und Risiken künstlicher Intelligenz beschäftigt. Kann eine neue DIN nun hierzulande dazu beitragen, das Vertrauen in KI zu stärken?
Foto: PantherMedia / sdecoret
Die meisten Menschen sehen durchaus den Nutzen von künstlicher Intelligenz (KI), sind jedoch gleichzeitig sehr besorgt wegen möglicher Risiken. Das zeigte sich auch bei der ersten Sitzung des UN-Sicherheitsrats, die jetzt zu diesem Thema stattfand. „Wie jeden hier haben mich die neuesten Formen von KI geschockt und beeindruckt“, sagte UN-Generalsekretär António Guterres. Er warnte eindringlich vor den Risiken künstlicher Intelligenz und mahnte einen verantwortungsvollen Umgang mit der Technologie an. Eine Expertenrunde soll die Vereinten Nationen künftig bei dem Thema beraten.
Vom Programmierer zum Problemlöser: Wie KI Berufsbilder verändert
KI: DIN für mehr Transparenz
Auch in Deutschland zeigt sich Misstrauen gegenüber KI-Anwendungen, die vielen wie eine Blackbox erscheinen. Denn es lässt sich kaum nachvollziehen, wie KI- Anwendungen zu ihren Ergebnissen kommen oder auf Grundlage welcher Quellen sie entstanden sind. Darüber hinaus sorgt das „Halluzinieren“ von Anwendungen wie ChatGPT für Verunsicherung, da Nutzende nicht davon ausgehen können, dass die generierten Aussagen der Wahrheit entsprechen. Standards zur Erklärbarkeit von KI fehlten bislang. Die neue DIN SPEC 92001–3 soll das ändern. Der Standard spezifiziert Kriterien zur Förderung der Erklärbarkeit von KI.
DIN: Der große KI-Check für jede Norm kommt
„Der neue Standard soll dabei helfen, Vertrauen in die Nutzung und die Sicherheit durch Erklärbarkeit von KI-Anwendungen zu fördern und damit sichere Rahmenbedingungen für die Entwicklung der Zukunftstechnologie zu schaffen“, sagt Annegrit Seyerlein-Klug, Standardization Manager/Product Management bei der Neurocat GmbH und Leiterin des DIN-SPEC-Konsortiums.
Qualitätskriterien für alle Arten von KI-Systemen
Die neue DIN SPEC 92001–3 definiert und beschreibt die Quellen und Auswirkungen von Intransparenz in der heutigen KI. Dazu betrachtet der Standard die Art und Weise, wie Erklärungen eingesetzt werden können und sollten, um diese Auswirkungen für verschiedene Interessengruppen in unterschiedlichen Phasen des Lebenszyklus von KI-Systemen abzumildern. Die DIN soll einen Leitfaden für geeignete Ansätze und Methoden zur Förderung der Erklärbarkeit in allen Phasen des Lebenszyklus eines KI-Systems bieten.
KI-Boom findet ohne deutsche Beteiligung statt
Die beschriebenen Qualitätskriterien sind für alle Arten von KI-Systemen sowie für alle Einsatzbereiche angelegt. Die Kriterien gelten vor allem für KI-Systeme mit unterschiedlichem Grad an Intransparenz. Auf diese Weise sollen sie besseres Verständnis ermöglichen und so eine effektivere Nutzung von erklärbarer KI erleichtern. Organisationen soll es so ermöglicht werden, Prinzipien des Vertrauens und der Transparenz in ihre KI-basierten Anwendungen einzubetten. Nicht zuletzt sollen die Kriterien die Grundlage bilden, um spezifische Anforderungen an die Erklärbarkeit und den nachvollziehbaren Nachweis des technisch korrekten Betriebs zu formulieren.
Derzeit sind drei KI-DIN-Standards verfügbar
Die DIN SPEC 92001–3 ist ein Ergebnis des KI.NRW-Flagship-Projekts „Zertifizierte KI“. Das vom Ministerium für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen geförderte Projekt wurde vom Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme (IAIS) gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI), dem Deutschen Institut für Normung (DIN) sowie weiteren wissenschaftlichen Partnern und assoziierten Industriepartnern durchgeführt.
Die DIN SPEC 92001–3 ist der dritte Teil einer Reihe von KI-Standards. Die ersten beiden Dokumente in dieser Reihe – DIN SPEC 92001–1 und DIN SPEC 92001–2 – legen ein KI-Qualitätsmetamodell und einen Lebenszyklus fest, um die allgemeinen KI-Qualitätskriterien Robustheit, Erklärbarkeit und Leistung hervorzuheben. Zudem werden Kriterien zur Sicherstellung der Robustheit von KI-Systemen spezifiziert. Die drei KI-Standards stehen unter www.beuth.de zum kostenlosen Download zur Verfügung.
