Als Leiterin „Strategische Entwicklung KI“ bin ich die zentrale Anlaufstelle für das Thema KI bei DIN. In dieser Funktion verantworte ich die Geschäftsstelle KI und bin für die Steuerung und Koordinierung der Aktivitäten, Projekte und Fachkreise im Bereich KI zuständig. Mein Aufgabenspektrum umfasst u.a.:

• Beobachtung von Trends im Markt und Identifikation von Standardisierungspotentialen im Umfeld von KI
• Erschließung von strategisch relevanten Themenfeldern für KI
• Entwicklung und Implementierung von Umsetzungsstrategien
• Initiierung von Projekten
• Aufbau und Ausgestaltung von strategischen Partnerschaften und Kundenbeziehungen

Künstliche Intelligenz (KI) ist eine Querschnittstechnologie, die heute schon einen erheblichen Einfluss auf verschiedene Bereiche unseres gesellschaftlichen und wirtschaftlichen Lebens hat. Durch die Entwicklung von Normen und Standards im Bereich KI möchten wir als DIN einen Beitrag leisten, um einerseits die verantwortungsvolle Entwicklung und Nutzung von KI-Technologien zu fördern und Innovationen voranzutreiben und andererseits um Vertrauen aufzubauen und die gesellschaftlichen Auswirkungen von KI zu adressieren.

Dabei spielen insbesondere folgende Aspekte eine wesentliche Rolle:

• Vertrauen und Akzeptanz: Normen und Standards können dazu beitragen, Vertrauen in KI-Technologien aufzubauen, indem sie Anforderungen und Richtlinien für die Entwicklung und den Einsatz von KI festlegen. Auf diese Weise können Bedenken hinsichtlich Datenschutz, Sicherheit, Fairness und anderen ethischen Aspekten von KI-Systemen angegangen werden.
• Harmonisierung und Interoperabilität: KI-Anwendungen sind oft komplex und vielfältig. Durch die Entwicklung von Normen und Standards kann DIN die Einheitlichkeit und Interoperabilität fördern und so den Austausch von Daten und die Zusammenarbeit zwischen verschiedenen KI-Systemen erleichtern.
• Schutz der Nutzer*innen und der Gesellschaft: Normen und Standards im Bereich KI können helfen, die Rechte und Interessen von Nutzer*innen zu schützen. Sie können sicherstellen, dass KI-Systeme fair, transparent, zuverlässig und sicher sind und keine diskriminierenden oder schädlichen Auswirkungen haben.
• Internationale Zusammenarbeit: Durch die Entwicklung von Normen und Standards im Bereich KI kann DIN eine aktive Rolle in der internationalen Zusammenarbeit einnehmen und sicherstellen, dass deutsche und europäische Interessen und Werte bei der Gestaltung von globalen Standards Berücksichtigung finden.

Im Bereich der Künstlichen Intelligenz spielen Normen und Standards heute schon eine wichtige Rolle. Es gibt bereits verschiedene Normen, Standards und Leitlinien, die sich mit ethischen und technischen Aspekten von KI beschäftigen. Eine Übersicht zu bestehenden und in der Entwicklung befindlichen Normungsdokumenten gibt die aktuelle Ausgabe der Normungsroadmap KI (siehe www.din.de/go/normungsroadmapki). Die Roadmap stellt den strategischen Fahrplan für die KI-Normung dar, indem sie Bedarfe aufzeigt und konkrete Handlungsempfehlungen formuliert.

Normen und Standards werden auch in Zukunft eine immer größere Bedeutung haben. Deutlich wird dies insbesondere am Gesetzesentwurf der Europäischen Kommission, dem Artificial Intelligence Act. Dieser geplante, weltweit erste Rechtsrahmen für KI weist der Normung im Bereich der Hochrisiko-KI-Anwendungen eine zentrale Rolle zu. Anforderungen an KI-Systeme sollen durch harmonisierte Europäische Normen technisch konkretisiert werden. Hinzukommt, dass KI-Systeme komplexer und autonomer werden und in immer mehr Bereichen zum Einsatz kommen. Das erfordert klare Regeln, die Anforderungen bspw. an die Qualität, die Sicherheit und Transparenz von KI-Systemen definieren. Normen und Standards ermöglichen eine zuverlässige und sichere Anwendung von KI-Technologien und tragen zur Erklärbarkeit und Nachvollziehbarkeit bei. Das wiederum macht sie zu Schlüsselfaktoren für die Akzeptanz von KI-Anwendungen.

Die Bedeutung und Priorisierung hängen von verschiedenen Faktoren ab. Dabei ist eine ausgewogene Betrachtung aller relevanten Aspekte wie Kontext, Ziele und Werte einer Gesellschaft oder Organisation essenziell. Es gibt aber einige Themen, die aus meiner Sicht besonders wichtig sind:

Transparenz: Regelungen, die eine klare Offenlegung von KI-Systemen und ihren Funktionsweisen erfordern, sind von großer Bedeutung. Transparenz ermöglicht ein besseres Verständnis der Entscheidungsfindung von KI-Systemen und hilft dabei, mögliche Vorurteile oder Diskriminierung aufzudecken.

Datenschutz: Da KI große Mengen an Daten nutzt, ist der Schutz der Privatsphäre und persönlicher Informationen von hoher Bedeutung. Regelungen, die den Datenschutz gewährleisten und den Missbrauch von Daten verhindern, sind daher wichtig, um das Vertrauen der Nutzer*innen zu wahren.

Fairness und Anti-Diskriminierung: Regelungen, die sicherstellen, dass KI-Systeme keine unfairen oder diskriminierenden Ergebnisse produzieren, sind von zentraler Bedeutung. Es ist wichtig, Vorurteile zu vermeiden und sicherzustellen, dass KI-Systeme gerecht und gleichbehandeln.

Haftung und Verantwortung: Klare Verantwortlichkeiten und Haftungsfragen im Zusammenhang mit KI sind von großer Bedeutung. Es sollte klar definiert sein, wer für etwaige Schäden oder negative Auswirkungen von KI-Systemen verantwortlich ist.

Die Entwicklung von KI hat das Potenzial, viele Bereiche zu verändern. Es ist schwierig, genau vorherzusagen, welches das nächste große Thema sein wird, da die Fortschritte in der KI-Forschung und -Anwendung kontinuierlich voranschreiten. Es gibt jedoch einige Bereiche, die aktuell viel Aufmerksamkeit erhalten und in Zukunft zunehmend von KI beeinflusst werden:

• Gesundheitswesen: KI spielt im Gesundheitswesen eine große Rolle, indem sie bei der Diagnosestellung, der personalisierten Medizin, der Entwicklung neuer Arzneimittel und der Analyse von Gesundheitsdaten unterstützt. KI-gestützte Systeme können Ärzt*innen bei der Entscheidungsfindung helfen und die Effizienz und Genauigkeit der medizinischen Versorgung verbessern.
• Nachhaltigkeit und Umwelt: KI kann eingesetzt werden, um Umweltprobleme anzugehen, bspw. bei der Überwachung von Umweltverschmutzung, dem effizienten Energiemanagement, der Vorhersage von Naturkatastrophen und der Entwicklung nachhaltiger Lösungen. Durch die Analyse großer Datenmengen können Muster erkannt werden, die zu einer besseren Bewältigung von Umweltproblemen führen können.
• Mobilität und Verkehr: KI kann den Verkehrssektor transformieren, indem sie bei der Entwicklung autonomer Fahrzeuge, der Verkehrssteuerung und der Optimierung von Transportnetzwerken unterstützt. Durch fortschrittliche KI-Algorithmen können Verkehrsstaus reduziert, die Verkehrssicherheit verbessert und der Transport effizienter gestaltet werden.
• Bildung: KI-Technologien können das Lernen und die Bildungsbereiche revolutionieren, indem sie personalisierte Lernpläne erstellen, adaptive Lerninhalte bereitstellen und den Zugang zu Bildung verbessern. KI kann auch bei der automatisierten Bewertung von Aufgaben und Prüfungen helfen.
• Öffentliche Verwaltung: KI bietet zahlreiche Möglichkeiten für den öffentlichen Sektor. Durch Automatisierung von Prozessen, verbesserten Bürgerservice, Datenanalyse, Betrugserkennung, Personalmanagement und Verkehrs- und Infrastrukturmanagement kann KI effizientere Verwaltungsabläufe, bessere Dienstleistungen, fundierte Entscheidungen und erhöhte Sicherheit ermöglichen.

Das sind nur einige potenzielle Anwendungsbereiche. Die Auswirkungen von KI hängen von vielen Faktoren ab wie z.B. dem Fortschritt der Technologie, den regulatorischen Rahmenbedingungen und der gesellschaftlichen Akzeptanz.

Unser Buch verfolgt einen besonderen Ansatz, denn es richtet sich weder ausschließlich an Technologie-Insider noch ausschließlich an technologieferne Leser. Vielmehr eröffnen wir damit eine Betrachtung künstlicher Intelligenz aus mehreren Perspektiven, ausgehend von den Feldern „Wissenschaft“, „Politik“, „Wirtschaft“ und „Zivilgesellschaft“. Viele Abbildungen und Empfehlungen für die Praxis machen das anspruchsvolle Thema leicht verstehbar. Unser wesentlichster Beitrag ist dabei eine Konkretisierung des in der öffentlichen Diskussion häufig nur unscharf definierten Begriffs der „künstlichen Intelligenz“ aus wissenschaftlichem Blickwinkel. Darauf aufbauend kann „Vertrauenswürdigkeit von KI“ erreicht werden als Wettbewerbsvorteil, Verkaufsargument oder zur Erfüllung der gesetzlichen Anforderungen. Insbesondere wird die europäische KI-Verordnung im Detail diskutiert. Gleichzeitig legen wir entscheidende Ankerpunkte für KI-Software, umgesetzte, KI-rechtfertigende Anwendungsszenarien sowie die Erfüllung gesetzlicher Anforderungen. Währenddessen wird eine Reihe von konkreten und typischen KI-Projekten wird im Detail vorgestellt. Insgesamt bietet sich unser Buch also für einen breiten Adressatenkreis an, von Entscheidungsträgern, über Top-Spezialisten aus Technik und Gesetzgebung, bis hin zu Menschen aus der Zivilgesellschaft mit geringerer Affinität für Technik oder technologische Innovationen.

Das europäische KI-Gesetz verfolgt einen risikobasierten Ansatz, d.h. insbesondere sollten KI-Systeme mit hohem Risiko reguliert werden, im Gegensatz dazu sollen alle anderen KI-Systeme mit weniger Risiko kaum reguliert werden. Dieser differenzierte Ansatz ist zu begrüßen, da er auf der einen Seite Risiken begrenzt und auf der anderen Seite Innovation fördert. Das Buch stellt dieses Konzept im Detail vor, inkl. praktischer Empfehlungen.

In Verbindung damit ist das europäische KI-Gesetz im Rahmen einer angemessenen Regulierung aufgrund der Konkretisierung von Anforderungen zur Schaffung von Vertrauenswürdigkeit bei KI-Systemen und Diensten durchaus ein hilfreicher Ansatz. Währenddessen wird aufgrund von europaweiten Qualitätsstandards eine angemessene funktionale Mindestqualität auf Grundlage der Adressierung von Bedürfnissen von Nutzerinnen und Nutzern aus unserer Zivilgesellschaft sowie Wirtschaft und Wissenschaft erreicht. Im Rahmen der Adressierung von Bedürfnissen erreicht die europäische Gesetzgebung eine Binnenmarkttauglichkeit von KI-Produkten und Diensten mittels der feingranulareren Formulierung von Anforderungen zu dem bevorstehenden, europäischen KI-Gesetz.

KI wird in der Tat laufend intelligenter, neue Geschäftsmodelle entstehen und die Autonomie der KI steigt. Daher dürfen Unternehmen, Städte und Länder beim Aufbau von Kompetenzen nicht abgehängt werden. Währenddessen ist die Sicherstellung der europäischen digitalen Souveränität entscheidend. Damit zusammenhängende Erfolgsfaktoren und Konzepte für vertrauensvolle KI werden im Buch vorgestellt.

Der entscheidende Durchbruch im Bereich KI, der künstliche Intelligenz zu einem vergleichbaren Intelligenzlevel im Vergleich zur menschlichen Intelligenz macht, ist bislang trotz vieler beeindruckender Fortschritte noch nicht wirklich absehbar. Ebenso wenig sind die Anforderungen für die Verantwortung dazu vollumfänglich spezifizierbar. Juristen unterscheiden hier zum Beispiel zwischen der Verantwortung des Herstellers bei der Entwicklung und der Verantwortung des Betreibers eines KI-Systems im laufenden Einsatz. Weitere Aspekte und deren konkrete Ausgestaltung der Verantwortung werden vermutlich Gesetzgeber und Rechtsprechung nach und nach definieren müssen, da gesetzliche Pflichten zum Aufzeigen grundlegender Anforderungen an Schutz und Sicherheit aus der bisherigen Regulierungspraxis unabdingbar sind. Im Buch werden Diskussionsansätze dazu mit vielen Abbildungen griffig dargestellt.

Die Fähigkeit von Computern, etwas nicht explizit Vorgegebenes zu generieren, ist tatsächlich ein großer Schritt. Deshalb ist „Generative AI“, wie z.B. ChatGPT, in aller Munde. Diese „kreativen KI-Fähigkeiten“ werden in die SW-Anwendungen für Unternehmen, bzw. die KIs für klassische Geschäftsprozesse eingebaut. Daher könnte ein nächster Schritt sein, die effektive Kombination mehrerer komplexer Fähigkeiten innerhalb eines KI-Systems sein, das deutlich mehr Aufgaben erfüllen kann als gegenwärtige Systeme. In diesem Zusammenhang werden Anforderungen an Transparenz und Kontrolle zunehmend an Bedeutung gewinnen. Konzepte für Transparenz und Vertrauenswürdigkeit von KI stellen das Herzstück des Buches dar. Manche Experten erwarten hier sogar die Entstehung einer „Super-KI“, die dem Menschen überlegen sein könnte. Aus unserer Sicht ist es jedoch eine offene Frage, ob dies tatsächlich so eintreten wird. Wahrscheinlicher ist die schrittweise Automatisierung von Geschäftsprozessen. Eventuell könnte auch eine KI-getriebene Optimierung funktionaler Anwendungen innerhalb des Metaverse ein Thema werden, beispielsweise zur Optimierung von hochvernetzter Informations- und Kommunikationstechnik im Hinblick auf Ressourceneffizienz und funktionale Charakteristiken. Für all das ist Vertrauen in KI die Voraussetzung. Wie dies zu erreichen ist, trägt das Buch mit Konzepten bei.

Uns gefällt die Entwicklung von KIs im Bereich der Spiele besonders gut: 1997 schlägt „Deep Blue“ Garri Kasparow im Schach, 2011 gewinnt „Watson“ u.a. gegen Kenn Jennings die beliebte US-Fernsehshow „Jeopardy!“ und beantwortet schwierige Fragen in natürlicher Sprache schneller als die Champions, gefolgt 2016 von „AlphaGo“, welche den weltführenden Profispieler im Spiel „Go“ Lee Sedol auf der Basis von antrainierten Spielmustern besiegt. Die drei Beispiele zeigen die stetig zunehmenden Möglichkeiten von intelligenten Assistenten auf. Die zugrundeliegenden KI-Methoden werden im Buch ausführlich vorgestellt und diskutiert; hier: klassische KI mit Vorhersagen, symbolische KI mit NLP und bei „Go“ die Mustererkennung mittels Methoden des maschinellen Lernens. Unabhängig davon gefällt uns der Film „Ex-Machina“ besonders gut, weil er anhand der Geschichte um die humanoide Roboterin Ava spannend die Frage aufwirft, ob und unter welchen Bedingungen wir intelligenten Maschinen vertrauen können. Dies ist auch das Herzstück unseres Buches.