KI-MIG: TÜV-Verband begrüßt gebündelte KI-Aufsicht

Künstliche Intelligenz (KI) ist eine der Schlüsseltechnologien 2026. Generative Künstliche Intelligenzen wie „ChatGPT“, „Claude“, „Gemini“ etc. werden zunehmend in der breiten Bevölkerung genutzt. KI bietet viele Chancen: Algorithmen helfen Mediziner bei der Diagnose von Krankheiten, Verbraucher beim Energiesparen oder Singles bei der Partnerwahl. Autonomes Fahren und neue Mobilitätskonzepte wären ohne KI nicht denkbar. Das bedeutet aber auch: Die Risiken durch fehlerhafte KI-Anwendungen, Eingriffe in die Privatsphäre oder Cyberangriffe steigen. Laut TÜV-Verband geraten die Risiken für Sicherheit und Demokratie immer stärker in den Fokus der Öffentlichkeit.

Viele KI-gestützte Systeme und große Sprachmodelle sind für Nutzer wie eine „Blackbox“, deren Funktionsweise sie weder nachvollziehen noch verstehen. Sie müssen darauf vertrauen können, dass die Anbieter dieser Systeme höchste Sicherheitsstandards einhalten. Der TÜV-Verband und seine Mitglieder plädieren dafür, prüfbare Sicherheitsstandards zu etablieren, um KI-Anwendungen gleichzeitig transparent und sicher zu machen. Dazu sind auf politischer Ebene noch einige Schritte notwendig: Sicherheitsstandards müssen formuliert, ethische Fragen geklärt, Prüfszenarien entwickelt und die Umsetzung des europäischen „AI Acts“ konsequent eingehalten werden.

KI braucht Standards

Bild: TÜV-Verband / Tobias Koch

Gut die Hälfte der Bundesbürger (53 %) hat generative KI bereits genutzt. Das ist ein Ergebnis der aktuellen „ChatGPT“-Umfrage des TÜV-Verbands. Gleichzeitig gibt es große Bedenken und Vorbehalte in der deutschen Bevölkerung gegenüber der Technologie: Eine deutliche Mehrheit fürchtet unkalkulierbare Risiken (76 %). Die Notwendigkeit der Regulierung von KI-Systemen sehen 80 % und die verpflichtende Sicherheitsprüfung durch unabhängige Prüforganisationen halten 83 % der Befragten für relevant. Diese Ergebnisse zeigen die Notwendigkeit auf, in der Bevölkerung Vertrauen in die Sicherheit und Verlässlichkeit von KI-Anwendungen zu schaffen. Um die Gesellschaft vor möglichen Risiken durch KI-Systeme zu schützen, hat die EU im August 2024 die europäische KI-Verordnung, den EU AI Act, verabschiedet. Der AI Act teilt KI-Anwendungen in vier Risikoklassen mit jeweils unterschiedlichen Anforderungen ein, die Anbieter und Betreiber von KI in Zukunft erfüllen müssen. Der TÜV-Verband hat das Gesetzgebungsverfahren eng begleitet und setzt sich für die möglichst konsequente, praxistaugliche Umsetzung des AI Acts ein.

Die Risikoklassen

1. Inakzeptables Risiko: Diese KI-Systeme werden verboten. Sie bergen ein erhebliches Potenzial zur Verletzung von Menschenrechten oder Grundprinzipien. Hierzu gehören Social-Scoring-Systeme.
2. Hohes Risiko: Hochrisiko-KI-Systeme haben potenziell ein hohes Risiko für die Gesundheit, die Sicherheit oder die Grundrechte von Menschen. Für sie gelten strenge Sicherheitsanforderungen bspw. in Bezug auf Cybersecurity oder die Nachvollziehbarkeit. Zu ihnen zählen Systeme zum Filtern von Bewerbungen oder zur Beurteilung der Kreditwürdigkeit von Personen.
3. Begrenztes Risiko: Hierbei handelt es sich um KI-Systeme, die mit Menschen interagieren. Das sind bspw. Chatbots. Hier gelten Transparenz- und Kennzeichnungspflichten.
4. Niedriges Risiko: Für Anwendungen mit niedrigem Risiko sind aktuell keine rechtlichen Anforderungen vorgesehen. Spamfilter zählen bspw. zu dieser Kategorie.

„Die große Mehrheit der KI-Anwendungen wird als ‚low risk‘ eingestuft, für die keinerlei Anforderungen gelten“, sagt Dr. Joachim Bühler, Geschäftsführer TÜV-Verband. Der Verband unterstützt den Einsatz von KI zum Nutzen der Gesellschaft und setzt sich mit seinen Mitgliedern dafür ein, die Qualitäts-, Sicherheits- und Nachhaltigkeitsstandards von KI-gestützten Systemen kontinuierlich zu verbessern. Insbesondere für den Einsatz von KI-Systemen mit einem hohen Risiko für den Menschen sollten verbindliche Sicherheitsstandards gelten, deren Einhaltung von unabhängigen Prüforganisationen überwacht wird. Denn erst die sichere Anwendung KI-gestützter Systeme schafft die notwendige gesellschaftliche Akzeptanz für ihren breiteren Einsatz.

KI braucht Testzentren

Bei komplexen Technologien wie KI reicht es nicht aus, Gesetzestexte zu formulieren. Die Umsetzung der KI-Regulierung und Entwicklung vertrauenswürdiger KI „Made in Germany“ und Europa („Trustworthy AI“) müssen in der Praxis umsetzbar sein. Die Entwicklung von Standards für die Prüfung sicherheitskritischer KI-Anwendungen ist für die Praxistauglichkeit zentral. Flankiert werden sollte sie durch gezielte Innovationspolitik, heißt es vom TÜV-Verband.

Der Verband engagiert sich daher für die Einrichtung von interdisziplinären „AI Quality & Testing Hubs“ auf Länder- und Bundesebene. Auch die Ausbildung von Fachkräften und das Thema KI-Kompetenzen sollten vorangetrieben werden, genauso wie die Umsetzung von Forschungsvorhaben zur Prüfbereitschaft aller vom europäischen AI Act betroffenen Stakeholder im KI-Ökosystem. Kleineren und mittelständischen Unternehmen können solche Beratungs- und Testzentren als erste Anlaufstelle bei der Umsetzung der anstehenden KI-Regulierung dienen. TÜV-Verband und VDE haben gemeinsam das Konzept der „AI Quality & Testing Hubs“ erarbeitet. Die Bundesländer Berlin, Hessen und Nordrhein-Westfalen haben bereits konkrete Aktivitäten in diese Richtung aufgenommen. Der Bund unterstützt die Entwicklung und Qualität von „AI Made in Germany“ bspw. durch Förderprojekte wie die bei der Acatech aufgehängte Mission KI, an der auch das TÜV AI.Lab aktiv mitarbeitet.