KI zwischen Bedarf und Katastrophe(n)

In der letzten COMPUTER SPEZIAL ging es an dieser Stelle um „KI zwischen Halluzinationen und Genialität“ und die Frage, wie wir Menschen lernen müssen, diese Technologie zu steuern. Übergeordnet hat in der Entwicklung von KI inzwischen eine ähnliche Diskussion an Brisanz gewonnen: Bei Sicherheitstests durchbrachen KI-Modelle vorgesehene Grenzen, verschafften sich Zugang zum Internet oder zu fremden Systemen und führten dort im schlimmsten Fall Cyberangriffe aus. Laut beteiligten Experten entwickelten sie zwar kein eigenes kriminelles Ziel, suchten aber selbstständig nach Wegen, eine vorgegebene Aufgabe zu erfüllen – auch auf unerwarteten Wegen.

Ihr Ansprechpartner in der Redaktion:
Markus Münzfeld
Tel.: 05241 2151-3232
markus.muenzfeld@bauverlag.de
Bild: CS

Genau darin liegt die Brisanz: Was geschieht, wenn ein KI-Agent nicht nur Daten auswertet, sondern reale Systeme steuert und dabei außerhalb vorgesehener Leitplanken handelt? Der Gedanke reicht von wirtschaftlichen Schäden bis zu Angriffen auf kritische Infrastrukturen. Im schlimmsten Fall wären damit nicht nur Daten oder Wirtschaftlichkeit gefährdet, sondern Menschenleben und Umwelt. Die Reaktion einiger weniger KI-Entwickler zeigt, dass solche Szenarien ernst genommen werden (müssen): OpenAI bspw. verzögerte bzw. stoppte die Entwicklung und Veröffentlichung einzelner Modelle aus Sicherheitsgründen. Anthropic-Chef Dario Amodei forderte unlängst ein geringeres Entwicklungstempo und verbindlichere Sicherheitsstandards; Unterstützung kam auch von OpenAI-Chef Sam Altman, wie Medienhäuser berichteten. Vielleicht ist bei einer Technologie, deren Leistungsfähigkeit rasch wächst, etwas mehr Zeit kein Rückschritt, sondern Voraussetzung für Fortschritt.

Und doch wäre es zu kurz gegriffen, KI nur über ihre Risiken zu betrachten. Im beruflichen Alltag wird sie zum kaum verzichtbaren Arbeitsmittel. Sie kann Abläufe beschleunigen, große Informationsmengen strukturieren, Prüfungen unterstützen und Kapazitäten dort freisetzen, wo Fachkräfte fehlen. Gerade in Planung und Bauwesen erweitert sich das Anwendungsspektrum. Produktmeldungen, News und Fachbeiträge dieser Ausgabe zeigen, wie vielfältig KI in Arbeitsprozesse einzieht.

Dabei geht es längst nicht nur um das nächste Tool. Das Interview „KI verändert die Planung – und den Wert von Wissen“ richtet den Blick insbesondere auf die Anwender: Viele KI-Anwendungen seien bereits praxistauglich, doch der Reifegrad der Nutzer falle sehr unterschiedlich aus. Spannend ist dabei das „Sechs-Augen-Prinzip“, bei dem zwei zusätzliche „KI-Augen“ Dokumente prüfen und Problempunkte erkennen helfen. Wird KI damit weniger zum Ersatz menschlicher Fachkompetenz als zu deren zusätzlicher Qualitätssicherung?

Noch einen Schritt weiter geht „Warum das nächste Level der KI-Nutzung bei den eigenen Daten beginnt“. Der Beitrag zeigt, warum generische KI dort an Grenzen stößt, wo das spezifische Wissen eines Ingenieurbüros beginnt. Eine eigene Wissens­datenbank kann dieses Wissen nutzbar machen – allerdings nur, wenn Daten zuvor gesichtet, geprüft und strukturiert werden. Eindrücklich ist das Beispiel eines alten Planungsfehlers, den eine KI sonst als vermeintlich gute Referenz weitertragen könnte.

Mein Fazit: Wir Menschen können und wollen in der Breite auf den gewaltigen Fortschritt durch KI kaum noch verzichten. Umso wichtiger ist es, ihren Umgang zu lernen, ihre Ergebnisse zu kontrollieren und ihre Handlungsspielräume bewusst zu begrenzen. Längere und gründlichere Entwicklungsschritte wären kein Widerspruch zum Fortschritt. Sie würden vielmehr etwas sehr Menschliches widerspiegeln: Neues zu erproben, Fehler zu erkennen und daraus zu lernen. An der bereits enormen Leistungsvielfalt von KI würde das nichts ändern – wohl aber daran, wie sicher wir sie künftig nutzen können.

Markus Münzfeld

Chefredakteur COMPUTER SPEZIAL