Immer mehr KI-Produkte – immer weniger Einblick

Unternehmen bringen derzeit in hohem Tempo KI-gestützte Anwendungen auf den Markt. Doch welche Modelle oder Large Language Models (LLMs) tatsächlich dahinterstecken, bleibt häufig im Dunkeln.

Formulierungen wie „KI-gestützt“ oder „mit generativer KI“ sind weit verbreitet – konkrete Angaben zur technischen Basis fehlen dagegen oft vollständig.

Das ist kein Einzelfall. Es handelt sich um ein strukturelles Problem, das in der Branche unter den Begriffen wie Transparenz, Governance und Schatten-KI zunehmend diskutiert wird.

Was fehlt – und warum das für Anwender zählt

Ohne Kenntnis des eingesetzten Modells können Kunden und Anwender zentrale Fragen nicht zuverlässig beantworten:

◉ Datenschutz: Wo werden Daten verarbeitet und unter welchen Bedingungen?

◉ Abhängigkeiten: Besteht eine Ideologie oder Bindung an bestimmte Anbieter oder Infrastrukturen?

◉ Leistungsfähigkeit: Für welche Aufgaben ist das Modell geeignet – und wo liegen seine Grenzen?

◉ Bias: Welche Verzerrungen könnten im Modell angelegt sein?

Ohne diese Informationen wird eine fundierte Risikobewertung erheblich erschwert, also quasi aussichtslos.

Schatten-KI als zusätzliches Problem

Erschwerend kommt hinzu, dass KI-Tools in vielen Organisationen auch außerhalb offizieller Freigabeprozesse genutzt werden.

In diesem Umfeld ist weder intern noch extern klar erkennbar, welches Modell tatsächlich zum Einsatz kommt.

Die sogenannte Schatten-KI entzieht sich sowohl der internen Kontrolle als auch externen Prüfmechanismen.

AI Act erhöht den Druck zur Offenlegung

Der regulatorische Rahmen verändert sich. Mit dem europäischen AI Act rücken Transparenzpflichten stärker in den Fokus – insbesondere für Anbieter und Betreiber von KI-Systemen.

Eine vollständige öffentliche Nennung des verwendeten Modells ist zwar nicht in jedem Fall vorgeschrieben, doch die Anforderungen an Dokumentation, Nachvollziehbarkeit und Nutzerinformation steigen deutlich.

Unternehmen, die KI-Produkte entwickeln oder vertreiben, müssen künftig klarer darlegen, wie ihre Systeme funktionieren und auf welcher technischen Grundlage sie basieren.

Modell-Transparenz wird zum Kriterium

Für Fachanwender, Einkäufer und Compliance-Verantwortliche bedeutet diese Entwicklung:

Die Frage nach dem zugrundeliegenden Modell ist kein technisches Detail mehr, sondern ein zentrales Kriterium bei Beschaffung, Risikobewertung und regulatorischer Einordnung.

Wer KI-Lösungen evaluiert, sollte aktiv nach Model Cards, technischen Datenblättern und vertraglichen Angaben zum eingesetzten System fragen – und fehlende Transparenz als Risikofaktor werten…

Sierks Media / PR Agent / © Foto: Nahrizul Kadri, Unsplash