# KI-Lagebild > **Lizenz und Nutzung:** > Dieser Text steht unter der Lizenz [Creative Commons „Namensnennung 4.0"](https://creativecommons.org/licenses/by/4.0/deed.de). > Sie dürfen ihn gerne für Ihre eigenen Zwecke verwenden, auch in einem kommerziellen Kontext, auch im Wettbewerb zu uns – solange die verfassenden Personen **Bernd Oestereich, Claudia Schröder** und die Bezugsquelle **Werkstatt für Kollegiale Führung** () genannt werden. > Wenn Sie den Text weiter entwickeln, fügen Sie hier Ihren Namen hinzu: --- Jede Organisation, die KI einführt, beantwortet eine Reihe von Grundfragen – bewusst oder stillschweigend. Wer sie nicht ausdrücklich stellt, überlässt die Antworten einem externen Anbieter, der Intuition einzelner Kolleginnen oder dem Zufall. In der Praxis passiert das regelmäßig. Der erste sinnvolle Schritt bei jeder KI-Einführung ist deshalb nicht die Auswahl eines Werkzeugs oder die Planung eines Rollouts, sondern der Aufbau einer ersten Version eines KI-Lagebildes: eine strukturierte, ehrliche Bestandsaufnahme dessen, was die Organisation über ihr KI-System weiß – und was sie noch nicht weiß. Ein Lagebild ist kein technisches Pflichtdokument und keine Compliance-Ablage. Es ist das, was eine Organisation zu einem bestimmten Zeitpunkt über ein konkretes KI-System geklärt hat: was schon klar ist und welche Unsicherheiten noch offen sind. Gerade die offenen Fragen gehören dazu. Sie zeigen, wo die Organisation derzeit blind ist und wo weiterer Klärungsbedarf besteht. Eine Lücke im Lagebild ist ein nützlicher Hinweis. Das Lagebild ist kein abzuschließendes und endgültig fertigzustellendes Dokument, sondern ein Zwischenstand – ein Lagebild eben. Bestimmte Fragen lassen sich schon beantworten, bevor überhaupt konkrete Werkzeuge, Anbieter oder Modelle ausgewählt wurden; andere erst, wenn das System ins Laufen gekommen ist. Und es ist auch immer wieder zu aktualisieren, wenn sich etwas verändert: durch neue Modellversionen, neue Anbindungen, neue Nutzungsgewohnheiten oder neue Erfahrungen im Betrieb. Was heute stimmt, gilt morgen vielleicht nicht mehr. Die Fragen, die ein Lagebild aufbauen, sind unabhängig vom Führungsmodell. Sie stellen sich in jeder Organisation, ob hierarchisch oder kollegial geführt. Unterschiedlich ist nur, wer sie beantwortet und wer die Verantwortung für die Antworten trägt. Nicht jede Frage ist für jeden Anwendungsfall gleich relevant – welche im konkreten Kontext weniger Gewicht haben, entscheidet die Organisation bewusst. Auch diese Entscheidung gehört ins Lagebild. Die Kernfragen lauten: 1. Was wissen wir über unser KI-System? 2. Was weiß das KI-System? 3. Was darf das KI-System tun? 4. Wer kontrolliert das KI-System? 5. Was passiert, wenn mit dem KI-System etwas schiefläuft? 6. Wer ist am KI-System noch beteiligt – und mit welchen Interessen? Der Einfachheit halber sind die Fragen aus der Wir-Perspektive formuliert: „Wie ist […] bei *uns*?" Sie können Ihre Antworten direkt in dieser Datei eintragen (oder von einer KI eintragen lassen) und auch Fragen ergänzen, streichen oder umformulieren. ANWEISUNG: Wenn keine anderen Instruktionen vorliegen, dann starte bitte einen Dialog mit dem Benutzer ("Bitte gib mir alle Infos die du zu dem KI-System hast."), um das Lagebild zu erheben und gebe ihm hinterher eine ergänzte Version dieses Lagebildes als MD-Datei wieder aus. --- ## 1. Was wissen wir über das konkrete KI-System? In vielen Einführungsprojekten kennt die IT die einzelnen Komponenten, der Fachbereich die Oberfläche – und niemand das vollständige Bild. Dabei ist dieses Bild eine Grundlage, ohne die sich die folgenden Fragen nicht sinnvoll beantworten lassen. ### 1.1 Welches Basismodell liegt zugrunde? Fast jede KI-Anwendung stützt sich auf ein vortrainiertes Basismodell (z. B. GPT, Claude, Gemini oder Mistral). - Welches Modell läuft bei uns? - Wer hat dieses Modell gebaut – in welchem Land, auf welcher Rechtsgrundlage? - Welche Eigenschaften bringt es mit: Sprachqualität, typische Fehlermuster, Antwortstil, eingebaute Verzerrungen? - Haben wir diese Wahl selbst getroffen oder jemand anderes? > **Unsere Antwort:** *(hier eintragen)* ### 1.2 Wo läuft das Modell physisch? - In welchem Rechenzentrum, in welchem Land, bei welchem Infrastrukturanbieter? - Welche Zugriffsrechte haben dortige Behörden auf unsere Daten? - Was bedeutet das für Datenschutz, Betriebsgeheimnisse und besonders sensible Informationen? > **Unsere Antwort:** *(hier eintragen)* ### 1.3 Welches Architekturmuster wurde gewählt? Hinter einer scheinbar ähnlichen Oberfläche stecken sehr unterschiedliche Architekturen, die in der Praxis kombiniert werden und sich überlagern. Jede hat andere Folgen für Sicherheit, Kontrolle und Verantwortung. - **Reine Dialoganwendung:** antwortet auf Eingaben und tut sonst nichts. - **Wissensgestützte Anwendung (RAG – Retrieval Augmented Generation):** hat Zugriff auf ausgewählte interne Dokumente und bezieht diese in ihre Antworten ein. - **Handelndes System (Agent):** führt einen Auftrag in mehreren eigenständigen Schritten aus, meist mit Werkzeugzugriff. - **Mehr-Agenten-Verbund:** teilt die Arbeit auf – eine Instanz plant, eine prüft, eine schreibt. Welches dieser Muster liegt unserer Anwendung zugrunde? Wissen alle in unserer Organisation Beteiligten dasselbe darüber? > **Unsere Antwort:** *(hier eintragen)* ### 1.4 Welche Anbindungen und Schnittstellen hat das System? - Welche internen Systeme (z. B. Mail, Kalender, Dokumente, Fachverfahren) sieht die KI? - Welche davon darf sie nur lesen, welche auch verändern? - In welche externen Dienste reicht sie mit welchen Möglichkeiten hinaus? Je mehr Anbindungen, desto größer die Wirkung – und desto größer die Fläche, auf der Schaden entstehen kann. > **Unsere Antwort:** *(hier eintragen)* ### 1.5 Wo ist das Verhalten vorhersehbar, wo nicht? - Welche Teile des Systems sind **deterministisch** (liefern bei gleicher Eingabe dieselbe Ausgabe: Regeln, Formeln, strukturierte Abfragen)? - Welche Teile sind **nichtdeterministisch** (beruhen auf generativen Antworten, Einschätzungen und Empfehlungen)? - Ist diese Mischung bewusst gestaltet oder einfach so entstanden? > **Unsere Antwort:** *(hier eintragen)* ### 1.6 Welche Teile bauen wir selbst, welche mieten wir zu? - Was kommt vom Anbieter (Modell, Infrastruktur, Anwendungsrahmen)? - Was gestalten wir selbst (Daten, Anbindungen, Anweisungen, Rollen, Prozesse)? Diese Trennung ist nicht nur technisch interessant. Sie ist die Grundlage für die Frage, wo wir gestalten können – und wo wir strukturell abhängig sind. > **Unsere Antwort:** *(hier eintragen)* ### Fazit zu Abschnitt 1 Die Frage „Was ist eigentlich unser KI-System?" bleibt in Einführungsprojekten manchmal ungestellt und unbeantwortet. Eine knappe, gemeinsame Systembeschreibung – verständlich für Fachbereich und IT – ist der einfachste erste Schritt zur Antwort. Ohne dieses Bild lassen sich weder Rechte noch Kontrolle noch Verantwortung klar zuordnen. --- ## 2. Was weiß das KI-System? Die Qualität jeder KI-Antwort hängt davon ab, welches Wissen das System überhaupt erreicht – und welches systematisch nicht. Beides gehört zum Bild. ### 2.1 Was steckt in den Trainingsdaten? - Aus welcher Zeit stammen die Trainingsdaten (Monat und Jahr des Stichtags)? - Welche Sprachen, Quellen und Perspektiven sind darin enthalten, welche nicht? - Welche Gruppen sind überrepräsentiert, welche unterrepräsentiert? Auf die meisten dieser Fragen bekommen wir nur grobe Antworten. Genau das ist Teil der Auskunft, die wir brauchen – denn auch eine ungenaue Antwort ist eine Auskunft über das, was wir nicht wissen können. > **Unsere Antwort:** *(hier eintragen)* ### 2.2 Welche Kontextdaten stellen wir dem System zur Verfügung? - Welche organisationsinternen Quellen binden wir an (Wiki, Kundendatenbank, Archiv, Fachverfahren)? - Sind diese Daten aktuell, vollständig, qualitätsgesichert? - Wer verantwortet ihre Pflege – nicht bei der Einführung, sondern dauerhaft im Betrieb? - Welche Dokumente aus der Wissensbasis werden für eine Antwort tatsächlich herangezogen? Ist das von außen erkennbar oder bleibt die Auswahl unsichtbar? - Finden sich typische Fehler im Alltag (z. B. veraltete Versionen gezogen, Randthemen übersehen, Abkürzungen oder Fachbegriffe unerkannt)? - Wer prüft regelmäßig, ob die Auswahl fachlich trägt – und hat diese Rolle Zugriff auf die nötigen Protokolle und Testfragen? > **Unsere Antwort:** *(hier eintragen)* ### 2.3 Welche Echtzeitdaten werden live abgerufen? - Welche Drittsysteme fragt die KI im Moment der Antwort ab (Kalender, Lager, Kurse, Fahrpläne, externe Datenquellen)? - Wie verlässlich sind diese Quellen in Verfügbarkeit, Aktualität und Qualität? - Was passiert, wenn eine davon gerade nicht erreichbar ist? Arbeitet das System mit veralteten Daten weiter, ohne es zu erwähnen? > **Unsere Antwort:** *(hier eintragen)* ### 2.4 Wie groß ist das Kontextfenster? - Wie viel Information kann das System gleichzeitig im Blick haben – also in einer einzelnen Antwort verarbeiten? - Was geschieht, wenn mehr hineinfließt als hineinpasst: Wird abgeschnitten, zusammengefasst oder verworfen? - Wer trifft diese Auswahlentscheidung – die Anwendung, das Modell, ein vorgeschalteter Mechanismus? > **Unsere Antwort:** *(hier eintragen)* ### 2.5 Was merkt sich das System innerhalb einer Konversation? Dies bestimmt das Kurzzeit- oder Arbeitsgedächtnis des Systems: - Was bleibt im laufenden Austausch erhalten – und was wird vergessen, sobald eine neue Konversation beginnt? - Welche Informationen möchten wir bewusst nicht einmal innerhalb einer Konversation behalten? > **Unsere Antwort:** *(hier eintragen)* ### 2.6 Was merkt sich das System über Konversationen hinweg? Dies bestimmt das Langzeitgedächtnis: - Speichert das System Informationen über Nutzerinnen, die Organisation, Anfragen, Vorgänge, Ergebnisse – auch nach dem Ende einer Konversation? - Wer kann darauf zugreifen (wir, der Anbieter, andere Nutzerinnen der gleichen Anwendung)? - Wie lässt sich dieses Gedächtnis einsehen, korrigieren, aktualisieren oder löschen? - Welche Risiken entstehen, wenn sich das System Dinge merkt, die nicht mehr relevant sind oder korrigiert werden müssten? > **Unsere Antwort:** *(hier eintragen)* ### 2.7 Was wird das System nicht wissen – und was übersehen wir dabei? Die Frage nach dem Wissen hat eine Kehrseite, die leicht übergangen wird. Drei Arten blinder Flecken sind erwartbar: - **Zeitlich:** Alles, was nach dem Trainingsstichtag passiert ist und nicht über Echtzeitquellen nachgeliefert wird. - **Inhaltlich:** Alles, was nicht trainiert und nicht angebunden ist – Nischenwissen, Minderheitensprachen, spezifisches Fachwissen. - **Sozial:** Alles, was in der Organisation nur mündlich zirkuliert und nirgendwo dokumentiert ist. Bis hierhin sind das die blinden Flecken der KI. Es gibt aber noch eine zweite, unangenehmere Kategorie: die blinden Flecken, die wir *mit* der KI teilen. Denn wir können nur jene Lücken antizipieren, die wir selbst erkennen. Zu Themen, zu denen auch wir wenig wissen, werden wir bei der KI kaum etwas vermissen. Oft fällt es erst auf, wenn jemand von außen hinschaut. Hilfreich sind deshalb regelmäßige, bewusst gesuchte Gegenperspektiven: Kolleginnen mit anderem Erfahrungshintergrund, externe Rückmeldungen, Nutzerinnen, die anders fragen, als wir es tun würden. Nicht um jeden blinden Fleck zu schließen – das gelingt nicht – sondern um die Fläche des Nichtwissens über die Zeit zu verkleinern. > **Unsere Antwort:** *(hier eintragen)* ### Fazit zu Abschnitt 2 Welches Wissen die KI erreicht und welches systematisch nicht, entscheidet über die Qualität jeder einzelnen Antwort. Diese Datenlandschaft zu pflegen und ihre Lücken bewusst zu kennen, ist eine dauerhafte Führungsaufgabe – und keine Einführungs- oder reine IT-Aufgabe. Wer das nicht explizit macht, lässt die KI mit einem Wissensstand arbeiten, den niemand mehr überblickt. --- ## 3. Was darf das KI-System tun? Eine KI, die nur antwortet, richtet wenig Schaden an. Eine KI, die handelt, kann mehr bewegen – im Guten wie im Unerwünschten. Welche Handlungen genau zugelassen sind, ist zuerst eine fachlich-organisatorische Frage und erst dann eine der technischen Umsetzbarkeit. ### 3.1 Welche Daten darf die KI lesen? - Auf welche Datenbestände (persönliche, fachliche, organisationsweite) hat sie Zugriff? - Gibt es Bereiche, die explizit ausgeschlossen sind (z. B. Personalakten, Gehaltsdaten, vertrauliche Protokolle, bestimmte Kennzahlen)? - Woran erkennen wir, dass diese Ausschlüsse tatsächlich greifen – und nicht nur beabsichtigt sind? > **Unsere Antwort:** *(hier eintragen)* ### 3.2 Welche Daten darf die KI verändern? - Darf sie Einträge anlegen, ändern, löschen? In welchen Systemen? - Welche Änderungen erfolgen direkt, welche erst nach menschlicher Freigabe? - Gibt es Wertgrenzen, Mengengrenzen, Reichweitengrenzen? (Z. B. eine Bestellung bis hundert Euro ja, darüber nein; ein Eintrag im eigenen Kalender ja, sonst nein.) > **Unsere Antwort:** *(hier eintragen)* ### 3.3 Welche Funktionen und Werkzeuge kann die KI aufrufen? - Welche konkreten Aktionen kann das System auslösen (E-Mails verschicken, Termine setzen, Bestellungen anstoßen, Code ausführen, Dokumente erzeugen, Zahlungen veranlassen)? - Welche Werkzeuge und Schnittstellen sind dafür freigegeben – und welche bewusst nicht? - Welche dieser Aktionen sind nachträglich nicht mehr rückholbar? > **Unsere Antwort:** *(hier eintragen)* ### 3.4 In welcher Umgebung läuft das, was die KI tut? - Arbeitet die KI in einer abgeschirmten Umgebung (Sandbox) oder greift sie offen auf produktive Systeme zu? - Welche Nebenwirkungen sind möglich, wenn sie sich irrt – und welche sind durch die Architektur von vornherein ausgeschlossen? > **Unsere Antwort:** *(hier eintragen)* ### 3.5 Welche Freigaben sind eingebaut? - An welchen Stellen entscheidet die KI selbst, an welchen muss ein Mensch freigeben? - Gibt es Schwellwerte, Betragsgrenzen, externe Empfängerinnen oder besonders sensible Themen, bei denen eine menschliche Freigabe immer notwendig wird? - Wer legt diese Schwellen fest, wer verändert sie – und wie erfahren wir von einer Änderung? > **Unsere Antwort:** *(hier eintragen)* ### 3.6 Was haben wir der KI ungewollt erlaubt? Einer KI ohne expliziten Handlungsrahmen ist implizit immer alles erlaubt, was ihre Anbindungen hergeben. - Welche Aktionen sind technisch möglich (aber organisatorisch nicht gewollt), solange sie dem System nicht explizit untersagt werden? - Welche Aktionen sind technisch erst möglich, wenn sie dem System explizit erlaubt werden? - Welche Aktionen wären heute technisch möglich, die niemand in der Organisation bewusst freigegeben hat? - Welche davon wollen wir aktiv erlauben, welche einschränken, welche ganz abschalten? > **Unsere Antwort:** *(hier eintragen)* ### Fazit zu Abschnitt 3 Was eine KI darf, ist keine Konfigurationsfrage, sondern eine fachlich-organisatorische Vollmachtsfrage – vergleichbar mit der Zeichnungsbefugnis eines neuen Teammitglieds. Nur dass diese Vollmacht bei KI still und unsichtbar erteilt wird, wenn man sie nicht explizit macht. --- ## 4. Wer kontrolliert das KI-System? Kontrolle meint hier nicht die einmalige Rahmensetzung. Gemeint ist die laufende Beobachtung und Eingriffsfähigkeit im Betrieb: das, was dauerhaft passieren muss, damit der gesetzte Rahmen auch gehalten wird. ### 4.1 Wer beobachtet, was hineingeht? - Wer schaut auf die Eingaben, die dem System gestellt werden? - Werden bestimmte Eingaben systematisch gefiltert, markiert, protokolliert? - Welche Arten von Eingaben wollen wir früh erkennen? (Z. B. Versuche, das System zu manipulieren, es außerhalb seines Zwecks zu nutzen oder sensible Daten hineinzugeben, die dort nichts verloren haben.) > **Unsere Antwort:** *(hier eintragen)* ### 4.2 Wer beobachtet, was das System zwischendrin tut? - Welche Zwischenschritte und Werkzeugaufrufe sind überhaupt sichtbar? - Bei handelnden Systemen: Wer kann einen laufenden Prozess unterbrechen, wenn er in die falsche Richtung läuft? Welche Aktionen sind gar nicht unterbrechbar? - Gibt es für mehrstufige Abläufe eine Nachverfolgbarkeit (Tracing) – oder sehen wir am Ende nur das Ergebnis, ohne den Weg dorthin? > **Unsere Antwort:** *(hier eintragen)* ### 4.3 Wer beobachtet, was herauskommt? - Wer prüft die Ausgaben? Stichprobenartig, regelbasiert oder anlassbezogen? - Wer entdeckt, wenn das System anfängt, anders zu antworten als bisher? - Werden systematische Muster in den Ausgaben regelmäßig ausgewertet – oder verlassen wir uns darauf, dass sich Nutzerinnen dann schon melden? > **Unsere Antwort:** *(hier eintragen)* ### 4.4 Wo sitzt ein Mensch im Entscheidungspfad? - An welchen Stellen greift ein Mensch prüfend, freigebend oder korrigierend ein? - Ist der Eingriff echt – oder nur formal, weil in der Praxis niemand die Zeit hat, wirklich hinzuschauen? > **Unsere Antwort:** *(hier eintragen)* ### 4.5 Welche Leitplanken sind eingebaut? - Welche technischen Regeln (Guardrails) verhindern automatisch unerwünschtes Verhalten? (Beispiele: keine Auskünfte zu Gehältern, keine Überweisungen über einem Schwellenwert, keine E-Mails an externe Adressen ohne zweite Freigabe.) - Wer legt diese Regeln fest, wer prüft ihre Wirksamkeit – und wer bemerkt es, wenn eine Regel umgangen oder still deaktiviert wird? > **Unsere Antwort:** *(hier eintragen)* ### 4.6 Welche regelmäßigen Tests gibt es? - Gibt es einen automatisierten Bewertungsrahmen (Evaluations), der laufend prüft, ob das System noch das tut, was es tun soll? - Wie oft werden diese Tests aktualisiert, wenn sich die Aufgabe, das Modell oder der Anwendungskontext verändern? - Wer schaut auf die Ergebnisse – und reagiert darauf? > **Unsere Antwort:** *(hier eintragen)* ### 4.7 Wer ist verantwortlich – namentlich? Welche Rolle verantwortet die Kontrolle insgesamt? Wenn niemand explizit dafür verantwortlich ist, kontrolliert niemand. Wenn die Rolle nur nominell besetzt ist, kontrolliert ebenfalls niemand. Verantwortung für KI-Kontrolle ist keine Nebenaufgabe, die man einer Person einfach zuschiebt. > **Unsere Antwort:** *(hier eintragen)* ### Fazit zu Abschnitt 4 Kontrolle ist kein Zustand, den man mit der Einführung erreicht, sondern ein Dauerbetrieb, der Ressourcen braucht: Zeit, Aufmerksamkeit, Kompetenz. Sie gehört zu den Rollen, die eine Organisation selbst definiert und besetzt – nicht zu den Diensten, die sie extern einkauft. Wer das verwechselt, hat die Kontrolle formal vergeben und faktisch aufgegeben. --- ## 5. Was ist passiert, wenn mit dem KI-System etwas schiefläuft? Fehler sind bei nichtdeterministischen Systemen keine Ausnahme, sondern Teil des Normalbetriebs. Wer damit nicht rechnet, improvisiert bei jedem Zwischenfall – meist unter Zeitdruck, mit unvollständigen Informationen und sichtbarem Schaden. ### 5.1 Was wird protokolliert – und wie lange? - Welche Eingaben, Ausgaben und Werkzeugaufrufe werden aufgezeichnet? - Wie lange werden diese Protokolle aufbewahrt? - Wer darf sie einsehen, wer darf sie verändern oder löschen? - Wie verträgt sich das mit Datenschutz, Mitbestimmung und Vertraulichkeit? Protokollierung ist nicht nur eine technische, sondern auch eine rechtliche und eine kulturelle Frage. > **Unsere Antwort:** *(hier eintragen)* ### 5.2 Können wir eine einzelne Aktion im Nachhinein rekonstruieren? Wenn etwas Auffälliges passiert ist: Lässt sich die Kette rückverfolgen? Auf welche Eingabe, welche Zwischenschritte, welche Ausgabe, welche Auslösung in welchem Folgesystem? Reicht die Nachverfolgbarkeit bei mehrstufigen Prozessen oder Mehr-Agenten-Verbünden auch über Systemgrenzen hinweg – oder verliert sich die Spur an der ersten Schnittstelle? > **Unsere Antwort:** *(hier eintragen)* ### 5.3 Welche Aktionen lassen sich rückgängig machen – und welche nicht? - Welche Handlungen der KI sind rückholbar oder explizit als Entwürfe, interne Datensätze oder vorgemerkte Einträge gekennzeichnet? - Welche sind es nicht (versendete E-Mails, ausgelöste Bestellungen, externe Veröffentlichungen, Mitteilungen an Dritte)? - Für die rückholbaren: Haben wir eine Rückabwicklung (Rollback) eingerichtet? - Für die nicht rückholbaren: Haben wir dort bewusst höhere Freigabeschwellen gesetzt? Wer kümmert sich um Wiedergutmachung und Haftungsklärung? > **Unsere Antwort:** *(hier eintragen)* ### 5.4 Wer prüft regelmäßig auf Muster? - Gibt es eine regelmäßige Revision (Audit), die nicht nur einzelne Fehler betrachtet, sondern Verteilungen und Muster untersucht? - Werden bestimmte Gruppen systematisch anders behandelt als andere? Entstehen blinde Flecken, die vorher nicht da waren? Einzelne Fehler sieht man mit bloßem Auge. Muster werden erst sichtbar, wenn jemand gezielt danach sucht. > **Unsere Antwort:** *(hier eintragen)* ### 5.5 Gibt es automatische Sicherheitsmechanismen? - Eine **Nutzungsbegrenzung** (Rate Limiting) drosselt das System, wenn es plötzlich ungewöhnlich viel tut – ein erster Schutz gegen Fehler, die sich vervielfachen. - Eine **Notabschaltung** (Circuit Breaker) ist der technische oder organisationale Notausschalter. Gibt es ihn? Kennt jede relevante Person ihn? Wer darf ihn betätigen, in welchen Situationen – und wer erfährt davon? > **Unsere Antwort:** *(hier eintragen)* ### 5.6 Wer erfährt was, wann – wenn etwas passiert ist? - Welche Meldewege gibt es, wenn ein Fehler entdeckt wird (intern, gegenüber Betroffenen, gegenüber Aufsichtsbehörden)? - Wer entscheidet, was kommuniziert wird? - Wer steht am Ende dafür ein, dass das Muster nicht wiederkehrt? Ein schlecht kommunizierter Fehler richtet oft mehr Schaden an als der Fehler selbst. > **Unsere Antwort:** *(hier eintragen)* ### Fazit zu Abschnitt 5 Der Fehlerfall ist kein Ausnahmezustand, sondern Teil des Normalbetriebs. Technik und Organisation müssen so zusammenspielen, dass ein Fehler früh erkennbar, zügig korrigierbar und in der Organisation lernwirksam wird. Eine Einführung ohne diese Vorbereitung ist nicht abgeschlossen – sie hat nur begonnen. --- ## 6. Wer ist am KI-System noch beteiligt – und mit welchen Interessen? Anders als bei früheren Büro- oder Produktionswerkzeugen besitzt und betreibt eine Organisation ihre KI oft nicht selbst, sondern nutzt externe Dienste. „Unsere KI" ist dann nur „eine von uns genutzte KI", die anderen gehört. Hinter der Oberfläche steht eine ganze Kette von Beteiligten, deren Interessen nicht zwangsläufig mit unseren übereinstimmen. ### 6.1 Wer hat das Basismodell gebaut? - Welches Unternehmen hat trainiert, in welchem Land, nach welchen Regeln? - Welche Interessen verfolgt dieses Unternehmen – wirtschaftlich, politisch und strategisch? - Unter welchem nationalen Recht steht es – und was bedeutet das, wenn sich geopolitische Lagen ändern? > **Unsere Antwort:** *(hier eintragen)* ### 6.2 Wo läuft das Modell physisch? - In welchem Rechenzentrum, in welchem Land, bei welchem Infrastrukturanbieter? > **Unsere Antwort:** *(hier eintragen)* ### 6.3 Wer bietet die konkrete Anwendung an? Oft ist der Modellanbieter nicht der Anwendungsanbieter. Zwischen uns und dem Basismodell sitzt häufig eine eigene Zwischenschicht – ein Start-up, ein mittelständischer Anbieter, eine Branchenlösung. Wer ist das in unserem Fall – und wer haftet für was, wenn etwas schiefgeht? > **Unsere Antwort:** *(hier eintragen)* ### 6.4 Wer hat die KI in unsere Systeme eingebunden? - Integrationsdienstleister und Beratungen bestimmen mit, was die KI in unserer Welt sehen und tun darf. - Wer hat entschieden, welche Daten exportiert und welche Schnittstellen geöffnet werden? - Welche Abhängigkeit ist dabei zu diesen Dienstleistern entstanden – und wie lösbar wäre sie, wenn wir wollten? > **Unsere Antwort:** *(hier eintragen)* ### 6.5 Woher kommen die Daten, auf die sich das System stützt? - Welche Datenlieferanten spielen hinein (lizenzierte Inhalte, frei verfügbare Quellen, eingekaufte Datenbanken)? - Welche Entscheidungen darüber, was als Wissen zählt und was nicht, wurden dort getroffen – auch ohne unser Zutun und oft ohne unsere Kenntnis? > **Unsere Antwort:** *(hier eintragen)* ### 6.6 Welcher Rechtsrahmen gilt – und wer gestaltet ihn mit? Die KI-Verordnung der EU (AI Act), die Datenschutz-Grundverordnung, nationales Arbeits- und Haftungsrecht sind Teil der Einführungsrealität. Gerichte entscheiden laufend über Urheberrecht, Haftung und Diskriminierung. Was heute unproblematisch ist, kann morgen eine Nachbesserung verlangen. Der Regulator ist kein passives Umfeld, sondern ein aktiver Mitgestalter mit eigenem Zeittakt und eigener Logik. > **Unsere Antwort:** *(hier eintragen)* ### 6.7 Wer verändert das Modell – und wie oft? Modelle werden von ihren Anbietern laufend angepasst, meist unangekündigt. Dieselbe Eingabe kann morgen eine andere Antwort liefern. - Wie erfahren wir von solchen Veränderungen? - Haben wir Tests, die eine Veränderung verlässlich bemerken – oder merken wir es erst, wenn sich das Nutzungsverhalten ändert oder Beschwerden auflaufen? > **Unsere Antwort:** *(hier eintragen)* ### 6.8 Welche Interessen fließen ein, die nicht die unseren sind? Mehrere Linien verlaufen parallel, ohne dass sie sich an der Oberfläche zeigen: - **Wirtschaftliche Interessen** des Anbieters: Abhängigkeit der Nutzungsintensität, Preisbindung und Bindung an sein Ökosystem. - **Politische und kulturelle Prägungen** des Herkunftslandes können unsichtbar ins Modellverhalten eingeschrieben sein. - **Sicherheitsrichtlinien** des Anbieters können Themen sperren oder einseitig darstellen, auch dort, wo wir es uns anders wünschen. > **Unsere Antwort:** *(hier eintragen)* ### 6.9 Was, wenn der Anbieter wegbricht oder sich verändert? - Was passiert, wenn der Anbieter seine Preise verdoppelt, den Dienst einstellt, sein Geschäft umbaut oder strategisch verkauft wird? - Was passiert, wenn ein Anbieter aus rechtlichen Gründen bestimmte Länder, Branchen oder Themen sperrt? - Was passiert, wenn ein Rechenzentrum längere Zeit ausfällt? Keines dieser Szenarien ist hypothetisch – alle sind in den letzten Jahren bereits vorgekommen. > **Unsere Antwort:** *(hier eintragen)* ### 6.10 Wie ausweichfähig sind wir? - Haben wir eine Alternative, und wenn ja: wie schnell wäre sie einsatzbereit? - Welche Zusatzkomplexität wären wir bereit, für Unabhängigkeit in Kauf zu nehmen – und welche nicht? - Wer ist bei uns ermächtigt, oder: wie ermächtigen wir kurzfristig eine Rolle oder Taskforce, Alternativen zu aktivieren? > **Unsere Antwort:** *(hier eintragen)* ### Fazit zu Abschnitt 6 Die Beteiligten an einer KI-Nutzung sind zahlreicher, als es aus Nutzungssicht wirkt. Vieles davon ist nicht verhandelbar – aber das meiste ist sichtbar zu machen. Aus dieser Sichtbarkeit entsteht keine Unabhängigkeit, wohl aber Entscheidungsfähigkeit: Welche Abhängigkeiten nehmen wir bewusst in Kauf? Welche reduzieren wir aktiv? Welche beobachten wir weiter? Diese Entscheidung ist keine IT-Entscheidung. Sie berührt Resilienz, Werte und Souveränität der gesamten Organisation. --- *Dieses Dokument ist ein Zwischenstand, kein fertiges Ergebnis. Es lädt dazu ein, offen zu sein für das, was noch nicht klar ist – und dafür, es trotzdem aufzuschreiben.* --- > **Quelle und Lizenz:** > Bernd Oestereich, Claudia Schröder – Werkstatt für Kollegiale Führung > > Lizenz: [Creative Commons Namensnennung 4.0 International (CC BY 4.0)](https://creativecommons.org/licenses/by/4.0/deed.de)