„Ist das sicher mit unseren Daten?" — kaum eine KI-Initiative im Mittelstand kommt an dieser Frage vorbei, und viele sterben an ihr. Die Sorge ist berechtigt. Aber die Frage ist meist falsch gestellt. „Ist KI sicher?" lässt sich so wenig beantworten wie „ist ein Auto sicher?". Es kommt darauf an, welche Daten, in welcher Architektur, mit welchen Leitplanken.
Die gute Nachricht für jeden Geschäftsführer: Sicherheit bei KI ist kein Glücksspiel, das man eingeht — sie ist eine Reihe von Entscheidungen, die man bewusst am Anfang trifft. Hier sind die fünf, auf die es ankommt.
1. Datenklassifizierung — der erste Schritt ist keine Technik
Bevor irgendein Modell irgendetwas sieht, wird sortiert: Welche Daten sind unkritisch (Marketingtexte, öffentliche Produktinfos)? Welche sind geschäftskritisch (Konstruktionsdaten, Kalkulationen, Personaldaten)? Aus dieser Klassifizierung folgt fast alles andere.
Öffentliches und Unkritisches darf in die Cloud (mit den passenden Verträgen). Geschäftskritisches bleibt lokal oder in einer abgeschotteten Umgebung. Kein „alles oder nichts" — sondern eine bewusste Linie pro Datenklasse.
2. „Forkt ihr unsere Daten?" — die richtige Antwort ist: Nein
Die größte stille Angst der IT-Leitung ist, dass ein KI-Projekt heimlich eine Kopie des gesamten Datenbestands anlegt — einen zweiten, unkontrollierten Datentopf. Ein sauberes Setup tut das nicht. Stattdessen gilt:
- Workflow-genauer Zugriff: Die KI sieht nur die Systeme, die ein konkreter Prozess wirklich braucht — nicht alles.
- Lesen und Schreiben getrennt: Schreibzugriff nur dort, wo er nötig und freigegeben ist.
- Alles protokolliert: Jeder Zugriff nachvollziehbar, über durchgängige Korrelations-IDs.
- Kurze, widerrufbare Zugänge: Keine dauerhaften Generalschlüssel.
- Im Zweifel gewinnt das Führungssystem: Wenn KI und ERP sich widersprechen, gewinnt das ERP. Die KI ist die Denk-Ebene, nicht die zweite Quelle der Wahrheit.
3. Der EU AI Act — was ein Geschäftsführer wirklich wissen muss
Der EU AI Act klingt nach einem Bürokratie-Monster, ist für die meisten Mittelständler aber überschaubar. Er stuft KI-Anwendungen nach Risiko ein. Das Gros der betrieblichen Anwendungsfälle (Texte zusammenfassen, Dokumente verarbeiten, interne Wissenssuche) fällt in die niedrigen Risikoklassen mit überschaubaren Pflichten — vor allem Transparenz.
Was Sie nicht übersehen sollten: Seit Anfang 2025 gilt eine Pflicht zur KI-Kompetenz — Mitarbeitende, die KI einsetzen, müssen ein Grundverständnis dafür haben. Das ist keine Last, sondern deckt sich exakt mit dem, was eine gute Einführung ohnehin tut: befähigen statt nur Lizenzen verteilen.
Der EU AI Act ist kein Grund zu warten. Er ist eine Checkliste, die Sie ohnehin abarbeiten sollten.
4. On-Prem vs. Cloud — der realistische Mittelweg
Die Debatte wird oft als Glaubenskrieg geführt: alles in die Cloud oder alles selbst hosten. In der Praxis gewinnt fast immer der Hybrid. Unkritische Workloads laufen effizient in der Cloud. Für sensible Bereiche kommen lokale oder abgeschottete Modelle zum Einsatz. Verfahren wie Retrieval-Augmented Generation halten eure Daten dabei in eurer Kontrolle — das Modell bekommt nur den nötigen Ausschnitt, im Moment der Anfrage, nicht den ganzen Bestand zum Training.
Reines On-Premise für alles klingt am sichersten, scheitert aber oft an der technischen Realität und am Aufwand. Die Kunst ist nicht Maximalabschottung, sondern die richtige Linie pro Datenklasse (siehe Punkt 1).
5. Die Governance, die ein Vorstand verlangt
Autonome KI ohne Kontrolle ist das eigentliche Risiko — nicht die Cloud. Vier unspektakuläre Mechanismen halten ein Agentensystem rechenschaftsfähig:
- Laufende Prüfung (Evals): Jeder Agent wird kontinuierlich gegen ein Testset geprüft, damit schleichende Fehler auffallen, bevor es der Kunde tut.
- Lückenlose, durchsuchbare Logs: Jede Entscheidung im Nachhinein rekonstruierbar.
- Granularer Rollback: Jeder Agent einzeln zurücksetzbar, ohne das ganze System anzuhalten.
- Mensch in der Schleife: Alles, was Geld, Recht oder einen Kunden berührt, geht an einen benannten Menschen.
Wer diese vier Dinge von Tag eins an hat, baut KI auf, die ein Vorstand verantworten kann. Wer sie weglässt, riskiert genau die Schlagzeilen, die niemand will.
Sicherheit ist bei uns die erste Etappe, nicht die letzte.
Wir bauen KI mit Leitplanken, no-data-fork und Vorstands-Governance von Tag eins — für produzierende Unternehmen, die KI als laufendes Asset besitzen wollen.
Hinweis: Dieser Beitrag gibt allgemeine Orientierung und ist keine Rechtsberatung. Für die konkrete regulatorische Bewertung in eurem Fall zieht bitte fachkundigen Rat hinzu.