Hinweis: Dieser Artikel ist eine technische/IT-Einschätzung aus Projekterfahrung und stellt keine Rechts-, Steuer- oder Datenschutzberatung dar. Stand: Mai 2026. Rechtliche Bewertungen, die Verträge Dritter (z. B. OpenAI, Anthropic, Google) oder konkrete DSGVO-Pflichten betreffen, können sich ändern und hängen vom Einzelfall ab. Für eine verbindliche Beurteilung ist eine Einzelfallprüfung durch eine fachlich zuständige Person (z. B. Datenschutzbeauftragte:r oder Fachanwält:in) erforderlich.
Kurz vorab
Dieser Artikel richtet sich an Unternehmen, die KI-Tools im Alltag einsetzen – oder das planen. Er zeigt aus technischer Sicht, was sich seit 2024 regulatorisch bewegt hat, wo in der Praxis häufig Fehler passieren und welche fünf Schritte ein KMU aus IT-Perspektive sinnvoll angehen kann. Kein Juristendeutsch, kein Alarmismus – nur das, was für den täglichen Betrieb praktisch relevant sein kann.
Was sich 2025 und 2026 bewegt hat
Drei regulatorische Entwicklungen haben das Bild in den letzten 18 Monaten spürbar verändert. Wer noch nach dem Stand von 2023 plant, sollte die Lage neu prüfen.
EU AI Act (ab August 2024, vollständige Anwendbarkeit ab August 2026): Das erste umfassende KI-Gesetz der EU klassifiziert KI-Systeme nach Risikostufen. Viele typische KMU-Anwendungsfälle – Textgenerierung, Dokumentenverarbeitung, einfache Automatisierungen – dürften in niedrigere Risikoklassen fallen; die Einstufung hängt aber vom konkreten Einsatz ab. Diskutiert werden unter anderem Transparenzaspekte: Es kann relevant sein, dass Nutzer erkennen können, wenn sie mit einem KI-System interagieren – etwa bei einem Website-Chatbot. Die vollständige Verordnung ist unter EUR-Lex abrufbar; die konkrete Einordnung des eigenen Falls sollte fachlich geprüft werden.
OpenAI Enterprise AVV-Update (Q4 2024 / Q1 2025): OpenAI hat nach eigenen Angaben den Auftragsverarbeitungsvertrag für Enterprise-Kunden überarbeitet. Laut Anbieter werden API-Daten standardmäßig nicht mehr für das Training genutzt, und es gibt eine EU-Datenresidenz-Option. In der Praxis lohnt es sich, die jeweils aktuellen Vertrags- und Produktbedingungen direkt beim Anbieter zu prüfen – insbesondere, ob Optionen wie EU-Datenresidenz aktiv ausgewählt werden müssen und welcher Plan sie umfasst. Welche dieser Punkte für den eigenen Anwendungsfall ausreichen, ist eine Frage der Einzelfallprüfung.
Anthropic Claude for Business / Pro (2025): Anthropic bietet nach eigenen Angaben ebenfalls AVV-Bedingungen für die geschäftliche Nutzung an, inklusive Sub-Auftragsverarbeiter-Informationen und Löschregelungen. Ob und in welchem Umfang die jeweiligen Bedingungen die eigenen Anforderungen abdecken, sollte anhand der aktuellen Anbieterunterlagen geprüft werden. In der Praxis ist außerdem oft relevant, ob ein dedizierter Business-/API-Zugang oder eine reine Browsernutzung mit privatem Account vorliegt – die Vertragslage kann sich hier unterscheiden.
Was das aus IT-Sicht bedeutet: Die Anbieter haben ihre Vertrags- und Produktoptionen weiterentwickelt, und es gibt heute mehr datenschutzfreundliche Konfigurationen als 2023. Ein in der Praxis häufig unterschätzter Punkt liegt weniger bei den Anbieter-AVVs als bei der Art, wie Mitarbeitende die Tools tatsächlich nutzen – oft ohne klare interne Richtlinie.
Was 2026 in der Praxis häufig zum Problem wird
Trotz weiterentwickelter Anbieterangebote und mehr Bewusstsein begegnen mir in Projekten regelmäßig drei Risikobereiche.
ChatGPT Free / Plus für Geschäftszwecke: Das kostenlose und das Plus-Abo von ChatGPT sind als Verbraucherprodukte positioniert. Sie sind in der Regel nicht mit einem geschäftlichen AVV oder einer Compliance-Dokumentation für die betriebliche Verarbeitung personenbezogener Daten ausgestattet. Wenn Mitarbeitende mit einem privaten Account betriebliche personenbezogene Daten (z. B. Kunden-, Patienten- oder Finanzdaten) verarbeiten, kann das datenschutzrechtlich problematisch sein. Ob im konkreten Fall ein Verstoß vorliegt, ist eine rechtliche Bewertung, die einer Einzelfallprüfung bedarf.
Unkontrolliertes Prompt-Engineering: Ein in der Praxis großer Risikofaktor ist nicht der Anbieter – es sind die Eingaben. Werden routinemäßig Namen, Adressen oder Diagnosen in Prompts kopiert, können DSGVO-Grundsätze wie Datenminimierung (Art. 5 Abs. 1 lit. c) und Zweckbindung (Art. 5 Abs. 1 lit. b) berührt sein – auch dann, wenn der Anbieter selbst einen umfassenden AVV bereitstellt. Ohne Logging und klare Richtlinien fehlt der Geschäftsführung der Überblick und die Möglichkeit zur Korrektur.
Fehlende Technisch-Organisatorische Maßnahmen (TOMs): Die DSGVO verlangt in Art. 32 angemessene technische und organisatorische Maßnahmen zum Schutz personenbezogener Daten. Für den KI-Einsatz können daraus aus IT-Sicht praktische Bausteine abgeleitet werden: Pseudonymisierung vor API-Aufruf, strukturiertes Logging der Anfragen, rollenbasierter Zugriff auf KI-Tools und regelmäßige Überprüfung. In der Praxis fehlt das bei vielen KMUs – häufig gibt es weder Dokumentation noch Zugangskontrolle oder Audit-Log. Welche Maßnahmen im konkreten Fall „angemessen" sind, ist eine Bewertung, die fachlich zu prüfen ist.
Weitere Informationen des Bundesbeauftragten für den Datenschutz und die Informationsfreiheit zur KI-Nutzung finden sich unter bfdi.bund.de.
Was 2026 funktioniert – die drei konkreten Szenarien
Es gibt nicht den einen richtigen Weg. Je nach Datenlage, Budget und Anforderungen kommen aus technischer Sicht unterschiedliche Lösungen in Frage.
Szenario 1 – Cloud-API mit Business-Vertrag und EU-Datenresidenz: Ihr schließt einen Business-Vertrag mit einem etablierten Anbieter (z. B. OpenAI Enterprise oder Anthropic Claude for Business), wählt – sofern angeboten – die EU-Datenresidenz aus, prüft den AVV und dokumentiert die Verarbeitung im Verarbeitungsverzeichnis. In der Praxis ist es sinnvoll, dass Mitarbeitende ausschließlich diesen dedizierten Zugang nutzen und private Accounts für Geschäftszwecke intern ausgeschlossen werden – idealerweise schriftlich geregelt. Das ist ein naheliegender Weg für Unternehmen mit niedrigem bis mittlerem Datenvolumen ohne besondere Datenkategorien nach Art. 9 DSGVO.
Szenario 2 – Google Vertex AI mit EU-Region: Google Cloud bietet über Vertex AI Zugang zu Gemini-Modellen mit Daten-Hosting-Optionen in Europa. Die vertraglichen Rahmenbedingungen ergeben sich aus dem Google-Cloud-Vertrag und sollten anhand der aktuellen Unterlagen geprüft werden. Für Unternehmen, die bereits Google Workspace nutzen, ist das ein naheliegender, gut dokumentierter Weg. Auch hier gilt aus Vorsichtsgründen: besondere Datenkategorien (Art. 9 DSGVO) erfordern zusätzliche Sorgfalt und fachliche Prüfung.
Szenario 3 – Self-Hosted Open-Source-Modell: Modelle wie Llama 4, Qwen 3.5 oder DeepSeek V3 auf eigener oder gemieteter Infrastruktur in einem deutschen Rechenzentrum. Die Daten verbleiben auf dem eigenen Server, es besteht keine Abhängigkeit von externen API-Anbietern und es fallen keine Token-Kosten an. Das ist im Setup typischerweise die aufwändigste Lösung und im Betrieb ab einem gewissen Volumen oft die günstigste. Sie bietet maximale Kontrolle – ob sie für sensible Daten (Art. 9 DSGVO) ausreicht, hängt von der konkreten Umsetzung ab und sollte fachlich geprüft werden.
Welche Infrastruktur sich für Self-Hosted-Deployments eignet und wie die Sicherheitsarchitektur aussehen kann, zeige ich auf der Infrastruktur-Seite. Die verfügbaren KI-Modelle für Self-Hosted-Betrieb sind auf der KI-Modell-Übersicht dokumentiert.
Konkretes Beispiel: Pseudonymisierung in einer Kanzlei
In einem Projekt mit einer Anwaltskanzlei, die KI für die Zusammenfassung von Schriftsätzen und die Recherche in älteren Akten einsetzen wollte, haben wir technisch folgendes Vorgehen umgesetzt: Vor jedem API-Aufruf durchläuft der Text eine Pseudonymisierungs-Pipeline.
Mandantennamen werden durch konsistente Platzhalter ersetzt (z. B. „[MANDANT_001]"), Aktenzeichen durch generische Kürzel, Ortsnamen und Datumsangaben bei Bedarf ebenfalls. Die Ersetzungs-Tabelle wird lokal gespeichert und nicht an den API-Anbieter übermittelt.
Das technische Ergebnis: Die KI verarbeitet strukturierte, inhaltlich vollständige Texte – ohne dass die ursprünglichen Klardaten übermittelt werden. Der Qualitätsverlust bei der Ausgabe war in diesem Projekt gering, weil der inhaltliche Kontext erhalten bleibt. Die Rücktransformation erfolgt lokal, bevor das Ergebnis gespeichert oder weitergegeben wird. Ob ein solcher Ansatz im konkreten Fall datenschutzrechtlich ausreicht, ist gesondert fachlich zu bewerten.
Dieser technische Ansatz lässt sich grundsätzlich auch auf andere Branchen mit sensiblen Texten adaptieren – etwa Pflegedienste (Pflegeberichte), Versicherungsmakler (Schadensregulierung) oder Praxen (Arztbriefe). Die technische Umsetzung solcher Lösungen ist Teil des KI-Integrations-Leistungsangebots.
5-Schritte-Checkliste für den KI-Einsatz (IT-Perspektive)
Das ist der praktische Teil. Die folgenden Punkte sind eine technisch-organisatorische Orientierung, keine rechtliche Vorgabe – sie helfen erfahrungsgemäß, häufige operative Fehler zu vermeiden. Für die rechtliche Beurteilung gilt weiterhin: Einzelfallprüfung durch eine fachlich zuständige Person.
Schritt 1 – Datenklassifizierung Erstellt eine Liste aller Daten, die in euren Arbeitsprozessen vorkommen. Welche sind personenbezogen? Welche könnten unter Art. 9 DSGVO fallen (z. B. Gesundheit, Biometrie, religiöse oder politische Überzeugungen, sexuelle Orientierung)? Erst wenn das klar und schriftlich dokumentiert ist, lässt sich sinnvoll entscheiden, welche KI-Tools für welchen Prozess geeignet sind. Dieser Schritt wird erfahrungsgemäß am häufigsten übersprungen – und ist oft der wichtigste.
Schritt 2 – AVV für jeden KI-Anbieter prüfen Prüft für jeden geschäftlich genutzten KI-Dienst, ob ein passender Auftragsverarbeitungsvertrag vorliegt und ob die Verarbeitung im Verarbeitungsverzeichnis erfasst ist. Verbraucherprodukte wie ChatGPT Free und Plus bringen in der Regel keinen geschäftlichen AVV mit. Werden solche Tools dennoch betrieblich genutzt, kann das ein Risiko darstellen – die Bewertung gehört in die Einzelfallprüfung.
Schritt 3 – Technisch-Organisatorische Maßnahmen (TOMs) schriftlich festlegen Definiert und dokumentiert: Welche Mitarbeitenden dürfen welche KI-Tools mit welchen Datenkategorien nutzen? Welche Daten werden vor dem API-Aufruf pseudonymisiert oder anonymisiert? Welche Anfragen werden geloggt? Wer hat Zugang zu den Logs? Das klingt bürokratisch – im Prüfungsfall kann diese Dokumentation aber eine wichtige Grundlage sein.
Schritt 4 – Prompt-Audit-System einführen Loggt KI-Anfragen mit Zeitstempel und Nutzer-ID – nicht zwingend den vollständigen Prompt-Inhalt, aber das Faktum der Nutzung, das genutzte Modell und die Datenkategorie. Im Fall einer Datenpanne lässt sich so leichter nachvollziehen, ob und wie KI-Tools beteiligt waren. Ohne ein solches Log ist eine nachträgliche Untersuchung deutlich schwieriger.
Schritt 5 – Mitarbeiterschulung, regelmäßig Eine kurze, praxisorientierte Schulung – was kann in einen KI-Prompt, was besser nicht, mit konkreten Beispielen – ist erfahrungsgemäß wirksamer als ein langes Policy-Dokument, das niemand liest. Sinnvoll ist eine regelmäßige Auffrischung und eine Einweisung bei jedem neuen KI-Tool. Besonders relevant für Branchen mit sensiblen Daten: Praxen, Pflegedienste, Kanzleien, Versicherungsbüros.
Häufige Fragen
Darf ich ChatGPT Plus für die Arbeit nutzen?
Für Aufgaben ohne jeglichen Personenbezug – internes Brainstorming, Textstrukturierung mit fiktiven Inhalten, Code-Review ohne Kundendaten – ist die Nutzung aus IT-Sicht meist unkritischer. Sobald jedoch Namen, Adressen, Gesundheitsdaten, Finanzdaten oder andere personenbezogene Informationen ins Spiel kommen, ist Vorsicht geboten: Dann ist in der Praxis oft ein Business-Zugang mit AVV der sicherere Weg. Wo genau die Grenze verläuft, ist eine datenschutzrechtliche Frage, die im Einzelfall geprüft werden sollte.
Was ist der Unterschied zwischen AVV und Einwilligung nach DSGVO?
Vereinfacht: Ein AVV (Auftragsverarbeitungsvertrag) betrifft die Beziehung zwischen eurem Unternehmen und dem KI-Anbieter (B2B-Ebene). Er ersetzt in der Regel nicht die jeweilige Rechtsgrundlage für die Verarbeitung von Kunden- oder Patientendaten (z. B. Vertrag, berechtigtes Interesse oder Einwilligung). Werden Kundendaten in einem KI-Prompt verarbeitet, sind erfahrungsgemäß beide Ebenen relevant. Die konkrete Ausgestaltung gehört in eine Einzelfallprüfung.
Gilt der EU AI Act für unser Unternehmen schon vollständig?
Die Verordnung wird schrittweise angewendet (u. a. bestimmte verbotene Praktiken seit Februar 2025, weitere Anforderungen ab August 2026). Für viele KMUs mit Standard-Textgenerierung und Automatisierung dürften die unmittelbaren Pflichten begrenzt sein – die genaue Einordnung hängt aber vom Einsatz ab. Wer ein KI-System einsetzt, das automatisiert Entscheidungen über Menschen unterstützt (z. B. Kreditvergabe, Personalauswahl, medizinische Kontexte), sollte besonders sorgfältig prüfen lassen. Im Zweifel lohnt sich ein kurzes Gespräch und gegebenenfalls fachliche Beratung – schreibt mich an.
Fazit
DSGVO-bewusster KI-Einsatz ist 2026 aus technischer Sicht gut machbar und kein Hindernis für Digitalisierung – die Anbieter haben ihre Vertrags- und Produktoptionen weiterentwickelt, und die technischen Möglichkeiten sind vielfältig. In der Praxis liegt der Knackpunkt häufig in der internen Umsetzung: fehlende Richtlinien, ungeschulte Mitarbeitende, lückenhafte Dokumentation – und die Annahme, ein AVV allein genüge.
Wer die fünf Schritte dieser Checkliste angeht, ist organisatorisch erfahrungsgemäß gut aufgestellt. Das ist keine unüberwindbare Hürde – oft genügt einmalig einige Tage strukturierte Arbeit. Für die rechtliche Absicherung bleibt eine fachliche Einzelfallprüfung der richtige Weg.
Wer dazu ein konkretes technisches Sparring sucht – das erste Gespräch ist kostenfrei.
