KI und DSGVO: Wie Unternehmen KI-Agenten datenschutzkonform einsetzen

DSGVO und Künstliche Intelligenz schließen sich nicht aus. Sie verlangen lediglich klare Architektur-Entscheidungen. Wer als mittelständisches Unternehmen KI-Agenten einsetzen will, muss nicht zuerst eine juristische Abhandlung lesen. Viel wichtiger sind pragmatische Antworten auf die Fragen, die in der Praxis wirklich zählen: Welche Daten werden verarbeitet? Wo landen sie? Wer hat Zugriff? Und welche technische Architektur passt zum jeweiligen Risiko?

Genau darum geht es in diesem Artikel.

Die schnelle Einordnung

• KI ist nicht automatisch ein DSGVO-Problem. Kritisch wird es erst, wenn personenbezogene oder sensible Daten unkontrolliert verarbeitet werden.
• Die zentrale Frage lautet: Welche Daten werden an welches System übertragen und auf welchen Servern verarbeitet?
• Ein AVV ist Pflicht, sobald ein externer Anbieter personenbezogene Daten in Deinem Auftrag verarbeitet.
• EU-Hosting reduziert Komplexität, vor allem bei Kundendaten, Mandantendaten, Gesundheitsdaten oder Finanzdaten.
• Datenschutz gehört ins Architektur-Design. Nicht nachträglich als Häkchen ans Ende des Projekts.
• KI-Agenten brauchen klare Betriebsregeln: Logging, Rollenrechte, Löschfristen, Datenminimierung und menschliche Kontrolle.

Warum KI und DSGVO nicht im Widerspruch stehen

Viele Unternehmen starten beim Thema KI mit der falschen Frage. Sie fragen: „Dürfen wir KI überhaupt nutzen?“

Die bessere Frage lautet: „Wie müssen wir KI einsetzen, damit Daten kontrolliert, zweckgebunden und nachvollziehbar verarbeitet werden?“

Die DSGVO verbietet Künstliche Intelligenz nicht. Sie verlangt nur, dass personenbezogene Daten mit klarer Rechtsgrundlage, angemessenen Schutzmaßnahmen und nachvollziehbaren Verantwortlichkeiten verarbeitet werden. Das gilt für klassische Software genauso wie für KI-Agenten.

Der Unterschied liegt in der Komplexität. Ein KI-Agent ist selten nur ein einzelnes Tool. Er kann mit E-Mails, CRM-Systemen, Dokumenten, Wissensdatenbanken, Ticketsystemen oder Kalendern verbunden sein. Er kann Daten lesen, strukturieren, zusammenfassen, weitergeben oder Aktionen auslösen. Damit wird aus einer einfachen Tool-Frage schnell eine Architektur-Frage.

Und genau dort entscheidet sich, ob ein KI-Projekt belastbar ist oder später zum Datenschutzproblem wird.

Der Knackpunkt: Wo genau landen die Daten?

Beim Einsatz von KI-Agenten ist die Datenhaltung der zentrale Punkt. Das klingt technisch, ist aber im Kern sehr praktisch.

Wenn ein Mitarbeiter einem KI-Tool eine allgemeine Marketingidee gibt, ist das eine andere Situation als wenn ein KI-Agent Kundenanfragen, Mandantenakten, Frachtpapiere, Versicherungsdaten oder Finanzunterlagen verarbeitet.

Deshalb muss vor dem Einsatz klar sein:

• Welche Daten werden an den KI-Agenten übergeben?
• Enthalten diese Daten personenbezogene Informationen?
• Gibt es besonders sensible Daten wie Gesundheitsdaten, Finanzdaten oder Berufsgeheimnisse?
• Werden Prompts und Antworten gespeichert?
• Werden Eingaben für Training, Analyse oder Produktverbesserung genutzt?
• Wo stehen die Server?
• Welche Subunternehmer sind beteiligt?
• Wie lange werden Daten gespeichert?
• Wie werden Daten wieder gelöscht?

Diese Fragen sind nicht bürokratisch. Sie entscheiden darüber, welche KI-Architektur überhaupt infrage kommt.

Geschlossene und offene KI-Systeme

In der Praxis kann man grob zwischen geschlossenen und offenen Systemen unterscheiden.

Die wichtigste Erkenntnis: Es gibt nicht die eine richtige KI-Lösung für jedes Unternehmen. Es gibt nur die passende Architektur für den konkreten Anwendungsfall.

Medienempfehlung: Architektur-Grafik

An dieser Stelle eignet sich eine einfache Grafik mit drei Ebenen: Datenquellen wie CRM, E-Mail und Dokumente, dann der KI-Agent als Verarbeitungsschicht und schließlich die Infrastruktur mit Optionen wie EU-Hosting, Private Cloud oder On-Premise. Die Grafik sollte zeigen, dass Datenschutz nicht am Modell beginnt, sondern beim Datenfluss.

US-Server sind nicht automatisch verboten

Viele Standard-KI-Dienste nutzen Infrastruktur außerhalb der EU, häufig in den USA. Das ist nicht automatisch illegal. Es bedeutet aber, dass genauer geprüft werden muss.

Bei Datenübermittlungen in die USA kann es zulässige Grundlagen geben, etwa wenn ein Anbieter unter dem EU-U.S. Data Privacy Framework zertifiziert ist. Alternativ können Standardvertragsklauseln und zusätzliche Schutzmaßnahmen relevant werden. Entscheidend ist aber nicht nur das juristische Dokument. Entscheidend ist, ob der konkrete Datenfluss tatsächlich verstanden und abgesichert ist.

Für einfache Anwendungsfälle kann ein globaler Anbieter vertretbar sein. Zum Beispiel, wenn keine personenbezogenen Daten verarbeitet werden, die Nutzung für Modelltraining ausgeschlossen ist und ein sauberer Vertrag vorliegt.

Für andere Fälle reicht das nicht. Wenn ein KI-Agent mit Mandantendaten, Kundendaten, Gesundheitsdaten, Finanzinformationen oder internen Geschäftsunterlagen arbeitet, braucht es eine strengere Lösung.

Datenklassifizierung vor Tool-Auswahl

Der häufigste Fehler in KI-Projekten: Erst wird das Tool ausgewählt, dann wird über Datenschutz gesprochen.

Richtig ist die umgekehrte Reihenfolge. Erst wird der Use Case verstanden. Dann werden die Daten bewertet. Erst danach wird entschieden, welche technische Architektur passt.

Diese Tabelle ersetzt keine Einzelfallprüfung. Sie zeigt aber, wie man das Thema pragmatisch sortiert. Nicht jeder KI-Agent braucht die Maximalarchitektur. Aber jeder KI-Agent braucht eine bewusste Architekturentscheidung.

Der AVV: Deine Rückversicherung beim KI-Anbieter

Der Auftragsverarbeitungsvertrag, kurz AVV, ist beim KI-Einsatz kein nettes Extra. Er ist Pflicht, sobald ein externer Anbieter personenbezogene Daten in Deinem Auftrag verarbeitet.

Der AVV regelt, was der Anbieter mit Deinen Daten darf und was nicht. Er definiert Verantwortlichkeiten, Weisungsrechte, Löschfristen, Unterauftragsverarbeiter und technische und organisatorische Maßnahmen. Genau deshalb ist er bei KI-Projekten so wichtig.

Denn bei KI geht es nicht nur darum, ob Daten kurzfristig verarbeitet werden. Es geht auch darum, ob Prompts gespeichert werden, ob Antworten protokolliert werden, ob Supportmitarbeiter Zugriff haben, ob Subunternehmer beteiligt sind und ob Daten für Training oder Produktverbesserung verwendet werden.

Was ein guter KI-AVV enthalten sollte

• Klare Beschreibung der verarbeiteten Datenarten.
• Konkreter Zweck der Verarbeitung.
• Regelung zu Speicherorten und Serverregionen.
• Liste der Unterauftragsverarbeiter.
• Regelung zur Nutzung von Prompts und Outputs.
• Ausschluss oder klare Steuerung von Trainingsnutzung.
• Konkrete Löschfristen und Löschprozesse.
• Technische und organisatorische Maßnahmen.
• Vertraulichkeitspflichten für Personen mit Zugriff.
• Unterstützung bei Betroffenenrechten.
• Informations- und Kontrollrechte.
• Regelungen für Vertragsende, Datenrückgabe und Löschung.

Ein seriöser KI-Anbieter sollte diese Punkte nicht nur auf Nachfrage erklären können. Er sollte sie sauber dokumentiert bereitstellen. Wenn ein Anbieter bei Datenhaltung, Training, Subunternehmern oder Löschung ausweicht, ist das ein Warnsignal.

Warum europäische Infrastruktur punktet

Europäische Infrastruktur ist kein magischer DSGVO-Schutzschild. Aber sie ist ein klarer Compliance-Vorteil.

Wenn Daten innerhalb der EU verarbeitet und gespeichert werden, reduziert das viele Diskussionen rund um Drittlandtransfers. Für mittelständische Unternehmen ist das besonders wertvoll, weil es die Architektur weniger komplex macht und die Prüfung erleichtert.

Das gilt vor allem für regulierte Branchen. Eine Kanzlei mit Mandantendaten, ein Finanzdienstleister mit Bonitäts- oder Vertragsinformationen oder ein Gesundheitsanbieter mit Patientendaten hat andere Anforderungen als ein Unternehmen, das nur öffentliche Produkttexte zusammenfassen lässt.

Der entscheidende Punkt: EU-Hosting ist oft sinnvoll, aber nicht automatisch ausreichend. Auch bei europäischer Infrastruktur brauchst Du eine Rechtsgrundlage, Datenminimierung, Zugriffskontrollen, Löschkonzepte, Transparenz und gegebenenfalls eine Datenschutz-Folgenabschätzung.

KI-Agenten sind mehr als ein Chatfenster

Bei klassischen KI-Tools denken viele an ein Chatfenster: Frage rein, Antwort raus. KI-Agenten gehen weiter.

Ein KI-Agent kann Aufgaben planen, Daten aus Systemen abrufen, Dokumente durchsuchen, Informationen bewerten, Workflows auslösen oder Entwürfe für Entscheidungen vorbereiten. Genau deshalb muss man bei KI-Agenten nicht nur das Modell betrachten, sondern die gesamte Umgebung.

• Welche Systeme darf der Agent lesen?
• Welche Aktionen darf er ausführen?
• Darf er E-Mails schreiben oder nur vorbereiten?
• Darf er Kundendaten ändern?
• Darf er Dokumente löschen?
• Welche Entscheidungen müssen von Menschen freigegeben werden?
• Welche Aktionen werden protokolliert?
• Wer kontrolliert fehlerhafte Ausgaben?

Ein KI-Agent ohne Rechtekonzept ist wie ein neuer Mitarbeiter ohne Einarbeitung, ohne Rollenbeschreibung und ohne Vier-Augen-Prinzip. Das kann funktionieren. Aber es ist keine gute Idee.

Human in the Loop: KI darf unterstützen, aber nicht blind entscheiden

Besonders bei sensiblen Prozessen sollte KI nicht allein entscheiden. Sie kann vorbereiten, sortieren, zusammenfassen, priorisieren und Empfehlungen geben. Die finale Entscheidung sollte aber dort beim Menschen bleiben, wo rechtliche, finanzielle oder persönliche Folgen entstehen.

Das betrifft zum Beispiel Recruiting, Kreditentscheidungen, Versicherungsprüfungen, Compliance-Fälle, Mandatsbewertungen oder automatisierte Risikoeinstufungen.

Wichtig ist dabei: Menschliche Kontrolle darf kein Scheinkonstrukt sein. Wenn der Mensch faktisch nur noch abnickt, was das System vorgibt, ist das keine echte Kontrolle. Sinnvoll ist ein Prozess, in dem der KI-Agent Vorschläge macht, der Mensch aber nachvollziehen, prüfen und anders entscheiden kann.

So sieht eine belastbare KI-Architektur im Mittelstand aus

Eine datenschutzkonforme KI-Architektur beginnt nicht mit dem Modell. Sie beginnt mit dem Prozess.

In der Praxis hat sich eine einfache Reihenfolge bewährt:

1. Use Case definieren: Was soll der KI-Agent konkret tun?
2. Daten identifizieren: Welche Informationen braucht er wirklich?
3. Daten klassifizieren: Sind personenbezogene, sensible oder vertrauliche Daten enthalten?
4. Daten minimieren: Können Informationen gekürzt, maskiert oder pseudonymisiert werden?
5. Architektur wählen: API, EU-Hosting, Private Cloud oder On-Premise?
6. Anbieter prüfen: AVV, Subunternehmer, TOMs, Löschfristen, Trainingsnutzung.
7. Rechtekonzept bauen: Wer oder was darf welche Daten lesen und Aktionen ausführen?
8. Kontrollpunkte definieren: Wo muss ein Mensch freigeben?
9. Logging und Löschung regeln: Was wird protokolliert, wie lange und warum?
10. Produktivbetrieb überwachen: Ergebnisse prüfen, Risiken nachschärfen, Änderungen dokumentieren.

Diese Reihenfolge klingt banal. In vielen Projekten ist sie aber der Unterschied zwischen „KI-Spielerei“ und belastbarer Automatisierung.

Beispiele aus der Praxis

Je nach Branche unterscheiden sich die Risiken deutlich. Deshalb sollte ein KI-Agent nie isoliert betrachtet werden, sondern immer im Kontext des jeweiligen Unternehmensprozesses.

Datensparsamkeit bleibt Pflicht

Ein häufiger Denkfehler lautet: Wenn der Anbieter DSGVO-konform ist, dürfen alle Daten in die KI.

Nein. Datenschutzkonforme KI bedeutet auch, nur die Daten zu verarbeiten, die für den konkreten Zweck wirklich notwendig sind.

Ein KI-Agent muss nicht immer vollständige Kundendatensätze sehen. Oft reicht eine gekürzte, maskierte oder pseudonymisierte Version. Namen, Telefonnummern, Kundennummern oder Vertragsnummern können in vielen Prozessen vor der Übergabe entfernt oder ersetzt werden.

Das Ziel ist einfach: Der Agent bekommt genug Kontext, um seine Aufgabe zu erfüllen. Aber nicht mehr personenbezogene Daten als nötig.

Beispiele für Datenminimierung

Wann eine Datenschutz-Folgenabschätzung sinnvoll oder nötig ist

Bei vielen KI-Projekten sollte zumindest geprüft werden, ob eine Datenschutz-Folgenabschätzung erforderlich ist. Das gilt besonders dann, wenn die Verarbeitung voraussichtlich ein hohes Risiko für Rechte und Freiheiten natürlicher Personen mit sich bringt.

Typische Hinweise auf erhöhten Prüfbedarf sind:

• umfangreiche Verarbeitung personenbezogener Daten,
• Verarbeitung besonders sensibler Daten,
• automatisierte Bewertung oder Profilbildung,
• Scoring, Risikoklassifizierung oder Priorisierung von Personen,
• Daten unter Berufsgeheimnis,
• KI-Einsatz in regulierten Branchen,
• Entscheidungen mit rechtlicher oder ähnlich erheblicher Wirkung,
• neue Technologien mit schwer abschätzbaren Folgen.

Eine DSFA ist kein Selbstzweck. Sie hilft, Risiken früh sichtbar zu machen und technische sowie organisatorische Maßnahmen passend zu planen. Für KI-Agenten ist das oft wertvoll, weil Datenflüsse und Entscheidungslogiken sonst schnell unübersichtlich werden.

Die häufigsten Fehler beim KI-Einsatz mit personenbezogenen Daten

• Tool zuerst, Datenschutz später: Die Architektur wird nicht aus dem Risiko abgeleitet, sondern nachträglich gerechtfertigt.
• Unklare Trainingsnutzung: Niemand weiß genau, ob Prompts oder Outputs für Modellverbesserung verwendet werden.
• Private Accounts: Mitarbeitende nutzen KI-Tools ohne Business-Vertrag, AVV oder zentrale Kontrolle.
• Zu breite Zugriffe: Der KI-Agent bekommt Zugriff auf mehr Daten, als er für seine Aufgabe braucht.
• Kein Löschkonzept: Prompts, Logs, Zwischenergebnisse und Vektor-Datenbanken bleiben dauerhaft bestehen.
• Keine menschliche Kontrolle: KI-Ausgaben werden ungeprüft übernommen oder lösen direkt Aktionen aus.
• Subunternehmer nicht geprüft: Die eigentliche Datenverarbeitung passiert teilweise bei Dritten, die niemand bewertet hat.
• Keine Dokumentation: Später lässt sich nicht mehr nachvollziehen, welche Daten durch welches System verarbeitet wurden.

Checkliste vor dem Go-live eines KI-Agenten

Bevor ein KI-Agent produktiv geht, sollten diese Fragen beantwortet sein:

• Ist der konkrete Zweck des KI-Agenten dokumentiert?
• Ist klar, welche Daten verarbeitet werden?
• Wurde geprüft, ob personenbezogene oder sensible Daten betroffen sind?
• Wurde Datenminimierung umgesetzt?
• Ist der Anbieter datenschutzrechtlich eingeordnet?
• Liegt ein AVV vor, falls Auftragsverarbeitung stattfindet?
• Sind Unterauftragsverarbeiter bekannt?
• Ist geklärt, ob Daten für Training oder Produktverbesserung genutzt werden?
• Sind Serverstandort und Datenresidenz bekannt?
• Gibt es ein Löschkonzept für Prompts, Logs und Zwischenergebnisse?
• Gibt es ein Rollen- und Rechtekonzept?
• Ist menschliche Kontrolle an kritischen Stellen vorgesehen?
• Wurde geprüft, ob eine Datenschutz-Folgenabschätzung erforderlich ist?
• Sind Mitarbeitende im Umgang mit dem KI-Agenten geschult?
• Gibt es einen Prozess für Fehler, Beschwerden und Betroffenenanfragen?

Wenn mehrere dieser Fragen nicht beantwortet werden können, ist der KI-Agent wahrscheinlich noch nicht produktionsreif.

Was Unternehmen jetzt konkret tun sollten

Der pragmatische Einstieg besteht nicht darin, sofort das größte KI-Projekt zu starten. Sinnvoller ist ein kontrollierter Use Case mit überschaubarem Risiko.

Zum Beispiel ein interner KI-Agent, der ausschließlich freigegebene Wissensartikel durchsucht. Oder ein Assistent, der Kundenanfragen vorsortiert, aber keine automatischen Antworten verschickt. Oder ein System, das Dokumente zusammenfasst, nachdem personenbezogene Daten entfernt wurden.

So entsteht Erfahrung, ohne direkt die sensibelsten Prozesse zu automatisieren.

Danach lässt sich die Architektur Schritt für Schritt erweitern. Mit klaren Datenklassen, sauberer Zugriffskontrolle und einem Betriebsmodell, das nicht nur technisch funktioniert, sondern auch rechtlich belastbar ist.

Fazit: KI und DSGVO passen zusammen, wenn die Architektur stimmt

KI-Agenten können auch im Mittelstand datenschutzkonform eingesetzt werden. Entscheidend ist, dass Datenschutz nicht erst am Ende geprüft wird.

Die Datenhaltung, der Anbieter, der AVV, die Serverregion, die Zugriffsrechte, die Löschfristen und die Rolle des Menschen müssen von Anfang an mitgedacht werden. Dann wird Datenschutz nicht zur Bremse. Sondern zum Rahmen, in dem KI sicher und sinnvoll arbeiten kann.

Die eigentliche Frage ist also nicht, ob KI und DSGVO zusammenpassen. Die eigentliche Frage ist, ob die KI-Lösung sauber genug geplant wurde.

Wenn Du KI-Agenten in Deinem Unternehmen einsetzen willst, sollte der erste Schritt deshalb nicht das Tool sein. Der erste Schritt ist die Architektur.

FAQ: Häufige Fragen zu KI und DSGVO

Hinweis: Dieser Beitrag ersetzt keine individuelle Rechtsberatung. Er zeigt die wichtigsten Praxisfragen für die technische und organisatorische Planung von KI-Agenten im Unternehmen.