DSGVO-Risiko bei KI-Tools: AVV, DPF, SCC & Opt-out im Detail

Wer als Unternehmen KI-Tools nutzt und dabei personenbezogene Daten verarbeitet – etwa Kundennamen, E-Mail-Adressen oder Rechnungsdaten – ist nach Art. 28 DSGVO verpflichtet, einen Auftragsverarbeitungsvertrag (AVV) mit dem jeweiligen Anbieter abzuschließen. Der englische Begriff dafür lautet Data Processing Agreement (DPA). Ohne diesen Vertrag drohen Bußgelder – unabhängig davon, ob das Tool aus den USA oder der EU kommt.

AVV und DPA: Was KMU beim Einsatz von KI-Tools wissen müssen

AVV (Auftragsverarbeitungsvertrag) und DPA (Data Processing Agreement) bezeichnen in der Praxis dasselbe Dokument – AVV ist der deutsche Begriff gemäß DSGVO, DPA der internationale. Beide regeln, welche Daten ein Dienstleister in deinem Auftrag verarbeitet, zu welchem Zweck, wie lange und mit welchen Sicherheitsmaßnahmen.

Ein AVV ist immer dann Pflicht, wenn ein KI-Tool personenbezogene Daten verarbeitet, zum Beispiel bei Meeting-Transkription mit Kundennamen, KI-unterstützter E-Mail-Erstellung mit Kontaktdaten oder automatisierter Textgenerierung aus CRM-Daten. Das gilt auch für kostenlose oder Testversionen – der Preis ändert nichts an der Rechtspflicht aus Art. 28 DSGVO.

Viele Anbieter stellen den AVV als PDF zum Download bereit (falls ja, dann findest du den Link dazu direkt im Feld AVV / DPA) oder als klickbaren Online-Vertrag im Konto. Gerade bei KI-Tools aus den USA versteckt sich das Dokument häufig in den Bereichen „Privacy“, „Legal“ oder „Data Processing Agreement“, aber auch in Deutschland tun sich einige Firmen damit schwer. Ich habe die AVV nicht für alle KI-Tools gefunden, aber bei einigen aufgrund der Angaben auf den Herstellerseiten zur DSGVO-Konformität einfach angenommen, dass es existiert, aber ohne Gewähr.
Fehlt ein AVV/DPA komplett, solltest du dieses Tool nicht für echte Kunden- oder Mitarbeiterdaten einsetzen.

Praxis-Tipp: Suche auf der Website und in der Hilfe des Anbieters nach Begriffen wie „Data Processing Agreement“, „DPA“, „Auftragsverarbeitung“ oder „Data Processing Addendum“. Falls du nichts findest, frage aktiv beim Support nach einem AVV – seriöse Anbieter haben hier eine klare Antwort.

EU–US Data Privacy Framework (DPF) und Standardvertragsklauseln (SCC)

Viele leistungsfähige KI-Tools sitzen in den USA oder nutzen US-Infrastruktur. Damit personenbezogene Daten aus der EU rechtssicher dorthin übertragen werden können, gibt es zwei zentrale Instrumente: das EU–US Data Privacy Framework (DPF) und die Standardvertragsklauseln (Standard Contractual Clauses, SCC).

Das EU–US Data Privacy Framework ist der Nachfolger des früheren Privacy Shield und legt fest, unter welchen Bedingungen US-Unternehmen Daten aus der EU erhalten dürfen. US-Anbieter können sich beim US-Handelsministerium zertifizieren lassen; ob ein Unternehmen zertifiziert ist, kann in einer öffentlichen Liste geprüft werden. Die offizielle Liste der DPF-zertifizierten Unternehmen findest du hier:
Data Privacy Framework List (U.S. Department of Commerce) .
Ist ein Anbieter dort gelistet, kann der Datentransfer grundsätzlich auf das DPF gestützt werden.

Standardvertragsklauseln (SCC) sind von der EU-Kommission vorgegebene Vertragsmuster, die bei Datentransfers in Drittländer ein angemessenes Datenschutzniveau vertraglich absichern sollen. Sie kommen zum Einsatz, wenn kein Angemessenheitsbeschluss oder keine DPF-Zertifizierung vorliegt – also zum Beispiel bei US-Anbietern ohne DPF oder bei anderen Drittländern.

Für KMU heißt das: Nutzt du ein KI-Tool mit US-Bezug, solltest du zunächst prüfen, ob der Anbieter nach dem EU–US Data Privacy Framework zertifiziert ist. Falls ja, stützt sich der Datentransfer in der Regel auf das DPF, ergänzt um technische und organisatorische Maßnahmen. Falls nein, müssen Standardvertragsklauseln (SCC) und eine Bewertung des Schutzniveaus (Transfer Impact Assessment, TIA) vorliegen.

Wichtig: Weder DPF noch SCC „beseitigen“ alle Risiken, insbesondere nicht gegenüber behördlichen Zugriffsrechten in Drittländern. Sie sind aber eine rechtliche Voraussetzung, um den Einsatz eines solchen KI-Tools überhaupt DSGVO-konform gestalten zu können. In meiner Risikoampel fließt deshalb ein, ob ein Anbieter DPF nutzt, SCC anbietet und wie transparent er das dokumentiert.

KI-Training, Opt-out und API-Nutzung

Viele KI-Tools verbessern ihre Modelle, indem sie Nutzereingaben und Ergebnisse für Trainingszwecke auswerten. Aus Sicht der DSGVO ist das heikel, wenn darunter personenbezogene oder vertrauliche Geschäftsdaten fallen. Entscheidend ist, ob du verhindern kannst, dass deine Daten zum Training verwendet werden – also ein wirksames Opt-out existiert.

Bei einigen Anbietern (z. B. generische Web-Frontends) ist das Training standardmäßig aktiviert und muss in den Einstellungen deaktiviert werden. Geschäftskunden- oder Enterprise-Tarife bieten häufiger die Option, das Training komplett auszuschließen oder vertraglich zu untersagen. API-Zugänge sind oft strenger geregelt: Hier werden Eingabedaten laut Anbieterangaben häufig nur kurzfristig zu Sicherheits- oder Debugging-Zwecken gespeichert, aber nicht zum Modelltraining genutzt.

Für die DSGVO-Risikoklasse auf dieser Seite bedeutet das: Ein Tool, bei dem kein Opt-out möglich ist und das personenbezogene Daten für Modelltraining nutzt, landet bei mir im Bereich „Hoch“ – unabhängig davon, ob die Server in der EU stehen oder in den USA. Wenn ein klares Opt-out existiert oder das Training vertraglich ausgeschlossen ist, kann das Risiko auf „Mittel“ oder „Niedrig“ sinken – je nach Serverstandort, AVV/DPA und weiteren Schutzmaßnahmen.

Praxis-Tipp: Prüfe in der Datenschutzerklärung und im Konto des Tools, ob es einen Schalter für „Use of data for training“ gibt, und dokumentiere deine Einstellung im Verarbeitungsverzeichnis. Falls nur der Enterprise- oder API-Zugang ein echtes Opt-out bietet, sollte das in deiner Tool-Auswahlstrategie berücksichtigt werden.

Mein DSGVO-Risikomodell im Überblick

Die Einstufung Niedrig / Mittel / Hoch in meinen Tool-Bewertungen basiert auf drei Kernfragen:

• 1. Stehen die Server in der EU/Deutschland oder in einem Drittland?
• 2. Gibt es einen rechtsgültigen AVV/DPA nach Art. 28 DSGVO?
• 3. Werden eingegebene Daten zum Training der KI-Modelle genutzt – und falls ja, ist ein Opt-out möglich?

Meine Bewertungen orientieren sich an den Checklisten und Orientierungshilfen der Datenschutzaufsichtsbehörden (u. a. BayLDA, DSK, Hessischer Datenschutzbeauftragter). Konkrete KI-Tools werden von Behörden derzeit jedoch nicht offiziell empfohlen oder „freigegeben“ – die Verantwortung bleibt beim Unternehmen.

Und aktuell gibt es auch kein Tool, das KI-Anbieter offiziell „freispricht“ oder dir eine rechtsverbindliche DSGVO-Freigabe liefert. Was es gibt, sind Checklisten- und Compliance-Tools, die dich strukturiert durch die wichtigsten Fragen führen (AVV, Serverstandort, DPF/SCC, Training) und deine Entscheidungen dokumentieren. Die Verantwortung bleibt beim Unternehmen – aber der Weg dorthin wird deutlich einfacher. Hier meine Checkliste dazu:

KI-Tool in 15 Minuten prüfen: 10-Fragen-Checkliste für KMU

• 1. Welche Daten sollen in das KI-Tool?
  Gehe ich hier nur mit Test-/Beispieldaten hinein – oder mit echten Kunden-, Mitarbeiter- oder Mandantendaten? Je sensibler die Daten, desto strenger muss die Prüfung sein.
• 2. Brauche ich für diesen Zweck wirklich KI?
  Gibt es eine einfachere, datensparsamere Lösung (z. B. normale Textbausteine, klassische Software)? Wenn ja, sollte ich die datensparsame Variante bevorzugen.
• 3. Steht das Unternehmen (Verantwortlicher) fest?
  Weiß ich genau, wer der Anbieter ist (Firma, Sitz, Impressum) und ob er als Auftragsverarbeiter im Sinne von Art. 28 DSGVO auftritt?
• 4. Gibt es einen AVV/DPA?
  Stellt der Anbieter einen Auftragsverarbeitungsvertrag (AVV) bzw. ein Data Processing Agreement (DPA) zur Verfügung, das ich einsehen und abschließen kann – idealerweise vor oder spätestens mit Vertragsabschluss?
• 5. Wo stehen die Server – und gibt es Drittlandtransfers?
  Sind die Server in der EU/Deutschland oder in Drittländern (z. B. USA)? Bei USA: Stützt sich der Anbieter auf das EU–US Data Privacy Framework (DPF) oder auf Standardvertragsklauseln (SCC)?
• 6. Werden meine Daten für KI-Training genutzt?
  Sagt der Anbieter klar, ob Eingaben und Ergebnisse für das Training seiner Modelle verwendet werden – und wenn ja, unter welchen Bedingungen?
• 7. Gibt es ein wirksames Opt-out für Training?
  Kann ich vertraglich oder in den Einstellungen verhindern, dass personenbezogene oder vertrauliche Daten zum Training der KI verwendet werden (insbesondere in Business-/Team-/Enterprise- oder API-Tarifen)?
• 8. Sind Betroffenenrechte technisch/organisatorisch umsetzbar?
  Kann ich bei Einsatz des Tools Auskunft, Berichtigung, Löschung etc. praktisch erfüllen (z. B. Daten löschen lassen, Protokolle einsehen, Export anfordern)?
• 9. Habe ich eine Rechtsgrundlage und dokumentiere sie?
  Auf welcher Rechtsgrundlage nutze ich das KI-Tool (z. B. berechtigtes Interesse, Vertragserfüllung)? Ist diese Entscheidung dokumentiert (z. B. in einer kurzen Interessenabwägung oder im Verarbeitungsverzeichnis)?
• 10. Passt das Tool in meine interne KI-Richtlinie?
  Darf dieses Tool gemäß meiner internen KI-Richtlinie eingesetzt werden – und ist klar geregelt, welche Daten der Fachbereich eingeben darf und welche nicht?

Praxis-Hinweis: Wenn du bei mehreren Fragen keine klare Antwort hast oder Bauchschmerzen bekommst, sollte das Tool nicht spontan produktiv gehen. In diesem Fall: Datenschutzbeauftragte:n einbinden, Alternativen prüfen – oder das Tool nur mit strikt anonymisierten Testdaten verwenden.

Dieses Modell ersetzt keine individuelle Rechtsberatung, sondern soll KMU eine schnelle, praxisnahe Orientierung geben: Grün („Niedrig“) ist ein guter Startpunkt für den Unternehmenseinsatz, Gelb („Mittel“) erfordert bewusste Konfiguration und Dokumentation, Rot („Hoch“) ist für echte Kunden- und Mitarbeiterdaten aus meiner Sicht kritisch. Für verbindliche Einschätzungen wende dich an deinen Datenschutzbeauftragten oder eine spezialisierte Kanzlei.