DSGVO-Risiko bei KI-Tools: AVV, DPF, SCC & Opt-out im Detail

Wer als Unternehmen KI-Tools nutzt und dabei personenbezogene Daten verarbeitet – etwa Kundennamen, E-Mail-Adressen oder Rechnungsdaten – ist nach Art. 28 DSGVO verpflichtet, einen Auftragsverarbeitungsvertrag (AVV) mit dem jeweiligen Anbieter abzuschließen. Der englische Begriff dafür lautet Data Processing Agreement (DPA). Ohne diesen Vertrag drohen Bußgelder – unabhängig davon, ob das Tool aus den USA oder der EU kommt.

Für dich als KMU geht es dabei immer um zwei Seiten derselben Medaille: das DSGVO-Risiko bei KI-Tools und ihre Praxistauglichkeit im Alltag – genau dafür habe ich diesen Kurz-Check für KI-Tools DSGVO-Risiko und Praxistauglichkeit KMU entwickelt.

AVV und DPA: Was KMU beim Einsatz von KI-Tools wissen müssen

AVV (Auftragsverarbeitungsvertrag) und DPA (Data Processing Agreement) bezeichnen in der Praxis dasselbe Dokument – AVV ist der deutsche Begriff gemäß DSGVO, DPA der internationale. Beide regeln, welche Daten ein Dienstleister in deinem Auftrag verarbeitet, zu welchem Zweck, wie lange und mit welchen Sicherheitsmaßnahmen.

Ein AVV ist immer dann Pflicht, wenn ein KI-Tool personenbezogene Daten verarbeitet, zum Beispiel bei Meeting-Transkription mit Kundennamen, KI-unterstützter E-Mail-Erstellung mit Kontaktdaten oder automatisierter Textgenerierung aus CRM-Daten. Das gilt auch für kostenlose oder Testversionen – der Preis ändert nichts an der Rechtspflicht aus Art. 28 DSGVO.

Viele Anbieter stellen den AVV als PDF zum Download bereit (falls ja, dann findest du den Link dazu direkt im Feld AVV / DPA) oder als klickbaren Online-Vertrag im Konto. Gerade bei KI-Tools aus den USA versteckt sich das Dokument häufig in den Bereichen „Privacy“, „Legal“ oder „Data Processing Agreement“, aber auch in Deutschland tun sich einige Firmen damit schwer. Ich habe die AVV nicht für alle KI-Tools gefunden, aber bei einigen aufgrund der Angaben auf den Herstellerseiten zur DSGVO-Konformität einfach angenommen, dass es existiert, aber ohne Gewähr.
Fehlt ein AVV/DPA komplett, solltest du dieses Tool nicht für echte Kunden- oder Mitarbeiterdaten einsetzen.

Praxis-Tipp: Suche auf der Website und in der Hilfe des Anbieters nach Begriffen wie „Data Processing Agreement“, „DPA“, „Auftragsverarbeitung“ oder „Data Processing Addendum“. Falls du nichts findest, frage aktiv beim Support nach einem AVV – seriöse Anbieter haben hier eine klare Antwort.

EU–US Data Privacy Framework (DPF) und Standardvertragsklauseln (SCC)

Viele leistungsfähige KI-Tools sitzen in den USA oder nutzen US-Infrastruktur. Damit personenbezogene Daten aus der EU rechtssicher dorthin übertragen werden können, gibt es zwei zentrale Instrumente: das EU–US Data Privacy Framework (DPF) und die Standardvertragsklauseln (Standard Contractual Clauses, SCC).

Das EU–US Data Privacy Framework ist der Nachfolger des früheren Privacy Shield und legt fest, unter welchen Bedingungen US-Unternehmen Daten aus der EU erhalten dürfen. US-Anbieter können sich beim US-Handelsministerium zertifizieren lassen; ob ein Unternehmen zertifiziert ist, kann in einer öffentlichen Liste geprüft werden. Die offizielle Liste der DPF-zertifizierten Unternehmen findest du hier:
Data Privacy Framework List (U.S. Department of Commerce) .
Ist ein Anbieter dort gelistet, kann der Datentransfer grundsätzlich auf das DPF gestützt werden.

Weitere Informationen und die aktuellen Entwicklungen dazu finden sie auf eRecht24.

Standardvertragsklauseln (SCC) sind von der EU-Kommission vorgegebene Vertragsmuster, die bei Datentransfers in Drittländer ein angemessenes Datenschutzniveau vertraglich absichern sollen. Sie kommen zum Einsatz, wenn kein Angemessenheitsbeschluss oder keine DPF-Zertifizierung vorliegt – also zum Beispiel bei US-Anbietern ohne DPF oder bei anderen Drittländern.

Für KMU heißt das: Nutzt du ein KI-Tool mit US-Bezug, solltest du zunächst prüfen, ob der Anbieter nach dem EU–US Data Privacy Framework zertifiziert ist. Falls ja, stützt sich der Datentransfer in der Regel auf das DPF, ergänzt um technische und organisatorische Maßnahmen. Falls nein, müssen Standardvertragsklauseln (SCC) und eine Bewertung des Schutzniveaus (Transfer Impact Assessment, TIA) vorliegen.

Section 702 FISA: Warum das auch EU-Unternehmen betrifft
Section 702 des US-Gesetzes „Foreign Intelligence Surveillance Act“ richtet sich zwar formal an US-Anbieter und ausländische Zielpersonen, hat aber praktische Folgen für europäische Unternehmen. Nutzt du KI-Tools oder Cloud-Dienste von US-Anbietern, können US-Behörden über diese Gesetze auch auf personenbezogene Daten zugreifen, selbst wenn die Server in der EU stehen. Für KMU heißt das: Das Risiko entsteht nicht dadurch, dass du „in den USA aktiv“ bist, sondern dadurch, dass du sensible Daten in Dienste gibst, die unter US-Recht fallen.

Wichtig: Weder DPF noch SCC „beseitigen“ alle Risiken, insbesondere nicht gegenüber behördlichen Zugriffsrechten in Drittländern. Sie sind aber eine rechtliche Voraussetzung, um den Einsatz eines solchen KI-Tools überhaupt DSGVO-konform gestalten zu können. In meiner Risikoampel fließt deshalb ein, ob ein Anbieter DPF nutzt, SCC anbietet und wie transparent er das dokumentiert.

KI-Training, Opt-out und API-Nutzung

Viele KI-Tools verbessern ihre Modelle, indem sie Nutzereingaben und Ergebnisse für Trainingszwecke auswerten. Aus Sicht der DSGVO ist das heikel, wenn darunter personenbezogene oder vertrauliche Geschäftsdaten fallen. Entscheidend ist, ob du verhindern kannst, dass deine Daten zum Training verwendet werden – also ein wirksames Opt-out existiert.

Bei einigen Anbietern (z. B. generische Web-Frontends) ist das Training standardmäßig aktiviert und muss in den Einstellungen deaktiviert werden. Geschäftskunden- oder Enterprise-Tarife bieten häufiger die Option, das Training komplett auszuschließen oder vertraglich zu untersagen. API-Zugänge sind oft strenger geregelt: Hier werden Eingabedaten laut Anbieterangaben häufig nur kurzfristig zu Sicherheits- oder Debugging-Zwecken gespeichert, aber nicht zum Modelltraining genutzt.

Für die DSGVO-Risikoklasse auf dieser Seite bedeutet das: Ein Tool, bei dem kein Opt-out möglich ist und das personenbezogene Daten für Modelltraining nutzt, landet bei mir im Bereich „Hoch“ – unabhängig davon, ob die Server in der EU stehen oder in den USA. Wenn ein klares Opt-out existiert oder das Training vertraglich ausgeschlossen ist, kann das Risiko auf „Mittel“ oder „Niedrig“ sinken – je nach Serverstandort, AVV/DPA und weiteren Schutzmaßnahmen.

Praxis-Tipp: Prüfe in der Datenschutzerklärung und im Konto des Tools, ob es einen Schalter für „Use of data for training“ gibt, und dokumentiere deine Einstellung im Verarbeitungsverzeichnis. Falls nur der Enterprise- oder API-Zugang ein echtes Opt-out bietet, sollte das in deiner Tool-Auswahlstrategie berücksichtigt werden.

ISO 27001 und SOC 2: Was sagt das aus?

Manche Anbieter werben mit ISO 27001 oder SOC 2. Beide Nachweise zeigen, dass sich der Anbieter strukturiert mit Informationssicherheit und internen Kontrollen beschäftigt – deshalb werte ich sie in meinen Battlecards grundsätzlich positiv (grün).
Gleichzeitig unterscheiden sich Umfang und Aussagekraft der Prüfungen, und sie ersetzen keine eigene DSGVO-Prüfung. Darum markiere ich SOC 2 ohne ISO 27001 etwas vorsichtiger (orange): Es ist ein gutes Signal für Sicherheit, aber nicht dasselbe wie ein voll zertifiziertes Informationssicherheits-Managementsystem nach ISO 27001.
Für meine Bewertung sind solche Sicherheitsnachweise hilfreich, aber entscheidend bleiben AVV/DPA, Serverstandort, Drittlandtransfer und der Umgang mit KI‑Training und Opt‑out‑Möglichkeiten. Diese Faktoren fließen stärker in das DSGVO‑Risiko ein als einzelne Zertifikate.

Mein DSGVO-Risikomodell im Überblick

Die Einstufung Niedrig / Mittel / Hoch in meinen Tool-Bewertungen basiert auf drei Kernfragen:

• 1. Stehen die Server in der EU/Deutschland oder in einem Drittland?
• 2. Gibt es einen rechtsgültigen AVV/DPA nach Art. 28 DSGVO?
• 3. Werden eingegebene Daten zum Training der KI-Modelle genutzt – und falls ja, ist ein Opt-out möglich?

Meine Bewertungen orientieren sich an den Checklisten und Orientierungshilfen der Datenschutzaufsichtsbehörden (u. a. BayLDA, DSK, Hessischer Datenschutzbeauftragter). Konkrete KI-Tools werden von Behörden derzeit jedoch nicht offiziell empfohlen oder „freigegeben“ – die Verantwortung bleibt beim Unternehmen.

Und aktuell gibt es auch kein Tool, das KI-Anbieter offiziell „freispricht“ oder dir eine rechtsverbindliche DSGVO-Freigabe liefert. Was es gibt, sind Checklisten- und Compliance-Tools, die dich strukturiert durch die wichtigsten Fragen führen (AVV, Serverstandort, DPF/SCC, Training) und deine Entscheidungen dokumentieren. Die Verantwortung bleibt beim Unternehmen – aber der Weg dorthin wird deutlich einfacher.

Praxistauglichkeit: DSGVO-Check allein reicht nicht

In meinen Tool-Bewertungen schaue ich nicht nur auf das DSGVO-Risiko, sondern auch darauf, ob ein KI-Tool im Alltag von KMU tatsächlich praxistauglich ist. Dazu gehören unter anderem Verständlichkeit der Oberfläche, Stabilität, wie gut sich das Tool in bestehende Arbeitsabläufe integrieren lässt und ob Teams es ohne große Reibungsverluste übernehmen können. Ein rechtlich sauber aufgesetztes KI-Tool ist nur dann sinnvoll, wenn es im Unternehmen auch genutzt wird – deshalb fließt der Praxisnutzen immer gemeinsam mit dem DSGVO-Risiko in meine Einschätzung ein.

So ziehe ich bei allen Bewertungen konsequent beides zusammen: KI-Tools DSGVO-Risiko und Praxistauglichkeit KMU – damit du als Unternehmen schneller zu einer tragfähigen Entscheidung kommst.

KI-Tool in 15 Minuten prüfen: 10-Fragen-Checkliste für KMU

Mit der folgenden Checkliste kannst du Schritt für Schritt selbst prüfen, wie gut ein Tool zu deinem Unternehmen passt – inklusive KI-Tools DSGVO-Risiko und Praxistauglichkeit KMU im Blick:

• 1. Welche Daten sollen in das KI-Tool?
  Gehe ich hier nur mit Test-/Beispieldaten hinein – oder mit echten Kunden-, Mitarbeiter- oder Mandantendaten? Je sensibler die Daten, desto strenger muss die Prüfung sein.
• 2. Brauche ich für diesen Zweck wirklich KI?
  Gibt es eine einfachere, datensparsamere Lösung (z. B. normale Textbausteine, klassische Software)? Wenn ja, sollte ich die datensparsame Variante bevorzugen.
• 3. Steht das Unternehmen (Verantwortlicher) fest?
  Weiß ich genau, wer der Anbieter ist (Firma, Sitz, Impressum) und ob er als Auftragsverarbeiter im Sinne von Art. 28 DSGVO auftritt?
• 4. Gibt es einen AVV/DPA?
  Stellt der Anbieter einen Auftragsverarbeitungsvertrag (AVV) bzw. ein Data Processing Agreement (DPA) zur Verfügung, das ich einsehen und abschließen kann – idealerweise vor oder spätestens mit Vertragsabschluss?
• 5. Wo stehen die Server – und gibt es Drittlandtransfers?
  Sind die Server in der EU/Deutschland oder in Drittländern (z. B. USA)? Bei USA: Stützt sich der Anbieter auf das EU–US Data Privacy Framework (DPF) oder auf Standardvertragsklauseln (SCC)?
• 6. Werden meine Daten für KI-Training genutzt?
  Sagt der Anbieter klar, ob Eingaben und Ergebnisse für das Training seiner Modelle verwendet werden – und wenn ja, unter welchen Bedingungen?
• 7. Gibt es ein wirksames Opt-out für Training?
  Kann ich vertraglich oder in den Einstellungen verhindern, dass personenbezogene oder vertrauliche Daten zum Training der KI verwendet werden (insbesondere in Business-/Team-/Enterprise- oder API-Tarifen)?
• 8. Sind Betroffenenrechte technisch/organisatorisch umsetzbar?
  Kann ich bei Einsatz des Tools Auskunft, Berichtigung, Löschung etc. praktisch erfüllen (z. B. Daten löschen lassen, Protokolle einsehen, Export anfordern)?
• 9. Habe ich eine Rechtsgrundlage und dokumentiere sie?
  Auf welcher Rechtsgrundlage nutze ich das KI-Tool (z. B. berechtigtes Interesse, Vertragserfüllung)? Ist diese Entscheidung dokumentiert (z. B. in einer kurzen Interessenabwägung oder im Verarbeitungsverzeichnis)?
• 10. Passt das Tool in meine interne KI-Richtlinie?
  Darf dieses Tool gemäß meiner internen KI-Richtlinie eingesetzt werden – und ist klar geregelt, welche Daten der Fachbereich eingeben darf und welche nicht?

Praxis-Hinweis: Wenn du bei mehreren Fragen keine klare Antwort hast oder Bauchschmerzen bekommst, sollte das Tool nicht spontan produktiv gehen. In diesem Fall: Datenschutzbeauftragte:n einbinden, Alternativen prüfen – oder das Tool nur mit strikt anonymisierten Testdaten verwenden.

Dieses Modell ersetzt keine individuelle Rechtsberatung, sondern soll KMU eine schnelle, praxisnahe Orientierung geben: Grün („Niedrig“) ist ein guter Startpunkt für den Unternehmenseinsatz, Gelb („Mittel“) erfordert bewusste Konfiguration und Dokumentation, Rot („Hoch“) ist für echte Kunden- und Mitarbeiterdaten aus meiner Sicht kritisch. Für verbindliche Einschätzungen wende dich an deinen Datenschutzbeauftragten oder eine spezialisierte Kanzlei.