ki-wandel, Autor bei ki-wandel.de

ChatGPT – rechtliche Konsequenzen für Unternehmen

30. Mai 202324. Juni 2023 ki-wandel

ChatGPT Recht: Zahlreiche Firmen nutzen bereits ChatGPT. Die KI bewältigt Marketing-Anforderungen, liefert Content für Websites oder unterstützt IT-Abteilungen bei der Bewältigung ihrer Aufgaben. Dies kann allerdings rechtliche Probleme in den Bereichen Datenschutz, Urheber- und Arbeitsrecht mit sich bringen. Um Konflikte zu vermeiden, sollten Unternehmer einige Vorsichtsmaßnahmen im Umgang mit der KI treffen.

Die Nutzung von ChatGPT & Co. im Unternehmen kann schnell rechtliche Folgen haben — Die Nutzung von ChatGPT & Co. im Unternehmen kann schnell rechtliche Konsequenzen nach sich ziehen

Ist ChatGPT rechtskonform?

Betriebliche Daten an einen Chatbot übergeben? Nutzerdaten von einer externen Künstlichen Intelligenz verarbeiten lassen? Bereits beim Lesen des Textes werden einige sicherlich schon nervös. Und es bereitet jedem Juristen Kopfschmerzen und Datenschützern ein mulmiges Gefühl im Magen. Ist ChatGPT denn rechtskonform?

ChatGPT bietet viele fantastische Möglichkeiten, aber auch rechtliche Herausforderungen. Rechtsanwalt Sören Siebert, Gründer von eRecht24, verfasste zum Thema ChatGPT Recht den Leitfaden „Der große Guide: Was ist bei ChatGPT erlaubt“. Im Guide erläutert er:

8 praktische Fragen und rechtliche Antworten zu ChatGPT im Unternehmen

Was passiert, wenn ich (oder meine Mitarbeiter) zu Marketing-, Strategie-, Statistikzwecken unternehmensinterne Daten durch eine KI auswerten/verarbeiten/aufbereiten lasse? Gibt es da rechtliche Risiken?
Brauche ich eine Klausel zur Arbeit mit KI für Arbeitsverträge mit meinen Mitarbeitern?
Gibt es rechtliche Dinge zu beachten/ rechtliche Risiken, wenn ich Content (Bilder, Texte etc.) für die Online Präsenz meines Unternehmens mit KI herstelle und auf meiner Webseite veröffentliche? Hafte ich als Unternehmer immer noch für die Inhalte?
Verliere ich mein Urheberrecht an den Inhalten, die ich in eine KI einspeise, wenn ich die Inhalte per Prompt durch die KI optimieren/verändern lasse?
Wer ist Urheber der Inhalte, die eine KI schafft? Darf jeder diese Inhalte benutzen, ohne dass ich das als Unternehmer verhindern kann?
Muss ich vielleicht in der Zukunft Inhalte, die mit Hilfe oder komplett durch eine KI hergestellt wurden, auf meiner Unternehmens-Website kenntlich machen?
Muss ich die KI als Verantwortlichen/Hersteller von redaktionellen Inhalten auf meiner Website nennen?
Bekommt jemand mit, wenn ich in ChatGPT sensible Daten eingebe und der Betroffene bei OpenAI ein Auskunftsersuchen anfordert?

Er gibt die Antworten und kommt zu der Einschätzung, dass die größte Problematik im datenschutzrechtlichen Bereich liegt.

ChatGPT Recht: Problematik Datenschutz

Nutzen Mitarbeiter die KI und geben für Auswertungen beispielsweise personenbezogene Daten von Kunden oder sonstigen Dritten bei ChatGPT ein, kann OpenAI diese speichern und zum Weiterlernen nutzen.

Laut Siebert: „Hierin liegt das größte Risiko – wir wissen nicht, auf welche Weise ChatGPT die eingegebenen Daten verarbeitet oder nutzt bzw. nutzen wird. Das Unternehmen als datenschutzrechtlich Verantwortliche verliert damit die Kontrolle über die personenbezogenen Daten.“

Werden die Daten später in rechtswidriger Weise genutzt, können dem Unternehmen DSGVO-Bußgelder oder teure Abmahnungen drohen. Daher der ChatGPT Recht-Rat von Siebert: „Man sollte seine Mitarbeiter also dazu anhalten, keine personenbezogenen Daten oder sonstige sensible Informationen in ChatGPT einzugeben.“

IT: Optimierung von Programmcode

Wer ChatGPT oder andere KI-Tools zur Optimierung und Entwicklung von Programmiercode nutzen möchte, sollte sich bewusst sein, welche Inhalte eventuell in die Datensätze von ChatGPT & Co. gelangen. Es ist schon passiert, dass Ingenieure großer Tech-Firmen, fehlerhaften Quellcode zum Debugging in ChatGPT eingegeben haben. Und der Chatbot speicherte die firmeninternen Daten und Geschäftsgeheimnisse im Trainingsdatensatz, die dann dummerweise im KI-Chat der Konkurrenz auftauchten. Das kann für die Mitarbeiter arbeitsrechtliche Folgen haben. Für das Unternehmen kann das im schlimmsten Fall geschäftsschädigend sein. Um solche Leaks zu vermeiden, sollten Sie auch für den Einsatz von ChatGPT im IT-Bereich ein hohes Maß an Vorsicht an den Tag legen.

Risikoeinschätzung zum Einsatz von ChatGPT im Unternehmen

Der Gründer von eRecht24 analysierte, die am häufigsten genutzten Bereiche von ChatGPT im Unternehmen. Seine Risikoeinschätzung zum Thema ChatGPT Recht:

Hohes Risiko:

Datenanalyse & -management

Personalwesen (HR-Prozesse)

Mittlers Risiko:

Softwareentwicklung & IT

Geringes Risiko

Marketing

Content & Content-Marketing

ChatGPT Recht: Handlungsempfehlung:

Zum Schluss gibt Siebert eine Handlungsempfehlung zum Umgang mit KI im Unternehmen. Unternehmer empfiehlt er:

Überprüfen Sie jeden mit KI erstellten Content auf seine inhaltliche Richtigkeit, bevor sie diesen weiterverwenden
Regeln Sie den Einsatz von KI im Arbeitsumfeld mit ihren Mitarbeitern
Etablieren Sie unternehmensinterne Leitlinien für die Arbeit mit KI-Tools wie ChatGPT, Bing und Co.

Warnung: Darauf sollten Sie achten

Geben Sie keine personenbezogenen Daten, Daten Dritter oder geschäftsinterne sensible Daten in ChatGPT oder andere KI-Programme ein.

ChatGPT – KI mit echtem Medizinpotential

17. Mai 202324. Juni 2023 ki-wandel

KI besteht deutsche Medizin-Examina – mit Ach und Krach

Die Wissenschaftler um Professor Dr. med. Inga Katharina Koerte wollten es genau wissen. Das Forscherteam fühlte ChatGPT auf den Zahn und testete das medizinische Wissen der künstlichen Intelligenz (KI) von OpenAI. Laut Deutschem Ärzteblatt schaffte der Chatbot die schriftlichen medizinischen Staatsexamina M1 und M2, allerdings ohne Bildfragen.

Zuvor stellten bereits US-amerikanische Wissenschaftler die KI auf den Prüfstein. Im Fachmagazin „PLOS Digital Health“ berichteten die Forscher über die Prüfungsergebnisse des „United States Medical License Exam“ (USMLE), das ChatGPT ähnlich bestand.

Beim M2-Examen schnitt ChatGPT Im Bereich Pharmakologie mit 94,7 % verdammt gut ab — Im Bereich Pharmakologie schnitt ChatGPT beim M2-Examen mit 94,7 % erstaunlich gut ab

In Deutschland müssen angehende Humanmediziner drei Staatsexamina bestehen. Das erste (M1) prüft Wissen zu vorklinischen Fachbereichen, das zweite (M2) zu klinischen Fächern, beide in Form von Fragebögen. Die letzte Hürde, das M3, ist im Gegensatz zu den beiden ersten eine rein mündliche Prüfung.

Im August 2022 unterzogen die Wissenschaftler ChatGPT der M1-Prüfung. Im Oktober erfolgte das zweite Staatsexamen. Allerdings klammerten sie Bildfragen aus, da ChatGPT derzeit keine Bilder analysieren kann. Das M1 umfasste danach noch 263 Fragen und das M2 noch 252 Fragen. Die untersuchten Examensfragen kannte der Algorithmus mit sehr hoher Wahrscheinlichkeit nicht.

ChatGPT ist ein „large language model“ (LLM). GPT steht für „general pre-trained transformer“ und die verwendete ChatGPT-Version (GPT-3.5) basiert auf rund 175 Milliarden Parametern.

Die Forscher gaben die Fragen in ChatGPT ein und verglichen die Antworten mit den Musterlösungen der Examina. Stimmen mindestens 60 Prozent der Antworten, gilt das Examen als bestanden. Das M1 schaffte die KI knapp mit 60,1 %, im M2 schnitt sie mit 66,7 % etwas besser ab. Damit reichte es in beiden Prüfungen gerade mal für die Note 4.

Allerdings fielen die Ergebnisse im M1 je nach Fachbereich sehr unterschiedlich aus. ChatGPT schnitt folgendermaßen ab: Biologie (77,8 %), Soziologie (75,9 %), Psychologie (73,3 %), Chemie (33,3 %), Physik (45,5 %) und Anatomie (46,4 %).

Im M2 erzielte ChatGPT folgende Ergebnisse: Pharmakologie (94,7 %), Augenheilkunde (85,7 %), Dermatologie (85,7 %), Hals-Nasen-Ohrenheilkunde (33,3 %), Neurologie (46,7 %) und Epidemiologie (46,7 %).

ChatGPT erbrachte insgesamt eine schlechtere Gesamtleistung als die durchschnittlichen Examensteilnehmer. Dabei ist allerdings zu berücksichtigen, dass die Fragen auf Deutsch erfolgten. Die Trainingsdaten der künstlichen Intelligenz basieren zu 93 % auf englischsprachigen Texten und OpenAI trainierte ChatGPT nicht speziell auf Medizin.

Auf jeden Fall sind die Ergebnisse beachtlich und das Koerte-Team kam zu dem Schluss: „Die Fähigkeit von LLMs medizinische Daten zu strukturieren und Informationen vor dem Hintergrund der verfügbaren Literatur zu interpretieren, birgt Potenzial für die Nutzung von ChatGPT in der Medizin.“

ChatGPT auf Basis GPT-4 dürfte noch wesentlich leistungsfähiger als GPT-3.5 sein. Immerhin beruht der Trainingsdatensatz vermutlich auf rund einer Billion Parameter, die genauen Zahlen legte OpenAI nicht offen. Und noch fähigere werden künftig folgen. Chatbots wecken große Hoffnungen. Im Bereich Medizin zählen zu den möglichen Anwendungen etwa das Verfassen von Arztbriefen oder die Unterstützung bei der Suche nach den besten Therapieformen.

Es wäre spannend die Ergebnisse auf Basis GPT-4 zu sehen. OpenAI bietet ChatGPT auf dieser Grundlage nur als Bezahlversion an, das kostenlose ChatGPT basiert noch auf GPT-3.5. Das neue Bing von Microsoft hingegen verwendet in seinem Chat bereits GPT-4. Über diesen Umweg lässt sich GPT-4 kostenlos nutzen.

Der Artikel erschien online am 04.05.2023 unter aerzteblatt.de

Das Team:

Leonard B. Jung*, Jonas A. Gudera*, Tim L. T. Wiegand*, Simeon Allmendinger, Konstantinos Dimitriadis, Inga K. Koerte

* Die Autoren teilen sich die Erstautorenschaft.

cBRAIN, Klinik und Poliklinik für Kinder- und Jugendpsychiatrie, Psychosomatik und Psychotherapie, Ludwig-Maximilians-Universität, München (Jung, Wiegand, Koerte) leonard.jung@gmx.com

Psychiatry Neuroimaging Laboratory, Department of Psychiatry, Brigham and Women’s Hospital, Harvard Medical School, Boston, MA, USA (Jung, Wiegand, Koerte)

LMU AIM, Ludwig-Maximilians-Universität, München (Gudera, Wiegand)

Kinderklinik und Kinderpoliklinik, Dr. von Hauner Kinderspital, Ludwig-Maximilians-Universität, München (Gudera)

Dana-Farber/Boston Children‘s Cancer and Blood Disorders Center, Harvard Medical School, Boston, MA, USA (Gudera)

Karlsruher Institut für Technologie, Karlsruhe (Allmendinger)

Neurologische Klinik und Poliklinik, Ludwig-Maximilians-Universität, München (Dimitriadis)

Institut für Schlaganfall- und Demenzforschung (ISD), Ludwig-Maximilians-Universität, München

Graduate School of Systemic Neurosciences, Ludwig-Maximilians-Universität, München (Koerte)

Department of Psychiatry, Massachusetts General Hospital, Harvard Medical School, Boston, MA, USA (Koerte)

ChatGPT – erste Konsequenzen am Arbeitsmarkt

4. Mai 202315. Juli 2024 ki-wandel

IBM plant in einigen Bereichen einen Einstellungs-Stopp. Betroffen ist besonders die Personalverwaltung. Hier soll KI in den nächsten fünf Jahren rund ein Drittel der Stellen ersetzen.

Die rasante Entwicklung der Künstlichen Intelligenz (KI) sorgt derzeit für viel Wirbel. Programme wie ChatGPT oder Bard sind in der Lage, Texte zu formulieren oder Bilder auf Basis von Textbeschreibungen zu erzeugen. Jetzt zeigen sich erste Auswirkungen am Arbeitsmarkt.

ChatGPT: Roboter im Büro. Beherrscht KI künftig unsere Arbeitswelt? — Verändert KI künftig unsere Arbeitswelt? Das Bild stammt von Bing AI

IBM plant weniger Einstellungen

IBM-Vorstandsvorsitzender Arvind Krishna sprach in einem Interview mit dem Finanzdienst Bloomberg über die Auswirkungen der immer kompetenter werdenden Künstlichen Intelligenz. Der Computerkonzern plant demnach, in einigen Bereichen weniger Mitarbeiter einzustellen, da KI-Software deren Tätigkeiten übernehmen kann.

Krishna betonte jedoch, dass IBM weiterhin in Bereichen mit Kundenkontakt und in der Softwareentwicklung Personal einstellen werde. Der Computerhersteller will freiwerdende Stellen für Bürotätigkeiten ohne Kundenkontakt allerdings nicht mehr neu besetzen. Immerhin arbeiten derzeit rund 26.000 Angestellte in diesem Bereich, insgesamt beschäftigt IBM weltweit 260.000 Mitarbeiter.

Was ist ChatGPT?

Derzeit spricht alle Welt von ChatGPT. ChatGPT ist ein künstlicher Intelligenz (KI) Chatbot, der von OpenAI entwickelt und im November 2022 veröffentlicht wurde. Er ermöglicht eine textbasierte Kommunikation mit Nutzern und bietet verschiedene Funktionen an. Der Chatbot ist kostenlos unter chat.openai.com nutzbar.

Mit ChatGPT können Nutzer:

sich unterhalten, indem sie mit ihm über verschiedene Themen plaudern, Spiele spielen oder kreative Inhalte erzeugen.
sich bilden, indem sie Informationen zu verschiedenen Themen erhalten, Hilfe bei Hausaufgaben bekommen oder Feedback erhalten.
sich unterstützen, indem sie Hilfe bei der Datenerfassung, Analyse oder Präsentation bekommen oder neue Ideen oder Perspektiven erhalten.
sich informieren, indem sie aktuelle Nachrichten, Fakten oder Meinungen erhalten oder Hilfe bei der Recherche oder dem Schreiben von Artikeln bekommen.
Informationen erhalten, wie etwa zu Gesundheit, Reisen, Shopping oder Finanzen.

Was kommuniziert ChatGPT?

ChatGPT nutzt moderne maschinelle Lerntechnologie, um Antworten zu generieren, die natürlich klingen und für das Gespräch relevant sein sollen. Das Dialogformat ermöglicht es der KI, Folgefragen zu beantworten, Fehler zuzugeben, falsche Prämissen herauszufordern und unangemessene Anfragen abzulehnen. Auch kann ChatGPT klärende Fragen stellen, um bessere Antworten zu liefern.

Ist ChatGPT perfekt?

Die KI-Software ist jedoch nicht ganz unumstritten, da die Gefahr von Missbrauch besteht. Mit ihr lassen sich gefälschte Nachrichten verbreiten oder Identitäten stehlen. Der Chatbot besitzt einige Sicherheits- und Datenschutzprobleme. So kann die KI auch persönliche oder sensible Daten preisgeben oder missbrauchen. Auch unangemessene oder schädliche Inhalte sind möglich. Leider lässt sich ChatGPT auch manipulieren, austricksen oder falsche Informationen verbreiten. OpenAI hat einige Sicherheitsmaßnahmen getroffen, aber diese sind nicht perfekt. Fachleute gehen jedoch davon aus, dass sich dieses Problem beheben lässt.

Warum grüßt Münchhausen?

ChatGPT liefert manchmal plausible klingende, aber falsche oder unsinnige Antworten. Die Korrektur dieses Problems ist schwierig, da:

es während des Trainings derzeit keine Wahrheitsquelle gibt
das Training des Modells, vorsichtiger zu sein, dazu führt, dass es Fragen ablehnt, die es korrekt beantworten kann
das überwachte Training das Modell irreführt, weil die ideale Antwort davon abhängt, was das Modell weiß und nicht was der menschliche Demonstrator weiß.

Auswirkung auf die Arbeitswelt

ChatGPT wirkt sich auch auf die Arbeitswelt aus. Die KI kann einige Arbeitsplätze erleichtern oder verbessern, aber auch andere gefährden oder ersetzen. Zum Beispiel kann ChatGPT:

Lehrer unterstützen, indem er ihnen bei der Vorbereitung oder Bewertung von Unterrichtsmaterialien hilft oder individuelle Betreuung für Schüler bietet.
Aber auch Lehrer ersetzen, indem er den gesamten Unterricht übernimmt oder bessere Ergebnisse als menschliche Lehrer erzielt.
Journalisten unterstützen, indem er ihnen bei der Recherche oder dem Schreiben von Artikeln hilft oder neue Quellen oder Perspektiven bietet.
Aber auch Journalisten ersetzen, indem er schneller oder genauer als menschliche Journalisten berichtet oder originellere oder überzeugendere Artikel schreibt.
Und so weiter: ChatGPT kann viele andere Berufe unterstützen oder ersetzen, wie zum Beispiel Kundenberater, Übersetzer, Autoren und irgendwann auch Anwälte oder Ärzte.

Spannende Artikel zu KI aus Politik & Kultur

25. April 202315. Juli 2024 ki-wandel Schreib einen Kommentar

Künstliche Intelligenz (KI): In der Zeitung des deutschen Kulturrates „Politik & Kultur“ finden sich in der Online-Ausgabe 4/23 spannende Artikel zu künstlicher Intelligenz. Dabei geht es um Themen zu den Rahmenbedingungen ihres Einsatzes in Kultur und Medien, zu den Urheberrechten, aber auch zur Geschichte der künstlichen Intelligenz und ihren Einfluss auf die Arbeitswelt der Buchbranche.

Die Zusammenfassungen der jeweiligen Artikel stammen von ChatGPT auf der Basis GPT-3.5, Bing mit GPT-4 versagte.

Nachfolgend einige interessante Artikel, es finden sich noch weitere zum KI-Einsatz in der Musik-, Film- und Gamebranche.

KI und Robotik sind ein alter Menschheitstraum

Widersprechen sich Kultur und künstliche Intelligenz? Oder ergänzen sie sich?

Laut Sarah Schmitt sind künstliche Intelligenz und Robotik ein alter Menschheitstraum.

Vom Gedichtsgenerator bis zur Künstlichen Intelligenz

Jetzt Rahmenbedingungen für den Einsatz von KI in Kultur und Medien gestalten

OLAF ZIMMERMANN

Olaf Zimmermann ist Geschäftsführer des Deutschen Kulturrates und Herausgeber und Chefredakteur von Politik & Kultur

Die Programmierung von Gedichtsgeneratoren hat sich in den letzten 40 Jahren von einer Spielerei zu einem wichtigen Geschäftsmodell, namens künstliche Intelligenz, entwickelt. Unternehmen wie Amazon, Google und Microsoft nutzen Künstliche Intelligenz, um Daten zu sammeln und auszuwerten. Maschinenlernen bietet große Möglichkeiten im Kultur- und Mediensektor, erfordert jedoch weiterhin menschliche Einordnung und Bewertung.

Zum Artikel.

Umgang des Urheberrechts mit kulturschaffender KI

Künstliche Intelligenz, Kultur und Urheberrecht

JAN BERND NORDEMANN

Jan Bernd Nordemann ist Rechtsanwalt, Fachanwalt für Urheber- und Medienrecht, Partner bei NORDEMANN in Berlin

Künstliche Intelligenz kann kreative Inhalte wie Kunst und Gedichte erschaffen. Einsatzgebiete sind Musikproduktion und Grafikdesign für Spiele. Urheberrechtliche Fragen entstehen bezüglich Schutz und Nutzung von KI-generierten Werken sowie der Verwendung geschützter Inhalte für generative KI-Systeme.

Zum Artikel.

Noch viele Fragen offen

ROBERTS STAATS

Robert Staats ist Geschäftsführer der VG WORT und Vorsitzender des Fachausschusses Urheberrecht des Deutschen Kulturrates

Der Artikel behandelt Urheberrecht und künstliche Intelligenz. Chancen und Risiken werden erläutert. künstliche Intelligenz betrifft Input (geschützte Werke) und Output (KI-Erzeugnisse). Vervielfältigungen geschützter Werke für KI-Systeme sind erlaubt, aber ohne Vergütung für Rechteinhaber. Fragen zum Output sind schwierig zu beantworten.

Zum Artikel.

Ein alter Menschheitstraum

Zur Geschichte der Robotik und KI

SARAH SCHMITT

Sarah Schmitt ist freiberufliche Mathematikerin, Journalistin und Autorin

Künstliche Intelligenz und Robotik sind alte Menschheitsträume. Seit der Industrialisierung im 19. Jahrhundert setzt man Roboter ein. Isaac Asimov prägte ethische Grundlagen für den Umgang mit intelligenten Maschinen. Die Dartmouth-Konferenz von 1956 gilt als Geburtsstunde der KI-Forschung. Alan Turings Idee von Maschinen, die vernunftbasierte Entscheidungen treffen können, führte zur Entwicklung des Turing-Tests.

Zum Artikel.

Wo stehen wir?

Wechselspiel zwischen menschlicher und künstlicher Intelligenz

CATRIN MISSELHORN

Catrin Misselhorn ist Philosophieprofessorin an der Universität Göttingen und Autorin der Bücher »Grundfragen der Maschinenethik« und »Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co.«

KI-Forschung hat menschliche und künstliche Intelligenz in drei Paradigmen verbunden: Symbolverarbeitung, Konnektionismus und verhaltensbasierter künstlicher Intelligenz. Deep Learning hat Fortschritte in Bilderkennung und Textgenerierung gebracht und nutzt tiefe neuronale Netze. ChatGPT ist ein Beispiel für ein großes Sprachmodell, das von diesen Fortschritten profitiert hat.

Zum Artikel.

Arbeitserleichterung?

Der Einsatz von KI in der Buchbranche

SUSANNE BARWICK

Susanne Barwick ist Rechtsanwältin, stellvertretende Justiziarin des Börsenvereins des Deutschen Buchhandels und Mitglied im Fachausschuss Urheberrecht des Deutschen Kulturrates

Künstliche Intelligenz wird in der Buchbranche eingesetzt, z.B. für Buchempfehlungen, Absatzprognosen und Lesemotiv-Klassifikation. Auch Textanalysen und vollständige Bucherstellung sind möglich, aber es gibt keine Urheberrechtregelung für autonom erzeugte Sprachwerke. Menschliche Nutzung der KI als Werkzeug könnte jedoch Urheberrecht begründen. Künstliche Intelligenz ist nur so gut wie ihre Trainingsdaten, welche oft von Menschen stammen.

Zum Artikel.

Deutscher Kulturrat

Der Deutsche Kulturrat e.V. ist der Spitzenverband der Bundeskulturverbände. Er ist der Ansprechpartner der Politik und Verwaltung des Bundes, der Länder und der Europäischen Union in allen die einzelnen Sparten (Sektionen) des Deutschen Kulturrates übergreifenden kulturpolitischen Angelegenheiten. Ziel des Deutschen Kulturrates ist es, kulturpolitische Diskussion auf allen politischen Ebenen anzuregen und für Kunst-, Publikations- und Informationsfreiheit einzutreten.

Der Kulturrat veröffentlicht die Zeitung Politik & Kultur, die zehnmal im Jahr zu aktuellen kulturpolitischen Fragestellungen erscheint. Alle Ausgaben können auch als E-Paper im PDF-Format kostenfrei geladen werden. Außerdem bietet der Kulturrat das Webangebot politikkultur.de, das tagesaktuelle Informationen, Interviews, Rezensionen und vieles mehr zur Kulturpolitik bietet.

ChatGPT und Datenschutz

22. April 202324. Juni 2023 ki-wandel

ChatGPT und Datenschutz: Die deutschen Datenschutzbeauftragten leiten Verfahren gegen OpenAI ein. Sie wollen wissen, woher die Daten stammen, die OpenAI zur Schulung von ChatGPT nutzte. Der ChatGPT-Betreiber soll den Datenschützern Auskunft liefern.

ChatGPT und Datenschutz – Rechtsgrundlage?

Dieter Kugelmann, Leiter der Bundesländer-Taskforce für Künstliche Intelligenz (KI), betont gegenüber dem Tagesspiegel, dass es für die Verwendung personenbezogener Daten, auch als Trainingsdaten für KI, einer Rechtsgrundlage bedarf. Ohne eine solche Rechtsgrundlage wäre der Betrieb von ChatGPT illegal.

Kugelmann weist darauf hin, dass der Datenschutz bei Verwendung personenbezogener Daten unbedingt gewährleistet und die Funktionsweise von ChatGPT geklärt werden muss, bevor eine Entscheidung getroffen werden kann.

Die Datenschutzbeauftragten der Länder verfassten gemeinsam ein Schreiben zum Thema ChatGPT und Datenschutz, das sie noch in dieser Woche OpenAI zustellen möchten. Das weitere Vorgehen hängt von den Antworten der US-Firma ab, wobei sich die Datenschutzbeauftragten intern abstimmen werden.

ChatGPT und Datenschutz in Italien

Menschen in Italien können ChatGPT seit Ende April wieder nutzen. OpenAI besserte ChatGPT nach.

Mit einer Altersprüfung und der Möglichkeit, Widerspruch gegen die Verwendung von Daten einzulegen, besänftigte OpenAI die italienischen Datenschützer. Die Sperrung von ChatGPT wurde aufgehoben.

Die italienische Datenschutzbehörde hat ChatGPT bereits vorläufig verboten und fordert, dass OpenAI eine Altersverifikation zwecks Ausschluss Minderjähriger durchführt, bevor der Dienst wieder in Betrieb genommen wird.

Es ist positiv zu erwähnen, dass OpenAI als Reaktion auf das Verbot ein kurzfristiges Treffen mit der italienischen Behörde vereinbart und sich verpflichtet hat, die Transparenz bei der Verarbeitung von personenbezogenen Daten zu erhöhen sowie die bestehenden Mechanismen zur Ausübung der Rechte betroffener Personen und den Schutz von Minderjährigen zu verbessern. Allerdings bleibt abzuwarten, ob diese Ankündigungen auch in die Tat umgesetzt werden.

Datenschutzgrundverordnung (DSGVO)

Der Artikel 5 Absatz 1 Buchstabe a) der Datenschutzgrundverordnung (DSGVO) besagt, dass personenbezogene Daten „auf rechtmäßige Weise, nach Treu und Glauben und in einer für die betroffene Person nachvollziehbaren Weise verarbeitet werden“ müssen. OpenAI gewährleistet dies derzeit noch nicht, was bedeutet, dass sich die Frage nach der Zulässigkeit der Datenverarbeitung von außen nicht beurteilt lässt.

Mögliche Rechtsgrundlage könnte auch Art. 6 Abs. 1 S. 1 lit. f) DSGVO sein. Die Anwendung dieses Artikels erfordert jedoch immer eine individuelle Abwägung der Interessen. Der Jugendschutz spielt bei berechtigten Interessen jedoch eine besondere Rolle und wird in der Regel zugunsten von Kindern und Jugendlichen entschieden. Es wird kritisiert, dass OpenAI weder eine Altersüberprüfung beim Einloggen für unter 13-Jährige noch einen Jugendschutzfilter für Antworten verwendet.

KI-Auskunft: ChatGPT und Datenschutz

OpenAI nimmt den Schutz von Daten sehr ernst und hat verschiedene Maßnahmen ergriffen, um die Sicherheit und Privatsphäre der Benutzer zu gewährleisten. Hier sind einige Details zu OpenAIs Ansatz zum Datenschutz:

Datenspeicherung: OpenAI speichert Chatverläufe und Daten, die im Rahmen der Interaktionen mit ChatGPT generiert werden. Diese Daten werden jedoch standardmäßig nur für einen begrenzten Zeitraum von 30 Tagen gespeichert.
Trainingsdaten: Die gesammelten Daten werden verwendet, um die Sprachmodelle von ChatGPT zu trainieren und zu verbessern. OpenAI hat jedoch Schritte unternommen, um den Zugriff auf diese Daten einzuschränken. Sie haben Richtlinien implementiert, um sicherzustellen, dass nur autorisiertes Personal Zugriff auf die Daten hat und dass diese Personen strengen Datenschutzbestimmungen unterliegen.
Anonymisierung: OpenAI bemüht sich, personenbezogene Informationen aus den Daten zu entfernen oder zu anonymisieren, um die Privatsphäre der Benutzer zu schützen. Dadurch wird sichergestellt, dass die generierten Modelle nicht auf bestimmte Benutzer zurückverfolgt werden können.
Opt-out-Möglichkeit: OpenAI bietet den Benutzern die Möglichkeit, sich gegen die Verwendung ihrer Daten zur Verbesserung der Modelle zu entscheiden. Durch das Ausfüllen eines Formulars, das von OpenAI bereitgestellt wird, können Benutzer beantragen, dass ihre Daten nicht für Trainingszwecke verwendet werden.
Transparenz: OpenAI veröffentlicht regelmäßig Informationen über ihre Datenschutzpraktiken und den Umgang mit Benutzerdaten. Sie sind bestrebt, transparent über ihre Vorgehensweise zu sein und den Benutzern klare Informationen zur Verfügung zu stellen.

Es ist wichtig zu beachten, dass Datenschutz eine kontinuierliche Herausforderung ist, und OpenAI arbeitet ständig daran, ihre Datenschutzrichtlinien und -verfahren zu verbessern, um den Schutz der Daten und die Sicherheit der Benutzer zu gewährleisten.

Daten bei ChatGPT löschen lassen

Um sicherzustellen, dass Ihre Daten bei ChatGPT gelöscht werden, können Sie ein Formular an OpenAI senden. In den FAQs des Herstellers finden Sie einen Link zu diesem Formular. Dort haben Nutzer die Möglichkeit, anzufordern, dass ihre Daten nicht für die Verbesserung der ChatGPT-Sprachmodelle verwendet werden. OpenAI gibt an, dass sie sich darauf konzentrieren, nur eine begrenzte Auswahl an Kundendaten für diesen Zweck zu verwenden und diese Daten nach dem Einreichen des Formulars zu löschen.

Das Formular verweist zunächst auf die Datenschutzrichtlinie und die Nutzungsbedingungen von OpenAI. Anschließend müssen Sie Ihre E-Mail-Adresse, Ihre „Organization ID“ und Ihren Nutzernamen angeben. Diese Informationen finden Sie in den Einstellungen Ihres Accounts. Sobald Sie das Formular abgesendet haben, wird es bearbeitet. Sie erhalten weitere Informationen zum weiteren Ablauf per E-Mail an die angegebene Adresse.

ChatGPT und Datenschutz: Sie können die Verwendung Ihrer Inhalte zur Verbesserung unserer Dienste jederzeit deaktivieren, indem Sie dieses Formular ausfüllen.