Den Aufsatz über Vincent van Gogh mit ein paar Klicks schreiben lassen, statt mühsam verschiedene Quellen zusammenzutragen und schöne Sätze zu konstruieren, das verspricht eine Software, die sich derzeit bei Schülern und Studenten großer Beliebtheit erfreut. Zum diesjährigen Safer Internet Day (SID) wirft der Landesbeauftragte für den Datenschutz und die Informationsfreiheit Rheinland-Pfalz einen Blick auf das Thema Künstliche Intelligenz (KI). Seit einigen Wochen ist in Schulen der Sprach-Roboter „ChatGPT“ angekommen, der in Sekunden scheinbar von Schülerhand geschriebene Texte über alle möglichen Unterrichtsthemen erstellen kann. Dies ist nur ein Beispiel, wie KI-Systeme sich mehr und mehr in digitalen Anwendungen unseres Alltags finden. Datenschützer begleiten die Entwicklungen im Bereich KI seit einigen Jahren und weisen insbesondere auch auf die Gefahren hin, die die Systeme bergen können. „KI-Systeme, sei es im Sprachassistenten, der Forschung oder bei Sicherheitsbehörden, können menschliche Aufgaben in einem Bruchteil der Zeit erledigen und werden daher als Unterstützung immer verbreiteter. Problematisch ist, dass bei vielen der Systeme der Algorithmus, der die Entscheidungen trifft, eine Black-Box ist“, so Landesdatenschutzbeauftragter Prof. Dr. Dieter Kugelmann. „Wer den Algorithmus entwickelt und kontrolliert, der bestimmt die Ergebnisse. Hier kann es schnell zu tendenziösen oder falschen Ergebnissen, politischen Beeinflussungen oder rassistischen Diskriminierungen kommen. Transparenz der Algorithmen und die Möglichkeit, die Systeme durch unabhängige Dritte überprüfen zu lassen, sind daher das A und O bevor man entsprechende KI-Systeme beispielsweise im Bereich des staatlichen Handelns einführt.“ Die Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (DSK) hat bereits 2019 in der Hambacher Erklärung zur künstlichen Intelligenz sieben Anforderungen an KI-Systeme definiert, die helfen sollen, missbräuchlichen Einsatz zu verhindern.

Dass die „Intelligenz“ der Systeme noch Grenzen hat, zeigt sich bei genauerer Betrachtung der Ergebnisse der Chatroboter oder Bildgeneratoren. Oftmals sind die Texte zwar sprachlich perfekt geschrieben, inhaltlich gehen sie aber nicht zu sehr in die Detailtiefe oder sind schlichtweg falsch.

Auch die Bildgeneratoren versagen beim Erstellen der - ansonsten fotorealistischen - Bilder noch bei Details wie Augen, Fingern oder Gegenständen wie Brillen. Um hier wirkliche Perfektion zu liefern, fehlen den Systemen schlicht noch mehr menschliche Daten. Das ist eine Triebfeder, warum seit Herbst 2022 bei einigen Systemen der Login für Jederfrau und Jedermann geöffnet wurde. Millionen Nutzerinnen und Nutzer strömten in den ersten Wochen auf die Plattformen, die sich zum Teil nur angemeldet mit einem Account nutzen lassen, und füttern den Algorithmus mit jeder ihrer Eingaben mit Daten, einschließlich ihrer Handynummer. Eine immense, valide Testgruppe, die die Betreiberfirmen und Geldgeber hinter den Programmen mit eigenen Mitteln nie hätten einkaufen können. Und das trotz beispielsweise angekündigten Investitionen von 10 Milliarden US-Dollar des US-Konzerns Microsoft in ChatGPT. Erst die vermeintlich spielerische Chat-Tätigkeit vieler Millionen Nutzerinnen und Nutzer mit dem Roboter schafft den rasant wachsender Datenbestand, der sich zur Verbesserung der Systeme ausschlachten lässt.

„Die Diskussion um KI nimmt zu Beginn des Jahres somit gerade an Fahrt auf. Für Lehrkräfte ist es jetzt eine gute Gelegenheit, in das Thema einzusteigen und sich mit den Schülerinnen und Schülern konstruktiv-kritisch mit den Programmen auseinanderzusetzen,“ so Prof. Kugelmann „wir möchten mit dem neuen Themenbereich zu KI daher gerade Schulen ansprechen und werden hier in den kommenden Monaten weitere Informationen bereitstellen, die Schülerinnen und Schülern den Einblick in die Welt der KI und den Schutz ihrer persönlichen Daten erfahrbarer machen sollen.“

Weitere Informationen:

• Themenbereich „Künstliche Intelligenz“ auf youngdata.de
• Hambacher Erklärung zur künstlichen Intelligenz
• Heise: Datenschützer stoppen Chatbot Replika in Italien