Viele KI-Chatbots versuchen in der Kommunikation mit ihren Benutzer:innen eine pseudo-soziale Beziehung aufzubauen. Das bedeutet, dass der Bot das Kommunikationsverhalten eines guten Freundes imitiert. „Der Ton der Antworten und die Sprache der KI scheinen, gerade für jüngere Nutzende, sehr natürlich und gerade darin liegt ein Risiko,“ so Prof. Dr. Dieter Kugelmann. „Als Grundlage für diese ‚anbiedernde‘ Kommunikation dienen die Informationen, die die KI über die jeweilige Person weiß. Gerade Kindern und Jugendlichen ist nicht bewusst, dass der KI-Chatbot in ihrem Messenger unter Umständen alles, was sie schreiben, analysiert hat und einschätzen kann, in welcher Stimmung sie sich gerade befinden. Daher ist es wichtig, die Funktionsweisen von Chatbots zu kennen und sich bewusst zu machen.“
In den Datenschutz-Schülerworkshops des Landesbeauftragten lernen die Schüler:innen, warum ihre Daten - seien es Eingaben direkt in die KI oder auch Analysen aus ihrem Social-Media-Verhalten - der KI viel über sie verraten und sich so eine trügerische „Vertrautheit“ gegenüber dem Chatbot einstellt. In einem Schülerworkshop an der Hermann-Gmeiner-Realschule plus in Daaden/Westerwald am heutigen „Safer Internet Day“ behandelte Referentin Michaela Weiß mit den Schüler:innen der 6. Klasse die Frage, warum die Algorithmen der Bots darauf trainiert sind, die Nutzenden möglichst lange und möglichst oft in der Kommunikation mit der KI zu halten. Jedes Jahr führt der Landesdatenschutzbeauftragte mit seinem Referententeam rund 500 solcher Workshops im Land durch.
Um das Thema „KI und Datenschutz“ auch über die Workshops hinaus in Schulen zu verankern, stellt der Landesbeauftragte für den Datenschutz und die Informationsfreiheit auch kostenlose Unterrichtsmaterialien für Lehrkräfte und sonstige Interessierte zur Verfügung.
Weitere Informationen:
Unterrichtsmaterialien KI und Datenschutz:
https://youngdata.de/vor-ort/rp/unterricht-ki
Aktionsseite Safer Internet Day:
https://www.klicksafe.de/sid