SENTIMENT: Sichere intime Kommunikation mit Chatbots

Motivation
Dank großer Sprachmodelle haben Chatbots in letzter Zeit erhebliche Qualitätssprünge gemacht. Mittlerweile können solche Dialogsysteme natürlich wirkende Antworten auf verschiedenste Anfragen generieren, auf Nachfragen eingehen und auch längere Gesprächsverläufe entstehen lassen. Dadurch kommt die Interaktion mit Chatbots einem authentischen Austausch mit einem Menschen immer näher. In Deutschland kommunizieren immer mehr Nutzende regelmäßig mit Chatbots. Hierbei verschwimmen häufig die wahrgenommenen Grenzen zwischen Künstlicher Intelligenz (KI) und realem Kommunikationspartner. Unternehmen hinter einigen Applikationen nutzen diese Grauzone schon jetzt bewusst aus und bewerben ihre Produkte mit dem Schlagwort „KI-Freund“. In solchen Anwendungen können Nutzende zum Beispiel einen romantischen Beziehungsmodus aktivieren, der es erlaubt, mit einer zuvor konfigurierten künstlichen Person emotionale (Video-)Gespräche zu führen. Chatbots können somit auch interpersonelle intime Kommunikation simulieren. Hierunter fallen Worte der Selbstoffenbarung, der Bestätigung, des Vertrauens und der Zuneigung. Dadurch schenken Nutzende den Systemen Vertrauen und offenbaren intime, persönliche Details. Bisher wurde dieser Aspekt der digitalen Intimität im Rahmen der Privatheitsforschung jedoch kaum untersucht.

Ziele und Vorgehen
Ziel des Projekts SENTIMENT ist es, interdisziplinär zu erforschen, welche Prozesse bei der Kommunikation mit Chatbots wirken, wenn Menschen sensible bzw. intime Informationen preisgeben. Hierzu arbeiten Forschende aus Psychologie, Informatik, Rechtswissenschaften und Kunst zusammen. Basierend auf einer Bestandsaufnahme intimer Selbstoffenbarung in Kommunikationssituationen mit Chatbots führen die Forschenden eine Risikobewertung hinsichtlich Datenschutz und Selbstbestimmung der Nutzenden durch. Daraus leiten sie zielgerichtet Privacy-by-Design-Mechanismen ab, um den zuvor identifizierten Risiken entgegenzuwirken, und evaluieren diese im Rahmen einer empirischen Studie. Zudem bezieht das Projektteam die Öffentlichkeit in die Arbeiten ein. Dies geschieht etwa durch eine Kunstausstellung zum Thema „Schutz von intimer Kommunikation“, gestaltet als Dialogforum, bei dem die Forschenden mit der Öffentlichkeit in den Austausch treten und die gewonnenen Erkenntnisse wiederum in das Vorhaben einfließen lassen.

Projektinformation
Das Projekt SENTIMENT ist Gegenstand der Förderrichtlinie „Plattform Privatheit – IT-Sicherheit schützt Privatheit und stützt Demokratie“ im Rahmen des Forschungsrahmenprogramms der Bundesregierung zur IT-Sicherheit „Digital. Sicher. Souverän“. Das Bundesministerium für Bildung und Forschung (BMBF) fördert das Projekt (Laufzeit: April 2024 – März 2027) mit € 1,24 Mio.

Verbundpartner:innen:

• Universität Duisburg-Essen, INTITEC (Intimacy with and through technology) Junior Research Group, Dr. Jessica Szczuka (Koordination),
• Kunsthochschule Kassel, Professur für Neue Medien, Prof. Joel Baumann,
• Ruhr-Universität Bochum, Faculty of Computer Science, HGI and Excellence Cluster CASA, Dr. Veelasha Monsaamy and Dr. Theodor Schnitzler (Assistant Professor at Maastricht University, Department of Advanced Computing Sciences).

Weitere Informationen finden sich auf der Webseite des BMBF.