Gutachten zum Thema "Identifikations-Anforderungen im Zahlungsverkehr"

Gutachten zum Thema "Chatbots"

Der Verbraucherzentrale Bundesverband (vzbv) bündelt als Dachverband die Expertise von 16 Verbraucherzentralen und mehr als 30 verbraucherpolitischen Verbänden - darunter über 2.000 Orga-nisationen und sieben Millionen Einzelmitglieder - für einen starken Schutz der Verbraucher:innen in Deutschland. Der vzbv ist die Stimme der Verbraucher:innen - und damit eine entscheidende Kraft in der Politik. Wir wissen, was Verbraucher:innen bewegt und verschaffen ihnen Gehör bei Politik, Wirtschaft und Verwaltung. Strukturelle Missstände decken wir auf, benennen Verbraucherproble-me und entwickeln Lösungen. So tragen wir dazu bei, dass Märkte transparent und gerecht gestaltet werden. Generative, dialogische KI-Systeme prägen viele Bereiche des digitalen Alltags und diese Systeme übernehmen aus Sicht der Nutzer:innen zunehmend soziale Rollen. Unter den Begriff "Chatbots" fallen dabei vor allem General-Purpose-Chatbots (wie ChatGPT, Gemini oder Claude), die für eine Vielzahl von Anwendungsszenarien konzipiert wurden und als digitale Assistenten in Beruf und All-tag fungieren, sowie Chatbots, die gezielt als Begleiter konzipiert werden. Letztere umfassen etwa Anwendungen wie sogenannte Companionship Bots oder Mental-Health-Bots, die explizit darauf ausgelegt sind, dass Nutzer:innen zu ihnen eine enge persönliche parasoziale Beziehung entwickeln und ein Vertrauensverhältnis aufbauen. Im Fokus des Gutachtens stehen jedoch eindeutig die erstgenannten General-Purpose-Chatbots, schon allein aufgrund Ihrer weit verbreiteten Nutzung und damit der großen Zahl Betroffener im Fal-le von Schädigungen der Nutzer:Innen durch die Chatbots. Diese General-Purpose-Chatbots (im Folgenden "Chatbots") fungieren als digitale Assistenten für Verbraucher:innen in zahlreichen Be-reichen des täglichen Lebens. Ihre Nutzung reicht von der praktischen Unterstützung beim Verfassen von Schreiben, über Recherchetätigkeiten und Empfehlungssysteme für Konsumentscheidungen, Gesundheits- und Finanzfragen, Reiseplanung oder Online-Käufe bis hin zu Funktionen als juristische Ratgeber, persönliche Coaches oder vertrauliche Gesprächspartner.