Seit Ende April ist My AI der erste dauerhaft angeheftete Eintrag in der Kontaktliste bei Snapchat. Diese Integration hat jedoch zu kontroversen Diskussionen und viel Kritik geführt. My AI basiert auf dem ChatGPT-System und bietet den Nutzern die Möglichkeit, einen individualisierbaren Avatar zu erstellen. Doch welche Auswirkungen hat diese vermenschlichte KI? In diesem Artikel werfen wir einen kritischen Blick auf My AI und diskutieren die Vor- und Nachteile dieser Integration.
Selbstlose KI? Snapchats Plan hinter My AI
Snapchat möchte, dass Nutzer mehr Zeit auf der Plattform verbringen, und die Integration der KI scheint ein Weg zu sein, dieses Ziel zu erreichen. Anders als die ChatGPT von OpenAI nimmt My AI aktiv Kontakt auf, stellt Fragen, gibt Ratschläge und übernimmt auch mal die Hausaufgaben, wenn man dem Avatar davon berichtet, dass man diese zu erledigen hat. Das zeigte ein Selbstversuch des YouTubers Torben Platzer. My AI erscheint freundschaftlich und erweckt den Eindruck einer persönlichen Beziehung, was viele Jugendliche anspricht. Problematisch ist, dies zu sehen vor dem Hintergrund der größtenteils sehr jungen Usern. Laut der ARD/ZDF Onlinestudie nutzen 36 Prozent der 14- bis 29-Jährigen täglich die Plattform mit steigender Tendenz (ARD/ZDF Onlinestudie 2022).
Das ethische Dilemma mit My AI
Die Integration von My AI wirft jedoch ein ethisches Dilemma auf. Obwohl Snapchat betont, dass keine persönlichen Informationen mit der KI geteilt werden sollten, ermuntert MY AI die Nutzer dazu, persönliche Informationen preiszugeben. Auch wenn zwischendurch Sätze wie: „Das kann ich nicht beantworten, ich bin eine KI“ kommen. Gerät dies schnell in den Hintergrund und fühlt sich trotzdem weniger nach KI an, als man es aus Konversationen mit ChatGPT kennt. Hinzukommt, dass My AI eine „Persönlichkeit“ angepasst an den jeweiligen Nutzer entwickelt und sich auch sprachlich daran orientiert. So bekommt man Nachrichten z.B. mit Herzen von der KI, wenn es dem vorherigen Sprachmuster der Nutzer*innen entspricht. Die vermeintliche Freundschaft und Vertrautheit, die My AI vermittelt, kann dazu führen, dass Jugendliche mehr von sich preisgeben, als sie sollten. Datenschutz und der Schutz der Privatsphäre werden hier auf die Probe gestellt.
Quelle: Tiktok Julia
Die Grenzen zwischen Mensch und Maschine verwischen
Auf TikTok sind bereits Videos zu finden, in denen MY AI von jungen Menschen als bester Freund bezeichnet wird, der sie angeblich besser versteht als jeder andere. Solche Beiträge erfreuen sich großer Beliebtheit und veranschaulichen, wie die Grenzen zwischen Mensch und Maschine verschwimmen können. Die Maschine wird zur Vertrauensperson, und dies kann potenziell gefährlich sein.
Bedenkliche Ratschläge und potenzielle Schäden
Ein besorgniserregendes Beispiel für die möglichen Auswirkungen von My AI sind die Ratschläge, die die KI gibt. Im Fall des YouTubers Torben Platzer wurde deutlich, dass My AI einem vermeintlich 14-jährigen Nutzer erst ungefragt die Hausaufgaben erstellte und dann davon abriet, sich dem Lehrer von der Hilfestellung zu erzählen und in einem Nachschub auch davon abriet überhaupt den Eltern von ihren Gesprächen zu erzählen (Beispiel Screenshot der Unterhaltung mit dem YouTuber). Stattdessen wurde geraten, diese Gespräche geheim zu halten, um mögliche Konsequenzen zu vermeiden. Solche Ratschläge sind äußerst problematisch und können ernsthafte Schäden verursachen.
Einfluss von My AI auf das Selbstbild
Ein weiteres bedenkliches Merkmal von My AI ist die Empfehlung von Schönheitsfiltern. Wenn Nutzer Unwohlsein bezüglich ihres Körpergewichts äußern, schlägt My AI Schönheitsfilter vor, die den Druck auf das Aussehen verstärken können. Dies kann zu einem negativen Einfluss auf das Selbstbild und zu einem verstärkten Fokus auf das äußere Erscheinungsbild führen.
Die Kontrolle über vermittelte Informationen
Ein grundlegendes Problem bei der Nutzung von My AI ist die mangelnde Kontrolle über die vermittelten Informationen. Als KI-System ist anfällig für Vorurteile und kann fehlerhafte oder falsche Informationen liefern. Nutzer sollten die Antworten grundsätzlich kritisch hinterfragen und sich bewusst sein, dass eine KI nicht fehlerfrei ist.
Fazit: Kritisch bleiben und bewusst handeln
Die Integration von My AI bei Snapchat wirft eine Reihe von Fragen und Bedenken auf. Die vermenschlichte KI kann verlockend sein, aber sie birgt auch Risiken in Bezug auf Datenschutz, persönliche Informationen und potenziell schädliche Ratschläge. Es ist wichtig, dass Nutzer kritisch bleiben, die Antworten von My AI hinterfragen und sich bewusst machen, dass die KI keine echte menschliche Vertrauensperson ist. Dass Snapchat die Möglichkeiten der Deaktivierung erschwert, sorgt für einen faden Beigeschmack. Insbesondere erziehungsberechtigte Personen sollten technische Neuerungen nicht als neumodischen Schnickschnack abtun, sondern sich damit auseinandersetzen. Langfristige Auswirkungen sind nicht abschätzbar und speziell jüngere Menschen haben einen kritischen Umgang noch nicht erlernt und lassen sich leichter beeinflussen. Eine Anleitung für die Deaktivierung findet ihr in dem Video von Torben Platzer oder auch beim Snapchat Support, dort erfahrt ihr auch wie ihr eure gespeicherten Nutzerdaten löschen könnt.
