Wofür ChatGPT wirklich genutzt wird
Eine Analyse von 200.000 Prompts ergab, dass ChatGPT nicht nur nach Informationen gefragt wird. Viele Nutzer lassen die KI bewusst halluzinieren.
Foto: PantherMedia/supatman
Inhaltsverzeichnis
Da steht einem das gesamte Weltwissen zur Verfügung. Man könnte sich von ChatGPT den Ursprung des Weltalls erklären lassen, Tipps für ein gesünderes und längeres Leben holen oder bei der Büroarbeit helfen lassen. Aber was tun die Menschen wirklich, wenn sie sich mit dem Chatbot unterhalten? Sie lassen sich Geschichten erzählen.
Fast jeder fünfte Prompt dreht sich um Hausaufgaben
So lautet jedenfalls eine Analyse der US-Zeitung Washington Post. Die Journalisten dort haben einen Datensatz mit 200.000 Einträgen gesichtet und nach Gesprächsthemen sortiert. Mehr als jeder fünfte Prompt (21 %) erfragte keine Informationen, sondern forderte die KI zum Fantasieren auf. So entstanden Rollenspiele und Erzählungen nach individuellen Vorgaben. Fast genauso häufig kam die KI als Hausaufgabenhelfer zum Einsatz (18 %). Schüler ließen sich chemische Reaktionsgleichungen lösen oder Romane zusammenfassen. Klassische Suchanfragen spielten bei weiteren 17 % der Anfragen eine Rolle.
Versuche, die KI zu knacken
Dem Arbeitskontext konnten nur 15 % der Prompts zugeordnet werden. Immerhin 7 % der Posts bemühen sich, dem Chatbot sexuelle Inhalte zu entlocken. Eigentlich ist die KI programmiert, solche Inhalte nicht wiederzugeben. Es gelingt Usern aber immer wieder, mit bestimmten Frageformulierungen, sogenannten Jailbreaks, der KI die gewünschten Informationen doch zu entlocken. Weitere 5 % der Nutzer waren an Flirt- oder Beziehungstipps interessiert.
Projekt Wildchat: kostenloser Zugang gegen Daten
Möglich wurde der Einblick in die Prompt-Gewohnheiten durch das Projekt Wildchat. Nutzer bekamen hierbei zwischen April 2023 und April 2024 einen kostenlosen Zugang zu ChatGPT-4, wenn sie im Gegenzug ihre anonymisierten Daten zur Analyse zur Verfügung stellten. Es ist naheliegend, dass von dem Angebot vor allem Jugendliche angesprochen wurden, was den hohen Anteil der Fragen nach Unterrichtsinhalten relativiert.
