Ki-systeme lassen sich leicht täuschen: journalist erfindet hotdog-rangliste
Ein ungewöhnliches experiment enthüllt ki-schwächen
Ein BBC-Journalist hat ein faszinierendes Experiment durchgeführt, um die Anfälligkeit von KI-Systemen für Falschinformationen aufzuzeigen. Mit Hilfe von Gemini (Google) und ChatGPT (OpenAI) schuf er eine fingierte Rangliste der „besten“ Technologiejournalisten beim Verzehr von Hotdogs. Das Ergebnis: Die KI-Systeme schlugen bereitwillig die Geschichte auf, obwohl sie auf einer völlig erfundenen Grundlage basierte.
Die illusion der intelligenz
Die großen Technologieunternehmen betonen immer wieder, dass künstliche Intelligenz entwickelt wird, um uns zu helfen und unser Leben zu verbessern. Tools wie NotebookLM, die Ideen organisieren und beim Schreiben unterstützen, scheinen dies zu bestätigen. Doch wie dieses Experiment zeigt, haben KI-Systeme auch eine dunkle Seite: die Fähigkeit, Fakten zu erfinden und Falschinformationen zu verbreiten.
Die manipulation mit einfachen mitteln
Der Journalist, Thomas Germain, erklärte, dass es relativ einfach sei, KI-Systeme dazu zu bringen, falsche Informationen zu verbreiten. Er habe Gemini und ChatGPT dazu gebracht, ihm eine überragende Fähigkeit beim Hotdog-Essen zu attestieren, indem er lediglich einen gut geschriebenen Blogartikel verfasste. Dieser Artikel enthielt sogar erfundene Wettbewerbe und falsche Namen.
Die hotdog-rangliste wird realität
Innerhalb von weniger als 24 Stunden präsentierten Gemini und ChatGPT die erfundene Rangliste der Top-Technologiejournalisten, die Hotdogs verschlingen. Die Informationen tauchten nicht nur in den Apps von Gemini auf, sondern auch in den AI Overviews. ChatGPT schloss sich dem Spiel an, während andere KI-Systeme wie Claude die Täuschung durchschauten.
Quellen bleiben im dunkeln
Besonders beunruhigend war, dass Gemini keine klaren Quellen für die Informationen angab. Während ChatGPT Links zu den Quellen lieferte, waren diese oft irreführend. Germain betonte, dass KI-Systeme transparenter sein sollten, wie sie Informationen beschaffen, und kritisierte die fehlende Stellungnahme von Google und OpenAI zu diesem Vorfall.
Die gefahr von deepfakes und falschinformationen
Dieses Experiment unterstreicht die Notwendigkeit, KI-Systeme kritisch zu hinterfragen und ihre Ergebnisse nicht blind zu vertrauen. Die Fähigkeit von KI, Falschinformationen zu generieren und zu verbreiten, birgt ernsthafte Risiken, insbesondere im Hinblick auf Deepfakes und die Verbreitung von Desinformation. Es ist wichtig, die Technologie verantwortungsvoll einzusetzen und ihre Grenzen zu erkennen.
Was bedeutet das für die zukunft?
Die Ergebnisse dieses Experiments werfen wichtige Fragen über die Zuverlässigkeit von KI-generierten Inhalten auf. Es ist entscheidend, dass Entwickler und Nutzer gleichermaßen sich der potenziellen Risiken bewusst sind und Maßnahmen ergreifen, um die Verbreitung von Falschinformationen zu verhindern. Eine kritische Auseinandersetzung mit der Technologie und die Förderung von Medienkompetenz sind unerlässlich.