AI-Fakes erkennen: Twitter-User scheitern in Massen am Daunen-Papst
Papst Franziskus in Daunenjacke – das Bild ging viral, dabei war es nur das Produkt einer Grafik-AI. So erkennt man in Zeiten von Chat GPT Fakes im Internet.
Hamburg – Ein Bild geht viral. Zu sehen ist Papst Franziskus. In seiner Hand ein Coffee-to-go Becher, um seinen Hals ein Kruzifix und gekleidet ist das Kirchenoberhaupt in eine strahlend weißen Daunenjacke mit päpstlicher Schärpe um den Torso. Ein richtiges Fashion Victim der Papst, tönt es von Twitter. Nur steckt in der Jacke gar nicht Franziskus. Wir leben im Zeitalter von Chat GPT und es handelt sich um ein Bild, das von einer AI generiert wurde. Ein Fake also. Warum scheint das auf Twitter dann aber niemand zu erkennen? Auch der Account von Jule Stinkesocke hat sich als Fake herausgestellt. Ein 53-jähriger Mann aus San Francisco hatte sich jahrelang als querschnittsgelähmte Bloggerin ausgegeben.
| Unternehmen | OpenAI |
| Sitz | San Francisco, California, USA |
| Gründung | 11. Dezember 2015 |
| Leitung | Sam Altman |
AI-Fakes: Alles andere als täuschend echt, trotzdem funktionieren sie
Warum erkennen Menschen auf Twitter den AI-Fake des Papstes nicht? BIld-AIs haben so ihre Makel. Schaut man einmal genauer hin, dann fallen viele kleine Unstimmigkeiten an Franziskus auf. Da wäre die missgebildete Hand, die den Kaffeebecher hält. Die Brille des Papstes, die in seinem Gesicht beinahe zu zerfließen scheint oder die Kopfleiste der Daunenjacke, die einfach keinen Sinn ergeben mag. Das Bild von Franziskus ist im Grunde gespickt mit kleinen Fehlern, die in der Detailansicht schnell Zweifel an der Echtheit des Bildes aufwerfen sollten.
Nur schaut sich das Bild vom Papst in Daunenjacke auf Social Media niemand an, der eine fundierte Bildanalyse betreiben möchte. Hier steht das Gesamtwerk im Mittelpunkt und dieser Eindruck sitzt. Das Bild zeigt einen modernen Franziskus mit Daunenjacke, der eher dem Paparazzi-Shot eines Celebrities gleicht, als einer Momentaufnahme des Papstes. Das ist lustig und nichts Undenkbares, gerade geerdet genug, um wahr zu sein. Vielleicht will der Papst mit der Zeit gehen und passt daher seine Garderobe daher an? Für Twitter ist das AI-Bild gerade glaubhaft genug.
Endgegner Daunen-Papst: Twitter-User halten AI-Bild für real – So erkennt man Fakes
Wie erkennt man ein Bild einer AI? Damit man in Zukunft nicht selbst in die AI-Falle tappt, gibt es ein paar Tricks und Tipps, wie man aktuell Bilder von Programmen wie Dall-E, Midjourney oder Stable Diffusion erkennt. Sieht man einen Menschen im Bild, sollte man zuerst auf seine Hände schauen. Denn damit haben Bild-AIs aktuell noch ihre Probleme. Schnell produzieren sie hier ein Wirrwarr aus zu vielen Fingern oder rendern Ringschmuck an die seltsamsten Stellen. Gleiches gilt für Text, der ist für Midjourney und Co. anders als bei Chat GPT oft noch ein Buch mit sieben Siegeln.
Daran lassen sich derzeit AI-Fakes von Midjourney, Dall-E oder Stabile Diffusion gut erkennen:
Falsch dargestellte Hände
Text nicht richtig generiert
Weichgezeichneter Look
Logiklöcher innerhalb des Bildes
Generell ist es außerdem hilfreich, sich den generellen Look des Bildes anzuschauen. Viele AIs neigen noch dazu, vermeintlich fotorealistische Bilder zu glätten. Das lässt sich besonders im Gesicht von Franziskus gut erkennen, hier fehlt die Struktur. Ebenso sollte man sich immer fragen, wie realistisch es ist, was ich hier gerade sehe? Schnell schleichen sich auch offensichtliche Ungereimtheiten in ein AI-Bild. Im Foto von Franziskus mit den litten Sneakern, schwebt im Hintergrund zum Beispiel einfach ein Paar Beine in der Luft.