Wahrheit sichtbar machen

Schutz vor Täuschung im Netz: KI entlarvt Deepfakes

Das Berliner Startup Gretchen AI, ein Spin-off des Deutschen Forschungszentrums für Künstliche Intelligenz (DFKI), hat eine Plattform entwickelt, die Manipulationen in Bild, Video und Sprache erkennt. Außerdem analysiert sie Kontextverschiebungen – also ob Inhalte aus ihrem ursprünglichen Zusammenhang gerissen wurden. Das soll helfen, Wahrheit und Fälschung im Internet besser zu unterscheiden und Informationen können zuverlässiger auf Echtheit überprüft werden.

Mit nur einer Anfrage können Analysen und Prüfungen gestartet werden: der sogenannten „Gretchen-Frage“ (in Anlehnung an die alles entscheidende Frage in Goethes Faust). Gretchen AI wurde für seine Deepfake-Erkennung ausgezeichnet und arbeitet mit der dpa und verschiedenen Medienhäusern zusammen. Auch Unternehmen können die Technik nutzen, um ihre Daten sicher zu nutzen und Kundenfragen fehlerfrei zu beantworten. Ziel der Plattform ist, Desinformation wirksam einzudämmen.