KI macht Fake News glaubwürdiger und bringt Detektoren an ihre Grenzen

Fake News lassen sich mit generativer KI nicht nur schneller, sondern auch systematischer produzieren. Forschende der Hong Kong Polytechnic University und des Harbin Institute of Technology haben mit “MegaFake” einen Datensatz entwickelt, der mehr als 120.000 maschinell erzeugte Beiträge umfasst. Die Forschenden unterscheiden dabei vier Formen der Täuschung: KI kann den Stil einer Nachricht verändern, Fakten gezielt manipulieren, wahre und falsche Informationen miteinander vermischen oder komplette erfundene Geschichten erzeugen.

Besonders brisant ist dabei nicht allein die Menge, sondern die Glaubwürdigkeit der Texte. Die Studie zeigt, dass KI-generierte Falschmeldungen sprachlich so gestaltet sind, dass sie wie professionelle Nachrichten wirken. Bei der Vermischung wahrer und falscher Informationen kann zudem ein Teil des Inhalts korrekt erscheinen, während andere Elemente manipuliert sind. Genau diese Kombination erschwert die kritische Prüfung durch Leserinnen und Leser.

Auch die technischen Gegenmaßnahmen stehen vor Problemen. Die Forschenden stellen fest, dass Modelle, die mit von Menschen verfassten Fake News trainiert wurden, beim Erkennen maschinell erzeugter Falschinformationen deutlich schlechter. Selbst moderne Systeme haben Schwierigkeiten, bei allen unterschiedlichen Formen von KI-generierter Täuschung Fake News sicher zu erkennen. Schlussendlich lässt sich sagen, dass für die Erkennung von Fake News im Zeitalter großer Sprachmodelle Datensätze und Detektoren gebraucht werden, die speziell auf diese neuen Muster ausgerichtet sind.