Information

Desinformationskampagnen, bei denen irreführende Informationen gezielt im großen Stil verbreitet werden, sind eine zentrale Bedrohung für den politischen Prozess und gesellschaftlichen Zusammenhalt geworden. Sie können Wahlen beeinflussen und Menschen zu (selbst-)schädigendem oder gar terroristischem Verhalten verleiten. Neben politischer Lagerbildung und Meinungspolarisierung leisten sie auch anderen gesellschaftsschädlichen Phänomenen Vorschub, wie beispielsweise Verschwörungstheorien.

Das vom Bundesministerium für Bildung und Forschung (BMBF) geförderte Projekt DeFaktS verfolgt einen umfassenden Ansatz zur Erforschung und Bekämpfung von Desinformation. Auf der Basis von extrahierten Nachrichten aus verdächtigen Social-Media- und Messenger-Gruppen wurde eine Künstliche Intelligenz (KI) trainiert, die für Desinformationen charakteristische Faktoren und Stilmittel erkennen kann. Diese KI ist Basis einer Komponente für eine XAI (Explainable Artificial Intelligence), die zum einen in einer eigens dafür entwickelten App und zum anderen in die Beteiligungssoftware Adhocracy integriert wurde. So können Nutzer:innen unterschiedlicher Online-Angebote transparent über das mögliche Auftreten von Desinformationen informiert und gewarnt werden. 

Ein weiteres Ziel von DeFaktS ist es, die XAI-Komponente über die Entwicklung einer Programmierschnittstelle auch für Dritte zugänglich zu machen und somit zu einer Lösung beizutragen, mit der sich Onlineplattformen möglichst automatisiert moderieren lassen.

Während der Projektlaufzeit von Januar 2022 bis Dezember 2024 leitet das FZI Forschungszentrum Informatik das Konsortium mit den Projektpartnern Murmuras UG, Liquid Democracy e.V. und der Philipps-Universität Marburg.