Fake-News sind falsche oder irreführende Informationen, die bewusst verbreitet werden, um Meinungen zu manipulieren oder bestimmte Interessen zu fördern. Sie gefährden Demokratien, indem sie das Vertrauen in Medien und Institutionen untergraben und die öffentliche Meinung verzerrt beeinflussen. Im Jänner 2024 stellte das Bundesheer das Risikobild 2024 für Österreich vor und hielt darin fest, dass Desinformationskampagnen eine der größten Bedrohungen für die Sicherheit Österreichs als Teil hybrider Bedrohungen sind. Das Bedrohungspotenzial durch Desinformationskampagnen wird durch das Aufkommen von Bots und Fake-News-Netzwerken im Internet verschärft, die mit KI-Unterstützung sehr effektiv und mit wenig Aufwand erstellt werden können.

Obwohl Desinformationskampagnen ein massives Problem für die Zukunft darstellen, werden deren negativen Auswirkungen in der breiten Öffentlichkeit unterschätzt. Auch in der Forschung ist der Wissenstand um Fake-News-Netzwerke und deren technologische Umsetzung gering, da gerade im letzten Jahr massive technologische Fortschritte stattfanden, die solche Fake-News-Kampagnen durch automatisch erstellte Text-, Bild- und Videoinhalte, erst möglich machen.

Um Fake-News-Netzwerken entgegenzuwirken, wird im TruthGuard Projekt erstmals beide Seiten von Fake-News untersucht, nämlich sowohl die Generierung, als auch die Identifikation von Fake-News. Durch die beidseitige Untersuchung kann ein ganzeinheitliches System erforscht werden, dass sowohl State-of-the-Art Methoden verbessert als auch für bewusstseinsbildende Maßnahmen eingesetzt werden kann. Die Maßnahmen des Projekts werden durch einen Oversight Board mit externen Partnern begleitet, das sich mit ethischen und rechtlichen Fragestellungen des Projekts befasst und dessen Überlegungen in die wissenschaftlichen und technischen Entwicklungen einfließen. Das Partner-KMU wird einen umfassenden Verwertungsplan erstellen und die wissenschaftlichen Ergebnisse werden international disseminiert. Die wissenschaftlichen und technischen Ziele von TruthGuard sind folgend aufgelistet:

• Erforschung von Methoden zur wirksamen Regulierung generativer Modelle zur Bekämpfung von Fake-News, einschließlich der Identifizierung von Schwachstellen in der Umsetzung von Ethik-Richtlinien und der Sicherung der Integrität dieser Modelle.
• Erforschung von neuen vollautomatischen Methoden zur Identifizierung von Fake-News bzw. Bots basierend auf Daten von verschiedenen sozialen Medien Netzwerken.
• Integration von einem generierendem und einem identifizierenden Tool von Fake-News in einer Demonstrator-Anwendung (eigenes Mastodon Netzwerk) für spezifische Einsatzszenarien in einer TRL 4-Testumgebung, die mit dem Bedarfsträger als auch mit anderen Stakeholdern getestet werden. Die Szenarien wurden strukturiert mit wissenschaftlichen Frameworks am Anfang des Projektes ermittelt.
• Untersuchung zielgruppenspezifischer Herausforderungen und plattformspezifischer Problemlagen, die zur Entwicklung von gezielten Maßnahmen zur Förderung des kritischen Umgangs mit Informationen führen, um damit die Widerstandsfähigkeit der Zivilbevölkerung gegen Desinformation zu stärken.

ProjektleiterIn
FH-Prof. Dr. Clemens Havas, Fachhochschule Salzburg GmbH

Auflistung der weiteren Projekt- bzw. KooperationspartnerInnen
Austria Institut für Europa- und Sicherheitspolitik
Austrian Institute of Technology
Bundesministerium für Landesverteidigung
neke-neke GmbH
Österreichisches Institut für angewandte Telekommunikation (ÖIAT)

Kontakt
FH-Prof. Dr. Clemens Havas, Fachhochschule Salzburg
Urstein Süd 1, A - 5412 Puch/Salzburg
Telefon: +43-50-2211-1261
clemens.havas(at)fh-salzburg.ac.at 
https://realities.fh-salzburg.ac.at/ 
https://realities.fh-salzburg.ac.at/de/projects/truthguard