Desinformation stellt eine große Herausforderung für unsere Gesellschaft dar. Konzertierte Desinformations-Kampagnen sind ein Aspekt hybrider Bedrohungen, welche einerseits darauf abzielen können, konkrete kritische Infrastrukturen zu stören oder zu beschädigen – wie z.B. die Verteilungssicherheit von Energieträgern, Rohstoffen oder Medikamenten – oder andererseits, erweiterte kritische Infrastrukturen wie demokratische Einrichtungen zu unterminieren und das Vertrauen in sie oder deren Vertreter zu zerstören.
Ein rechtzeitiges Erkennen von Desinformations-Kampagnen stellt somit einen essenziellen Beitrag zur Resilienz gegenüber solcher Bedrohungslagen dar. Aktuell stehen jedoch kaum Hilfsmittel zur Verfügung, um aktiv und frühzeitig Desinformations-Kampagnen zu erkennen. Betroffene erfahren oft viel zu spät über deren Involvierung, was deren Möglichkeiten einschränkt, wirksam darauf reagieren zu können. Oft bleibt nur noch Schadensbegrenzung übrig. Eine frühzeitige Erkennung solcher Trends würde einen Handlungsspielraum verschaffen, um z.B. geeignete Gegendarstellungen auszuarbeiten. DesinFact hat zum Ziel, den Forschungsstand zur automatischen Erkennung von Desinformationstrends zu verbessern, Lücken in technischen, rechtlichen und ethischen Bereichen zu identifizieren und geeignete Ansätze zu entwickeln, um ein solches System zu ermöglichen.
Zur Erkennung von Desinformations-Kampagnen müssen unterschiedliche Datenquellen überwacht werden, um Trends identifizieren zu können. Damit diese in weiterer Folge automatisiert als Desinformations-Kampagne bewertet werden können, müssen Ansätze zur Anwendung kommen, diehöchsten Qualitätsstandards entsprechen. Eine Fehlentscheidung – nämlich, dass hier tatsächlich Fake News Inhalte verbreitet werden - fällt auf die Autor:innen oder deren Institutionen zurück und kann deren Ruf beträchtlich schädigen. Gleichfalls schädigen Fehlentscheidungen das Ansehen der Anbieter solcher Technologien – also der beteiligten Konsortialpartner - sowie das öffentliche Vertrauen in eine solche Technologie.
Deshalb liegt der Fokus in DesinFact auf der Steigerung der Vertrauenswürdigkeit (Trustworthiness) in technischen, rechtlichen und ethischen Belangen und stellt ein Hauptaugenmerk der Forschungstätigkeit dar. Es sollen Methoden zur messbaren Qualitätssteigerung bzw. Erklärbarkeit der Entscheidungen erforscht werden. Diese Methoden sollen sowohl für Expert:innen als auch für operative Betreiber:innen verständlich sein.
Ein Aspekt zur Steigerung der Genauigkeit ist die Verknüpfung der Analyse von Netzwerkstrukturen und Kommunikationsmuster mit Inhaltsbasierter Analyse. Hierfür sollen in DesinFact Methoden zur Erkennung von Verbreitungswegen und Schlüssel-Aktoren in Desinformations-Netzwerken erforscht und mit inhaltsbewertenden Verfahren verknüpft werden. Ein weiterer Fokus von DesinFact besteht in der Erforschung einer möglichen öffentlichen Bereitstellung eines Systems zur Erkennung von Desinformation. Ein solches System soll es Bürger:innen ermöglichen, online Inhalte auf Desinformation hin untersuchen zu lassen. DesinFact wird dabei sozio-technische Aspekte erforschen, welche für eine adäquate Einführung einer solchen Technologie relevant sind.
Da Desinformation jedoch eine hochkomplexe Aufgabenstellung ist, deren Einschätzung von zahlreichen Faktoren, wie z.B. Alter, Allgemeinbildung oder kulturellem, politischem sowie religiösem Hintergrund, abhängt, sind kontroversielle Entscheidungen kaum vermeidbar. Dementsprechend müssen sowohl die Bewertungssysteme als auch die Ergebnispräsentation klar und verständlich sein. Entsprechende interdisziplinäre Studien sind zentrale Inhalte von DesinFact.
ProjektleiterIn
Alexander Schindler, Austrian Institute of Technology GmbH (AIT)
Projekt- bzw. KooperationspartnerInnen:
Complexity Science Hub
Josefstaedter Strasse 39, 1080 Wien, Österreich
Kontakt: Miroslav Mirchev (mirchev(at)csh.ac.at)
leiwand AI
https://www.leiwand.ai
1060 Wien, Linke Wienzeile 42/1/5
Kontakt: Thomas Treml (thomas.treml(at)leiwand.ai)
Universität für Weiterbildung Krems
Dr.-Karl-Dorrek-Straße 30, 3500 Krems
Department für E-Governance in Wirtschaft und Verwaltung /
Zentrum für Infrastrukturelle Sicherheit
https://donau-uni.ac.at/zis
Kontakt: Walter Seböck (walter.seboeck(at)donau-uni.ac.at)
X-Net Services GmbH
Spittelwiese 15, 4020 Linz, Österreich
Kontakt: Katharina Kloiber kk(at)x-net.at
Bundeskanzleramt
Am Ballhausplatz 2, 1010 Wien, Österreich
Bundesministerium für Landesverteidigung
Roßauer Lände 1, 1090 Wien, Österreich
Kontakt: Michael Suker michael.suker(at)bmlv.gv.at
Kontakt:
Alexander Schindler
Austrian Institute of Technology GmbH
Giefinggasse 4, 1210 Wien, Österreich
Telefon: +43 50550-2902
E-Mail: Alexander.schindler(at)ait.ac.at
Homepage:www.ait.ac.at
Website zu Ihrem gegenständlichen Projekt:www.desinfact.ait.ac.at
