Über das Projekt
Mit Hilfe von Künstlicher Intelligenz dazu beitragen, Falschinformationen zu erkennen – das ist das Ziel des Forschungsprojekts defalsif-AI. Im Fokus steht die Entwicklung medien-forensischer Werkzeuge, die von einer breiten Anwenderinnen- und Anwenderbasis genutzt werden sollen. Das Projekt adressiert insbesondere politisch motivierte Desinformation, welche letztlich das Vertrauen in die Demokratie untergräbt.
Die inhaltlichen Forschungsschwerpunkte von defalsif-AI (Detektion von Falschinformation mittels Artificial Intelligence) liegen auf audiovisueller Medienforensik, Textanalyse und der Fusion dieser Technologien mit Hilfe von Künstlicher Intelligenz (KI). Großes Augenmerk liegt dabei auf der nachvollziehbaren und interpretierbaren Präsentation der Ergebnisse – die Letztentscheidung und -bewertung, ob Inhalte „falsch“ sind oder nicht, obliegt dabei den Anwenderinnen und Anwendern.
Das Ziel ist, ein valides Werkzeug für die Analyse von digitalen Inhalten im Internet zu demonstrieren, das eine erste Beurteilung der Texte, Bilder, Videos oder Audios auf Glaubwürdigkeit und/oder Authentizität ermöglicht. Dies schafft die Grundlagen für weitere Handlungsempfehlungen.
Das Projekt umfasst auch eine Analyse und Beurteilung des medien-forensischen Werkzeugs aus rechts- und sozialwissenschaftlicher Perspektive. Abgerundet wird defalsif-AI durch die Ableitung von anwendungsorientierten, technischen und organisatorischen Maßnahmen sowie einem Verwertungsplan für den zukünftigen Betrieb von rechtsstaatlich konformen Desinformations-Analyseplattformen.
Das Projekt wird innerhalb des Sicherheitsforschungs-Förderprogramm KIRAS durch das Bundesministerium für Finanzen (BMF) gefördert und von der Österreichischen Forschungsförderungsgesellschaft (FFG) abgewickelt.
Gefördert von
Das Projekt wird innerhalb des Sicherheitsforschungs-Förderprogramm KIRAS durch das Bundesministerium für Finanzen (BMF) gefördert und von der Österreichischen Forschungsförderungsgesellschaft (FFG) abgewickelt.
Meilensteine
Vom Antrag bis zur Fertigstellung
Projektstart 10/2020
Erstellung von Szenarien und Definition von Anforderungen
Iterative Konzeption 02/2021
Proof of Concept – Konzeption
Demonstration 09/2021
Proof of Concept – Iterative Demonstrationsphase
Evaluierung 07/2022
Proof of Concept – Evaluierungsphase
Zahlen & Fakten
9
Konsortialpartner
24
Monate Projektlaufzeit
6
Arbeitspakete
Woran wird im Projekt defalsif-AI geforscht? Eine kurze Erklärung
What defalsif-AI is all about (Video: YouTube)
Berichterstattung zum Projekt auf APA-Science
Wo wurde über das Projekt defalsif-AI gesprochen? (Auswahl)
In Medien oder Publikationen aller Art, in Vorträgen oder auf Veranstaltungen
Medien
29.7.2022 Artikel auf krone.at (und Kronen Zeitung): „Deepfakes: Auf der Jagd nach digitalen Fälschungen“
28.6.2022 Artikel auf tt.com: „Ein Klitschko nur am Schirm: Deep-Fake-Experte klärt auf“
20.06.2022 Artikel auf krone.at: „KI „defalsif-AI“ soll Fake-News entlarven“
27.06.2022 Artikel auf futurezone.at: „Was ist ein echtes Deepfake-Video?“
9.12.2021 Artikel auf science.apa.at: „Desinformation im Internet: Sich der Welle entgegenstemmen“
19.11.2021 Artikel auf noen.at: „Mit Forschung gegen Fake News“
18.10.2021: Interview mit w24 im Rahmen von „Digital Days Vienna 2021“
9.9.2021 Artikel Der Standard: „Die Software, die Fake-Wahrscheinlichkeiten ermittelt“
27.8.2021 Artikel Die Presse: „Sexismus in allen Nuancen erkennen“
01.03.2021 Interview im Rahmen des ORF Formats „Public Value“. Thema: Einsatz von KI im Journalismus im deutschsprachigen Raum
Sonstige Veröffentlichungen
30.3. 2022 Magazin des Bundesministerium für Inneres (BMI) „Öffentliche Sicherheit“ (Nr. 03-04/2022): AIT-Technologien für die Erkennung von Hate Speech im Netz“
30.09.2021 Artikel auf IKT-Sicherheitsportal onlinesicherheit.gv.at:“Mit Künstlicher Intelligenz gegen Desinformationen“
17.09.2021 Publikation in e & i Elektrotechnik und Informationstechnik: „The defalsif-AI project: protecting critical infrastructures against disinformation and fake news“
22.6.2021 Beitrag Wien Wissen (2/21): „High-Tech im Kampf gegen ‚Fake News'“ (Seite 21)
14. 6. 2021 Video-Beitrag „LET’S TECH“
1.6.2021 Blog-Beitrag auf fti…remixed: „defalsif-ai – Werkzeug zur Erkennung von Fake News“
25.5.2021 Beitrag Newsletter des OVE (Österreichischer Verband für Elektrotechnik): „defalsif-AI – Leitinitiative zur Stärkung der Resilienz gegen Fake News und Desinformation“
10.03.2021 Blog-Beitrag zum defalsif-AI Projekt auf der AIT Homepage
7.5.2021 Beitrag in „New Business“: „Kampf dem Fake im Cyberspace“
Presseaussendungen
9.12.2021 OTS-Aussendung von APA – Austria Presse Agentur und AIT Austrian Institute of Technology: „APA und ORF beteiligen sich an Forschungsprojekt zur Erkennung von Falschinformationen mit Hilfe von Künstlicher Intelligenz“
15.07.2021 Presseaussendung der Fachhochschule St. Pölten: “Sexismus in sozialen Medien automatisch erkennen”. Auch gelaufen als Partnermeldung auf APA-Science
20.05.2021 OTS-Aussendung des Bundesministeriums für Landesverteidigung: “ Moderne Lösungen für die Sicherheit Österreichs“
Präsentationen
6.4.2022: „Pitch“ zu Projekt defalsif-ai: EU-HYBNET-2nd Annual Workshop
14.12.2021: PhD – Poster Presentation: Disinformation Detection: A Visual and Explainable Semi-Supervised Transfer Learning Approach: Evaluation of the Center for Applied Computer Science by the Hessian Ministry; Darmstadt University of Applied Sciences
19.11.2021: PhD – Poster Presentation: Disinformation Detection: A Visual and Explainable Semi-Supervised Transfer Learning Approach: Tag der offenen Tür, Darmstadt University of Applied Sciences
21.9.2021: Präsentation über Fake News / Erkennung von Desinformation: KSÖ-Planspiel bei der Raiffeisenlandesbank
7.7.2021: Präsentation des Projekts im Rahmen von OSZE-Workshop: #SAIFE: Spotlight on AI’s Impact on Freedom of Expression
25. 3. 2021: Präsentation des Projekts anlässlich des Besuchs von Wissenschaftsjournalist Günther Mayr am AIT
28. 1. 2021: Projektpräsentation Freedom Online Coalition
Vorträge/Seminare
21.3.2022: „Fake News & Algorithmen“: Projekt SCIENCE von den Wiener Volkshochschulen in Kooperation mit der Universität Wien sowie der Stadt Wien
18.-20.11.2021: Design Sprint 2021, Seminar für Studierende. Ziel: Studierende der Rechtswissenschaften suchen gemeinsam mit Designer*innen kreative und innovative Lösungen zu datenschutzrechtlichen Fragestellungen, Universität Graz
20.10.2021: „Visionäre Entwicklung der Künstlichen IntelIigenz“, 19. Sicherheitskonferenz Krems 2021
18.10.2021: „Wie man Falschinformationen im Netz erkennen kann und welche neuen Tools uns dabei helfen“: Workshop über Fake News für Schüler*innen von 14-18 Jahren, Digital Days Vienna 2021
14. Juni 2021: "LET'S TECH"-Video-Beitrag online
Wie man rund um Fake News den Durchblick behält und was Social Bots mit all dem zu tun haben, wird im neuen Blogbeitrag des OVE (Österreichischer Verband für Elektrotechnik) erklärt. Der Beitrag, der sich gezielt an junge Menschen richtet, entstand im Rahmen der „LET’S TECH“-Initiative des OVE gemeinsam mit dem Austrian Institute of Technology. Warum es Fake News überhaupt gibt und was wir dagegen tun können, erfährt man im dazu eigens erstellten Videobeitrag des AIT. Auch das Projekt defalsif-AI wird darin vorgestellt.
Video: AIT
21. Mai 2021: Dreharbeiten für ORF-Beitrag über Deep Fakes am AIT
Am 21. Mai fanden am AIT – Austrian Institute of Technology Dreharbeiten des ORF für einen Videobeitrag zum Thema „Fake News and Deep Fakes in Videos“ statt. Der Beitrag wird im Rahmen der neuen Wissenschaftssendung auf ORF 2, „Mayrs Magazin – Wissen für alle“, ausgestrahlt werden. In dem Beitrag berichtet AIT-Projektleiter Martin Boyer über defalsif-AI und stellt in dem Zusammenhang einige Technologien vor, an denen derzeit am AIT gearbeitet wird.
28. Jänner 2021: Projektpräsentation Freedom Online Coalition
AIT-Experte und Projektmanager Martin Boyer präsentierte am 28. Jänner 2021 das „defalsif-AI“-Projekt in einem High-Level-Meeting der Freedom Online Coalition (FOC). Den Rahmen bildete das Treffen der FOC-Task Force „AI and Human Rights“ mit Fokus auf Beiträge aus Österreich. In der Freedom Online Coalition sind 32 Staaten – auch Österreich – vertreten. Sie arbeiten gemeinsam an Strategien für die Durchsetzung von Menschen- und Grundrechten im digitalen Raum. Boyer hob in seiner Präsentation hervor, dass Manipulationen des öffentlichen Diskurses ein Aspekt des generellen Problems digitaler Desinformationsstrategien seien. Er unterstrich den multidisziplinären Charakter von defalsif-AI, getragen von einem breiten Konsortium, das technologische Expertise ebenso garantiert wie enge Zusammenarbeit mit künftigen Usern, rechtliche und sozialwissenschaftliche Analysen und größtmögliche Transparenz der Ergebnisse. Ein weiterer Austausch über möglich künftige Kooperationen und Synergien mit den FOC-Partnern wird nun angestrebt.
Dokumente zum Download
Bei Fragen zur Website schicken Sie bitte eine E-Mail an die Redaktion. Möchten Sie inhaltliche Fragen zum Projekt beantwortet haben, schicken Sie bitte eine E-Mail an die Projektleitung.
Bitte beachten Sie: Alle im Rahmen des Forschungsprojekts defalsif-AI durchgeführten Verarbeitungen personenbezogener Daten beruhen auf § 2d Abs 2 Forschungsorganisationsgesetz (FOG).
