Diese Akademiker stehen an vorderster Front der Fake-News-Forschung

Dies ist der zweite Artikel einer dreiteiligen Serie über die Menschen hinter dem Phänomen der Fehlinformationen. Teil eins zeigte Studenten, die an Projekten im Zusammenhang mit Fehlinformationen arbeiteten, und Teil drei stellte berüchtigte Fake-News-Autoren vor.

LYON, Frankreich – Amy Zhang war Tausende von Kilometern entfernt, als ihre Arbeit auf der Web Conference präsentiert wurde. Sie ist Informatikforscherin am Massachusetts Institute of Technology, hat aber noch immer keine Möglichkeit gefunden, an zwei Orten gleichzeitig zu sein.

„Ich habe gehört, dass es wirklich gut gelaufen ist“, sagte sie zu Poynter. „Die beiden Projekte sind nicht völlig unabhängig voneinander. Es ist nur bedauerlich, dass sie am selben Tag waren.“

Während Co-Autor An Xiao Mina, Produktdirektor des gemeinnützigen Technologieunternehmens Meedan, Ende April in Lyon präsentierte, Zhang – ein ehemaliger Software-Ingenieur – half einem Masterstudenten bei der Präsentation eines Projekts über Online-Belästigung auf einer anderen Konferenz in Montreal. Ihr Papier befasst sich mit den verschiedenen Möglichkeiten, wie Online-Nachrichtenartikel den Lesern Glaubwürdigkeit signalisieren.

Auf der Webkonferenz sagte Mina, sie hätten festgestellt, dass Dinge wie aggressive Anzeigenplatzierung die Wahrnehmung der Glaubwürdigkeit der Teilnehmer verringerten, während die Anzahl der Anzeigen dies nicht tat. Gleichzeitig wirkten sich Clickbait-Titel und ein emotional aufgeladener Ton negativ auf die Glaubwürdigkeit der Artikel aus.

Lesen Sie dieses interessante Papier von *10 Autoren* darüber, welche Signale Nachrichtenartikeln Glaubwürdigkeit verleihen, das in Zusammenarbeit mit veröffentlicht wurde @schnupft , @AP und andere. #DieWebConf https://t.co/1rD07WhkBe

— Daniel Funke (@dpfunke) 25. April 2018

Diese Ergebnisse kommen zu einem Zeitpunkt von Hälfte Händeringen darüber, wie Nachrichtenkonsumenten durch Online-Fehlinformationen ausgetrickst werden.

Zhang und Mina haben ihr Papier zusammen mit 12 anderen Forschern, Technologen und Faktenprüfern verfasst, die Teil der sind Glaubwürdigkeitskoalition , eine gemeinsame Anstrengung, die von Meedan und gegründet wurde Hacker/Hacker um Lösungen für das abnehmende Vertrauen in Nachrichten zu finden. Zu den Mitgliedsorganisationen gehören Snopes, Associated Press und Climate Feedback.

Diese Zusammenarbeit – gepaart mit der Tatsache, dass dies das erste Jahr war, in dem die 24-jährige Webkonferenz stattfand hatte eine Spur die sich der Überprüfung von Fakten und Fehlinformationen widmen – spricht Bände über die Nachfrage nach der Erforschung von Fehlinformationen angesichts des wachsenden Interesses an gefälschten Nachrichten in den letzten Jahren. Zhang sagte, dass die Expansion das erste war, was ihr Interesse an der Erforschung des Phänomens geweckt hat, was sie seit Beginn des MIT-Promotionsprogramms im Jahr 2014 tut.

„Ich bin Informatikerin“, sagt sie. „Es war irgendwie natürlich, dass Fehlinformationen auf meinem Radar auftauchten. Der Schwerpunkt meiner Arbeit liegt eher auf der Erstellung von Tools – welche Art von Tools könnten wir alltäglichen Benutzern zur Verfügung stellen, um ihre Informationen und die Inhalte, die sie sehen, besser zu verwalten.“

Im vergangenen Jahr ist das Interesse an der Erforschung von Fehlinformationen explodiert. Fake-News-Studien regelmäßig anziehen hochkarätige – wenn auch häufig fehlerhafte – Berichterstattung. Verschiedene Organisationen sind Katalogisierung die neuesten Forschungsergebnisse, einschließlich des International Fact-Checking Network.

Die Erforschung von Fehlinformationen ist jedoch nicht auf Labore, Klassenzimmer und Online-Portale beschränkt – Technologieunternehmen greifen zunehmend auf diese Arbeit zurück, um zu informieren, wie sie auf ihren Plattformen mit gefälschten Nachrichten umgehen.

Am Mittwoch gab Google sein Engagement mit bekannt Datacommons.org , ein neues Projekt, das darauf abzielt, Plattformdaten mit Forschern und Journalisten zu teilen. Facebook angekündigt ein ähnliches Programm im vergangenen Monat, um Forschern dabei zu helfen, die Auswirkungen sozialer Medien auf Wahlen zu messen.

„Ich denke, Papiere an sich sind nicht so nützlich, außer für andere Akademiker“, sagte Zhang. „Forscher können eine Menge politischer Empfehlungen liefern und möglicherweise Regierungen und Technologieunternehmen helfen, das Problem besser zu verstehen.“

Von Professoren bis zu Doktoranden, hier sind einige der Menschen, die daran arbeiten, unser kollektives Verständnis von Fehlinformationen zu verbessern. Kennst du jemanden, von dem du denkst, dass wir ihn kennen sollten? Senden Sie uns eine E-Mail an Email .

Leticia Bode, Georgetown University

Vor ein paar Jahren, als sich Leticia Bodes Forschung hauptsächlich auf politische Informationen in sozialen Medien konzentrierte, war die häufigste Frage, die ihr gestellt wurde, immer die nach gefälschten Sachen.

„Der Kontakt mit politischen Informationen kann hilfreich sein, um die Wahlbeteiligung oder andere Arten der Beteiligung zu motivieren, aber wenn sie falsch informiert, ist das ein lohnender Kompromiss?“ sagte sie Poynter in einer E-Mail. „Ich dachte, ich müsste anfangen, Fehlinformationen in den sozialen Medien zu untersuchen, um diese Frage zu beantworten, aber dann interessierte mich die gezieltere Korrektur von Fehlinformationen mehr.“

Als sie begann, Fehlinformationen zu recherchieren, schien dies eine natürliche Erweiterung ihrer Arbeit als Assistenzprofessorin im Programm für Kommunikation, Kultur und Technologie an der Georgetown University zu sein. Jetzt ist sie Autorin mehrerer Studien zu diesem Phänomen – insbesondere zu den Auswirkungen von Korrekturen in sozialen Medien.

Eine ihrer Studien wurde sogar von Facebook genutzt, um seine Bemühungen zur Bekämpfung von Fehlinformationen weiterzuentwickeln.

„Akademische Forschung wird nicht immer sofort oder effektiv von denen genutzt, denen sie helfen könnte, daher war das eine sehr stolze Leistung für uns“, sagte sie.

Diese Studie , mit dem Titel „In Related News, That Was Wrong: The Correction of Misinformation Through Related Stories Functionality in Social Media“ und Co-Autorin von Emily K. Vraga, wurde als Grundlage gegeben für eine Dezember-Änderung in der Art und Weise, wie Facebook mit gefälschten Nachrichten umgeht. Anstatt Geschichten, die von Faktenprüfern entlarvt wurden, als falsch zu kennzeichnen, fügt die Plattform nun entsprechende Faktenchecks hinzu.

Es sei ein Paradebeispiel dafür, wie die Erforschung von Fehlinformationen reale politische Auswirkungen habe, sagte Bode. In Zukunft würde sie gerne mehr Arbeit darüber sehen, welche Arten von Menschen am anfälligsten für Fehlinformationen sind und welche Arten von Nachrichten am effektivsten sind, um ihre Ansichten zu ändern.

„Forschung kann uns helfen, die Mechanismen hinter Mustern zu verstehen, die wir sehen, und das Verständnis dieser Mechanismen ist der Schlüssel, um Verhaltensweisen oder Ergebnisse ändern zu können“, sagte sie. „Mehr Informationen sind immer gut!“

Matthias Nießner, Technische Universität München

Matthias Nießner zeigte sich überrascht von der Resonanz auf sein Papier.

„Es wurde weithin als bedrohlicher Weg für die Verbreitung gefälschter Nachrichten angesehen“, sagte er zu Poynter. „Eigentlich war es sehr überraschend für uns, weil die Filmindustrie das seit Jahren macht – der einzige Unterschied ist, dass es ein bisschen einfacher geworden ist.“

Das Projekt 2016 , genannt „Face2Face“, stellt einen Ansatz vor, YouTube-Videos mithilfe von maschinellem Lernen und Gesichtserkennungstechnologie in Echtzeit nachzustellen. Einfach ausgedrückt: Es ermöglicht Personen mit einer Webcam, ein YouTube-Video von jemandem zu ändern, der spricht, damit es so aussieht, als würde er etwas anderes sagen.

Das bringt es in den Eimer der „Deepfake“-Videotechnologie oder der Verwendung künstlicher Intelligenz, um ein Video grundlegend zu modifizieren. Dieses Phänomen war Gegenstand von viele zu Weltuntergang Geschichte in den letzten Monaten, aber Nießner, Professor am Visual Computing Lab an der Technischen Universität München, sagte, die Technologie sei nicht nur nicht neu, sondern noch rudimentär.

„Das wird noch eine Weile so bleiben“, sagt Nießner, der mit der Grafikforschung begann. „Aus Forschungssicht besteht großes Interesse daran, wie weit man Manipulationen vorantreiben kann, aber praktisch wird es eine Weile dauern, bis man wirklich kugelsichere Fälschungen hat.“

„Für jemanden, der nicht weiß, wie diese Technologie funktioniert, ist es sehr schwierig.“

Dennoch bleibt die Erkennung von Deepfake-Videos im Internet eine Herausforderung für Faktenprüfer. Vor diesem Hintergrund arbeitet Nießners Team an Methoden wie z FaceForensik , ein System, das aus einem Datensatz von etwa einer halben Million bearbeiteter Bilder aus mehr als 1.000 Videos schöpft, um Muster in manipulierten Videos zu erkennen.

Abgesehen von der Entwicklung von Möglichkeiten, Deepfakes online auszusortieren, hofft Nießner, dass die Arbeit seines Teams einen offenen Dialog mit Technologieunternehmen und Nachrichtenkonsumenten über Medienkompetenz in Gang setzen wird.

„Ein Grund, warum wir all diese Dinge getan haben, ist, dass wir wirklich das Bewusstsein schärfen wollten“, sagte er. „Letztendlich müssen wir die Menschen so erziehen, dass sie verstehen, was möglich ist. Die offene Forschungsgemeinschaft muss das tun.“

Brendan Nyhan, Dartmouth College

Wenn Sie eine Studie über Fake News gelesen haben, haben Sie wahrscheinlich Brendan Nyhan gelesen.

Der Professor am Dartmouth College und gelegentlicher Mitarbeiter der New York Times ist produktiv, da er Autor ist mehrere weit zitiert Studien zu Fehlinformationen. Obwohl ihre Ergebnisse seitdem umstritten sind, einschließlich von Nyhan selbst , seine Forschung zum sogenannten „Backfire-Effekt“ – der postulierte, dass Menschen eher Fehlinformationen glauben, die ihre Ansichten bestätigen, wenn sie mit einer entsprechenden Korrektur präsentiert werden häufig gewesen der Basis für hochkarätige Geschichten über Faktenchecks.

Aber seine Arbeit erhielt nicht immer so viel Aufmerksamkeit.

„Als Jason (Reifler) und ich anfingen, auf diesem Gebiet zu forschen, waren Fehlinformationen nicht wirklich ein Thema“, sagte er zu Poynter. „Wenn Sie versuchen, neue Forschungen durchzuführen, kann die Veröffentlichung eine Herausforderung darstellen, da sich noch keine Reihe von Standards für die Herangehensweise an Forschungsfragen oder die Definition von Schlüsselbegriffen herausgebildet haben. Ohne diesen gemeinsamen Rahmen ist es schwierig, Fortschritte zu machen.“

Nach ihrem College-Abschluss im Jahr 2000 startete Nyhan den Blog Spinsanität – eine Reaktion auf das, was er als Mangel an sachlicher Debatte während der US-Präsidentschaftswahlen 2000 ansah. Dieser faktenprüfende Vorläufer von Landed Syndication arbeitet mit Verlagen wie Salon und The Philadelphia Enquirer zusammen, bevor er 2005 geschlossen wurde, als Nyhan mit der Graduiertenschule begann.

Er schrieb seine Dissertation über einen politischen Skandal, der Bill Clintons Präsidentschaft in seiner Jugend beeinträchtigte. Aber nach seinem Abschluss neigte sich seine Arbeit mehr und mehr zu Fehlinformationen.

„Ich denke, ich bin am stolzesten auf die Art und Weise, wie ich dazu beigetragen habe, die Fehlinformationsforschung in den Sozialwissenschaften voranzubringen und ein größeres Publikum zu erreichen“, sagte er. „Gelehrte haben zu lange faktische Überzeugungen und das Studium der öffentlichen Meinung und der politischen Psychologie vernachlässigt … es ist wichtig für uns, aufzuholen, und ich hoffe, wir haben das getan.“

Welche Fragen halten Nyhan also nachts immer noch wach?

„Wir müssen am meisten über die Rolle der Eliten bei der Schaffung und Förderung von Fehlwahrnehmungen und Fehlinformationen lernen“, sagte er. „Ich glaube nicht, dass wir die Strategie der Fehlinformation sehr gut verstehen oder wie Überzeugungen dazu beitragen können, dass sachliche Überzeugungen polarisiert werden.“

David Rand, Yale-Universität

David Rand war nicht an Fehlinformationen interessiert, bevor es cool war.

„Wie für viele Menschen war es die Wahl 2016, die diese Themen für mich als spannendes und wichtiges Studiengebiet in den Fokus rückte“, sagte er Poynter in einer E-Mail.

Aber seitdem ist der außerordentliche Psychologieprofessor der Yale University ein Kraftpaket, das Forschungen durchführt, die für den anhaltenden Kampf der Technologieplattformen gegen Fehlinformationen relevant sind. Seine Arbeit war kritisch gegenüber Facebook, einschließlich Studien die ihre Bemühungen zur Überprüfung von Fakten in Frage stellen und einen offeneren Datenaustausch fordern.

Für Rand liegt die Bedeutung der Forschung in ihrer Fähigkeit, weitreichende politische Maßnahmen zu beeinflussen.

„Erstens ist die Grundlagenforschung, die Aufschluss darüber gibt, welche Faktoren den Glauben der Menschen an und den Wunsch, unterschiedliche Geschichten zu teilen, wirklich wichtig, um die Entwicklung wirksamer Interventionen zu steuern“, sagte er. „Und zweitens können akademische Forscher potenzielle Interventionen in der ersten Runde bewerten, um herauszufinden, was am vielversprechendsten erscheint.“

In einer großen Studie vom September stellten Rand und sein Forschungspartner Gordon Pennycook, ein Postdoktorand in Yale, fest, dass das Markieren gefälschter Nachrichten auf sozialen Plattformen wie Facebook ihre Glaubwürdigkeit verringert, während es nicht gekennzeichneten falschen Geschichten mehr Glaubwürdigkeit verleiht. Die Arbeit wirft Licht auf ein Programm, das zur sichtbarsten Anstrengung des Technologieunternehmens zur Bekämpfung von Fake News und Facebook geworden ist später aufgegeben die Praxis zugunsten des einfachen Anhängens relevanter Faktenchecks.

„Ich habe mich besonders gut über unsere Fähigkeit gefühlt, Studien zur Bewertung von Interventionen durchzuführen, die derzeit verwendet werden … und unsere Ergebnisse dann schnell als Arbeitspapiere in die Öffentlichkeit zu bringen, um die öffentliche Debatte und Politikgestaltung zu unterstützen“, sagte er.

Rand sagte jedoch, dass das, was Forscher immer noch nicht über Fehlinformationen wissen, in vielerlei Hinsicht die grundlegendsten Fragen sind: Welche Auswirkungen hat die Exposition gegenüber Fehlinformationen auf die Einstellung der Menschen zur Politik und das Vertrauen in die Medien?

„Und wie unterscheidet sich dies bei verschiedenen Arten von Fehlinformationen?“ er sagte. „Zweitens, was sind wirksame Interventionen, um den Glauben an Fehlinformationen zu verringern und – wahrscheinlich noch wichtiger – das Teilen von Fehlinformationen zu verringern?“

Briony Swire-Thompson, Northeastern University

Die Forschung von Briony Swire-Thompson kann in zwei Bereiche unterteilt werden.

„Warum Menschen Korrekturen vergessen, aber auch die ideologischen Überzeugungen der Menschen und warum das die Menschen vielleicht zurückhält“, sagte sie zu Poynter.

Ironischerweise weiß sie immer noch nicht, wo sich diese beiden Konzepte treffen. Und darüber möchte sie gerne mehr erfahren.

Swire-Thompson ist jetzt Postdoktorandin am Network Science Institute der Northeastern University und hat für das Massachusetts Institute of Technology daran gearbeitet, wie die Überprüfung von Fakten die Meinung der Menschen zu bestimmten Themen verändert – aber nicht ihre Stimmen. Sie hat auch untersucht, wie sich die Vertrautheit mit Fehlinformationen auf ihre Empfänglichkeit für Korrekturen auswirkt.

Insofern hat sie Glück.

„Ich denke, viele Leute in Kognitions- und Gedächtnisstudien beschränken sich auf theoretische Grundlagen, aber Fehlinformationen sind meiner Meinung nach einfach so anwendbar“, sagte sie.

Swire-Thompson interessierte sich erstmals 2009 für Fehlinformationen, als ihre Honours Degree Supervisors an der University of Western Australia (UWA), Ullrich K. H. Ecker und Stephan Lewandowsky Sie begann, das Phänomen zu erforschen. Sie liebte es sofort, machte aber vor Beginn ihrer Promotion eine zweijährige Pause in Ecuador, weil sie wusste, dass sie danach anfangen musste zu arbeiten.

„Es hat mir sicherlich geholfen, mir sicher zu sein, dass die Erforschung von Fehlinformationen wirklich wichtig ist“, sagte sie. „Ich habe gesehen und miterlebt, wie schwierig es ist, Dinge wie psychische Gesundheitsprobleme zu korrigieren, die ansteckend sind. Ich habe dort in einem Krankenhaus gearbeitet, und ich denke, egal wohin Sie gehen – wenn Sie bereits Ihr Interesse an Fehlinformationen geweckt haben – Sie sehen sie irgendwie überall.“

Als sie an die Universität zurückkehrte, machte sie genau dort weiter, wo sie aufgehört hatte.

Während sie ihren Ph.D. Dissertation an der UWA, sagte sie, die Leute seien verwirrt darüber, warum sie für einen Abschluss in Psychologie über die Veränderung von Überzeugungen im Laufe der Zeit forsche. Aber als sie es einreichte, verstanden sie, warum das Thema – und was Forscher nicht darüber wissen – wichtig war.

„Im Laufe der Zeit ist die Anwendung (der Fehlinformationsforschung) immer offensichtlicher geworden“, sagte sie. „Dies ist ein so neues Forschungsgebiet, und wir haben die zugrunde liegenden Mechanismen noch nicht gut im Griff.“