Factiverse: Walka z dezinformacją dzięki fact-checkingowi opartemu na AI

Autor: Zespół Autentika

Gaute Kokkvoll, Head of Product w Factiverse, opowiada nam o Factiverse AI Editor – innowacyjnym produkcie zaprojektowanym, by pomagać redakcjom odróżniać fakty od fikcji i opierać swoje materiały na wiarygodnych źródłach.

Tekst jest częścią naszego trend booka „The Newsroom of Tomorrow"

Twierdzenie, że dezinformacja rozprzestrzenia się z prędkością światła, wcale nie jest przesadą. Badanie MIT wykazało, że tweety zawierające nieprawdę są o 70% bardziej narażone na retweetowanie niż tweety prawdziwe, a niemal 80% konsumentów w Stanach Zjednoczonych zgłosiło, że widziało fałszywe informacje na temat wybuchu koronawirusa, gdy w 2020 roku zaczęła się pandemia.

W tej rzeczywistości fact-checking pozostaje zadaniem czasochłonnym i żmudnym – dziennikarze i twórcy treści muszą często przesiewać ogromne ilości tekstu, by weryfikować informacje i ręcznie sprawdzać każdy fakt, upewniając się, że wiadomości są dokładne. Do tej pory większość wysiłków na rzecz uczynienia AI wiarygodnym narzędziem do fact-checkingu okazała się mniej lub bardziej daremna. Modele AI brakowało aktualnej wiedzy, nie dawały perspektywy na złożone tematy i nie były świadome ważnych wydarzeń globalnych.

Niedawny wzrost znaczenia modeli językowych zaostrzył wyzwanie dostępu do wiarygodnych informacji. „Wynik ChatGPT z ostatnich 14 dni przekracza to, co zostało opublikowane od czasu wynalezienia prasy drukarskiej" – mówi Gaute Kokkvoll. Czy algorytmiczny fact-checking jest realną opcją dla redakcji?

[Factiverse](link) może mieć odpowiedź. I brzmi ona: „tak".

Fact-checking pozostaje zadaniem czasochłonnym i żmudnym dla dziennikarzy (obraz wygenerowany przez Midjourney)

Więcej niż tylko zautomatyzowany fact-checking

W 2014 roku, na Uniwersytecie w Stavanger na zachodnim wybrzeżu Norwegii, grupa badaczy zaczęła badać możliwości zautomatyzowanego fact-checkingu, skupiając się na różnych modelach językowych. Zespół rozpoczął czteroletni projekt badawczy, analizując 50 000 fact-checków z wyborów prezydenckich w 2016 roku.

Ten rozległy zbiór danych dostarczył cennych spostrzeżeń na temat wyzwań związanych z odróżnianiem twierdzeń faktycznych od niefaktycznych. Pozwolił zespołowi stworzyć końcowy produkt – rozwiązanie oparte na API, które integruje się z systemami zarządzania treścią (CMS). W ten sposób staje się integralną częścią przepływu pracy przy tworzeniu treści, oszczędzając czas dziennikarzy i zapewniając dokładność.

Jak wskazuje Gaute Kokkvoll, Factiverse może weryfikować treści generowane przez AI i twierdzenia formułowane przez ChatGPT, Bard lub inne asystenty AI. Jak to jest możliwe? Factiverse wykorzystuje API Bing, Google i Wikipedii do pobierania wyników, ale mają swój sekret: stosują własny algorytm rankingowy oparty na historycznej wiarygodności źródła w danym temacie. Takie podejście zapewnia, że system nie umieszcza żadnego źródła na czarnej liście ani go nie cenzuruje, lecz dostarcza użytkownikom kompleksowy przegląd.

Gaute wyjaśnia:

Jak dodaje Gaute, Factiverse zapewnia też linki do każdego źródła, uszeregowane według wiarygodności, pomagając autorowi podjąć świadomą decyzję dotyczącą autentyczności treści.

Kluczową kwestią jest to, że wyszukiwarki często priorytetyzują interesy komercyjne i pozycjonowanie SEO ponad wiarygodność. Factiverse wyobraża sobie wiarygodną wyszukiwarkę uwzględniającą historyczną wiarygodność i pomagającą użytkownikom dostępować do dokładnych informacji. Ten ambitny cel jest zgodny z misją firmy polegającą na transparentności.

Factiverse jest na przykład świadome złożoności recenzowania kontrowersyjnych kwestii. W takich przypadkach dostarcza kontekstu i dodatkowych informacji, zamiast formułować binarne twierdzenia prawda/fałsz. Factiverse daje użytkownikom możliwość podejmowania świadomych decyzji poprzez podsumowania i ramki faktów.

Tekst jest częścią naszego trend booka „The Newsroom of Tomorrow"