Fact-checking w erze AI: nie tylko dla redakcji

Rozmawialiśmy z Gaute Kokkvoll – Head of Product w Factiverse, opartym na AI rozwiązaniu, które chroni firmy przed ryzykiem związanym ze sztuczną inteligencją. Pierwotnie zaprojektowane do fact-checkingu w redakcjach, Factiverse pomaga teraz analitykom, konsultantom i dziennikarzom weryfikować ważne informacje tekstowe, takie jak wiadomości i raporty. Pomaga szybko dostrzegać zagrożenia i poruszać się w tym zmieniającym się krajobrazie, zapewniając użytkownikom rzetelne fakty niezbędne do sukcesu. Factiverse mierzy się z wyzwaniami takimi jak dezinformacja, cyfrowe zaufanie i przyszłość internetu.

Autentika: Cześć, Gaute, miło znów Cię spotkać! Czy możesz powiedzieć nam więcej o tym, jak Factiverse rozwinęło się w ciągu ostatniego roku i jakie strategie zastosowałeś, udoskonalając produkt, by lepiej odpowiadał na potrzeby rynku?

Gaute Kokkvoll: Pewnie! Początkowo Factiverse celował w sektor mediów, ale zaobserwowaliśmy też znaczące zainteresowanie ze strony podmiotów finansowych, sektorów compliance i dostawców chatbotów. Sprawa sądowa Air Canada uwypukliła znaczenie dokładnych odpowiedzi chatbotów; gdyby używali Factiverse, błędu, który doprowadził do ich przegranej, można by uniknąć.

Obecnie rozmawiamy z kilkoma dostawcami chatbotów o integracji Factiverse jako warstwy wiarygodności w ich usługach. Ten model partnerstwa sprawia, że stajemy się kręgosłupem wiarygodności, mającym zastosowanie w trenowaniu dużych modeli językowych, produkcji tekstów i czytaniu treści.

Skoncentrowaliśmy się na nowych obszarach, w których nasza technologia przynosi największe korzyści. Nasze podejście ewoluuje, by budować wiarygodność i zaufanie nie tylko w redakcjach, ale też zanim treść zostanie wygenerowana, zwłaszcza w przypadku dużych modeli językowych. Idealnie byłoby, gdyby te modele były wstępnie trenowane na wiarygodnych danych, by zapobiegać nieścisłościom.

Widzimy też rosnące zainteresowanie agentami AI, które wymagają weryfikacji w wielu usługach i API, co otwiera nowe możliwości dla Factiverse.

Przeczytaj też: Przyszłość AI w sprzedaży: spostrzeżenia od CEO SMOC, Kristoffera Kvama

Ale nadal jesteście obecni w branży mediów, pomagając dziennikarzom, prawda? Jak Factiverse nadal wspiera dziennikarzy w wysiłkach na rzecz fact-checkingu?

Absolutnie. Jednym z naszych ostatnich ulepszeń jest usługa fact-checkingu na żywo dla debat politycznych. Niedawno duńska organizacja fact-checkingowa poprosiła o rozwiązanie i w ciągu kilku dni opracowaliśmy podstawową wersję. Obejmuje ona tłumaczenie debaty na żywo, wykrywanie twierdzeń i weryfikację w czasie rzeczywistym tego, co mówią politycy. Co imponujące, nasz system przetwarza audio szybciej niż wideo, co pozwala nam weryfikować twierdzenia niemal w czasie rzeczywistym.

Zdobywamy przyczółki u partnerów w krajach nordyckich i w związku z nadchodzącym superrokiem wyborczym planujemy uruchomić transmisje Twitch z fact-checkingiem na żywo. Ponieważ to rozwiązanie jest też adaptowalne do podcastów, komunikatów prasowych i innych treści audiowizualnych, stanowi znaczące ulepszenie naszej oferty.

Przeczytaj też: Automatyzowanie niemożliwego: Jesse Lord o Fabriq

Czy możesz wyjaśnić, jak działa ta technologia? Czy używa algorytmu do klasyfikowania źródeł jako wiarygodnych i określania poprawności twierdzeń na podstawie tej klasyfikacji?

Nasze modele działają w czasie rzeczywistym i nie stosują białych ani czarnych list. Nie zatwierdzamy z góry żadnych źródeł ani nie umieszczamy innych na czarnej liście. Zamiast tego, gdy formułowane jest twierdzenie, na przykład dotyczące zmian klimatu, model ocenia, czy fact-checkerzy lub inne wiarygodne media powoływały się na to źródło w przeszłości. Może to nadać źródłu wyższą wartość, ale nie gwarantuje automatycznie jego wiarygodności.

Niedawno przeprowadziliśmy projekt w języku duńskim, osiągając 95% dokładność, a zaangażowana firma zauważyła, że zamiast sześciu osób do monitorowania debat, teraz wystarczy jedna lub dwie. To pokazuje potencjał naszego rozwiązania – ale historia nie kończy się na transkrypcji. Gdy debaty są już zapisane, możemy przeprowadzać interesujące analizy i generować raporty. Moglibyśmy na przykład zidentyfikować najczęściej powtarzane fałszywe twierdzenia na temat imigracji podczas debat UE w całej Europie.

Ta technologia jest korzystna dla dziennikarzy i wszystkich. Wyobrażamy sobie jej użycie z dowolnym strumieniem na żywo lub plikiem wideo. Podcasterzy na przykład często mają asystentów, którzy znajdują i weryfikują źródła. Nasze narzędzie byłoby dla nich idealne do używania w tle.

Źródło: Factiverse

Które inne branże mogłyby skorzystać na takich rozwiązaniach?

Widzę duży potencjał w bankowości i usługach fintech. Zaobserwowaliśmy, że duże modele językowe często mają trudności ze zrozumieniem danych numerycznych. Modele te mogą się mylić na przykład przy procentach, liczbach dziesiętnych i walutach. W niedawnym białej księdze wykazaliśmy, że mniejsze, dopracowane modele mogą faktycznie przewyższać wiodące duże modele językowe, szczególnie w zadaniach takich jak wykrywanie stwierdzeń faktycznych czy fact-checking.

Prowadzimy znaczący projekt badawczy z Universytetem Delft, skupiony na zwiększeniu zdolności do rozumienia twierdzeń numerycznych i prowadzenia numerycznego fact-checkingu. Na przykład jeśli formułowane jest twierdzenie finansowe, możemy je rozbić na mniejsze twierdzenia i pytania, przetworzyć przez nasz model i udzielić bardziej kontekstowej, niuansowanej odpowiedzi dotyczącej jego prawdziwości.

Ta możliwość wzbudziła zainteresowanie ze strony kilku największych banków w Norwegii. Mamy nadchodzące partnerstwo, w ramach którego zastosujemy podobny proces do fact-checkingu w mediach, ale dostosowany do zastrzeżonych lub danych compliance, które te instytucje wolą trzymać w poufności. Banki te szukają mniejszych firm z siedzibą w UE, które przestrzegają bardziej rygorystycznych regulacji niż firmy z USA. To skupienie na compliance i prywatności danych otworzyło przed nami drzwi, umożliwiając nam prowadzenie merytorycznych rozmów o gruntowaniu ich wyników w danych compliance, podobnie do struktur stosowanych w głośnych sprawach sądowych, jak ta Air Canada.

Jakie są Twoje przemyślenia na temat ChatGPT-4o, szczególnie w kontekście jego zdolności do odpowiadania na głos i obsługi plików wideo i audio? Jakie szczególne mocne strony zaobserwowałeś i gdzie według Ciebie nadal potrzebne są ulepszenia?

GPT-4o nadal ma ograniczenia, szczególnie w zakresie fact-checkingu w czasie rzeczywistym i możliwości wyszukiwania danych. Ponadto jeśli używasz GPT-4, możesz otrzymać tylko jedno odniesienie z Bing, ponieważ z powodu struktury korporacyjnej są ograniczeni w korzystaniu z wyszukiwarki. To ograniczenie stanowi naszą przewagę. Możemy skuteczniej dostosowywać naszą technologię do zadań takich jak weryfikacja lub fine-tuning pod konkretne przepływy pracy.

Czy uważasz, że możemy zachować obiektywność w fact-checkingu? Jak radzisz sobie z uprzedzeniami poznawczymi, biorąc pod uwagę, że choć fakty są faktami, mogą pojawić się subiektywne interpretacje?

Uważam, że kluczowe jest zaczęcie od przyznania się do uprzedzeń. Jednak wraz z pojawieniem się nowych technologii, zwłaszcza na etapie ich rozwoju, konieczne jest ustalenie, jak skutecznie je uwzględniać i zarządzać nimi.

Weźmy na przykład trwające w Norwegii debaty na temat wskaźników przestępstw z użyciem przemocy, szczególnie wśród młodzieży. Interpretacje mogą się znacznie różnić w zależności od źródeł danych i skupionej demografii. Podkreśla to znaczenie akcentowania kontekstu zamiast binarnych klasyfikacji prawda/fałsz, zwłaszcza w scenariuszach fact-checkingu w czasie rzeczywistym. Zamiast po prostu etykietować twierdzenia jako prawdziwe lub fałszywe, nasze podejście ma na celu dostarczanie niuansowych ocen poprzez prezentowanie sprzecznych perspektyw obok popierających dowodów.

Ofiarując takie szczegółowe wglądy, dajemy użytkownikom możliwość krytycznej oceny przedstawianych informacji. Co więcej, biorąc pod uwagę ostatnie zainteresowanie bezpieczeństwem AI i uprzedzeniami, skuteczne poruszanie się w tych kwestiach może być znaczącą przewagą konkurencyjną.

Jakie Twoim zdaniem są główne korzyści dla organizacji korzystających z opartych na AI narzędzi do fact-checkingu, takich jak Factiverse?

Po pierwsze, zapewniamy użytkownikom kompleksowy przegląd z wielu źródeł. Zazwyczaj w generatywnych AI opartych na dużych modelach językowych użytkownicy mogą polegać na jednej lub dwóch wyszukiwarkach, podczas gdy z Factiverse mogą uzyskiwać perspektywy z całego internetu.

Ponadto priorytetyzujemy te źródła dla klientów integrujących własne bazy danych, takie jak wewnętrzne archiwa lub strony rządowe, aby dostosować doświadczenie wyszukiwania. Takie podejście zapewnia użytkownikom najbardziej trafne informacje dla ich rodzaju pracy.

Wreszcie, nasza platforma płynnie integruje się z Twoim przepływem pracy, podobnie jak Grammarly. Nie musisz myśleć o tym, kiedy jej użyć; zawsze działa w tle, gotowa do pomocy w razie potrzeby. Takie podejście zapewnia, że użytkownicy mogą bezproblemowo włączyć fact-checking i weryfikację do swoich codziennych rutyn bez doraźnych decyzji czy zakłóceń.

Dziękuję za podzielenie się spostrzeżeniami, Gaute. Powodzenia z dalszym rozwojem!

Dziękuję!

Gaute Kokkvoll – Head of Product w Factiverse