Automatyzacja niemożliwego: Jesse Lord o Fabriq

Rozmawialiśmy z Jessem Lordem, Product Strategy Lead w KADME i współzałożycielem Fabriq – nowej platformy automatyzacji wykorzystującej LLM do optymalizacji procesów.

W odróżnieniu od ogólnych wyszukiwarek, które często zwracają nieistotne wyniki, Fabriq dostarcza dokładnych, skontekstualizowanych informacji. Jego konwersacyjny interfejs usprawnia przepływy pracy, pomagając firmom w pełni wykorzystać znaczne inwestycje w szczegółowe raporty, budując na dekadach zgromadzonej wiedzy.

Autentika: Witaj, Jesse! Czy możesz wyjaśnić główny cel platformy Fabriq?

Jesse Lord: Naszym głównym celem jest automatyzacja lub semi-automatyzacja obszarów biznesowych przy użyciu zaawansowanej technologii. Platforma znacznie ewoluowała wraz z rozwojem nowych modeli AI i teraz używamy tych technologii do automatyzacji procesów w sposób, który był niemożliwy jeszcze rok temu.

Jak podchodzisz do początkowych etapów projektu z nowym klientem i jak Fabriq zapewnia, że wybrane rozwiązania AI spełniają jego konkretne potrzeby biznesowe?

Gdy zaczynamy projekt, otrzymujemy dokumentację klienta i próbki danych. Dokumentacja ta zawiera opisy problemu, a naszym zadaniem jest dopasowanie wyzwania biznesowego do danych i aktualnej technologii. Przeprowadzamy badanie wykonalności, by sprawdzić, czy nasze rozwiązania techniczne mogą sprostać potrzebom klienta i czy Large Language Models mogą rozwiązać praktyczne problemy.

Platforma Fabriq może przetwarzać dane klientów, by odpowiadać na konkretne zapytania związane z branżą. Na przykład w przypadku producenta maszyn przemysłowych zapytanie może dotyczyć regulacji konkretnej funkcji maszyny. Fabriq przeszukuje odpowiednie informacje w dokumentach, schematach i bazach danych klienta, następnie je kontekstualizuje i generuje przydatne odpowiedzi. Nie chodzi jednak tylko o generowanie odpowiedzi – bardziej wartościowe może być skupienie się na możliwościach automatyzacji, takich jak tworzenie kwalifikowanych zgłoszeń serwisowych na podstawie danych diagnostycznych. Proces ten pomaga nam realizować cele klienta i uzasadniać przejście do badania wykonalności.

W tym kontekście – czy AI wzmacnia skuteczność zespołów sprzedaży i obsługi klienta, czy staje się niezależnym ekspertem merytorycznym?

Dla wielu firm AI może pełnić rolę wspierającego helpdesku. Tradycyjnie przedstawiciel handlowy może nie pamiętać każdego szczegółu każdej instrukcji, więc przeszukuje techniczne podręczniki, by udzielić odpowiedzi. AI może automatyzować te zadania, oferując szybkie, dokładne informacje o produktach. Handlowcy i specjaliści obsługi klienta mogą wtedy skupić się na zadaniach wymagających ludzkiej interakcji.

Z drugiej strony inżynierowie przechowują szczegółowe informacje techniczne, ale mogą nie nawiązywać dobrych relacji z klientami. AI wypełnia tę lukę, dostarczając handlowcom informacji technicznych w języku naturalnym. Nasza wyspecjalizowana AI dostarcza precyzyjnych odpowiedzi dostosowanych do potrzeb użytkownika, zwiększając skuteczność zespołu sprzedaży bez zastępowania elementu ludzkiego.

Co odróżnia wyspecjalizowaną AI Fabriq od ogólnych czatów AI i jak wasze podejście zapewnia dokładność i trafność odpowiedzi?

Kluczową różnicą jest kontekst. Ogólne czaty AI, jak pierwotna wersja ChatGPT, często nie mają szczegółowej wiedzy o produkcie i dostarczają niejasnych lub błędnych informacji. W przeciwieństwie do nich nasza platforma ściśle współpracuje z klientem, używając dostarczonych przez niego danych i konsultując się z ekspertami merytorycznymi.

Ponadto dzięki modelom takim jak GPT-4o, które są natywnie multimodalne, możemy jednocześnie obsługiwać audio, obrazy, wideo i mowę, zwiększając wszechstronność i skuteczność naszej AI.

Przeczytaj też: Przyszłość AI w sprzedaży: spostrzeżenia CEO SMOC, Kristoffera Kvama

Czy możesz podać przykład wyspecjalizowanego rozwiązania AI, które opracowałeś, i jak odpowiada na konkretne potrzeby swoich użytkowników?

Na przykład dostarczamy platformę zasilającą AtlasGPT – rozwiązanie dedykowane neurochirurgom, zainicjowane przez dr. Cohena, który posiada niesamowitą wiedzę i jest głęboko zaangażowany w swoją dziedzinę. Pomógł nam zrozumieć, co jest ważne dla niego i jego klientów.

AtlasGPT wykorzystuje najnowocześniejsze techniki retrieval-augmented generation (RAG), by zapewnić najwyższe standardy wyników. Podejście to łączy generatywną siłę dużych modeli językowych (LLM) z zewnętrznym mechanizmem pobierania danych. System pobiera odpowiednie dokumenty ze źródeł takich jak PubMed, Journal of Neurosurgery, Neurosurgical Atlas i Principles of Neurosurgery, wyodrębnia kluczowe informacje i używa ich do kierowania generowaniem odpowiedzi. Umożliwia to spersonalizowane, faktycznie spójne odpowiedzi bez ujawniania prywatnych danych.

AtlasGPT wykorzystuje cyfrowe persony (asystentów), by udzielać szczegółowych odpowiedzi na temat procedur neurochirurgicznych. Idea polega na posiadaniu cyfrowej osobowości, z którą można wchodzić w interakcje, oferującej odpowiedzi na różnych poziomach głębokości i złożoności. Na przykład można zapytać o wyniki hemicraniektomii u pacjentów po udarze po mechanicznych trombektomiach i otrzymać odpowiedzi wahające się od wysoce technicznego żargonu medycznego po wyjaśnienia zrozumiałe dla pacjentów.

AtlasGPT to rozwiązanie dedykowane neurochirurgom, które wykorzystuje techniki retrieval-augmented generation (RAG), by zapewnić najwyższe standardy wyników.

Jak zapewniasz wiarygodność źródeł danych zasilających platformę?

W AtlasGPT korzystamy wyłącznie ze źródeł recenzowanych, takich jak Journal of Neurosurgery i innych zaufanych źródeł, np. PubMed. Choć recenzja naukowa jest wyznacznikiem wiarygodności, nie każdy artykuł jest nieomylny. Weryfikacja dokładności informacji – zwłaszcza przy użyciu modeli językowych takich jak GPT4 – jest kluczowa. Nasze podejście wykorzystuje modele językowe do streszczania, przy czym wykwalifikowane osoby weryfikują informacje, zapewniając dokładność i przejrzystość.

AtlasGPT korzysta ze źródeł recenzowanych, takich jak Journal of Neurosurgery i innych zaufanych źródeł, np. PubMed.

Jak wybierasz i zarządzasz zbiorami danych zasilającymi model? Czy odbywa się to automatycznie?

Możemy integrować się z różnymi źródłami i typami danych. Dokumenty, prezentacje, bazy danych, dane przestrzenne, czasopisma i pliki XML zazwyczaj służą jako źródła danych w naszych projektach. Platforma danych, taka jak Lumin firmy Kadme, może też bardzo pomóc w integracji z prywatnymi danymi na dużą skalę. Możemy wyodrębniać obrazy z plików PDF, klasyfikować je i integrować te dane przez nasze API, zapewniając bezproblemową integrację z różnymi interfejsami. W przypadku większych zbiorów danych – jak 268 000 obrazów w jednym projekcie – budujemy i wdrażamy model klasyfikujący obrazy i dokumenty. Model ten może być aktualizowany na podstawie opinii użytkowników i trenowany ponownie na podstawie błędnych wyników. Wbudowane metryki i wizualne oceny pomagają identyfikować i korygować problemy. Głównym celem jest unikanie rozwiązań wymagających ciągłego zatrudniania drogich data scientistów.

Kto staje się właścicielem danych wprowadzonych do AI?

Choć jest to wbrew trendom w branży AI, odkryliśmy, że klienci korporacyjni oczekują prywatności i własności danych. W Fabriq klienci są właścicielami zarówno danych wejściowych, jak i wygenerowanych wyników. Ponieważ wyniki są tworzone przy użyciu ich prywatnych danych, są uważane za dzieło pochodne, które również jest ich własnością.

Jak podchodzisz do stronniczości w modelach? Czy ta stronniczość istnieje i co można z nią zrobić?

Stronniczość jest nieodłączna w każdym modelu ze względu na ludzkie osądy przy etykietowaniu. Różne wpływy kulturowe mogą prowadzić do różnych uprzedzeń. Na przykład uczenie przez wzmacnianie przeprowadzone w San Francisco przyniesie inne wyniki niż to samo wykonane w Pekinie ze względu na różnice kulturowe i uprzedzenia w etykietowaniu.

Klasycznym przykładem z uczenia maszynowego jest model AI używany do określenia, czy więzień prawdopodobnie popełni ponowne przestępstwo po zwolnieniu warunkowym. Początkowo model osiągnął wysoką dokładność, używając przynależności etnicznej więźniów jako głównej cechy, ujawniając uprzedzenia rasowe. Usunięcie etniczności jako cechy sprawiło, że model zamiast tego używał kodów pocztowych, co było jedynie innym wyrazem tego samego uprzedzenia. W tym przypadku model nie jest w stanie dostrzec systemowych przyczyn tych wyników, ponieważ nie są one reprezentowane w jego danych treningowych.

Na przykład europejskie przepisy dotyczące AI uznają za wysokie ryzyko systemy zdolne do wnioskowania o ludzkich emocjach lub przewidywania, kto może popełnić przyszłe przestępstwa, dążąc do ograniczenia negatywnych skutków uprzedzeń w aplikacjach AI.

Co wdrożenie Fabriq oznacza dla końcowego użytkownika? Jakich wyników może oczekiwać firma, powiedzmy, za 2 lata?

Wyniki różnią się w zależności od klienta. Na przykład norweski Norwegian Offshore Directorate umożliwił interakcje w języku naturalnym z raportami o zrzeczeniu się, wspierając krajowy proces licencji offshore. Atlas Meditech stworzył nowy produkt, wkrótce komercyjnie dostępny dla swoich członków, a także innych firm i instytucji w swojej branży. Glex i Kadme używają Fabriq jako wtyczki, by zapewnić interakcje w języku naturalnym z prywatnymi danymi jako zintegrowaną część swojej oferty oprogramowania.

Przeczytaj też: Fact-checking w erze AI: już nie tylko dla redakcji

Jesse Lord, Product Strategy Lead w KADME i współzałożyciel Fabriq.