Wielkie problemy z ChatGPT. Poszkodowani najwięksi wydawcy serwisów internetowych

Temat sztucznej inteligencji wykorzystywanej przez media od dłuższego czasu budzi duże kontrowersje nie tylko w środowisku, ale też wśród samych odbiorców, którzy często nie ufają efektom pracy AI. Trudno się zresztą obu stronom dziwić, bo kolejne historie związane choćby z ChatGPT budzą pewne wątpliwości. W grudniu zeszłego roku informowaliśmy choćby o pozwie skierowanym przez “New York Timesa” przeciw Microsoftowi i OpenAI w związku z podejrzeniem naruszenia praw autorskich.

O innej sprawie budzącej poruszenie wśród ludzi mediów donosił z kolei na początku czerwca portal Nieman Lab. Jak mogliśmy wówczas przeczytać, pomimo podpisania umowy między OpenAI a właścicielem Business Insidera, należący do firmy technologicznej chatbot wysyłał użytkowników na nieistniejące strony zamiast do artykułów branżowego portalu. Sprawa nie pozostała niezauważona przez działający w BI związek zawodowy, który zwrócił się do firmy Axel Springer o ujawnienie szczegółów umowy z autorami ChatGPT.

Czytaj też: Nagłe odejście z OpenAI. Tuż po ogłoszeniu nowego ChatGPT

OpenAI nie wywiązuje się z umów z wydawcami mediów?

Jak się okazuje, cała sprawa ma dosyć zaskakujący ciąg dalszy. Śledztwo przeprowadzone przez Nieman Lab ujawniło, że podobny problem ChatGPT ma nie tylko z Business Insiderem. Pytania o słynne artykuły czy dziennikarskie dochodzenia takich mediów jak: The Times, Le Monde, Associated Press, The Wall Street Journal, The Times, El Pais, Vox, The Verge, The Atlantic czy Politico przynosiły identyczne rezultaty.

ChatGPT niby generował link do interesującego użytkownika artykułu, ale przeważnie były to fałszywe linki. Kliknięcie w nie przenosiło na stronę z błędem 404. Chatbot miał tworzyć tzw. halucynacje nawet, gdy był pytany o teksty nagrodzone Pulitzerem czy śledztwa obejmujące cały rok pracy. Co gorsza, wymienione media wcześniej nawiązały współpracę z OpenAI, w myśl której ChatGPT miał odsyłać użytkowników bezpośrednio na ich strony internetowe. Wszystko w imię “transparentności” i lepiej poinformowanego społeczeństwa. Niestety, po drodze coś najwyraźniej poszło nie tak, jak powinno.

We're making links more prominent when ChatGPT browses the internet. This gives more context to its responses and makes it easier for users to discover content from publishers and creators. Browse is available in ChatGPT Plus, Team and Enterprise. pic.twitter.com/1ChlZvVMUy

— OpenAI (@OpenAI) March 29, 2024

Portal Adweek donosił w maju na bazie wycieków z należącej do tzw. Big Techa firmy, że ta zachęcała wydawców również “preferencyjnym traktowaniem ich linków w wyszukiwaniach" oraz “rozległą ekspresję marki” i “priorytetowe umiejscowienie” w konwersacjach na czacie. W komunikacie wysłanym do Nieman Lab OpenAI podkreśliło, że nie wystartowało jeszcze z obiecanymi w kontraktach narzędziami do cytowania. Spółka nie chciała natomiast komentować kłopotów z fałszywymi linkami.

ChatGPT odsyła do fałszywych stron. Z czego wynika problem?

Co ciekawe, źródło problemu może być dosyć prozaiczne i zarazem pouczające dla samych mediów. Dlaczego? Otóż, generatywna sztuczna inteligencja w przyszłości ma pomóc dziennikarzom w lepszym dopasowaniu tytułów, linków czy leadów pod SEO. To samo ma też robić, gdy jest pytana o istniejące już teksty medialnych portali. I zamiast sprawdzić prawdziwy link, generuje taki, jaki według niej byłby najbardziej optymalny.

Częstotliwość tworzonych “halucynacji” była różna w zależności od wybranej przez ChatGPT formy prezentacji hiperłącza. Jak donosi Nieman Lab, problem przewijał się jednak przez wszystkie funkcjonalności chatbota. Szczególnie trudne okazała się dla niego prośba o wskazanie pierwszego źródła interesującej nas informacji. To wtedy fałszywe linki pojawiały się najczęściej. ChatGPT generował nawet właściwą datę publikacji w URL, lecz wystarczyło, by zmienił jedno pojawiające się w nim słowo, by link przenosił na stronę z błędem 404.