mały|Klip wideo wygenerowany przez narzędzie Sora wiaduktu Glenfinnan. Klip pokazuje dwa tory (wiadukt posiada 1 tor), dwa kominy na lokomotywie i niektóre wagony są o wiele dłuższe od innych. Halucynacja, sztuczna halucynacja – odpowiedź generowana przez sztuczną inteligencję, która zawiera fałszywe lub wprowadzające w błąd informacje przedstawione jako fakty. Halucynacje często bywają statystycznie prawdopodobne i zazwyczaj powstają w wyniku negatywnej oceny braku odpowiedzi w trakcie uczenia modelu.
Termin ten nawiązuje do psychologii człowieka, gdzie halucynacje zazwyczaj wiążą się z fałszywymi spostrzeżeniami. Istnieje jednak zasadnicza różnica między sztucznymi halucynacjami a halucynacjami w sensie medycznym. W przypadku sztucznej inteligencji halucynacje wiążą się z błędnie skonstruowanymi odpowiedziami, a nie doświadczeniami percepcyjnymi.
Chatboty oparte na dużych modelach językowych, takie jak ChatGPT, często mogą umieszczać w generowanej treści brzmiące wiarygodnie halucynacje. Szacuje się, że w 2023 r. chatboty halucynowały nawet w 27% przypadków, a błędy rzeczowe występowały w 46% generowanych tekstów.
Halucynacje dzielą się na takie, które są sprzeczne z pytaniem (promptem) użytkownika (intrinsic) oraz sprzeczne z danymi treningowymi (extrinsic).
Przykłady Pytając model językowy o liczbie wystąpień konkretnej litery w wyrazie (np. „i” w „Wikipedia”), chatbot zazwyczaj udzieli błędnej odpowiedzi.
Chatbot linii lotniczych Air Canada błędnie informował użytkowników o polityce zwrotów, oferując klientom nieistniejące zniżki, powodując straty finansowe dla firmy. ChatGPT zasugerował 60-latkowi użycie bromku sodu jako zamiennika chlorku sodu (soli kuchennej), co spowodowało uszczerbek na zdrowiu użytkownika. Norweski obywatel, Arve Hjalmar Holmen, pytając ChatGPT o swoją osobę, dostał odpowiedź zawierającą (obok prawdziwych informacji) halucynacje, że jest mordercą własnych dzieci.
Przyczyny Raport firmy OpenAI z września 2025 wymienia następujące przyczyny powstawania halucynacji:
Brak wystarczających danych do nauki wzorców. Binarne trenowanie modeli, premiujące statystycznie prawdopodobne próby. Istniejące systemy oceny nagradzają zgadywanie zamiast przyznawania się do niepewności. Binarne ocenianie (prawda/fałsz) dla odpowiedzi typu „nie wiem” przyznaje często kary. Zamiast prostych odpowiedzi „tak/nie” czasami potrzebne są wyrażenia różnych poziomów pewności.
Ograniczona umiejętność modeli w rozróżnianiu między prawdopodobieństwem opartym na faktach oraz opartym na wzorcach językowych. Ograniczenia w zrozumieniu pragmatyki (kontekstu wypowiedzi, który może zmieniać jej sens). Błędy faktologiczne w danych treningowych (zwłaszcza w przypadku modeli trenowanych na bazie danych z Internetu, które mogą zawierać prawdopodobnie brzmiące teorie spiskowe). Błędy przy problemach obliczeniowo trudnych (zobacz na przykład problem plecakowy lub problem komiwojażera).
Przypisy
Kategoria:Filozofia sztucznej inteligencji Kategoria:Generatywna sztuczna inteligencja Kategoria:Błędy programów komputerowych Kategoria:Uczenie maszynowe Kategoria:Dezinformacja Kategoria:Modelowanie języka