Dziennikarka padła ofiarą halucynacji AI. "To tworzenie fałszywej rzeczywistości"

Najważniejsze informacje w skrócie:

• Fałszywa odpowiedź AI wskazała Joannę Dunikowską-Paź jako autorkę pytania na konferencji MON, co wywołało falę hejtu
• Zdaniem dr. Przemysława Łonyszyna społeczeństwo bezkrytycznie ufa informacjom z AI
• "Halucynacje AI 2.0" tworzą fałszywą rzeczywistość

Joanna Dunikowska-Paź, dziennikarka prowadząca główny program informacyjny w telewizyjnej Jedynce, stała się ofiarą fałszywej informacji wygenerowanej przez sztuczną inteligencję. Podczas jednej z ostatnich konferencji prasowych szefa MON padło pytanie dotyczące konsultacji z prezydentem Karolem Nawrockim przed jego wizytą w USA. Sformułowanie pytania, w którym użyto jedynie inicjałów "KN", wzbudziło konsternację. Wkrótce w sieci pojawiła się nieprawdziwa sugestia - oparta na informacji od AI - że pytanie zadała właśnie Dunikowska-Paź. Odpowiedź jednego z modeli AI, powielona później przez część prawicowych mediów, wywołała falę hejtu wobec dziennikarki.

Eksperci szukają odpowiedzi na pytanie, kto w takich przypadkach jest odpowiedzialny za hejt. - To trudne pytanie. W dalszym ciągu borykamy się z tym, że nie potrafimy umieścić sztucznej inteligencji w naszej przestrzeni, w której żyjemy. Z tego powodu nie nadąża za tym ani prawodawstwo, ani też nasza percepcja społeczna - powiedział dr Przemysław Łonyszyn.

Ekspert: społeczeństwo bezkrytycznie ufa sztucznej inteligencji

Zdaniem eksperta problem tkwi także w sposobie, w jaki odbieramy informacje wygenerowane przez modele językowe. - Proszę zwrócić uwagę na taki drobny paradoks. W tej chwili jeżeli coś powie profesor z danej dziedziny, to część osób uwierzy, część będzie protestować, a część uzna, że wreszcie ktoś powiedział coś sensownego. Natomiast jeżeli w tej samej tematyce wypowie się sztuczna inteligencja, to 99 proc. społeczeństwa przyjmuje to bezkrytycznie i jeszcze rozprowadza dalej, twierdząc, że tak właśnie jest naprawdę - tłumaczył socjolog.

Przypomniał również, że przypadek Joanny Dunikowskiej-Paź nie jest odosobniony. - Jeżeli chodzi akurat o ten model sztucznej inteligencji, czyli Groka, to nie jest to pierwsze polityczne zamieszanie z nim związane. W lipcu było zamieszanie dotyczące pana Giertycha - wskazał.

Jak wyjaśniał dr Łonyszyn, mamy do czynienia z coraz poważniejszym zjawiskiem, które badacze określają mianem "halucynacji AI 2.0". - To coś, co zaczyna tworzyć alternatywną, fałszywą rzeczywistość. To jest w gruncie rzeczy manipulowanie rzeczywistością - podsumował.

• James Cameron ma problem z kolejnym "Terminatorem". Powodem jest AI
• AI tworzy miliarderów w rekordowym tempie. Takich liczb jeszcze nie było
• Modelki AI wypierają te ludzkie. Czy jest to zagrożenie dla branży modowej?

Źródło: Polskie Radio 24
Prowadząca: Małgorzata Żochowska
Opracowanie: Robert Bartosewicz