Wystąpienie Olgi Tokarczuk na konferencji Impact w Poznaniu wywołało burzę. Powód? Oficjalnie dyskusja dotyczyła sztucznej inteligencji i jej wpływu na literaturę, ale w tle szybko pojawił się zupełnie inny wątek. Internetowa fala krytyki oparta na archiwalnym cytacie sprzed kilku lat, który zaczął żyć własnym życiem w mediach społecznościowych.
Atak na Olgę Tokarczuk. Wszystko przez archiwalny cytat
Podczas rozmowy ze Sławomirem Sierakowskim noblistka mówiła o zagrożeniach związanych z rozwojem AI. Równolegle do dyskusji w sieci zaczęła jednak krążyć stara wypowiedź pisarki dotycząca Polski i wielokulturowości. Cytat został opublikowany dokładnie w dniu jej wystąpienia na Impact, co sprawiło, że wielu internautów uznało go za nowy komentarz do bieżącej sytuacji.
„W Polsce na ulicach jest biało. Wszyscy wyglądają tak samo, wszyscy mówią tym samym językiem. Polska w tej chwili skazuje siebie na bycie pasywnym świadkiem dużych procesów cywilizacyjnych, które nadchodzą” — brzmiał fragment przypomnianej wypowiedzi.
Jak ustalił IMM, wpis pojawił się najpierw na platformie X na koncie BostonTea, a później został przejęty przez profil Visegrad24, który nadał sprawie globalny zasięg. Następnie cytat zaczął być powielany przez zagraniczne profile konserwatywne związane z ruchem MAGA.
— Mimo że we wpisach wskazano nazwę redakcji, ani jeden z komentujących internautów nie zapytał, o jaki konkretnie wywiad chodzi, jaka była jego data czy kontekst całej wypowiedzi — zauważa Tomasz Lubieniecki z IMM.
Wokół Tokarczuk zrobiło się gorąco. AI napędziła aferę
Problem polegał na tym, że cytat nie miał żadnego związku z konferencją Impact. Pochodził z wywiadu udzielonego Olga Tokarczuk niemieckiej redakcji Deutsche Welle jeszcze w 2018 roku. — Przypadek dystrybucji archiwalnego cytatu Olgi Tokarczuk to przykład manipulacji kontekstem, która w mediach społecznościowych rozprzestrzenia się znacznie szybciej niż klasyczny fake news — podkreśla Lubieniecki.
Według analityków właśnie odpowiedni moment publikacji sprawił, że tysiące użytkowników automatycznie połączyło stare słowa pisarki z jej aktualnym wystąpieniem o sztucznej inteligencji.
Sprawa zrobiła się jeszcze ciekawsza, gdy IMM postanowił sprawdzić, jak z weryfikacją cytatu poradzą sobie popularne modele AI. Wyniki eksperymentu okazały się zaskakujące. Jedynie chatbot Grok poprawnie wskazał źródło wypowiedzi i odnalazł archiwalny wywiad z 2018 roku.
Modele OpenAI ChatGPT oraz Claude rozpoznały, że cytat funkcjonuje w sieci od dawna, ale nie były w stanie znaleźć pierwotnego materiału. Jeszcze większe problemy miały Gemini i Perplexity, które zaczęły tworzyć całkowicie fikcyjne historie dotyczące pochodzenia wypowiedzi.
— Część systemów AI w zetknięciu z popularną w sieci, lecz wyrwaną z ram czasowych treścią, zaczyna bezwiednie powtarzać błędy internautów lub budować bardzo przekonujące, halucynacyjne opisy wydarzeń, które nigdy nie miały miejsca — ocenia Tomasz Lubieniecki.
Czytaj też:
Żulczyk nie wytrzymał po wpisie Mentzena. „Zamknij mordę i do roboty”Czytaj też:
Tokarczuk jak Wałęsa? Prof. Środa ocenia: Taka polska karma