(The Conversation) — W niniejszym artykule znajdują się przykłady antysemickiej mowy nienawiści.
Mężczyźni oskarżeni o przeprowadzenie głośnych ataków antysemickich w Stanach Zjednoczonych w ostatnich latach mieli wspólną istotną cechę: wcześniej publikowali mowę nienawiści na swoich kontach w mediach społecznościowych.
FBI poinformowało, że mężczyzna, który w marcu 2026 roku wjechał ciężarówką w synagogę na przedmieściach Detroitu, opublikował na Facebooku, że „Izrael to rakowaty/złośliwy rozrost” oraz „Izrael to czyste zło.” Ślad online napastnika oskarżonego o postrzał i zabicie dwójki pracowników Ambasady Izraela w Capital Jewish Museum w maju 2025 r. zawierał antyizraelskie komentarze. Strzelec skazany na karę śmierci za zabicie 11 wiernych w synagodze Tree of Life w Pittsburghu w październiku 2018 r. często posługiwał się antysemicką mową nienawiści w mediach społecznościowych.
Mowa nienawiści wykorzystuje uczucia, emocje i postawy, które mają na celu zdehumanizowanie jednostek lub grup. Czasami wrogość jest oczywista. Ale może też przyjmować bardziej ukryte formy, używając kodowych słów lub terminów zrozumiałych tylko dla osób o podobnych poglądach. Zakodowana mowa nienawiści może ominąć online’owe cenzury treści i rekrutować osoby, które w przeciwnym razie wzdrygnęłyby się przed bardziej jawnie dyskryminującą mową.
Szacuje się, że na całym świecie istnieje około 5,7 miliarda kont w mediach społecznościowych. Nawet wtedy, gdy mowa nienawiści jest jawna, moderatorzy treści zmagają się z ogromem materiałów i decyzją, ile monitorować wypowiedzi użytkowników. Istnieją również alternatywne – niektórzy twierdzą, że radykalne – serwisy ograniczające moderację treści, w tym 4chan, BitChute, Gab, GETTR, Parler, Rumble i Truth Social.
Jesteśmy grupą interdyscyplinarnych badaczy z American University, którzy studiują strategie retoryczne stojące za jawnie wyrażaną oraz zakodowaną mową nienawiści w mediach społecznościowych. Nasz projekt Unmasking Antisemitism wykorzystuje sztuczną inteligencję, analizę jakościową oraz eksperymenty ankietowe, aby opracować badania i narzędzia do wykrywania obu typów terminów. Artykuł ten omawia przykłady antysemickiej mowy nienawiści, które są niepokojące, ale ilustrują rodzaje terminów i sposoby przeciwdziałania tej niebezpiecznej wpływowi.
Dwa rodzaje mowy nienawiści
Aby zrozumieć różnicę między bezpośrednią a zakodowaną mową nienawiści, weźmy pod uwagę język strzelca Roberta Bowersa przed masakrą w Tree of Life. Na Gabie używał starszych, mocno antysemickich obelg, takich jak „kike” — „wysoce obraźliwe określenie używane do obrażania i deprecjonowania osób wyznania lub pochodzenia żydowskiego, które powszechnie uważa się za formę mowy nienawiści” — według American Jewish Committee.
Inne skrajnie nacjonalistyczne terminy są równie obraźliwe, lecz mniej oczywiste, takie jak „oven dodger” — również używany przez Bowersa na Gabie: odniesienie do sposobu, w jaki niemieccy naziści systematycznie wyniszczali Żydów podczas Holokaustu. Podobnie jak jawne wyrażenia, zakodowane terminy często odwołują się do starszych, dobrze zbadanych antysemickich motywów, takich jak „Żydzi mają zbyt dużą władzę”, ponownie pakujące je w nowe słowa i zwroty.
Mogą one mieć także podwójne znaczenia, co utrudnia moderowanie mowy nienawiści. Pojęcie „globalista” odnosi się do osoby, która uważa, że polityki powinny być planowane z myślą o interesie całego świata, a nie tylko jednego kraju. Jednak „globalista” ma również antysemicką konotację.
Jak ujęto w glosariuszu American Jewish Committee „Translate Hate”, antysemici często używają terminu „globalist”, aby pogardzać Żydami, promując teorię spisku, że „Żydzi nie mają lojalności wobec swoich krajów macierzystych, takich jak Stany Zjednoczone, lecz wobec pewnego światowego porządku – na przykład globalnej gospodarki lub międzynarodowego systemu politycznego – który wzmocni ich kontrolę nad światowymi bankami, rządami i mediami.” To ponowne posłużenie się długotrwałą nazistowską i sowiecką propagandą wobec Żydów opartą na historycznych antysemickich motywach.
Jak terminy się rozwijają
W wczesnych dniach mediów społecznościowych firmy reagowały na krytykę najbardziej nienawistnych treści na swoich platformach poprzez połączenie sztucznej inteligencji i analizy ludzkiej w moderowaniu treści. Narzędzia automatyczne wykorzystują przetwarzanie języka naturalnego do analizy kontekstu, wykrywania wyzwisk i oznaczania treści. Pracownicy ludzcy analizują bardziej złożony język, taki jak ironia i slang.
Ale utrzymanie tempa wobec ogromnej liczby postów jest wyzwaniem, zwłaszcza w przypadku bardziej subtelnej mowy nienawiści. Naszym celem jest identyfikacja zakodowanych terminów antysemickich, zrozumienie, jak się one rozwijają, i stworzenie technologii do ich śledzenia.
Kluczem jest zrozumienie, że terminy nienawiści mają cykl życia. Niektóre z nich zmierzają ku większej publicznej obecności, inne znikają.
Nowe terminy zwykle pojawiają się w wąskiej grupie osób uznawanych za liderów lub influencerów w antysemickich kręgach online. W niektórych przypadkach ich społeczności przyjmują dany termin i normalizują go; innym razem przestaje być używany.
Termin „kulturalny marksizm”, który ma źródła w antysemickim przekonaniu, że żydowscy intelektualiści dążą do podważenia zachodniej kultury, został szerzej przyjęty. Z kolei „Jew jab” — biała supremacist conspiracy theory twierdząca, że szczepionki COVID-19 były spiskiem żydowskim mającym wyrządzić ludziom krzywdę — zniknął z użycia.
Śledzenie mowy nienawiści
W naszym wstępnym projekcie pilotażowym zaczęliśmy od 46 terminów antysemickich, zarówno jawnych, jak i zakodowanych, z glosariusza American Jewish Committee. Wprowadziliśmy te terminy do Pyrra, obecnie Alert Media — prywatnej firmy programistycznej, która umożliwia użytkownikom zbieranie postów z zestawu serwisów społecznościowych.
Badacze przeszkoleni w definicjach antysemityzmu, historycznych antysemickich tropach i wykrywaniu mowy nienawiści zidentyfikowali 24 dodatkowe terminy. Biali supremaciści używają symbolu „1488”, na przykład, aby się identyfikować. Część „14” odnosi się do sloganu „14 słów” lidera białych suprematystów Davida Lane’a. „88” oznacza „Heil Hitler”, opierając się na tym, że „h” jest ósmą literą alfabetu. Inne zakodowane terminy są mniej znane, na przykład „DOTR” lub „Day of the Rope” (Dzień Liny), odniesienie do książki z 1978 roku „The Turner Diaries”, napisanej pod pseudonimem przez neofaszystę Williama Pierce’a.
Aby śledzić, które zakodowane terminy przeniknęły do szerokiego obiegu, analizowaliśmy treści mediów głównego nurtu i przeprowadziliśmy eksperymenty ankietowe, aby sprawdzić, czy ludzie je rozpoznają. Opracowaliśmy także narzędzie AI zaprojektowane do automatycznego śledzenia ewolucji zakodowanego języka. Aplikacja jest szkolona na danych z Pyrra i uczy się identyfikować nowe terminy antysemickie na podstawie kontekstu, w jakim się pojawiają.
Najpierw aplikacja identyfikuje charakterystyczne terminy na podstawie częstotliwości ich występowania w każdym poście w porównaniu z ich rzadkością na platformie jako całości. Aby ustalić, czy te terminy mają antysemicką konotację, kodujemy ich kontekst, na przykład inne słowa w poście, i obliczamy, czy jest on bliski kontekstowi już znanej terminologii antysemickiej. Niektóre z terminów, które nasza aplikacja zidentyfikowała, są jawne, inne zaś zakodowane.
To podejście można również zastosować do mowy nienawiści skierowanej do innych grup, takich jak Latynosi, osoby LGBTQ+ i kobiety. Celem jest stworzenie zestawu narzędzi, które można dystrybuować organizacjom non-profit, think-tankom i decydentom rozważającym działania legislacyjne mające ograniczyć mowę nienawiści.
Ludzie i maszyny
Biorąc pod uwagę ogromną liczbę postów w mediach społecznościowych każdego dnia, nasza praca ilustruje, jak wykrywanie nowej mowy nienawiści wymaga interdyscyplinarnej grupy badaczy współpracujących z maszynami.
Jedna dyscyplina akademicka pracująca samodzielnie jest zbyt wyizolowana, a ludzie nie mogą sami poradzić sobie z taką skalą. Maszyny same z siebie też nie rozumieją zaawansowanego ludzkiego języka, slangu czy kontekstu.
Historia pokazuje, że w każdej chwili głębokiej zmiany technologicznej w naszych systemach komunikacji, incydenty wymierzone w Żydów lub inne mniejszości drastycznie rosną. Era ta wprowadza bezprecedensowe innowacje technologiczne – niestety mowa nienawiści podróżuje po świecie niemal natychmiast. Technologia może być częścią problemu, ale jej ogromna siła może być wykorzystana do stworzenia rozwiązania.
(Wendy Melillo, adiunkt dziennikarstwa na Wydziale Komunikacji American University. Jeff Gill, profesor matematyki i statystyki na American University. Nathalie Japkowicz, profesor informatyki na American University. Poglądy wyrażone w tym komentarzu niekoniecznie odzwierciedlają stanowisko Religion News Service.)
