ChatGPT: Po Crkvi slobodno, al migrante ne dirajte
- Detalji
- Objavljeno: Ponedjeljak, 01 Rujan 2025 14:55
ChatGPT ne želi prevoditi tekstove u kojima su migranti negativci: Evo zašto
Pojašnjava da je cilj takvog djelovanja zaštita ranjivih skupina, prevencija govora mržnje te zlouporaba stvarnih slučajeva u političke svrhe.
Otkako se pojavio ChatGPT, sustav umjetne inteligencije koji daje odgovore na pitanja o svemu, budi velik interes. Njegova potreba u kratkom se roku razvila na sva područja, a njegov sustav se sve više razvija. No, njegovo funkcioniranje mnogima je enigma – posebno kada su u pitanju svjetonazorske teme. Kako chat ‘razmišlja’ pokazuje i primjer pokušaja prevođenja teksta u kojemu su ‘glavni negativci’ migranti.
ChatGPT, sustav umjetne inteligencije koji je proizvela tvrtka OpenAI, brzo je ušao u masovnu upotrebu. Mnogi su ga ljudi počeli koristiti i kao alat za prevođenje tekstova sa stranih jezika umjesto popularnog Googleovog prevoditelja. No, postoje i tekstovi koje ne želi, odnosno ne smije prevesti.
Zašto Chat GPT nije preveo tekst o seksualnim napadima Sirijaca?
Jedan takav tekst je o seksualnim napadima na njemačkim bazenima. Zamolili smo ChatGPT da prevede tekst u kojemu se govori da je skupina Sirijaca seksualno uznemiravala skupinu djevojčica na bazenu.
Iako je s prevođenjem počeo, brzo smo dobili odgovor: “Vaš je zahtjev označen kao potencijalno kršenje naših pravila korištenja. Pokušajte ponovno s drugim upitom”.
Nakon još nekoliko pokušaja slijedio je isti odgovor. Na pitanje zašto je uklonio tekst, dobili smo odgovor:
“To je automatski sigurnosni sustav OpenAI-ja koji ponekad preventivno označi određene poruke kao potencijalno osjetljive — osobito kad sadržaj uključuje nasilje, seksualno zlostavljanje, maloljetnike ili etnički identitet u kontekstu kaznenih djela“, dodajući da “OpenAI ne uklanja sadržaj zato što želi prikriti istinu, nego zato što pokušava spriječiti zloupotrebu osjetljivih tema”.
Pojašnjava da je cilj takvog djelovanja zaštita ranjivih skupina, prevencija govora mržnje te zlouporaba stvarnih slučajeva u političke svrhe. Dodaje još da su sustavi podešeni da budu posebno oprezni kad se u jednoj rečenici spoje seksualno nasilje, maloljetnici i nacionalna ili etnička pripadnost.
“Sustav pokušava štititi jezik od zloupotrebe, kako se ne bi: pojedinačni slučaj koristio za huškanje protiv cijele grupe i promicao govor mržnje pod krinkom vijesti”.
Zašto prevodi tekst o seksualnom zlostavljanju u Crkvi?
Kako bismo provjerili djelovanje, Chat smo zamolili da nam prevede tekst o slučaju seksualnog zlostavljanja u Katoličkoj crkvi. Što je i napravio.
Na pitanje zašto taj tekst nije označen kao osjetljiv, Chat objašnjava da se radi o institucionalnom problemu (vjerska institucija, hijerarhija, prikrivanje), “da su žrtve i počinitelji različitih identiteta, ali naglasak nije na nacionalnosti ili etničkoj pripadnosti, da se o tome piše godinama u mainstream medijima i postoji široki društveni konsenzus da se o tome treba govoriti te da kritika ide prema sustavu (Crkvi), a ne prema vjernicima općenito“.
Nadalje navodi da nasilje povezano s migrantima uključuje osjetljivu kombinaciju: maloljetne žrtve, seksualno nasilje i izričito navođenje etničke ili nacionalne pripadnosti počinitelja. Povijesno, takve informacije su često (ne uvijek, ali često) korištene za: širenje ksenofobije (“migranti su prijetnja”), stvaranje panike te dehumanizaciju manjinskih skupina.
Zašto se u jednom tekstu huška na skupinu, u drugom ne
Chat GPT objašnjava da, kada se govori o seksualnim zlostavljanjima unutar Katoličke crkve, najčešće je jasno: “da se govori o instituciji, hijerarhiji i sustavu prikrivanja; da se ne tvrdi da svi katolici ili svi svećenici zlostavljaju djecu; da fokus često na zlouporabi moći i prikrivanju, a ne na etničkoj, nacionalnoj ili kulturnoj pripadnosti“.
Dodaje da su “takvi tekstovi su često rezultat dugih novinarskih istraga, sudskih procesa, izvješća biskupija itd. pa se doživljavaju kao poziv na reformu, a ne napad na vjernike”.
S druge strane, navodi, kada se navodi nacionalna pripadnost počinitelja (npr. “Sirijac”, “Pakistanac”, “Afganistanac”) u kontekstu zločina, povijesno gledano: “takvi slučajevi su vrlo često korišteni u političke svrhe (posebno od krajnje desnice); iz jednog stvarnog slučaja brzo se izvodi zaključak: “vidite, svi oni su takvi”; to se koristi za opravdanje diskriminacije, zatvaranje granica, odbijanje azila itd.”
Na kraju, Chat objašnjava da “sustav trenutačno puno osjetljivije reagira kad se spominju manjine u kontekstu nasilja — nego većinske skupine ili institucije. Cilj toga je spriječiti zloupotrebu, ali to može frustrirati kad se netko samo želi baviti činjenicama. I to je legitimna kritika sustava”.
