Prema rečima portparola OpenAI-ja, svesni su tehničkih potencijala metode markiranja teksta, ali „takođe razmatraju rizike i moguće negativne efekte na širu zajednicu“.
„Metoda markiranja teksta koju razvijamo obećava, ali postoje značajni rizici koje analiziramo, uključujući mogućnost da je zlonamerni akteri zaobiđu, (kao i potencijalni štetni) uticaj na korisnike koji ne govore engleski jezik“, navodi portparol, prenosi TechCrunch.
OpenAI je ranije ugasio svoj alat za detekciju AI teksta, zbog netačnosti i nepreciznosti.
Nova metoda detekcije razlikuje se od prethodnih pokušaja uvođenja teksta generisanog putem veštačke inteligencije „u legalne tokove“, koji su bili uglavnom neuspešni.
Novi alat fokusira se isključivo na prepoznavanje teksta generisanog pomoću ChatGPT-a, praveći male promene u izboru reči kako bi stvorio nevidljivi „vodeni žig“. Ovaj vodeni žig kasnije može otkriti poseban alat.
OpenAI naglašava da je metodu lako zaobići, što predstavlja značajan izazov.
Takođe ističu da bi markiranje teksta moglo negativno da utiče na govornike kojima engleski nije primarni jezik, stigmatizujući upotrebu AI kao korisnog alata za pisanje.
Grozev: Vrednost FSB izveštaja o zvučnom oružju je nula, duboko je uvredljiv za svakog ko kritički razmišlja
Red propagande, red rijalitija: REM pokušava da izbaci obavezu prikazivanja dečjeg, obrazovnog i kulturnog programa
Deset istraživačkih priča koje svaki građanin Srbije treba da pročita
Ostavljanje komentara je privremeno obustavljeno iz tehničkih razloga. Hvala na razumevanju.