OpenAI bo v EU nevidno označeval besedila ChatGPT
Predpisi
OpenAI bo v EU nevidno označeval besedila ChatGPT
OpenAI bo v EU nevidno označeval besedila ChatGPT
06.10.2026 12:55

OpenAI bo v prihodnjih tednih začel dodajati nevidne oznake ustreznim besedilom, ustvarjenim s ChatGPT in Codexom v Evropski uniji. Sistem je del odziva podjetja na zahteve evropskega Akta o umetni inteligenci.

Artur Švarc

Tehnologija se imenuje textGrain in v izbiro besed v ustvarjenem besedilu vgradi neviden statistični signal. Poseben detektor lahko nato preveri, ali besedilo vsebuje oznako OpenAI.

Za uporabnike API je označevanje od 5. oktobra na voljo kot možnost pri izbranih modelih po vsem svetu, vendar je privzeto izključeno. V Evropski uniji bo OpenAI v prihodnjih tednih označevanje uvedel pri ustreznih besedilnih izhodih ChatGPT in Codexa v vseh paketih. Ob začetku ga podjetje ne namerava vključiti kot globalno privzeto možnost.

OpenAI hkrati opozarja na omejitve tehnologije. Pri 200 žetonov dolgih besedilih je detektor ob enoodstotni ciljni stopnji lažno pozitivnih rezultatov oznako prepoznal v približno 80 odstotkih primerov, pri 400 žetonih pa v približno 95 odstotkih. Rezultati so slabši pri besedilih, kjer je izbira besed bolj omejena, denimo pri matematiki.

Žeton oziroma »token« je osnovna enota besedila, s katero delajo sistemi umetne inteligence. To ni nujno cela beseda: kratka beseda je lahko en žeton, daljša beseda se lahko razdeli na več žetonov, med žetone pa se lahko štejejo tudi ločila ali deli besed. Zato 200 žetonov ne pomeni 200 besed; pri običajnem besedilu gre okvirno za nekaj več kot sto besed, natančno razmerje pa je odvisno od jezika in besedila. Ko OpenAI pravi, da je pri 200 žetonov dolgih besedilih detektor oznako našel v približno 80 odstotkih primerov, to pomeni, da je pri besedilih te dolžine od desetih dejansko označenih besedil pravilno prepoznal približno osem, dve pa je spregledal. Hkrati je bila ciljna stopnja lažno pozitivnih rezultatov en odstotek: med besedili, ki oznake sploh niso vsebovala, bi sistem približno eno od stotih lahko napačno razglasil za označeno. Daljše besedilo praviloma daje detektorju več podatkov, na katerih lahko išče skriti vzorec.

Oznako je mogoče oslabiti tudi z urejanjem. Pri preizkusu 400 žetonov dolgih besedil je zamenjava desetih odstotkov besed s sopomenkami uspešnost zaznavanja zmanjšala s približno 92 na 66 odstotkov, pri zamenjavi četrtine besed pa na 17 odstotkov.

Detektor zato za zdaj ne bo javno dostopen. OpenAI odpira prijave raziskovalcem in strokovnim organizacijam, ki bodo dostop dobivale posamično. Podjetje poudarja tudi, da oznaka ne razkriva uporabnika, računa, poziva ali pogovora ter ne dokazuje, da je vsebina pravilna ali da je bilo celotno besedilo ustvarjeno z umetno inteligenco.

Za dodajanje komentarjev morate biti prijavljeni.
© Copyright 1999-2026 C-Media