ChatGPT OpenAI vydává nástroj na detekci obsahu generovaného umělou inteligencí

Společnost OpenAI vyzývá univerzitní pedagogy, aby poskytli zpětnou vazbu k používání tohoto nástroje v souvislosti s rostoucími obavami ohledně podvádění, ke kterému je využívána umělá inteligence. Výzkumná laboratoř OpenAI, která stojí za programem ChatGPT, vydala nástroj určený k rozpoznání, zda byl text napsán umělou inteligencí. Nicméně zatím není nástroj 100 % spolehlivý.

V příspěvku na blogu OpenAI odkázala na nový nástroj pro klasifikaci, který byl vycvičen k rozlišování mezi textem napsaným člověkem a textem napsaným různými druhy umělé inteligence (nejen programem ChatGPT). Výzkumníci z Open AI uvedli, že ačkoli „není možné spolehlivě odhalit všechny texty psané umělou inteligencí“, dobré klasifikátory mohou zachytit známky toho, že text napsala umělá inteligence. Nástroj by mohl být užitečný v případech, kdy je AI používána k „akademickému nečestnému jednání“.

Přiznali však, že klasifikátor „není zcela spolehlivý“ a správně identifikoval pouze 26 % anglických textů psaných umělou inteligencí. V 9 % případů také nesprávně označil lidmi psané texty jako texty pravděpodobně napsané nástroji umělé inteligence. „Spolehlivost našeho klasifikátoru se obvykle zlepšuje s rostoucí délkou vstupního textu. V porovnání s naším dříve vydaným klasifikátorem je tento nový klasifikátor výrazně spolehlivější na texty z novějších systémů AI.“

Od doby, kdy byl ChatGPT zpřístupněn veřejnosti, vyvolal mezi vzdělávacími institucemi po celém světě vlnu obav, že by mohl vést k podvádění při zkouškách nebo hodnocení. Jedna z vyučujících na australské Deakinově univerzitě uvedla, že přibližně v každém pátém hodnocení, které během letního období v Austrálii hodnotila, byla použita pomoc umělé inteligence.

Společnost OpenAI uvedla, že klasifikační nástroj má několik omezení, včetně nespolehlivosti v případě textu kratšího než 1 000 znaků, a také nesprávné identifikace některých textů psaných člověkem jako textů psaných umělou inteligencí. Výzkumníci také uvedli, že by se měl používat pouze pro anglický text, protože v jiných jazycích si vede „výrazně hůře“ a je nespolehlivý při kontrole kódu.

„Neměla by se používat jako primární rozhodovací nástroj, ale jako doplněk k jiným metodám určování zdroje textu,“ uvedla společnost OpenAI. Zatímco většina univerzit reagovala na AI negativně, některé se na vlnu AI naladily. Tři hlavní univerzity v Jižní Austrálii minulý měsíc aktualizovaly své zásady a uvedly, že AI jako ChatGPT je povoleno používat.

Zdroj, foto: businessinsider.com, fotobanka