OpenAI ChatGPT ёрдамида яратилган матнларга кўринмас сув белгисини жорий этади

OpenAI яқин ҳафталарда сунъий интеллект томонидан яратилган контентни машина орқали аниқлаш имкониятини назарда тутувчи Европа Иттифоқининг сунъий интеллект тўғрисидаги қонуни талабларини бажарган ҳолда, ChatGPT ва Codex томонидан яратиладиган матнларга кўринмас сув белгисини жорий этишни бошлайди.

Бу ҳақда OpenAI 5 октябрь куни маълум қилди. Компания матнли маркировка ва СИ-контентни таниш технологиялари ҳозирча ривожланишнинг дастлабки босқичида экани ва жиддий чекловларга эгалигини таъкидлади.

Сув белгиси textGrain технологияси ёрдамида матнга яширин тарзда жойлаштирилади. У муайян статистик тамойил асосида сўзлар танловини ўзгартириб, яширин сигнал шакллантиради. Сўнгра махсус детектор матнни таҳлил қилади ва унда шундай сув белгиси бор-йўқлигини аниқлайди.

Параллел равишда OpenAI тадқиқотчилар ва эксперт ташкилотларидан детекторга кириш учун аризаларни қабул қилишни бошлайди. Биринчи босқичда ундан фақат тасдиқланган мутахассислар фойдаланиши мумкин бўлади, улар компанияга технологиянинг ишончлилиги ва ундан масъулият билан фойдаланиш вариантларини баҳолашда ёрдам беради.

API мижозлари учун матнли маркировка бутун дунё бўйлаб айрим моделлар учун ихтиёрий равишда аллақачон мавжуд, бироқ у сукут бўйича ўчирилган.

Шу билан бирга, OpenAI сув белгиси матннинг келиб чиқишини аниқлашда юз фоизлик кафолат бермаслигидан огоҳлантиради. Материал қанчалик қисқа бўлса ёки ифодаларга қўйиладиган талаблар қанчалик қатъий бўлса, уни аниқлаш шунчалик қийинлашади. Бундан ташқари, таҳрирлаш сигнални сезиларли даражада заифлаштириши мумкин.

OpenAI тестларида детектор ҳажми тахминан 200 токен (яъни тахминан 130–160 сўз) бўлган матнларнинг қарийб 80 фоизида ва ҳажми тахминан 400 токен (260–320 сўз) бўлган материалларнинг 95 фоизида сув белгисини топди. Математикага оид матнлар учун сўз танлашдаги эркинлик камроқ бўлгани сабабли кўрсаткичлар сезиларли даражада паст бўлди.

Қайта баён қилиш (парафраз) ҳам таниш самарадорлигини кескин камайтирди. Сўзларнинг 10 фоизини синонимларга алмаштириш аниқлаш кўрсаткичини тахминан 92 фоиздан 66 фоизгача камайтирди, сўзларнинг чорак қисми алмаштирилганда эса у 17 фоизгача тушиб кетди.

OpenAI-нинг таъкидлашича, textGrain хусусий синовларда бошқа синовдан ўтказилган ёндашувлар, жумладан, матн учун SynthID-дан ёмон бўлмаган ёки ундан яхшироқ натижаларни кўрсатди. Шу билан бирга, компания бошқа дастурчилар ундан фойдаланишлари ва ўз ечимларини ишлаб чиқишлари учун технологияни очиқ қилиш ниятида.

ЕИнинг СИ-контентни маркировка қилишга доир талаблари генератив сунъий интеллектдан фойдаланиш шаффофлигига нисбатан кенгроқ ёндашувнинг бир қисмидир. OpenAI тасвирлар ва аудиоларнинг келиб чиқишини текшириш учун мавжуд воситалар бундай материаллар унинг тизимлари томонидан яратилганлигини аниқламоқчи бўлган ташкилотлар учун очиқ бўлишда давом этишини алоҳида қайд этди.

Аввалроқ Нью-Йорк университети математиги Тристан Бакмастер OpenAI у ҳамкасби Левант Альпоге билан биргаликда "минг йиллик муаммоси"ни ҳал қилиш учун деярли бир йил давомида ишлаб чиққан ёндашувни нусхалаб олган бўлиши мумкинлигини даъво қилган эди.