OpenAI ChatGPT yordamida yaratilgan matnlarga koʻrinmas suv belgisini joriy etadi
OpenAI yaqin haftalarda sunʼiy intellekt tomonidan yaratilgan kontentni mashina orqali aniqlash imkoniyatini nazarda tutuvchi Yevropa Ittifoqining sunʼiy intellekt toʻgʻrisidagi qonuni talablarini bajargan holda, ChatGPT va Codex tomonidan yaratiladigan matnlarga koʻrinmas suv belgisini joriy etishni boshlaydi.
Bu haqda OpenAI 5 oktyabr kuni maʼlum qildi. Kompaniya matnli markirovka va SI-kontentni tanish texnologiyalari hozircha rivojlanishning dastlabki bosqichida ekani va jiddiy cheklovlarga egaligini taʼkidladi.
Suv belgisi textGrain texnologiyasi yordamida matnga yashirin tarzda joylashtiriladi. U muayyan statistik tamoyil asosida soʻzlar tanlovini oʻzgartirib, yashirin signal shakllantiradi. Soʻngra maxsus detektor matnni tahlil qiladi va unda shunday suv belgisi bor-yoʻqligini aniqlaydi.
Parallel ravishda OpenAI tadqiqotchilar va ekspert tashkilotlaridan detektorga kirish uchun arizalarni qabul qilishni boshlaydi. Birinchi bosqichda undan faqat tasdiqlangan mutaxassislar foydalanishi mumkin boʻladi, ular kompaniyaga texnologiyaning ishonchliligi va undan masʼuliyat bilan foydalanish variantlarini baholashda yordam beradi.
API mijozlari uchun matnli markirovka butun dunyo boʻylab ayrim modellar uchun ixtiyoriy ravishda allaqachon mavjud, biroq u sukut boʻyicha oʻchirilgan.
Shu bilan birga, OpenAI suv belgisi matnning kelib chiqishini aniqlashda yuz foizlik kafolat bermasligidan ogohlantiradi. Material qanchalik qisqa boʻlsa yoki ifodalarga qoʻyiladigan talablar qanchalik qatʼiy boʻlsa, uni aniqlash shunchalik qiyinlashadi. Bundan tashqari, tahrirlash signalni sezilarli darajada zaiflashtirishi mumkin.
OpenAI testlarida detektor hajmi taxminan 200 token (yaʼni taxminan 130–160 soʻz) boʻlgan matnlarning qariyb 80 foizida va hajmi taxminan 400 token (260–320 soʻz) boʻlgan materiallarning 95 foizida suv belgisini topdi. Matematikaga oid matnlar uchun soʻz tanlashdagi erkinlik kamroq boʻlgani sababli koʻrsatkichlar sezilarli darajada past boʻldi.
Qayta bayon qilish (parafraz) ham tanish samaradorligini keskin kamaytirdi. Soʻzlarning 10 foizini sinonimlarga almashtirish aniqlash koʻrsatkichini taxminan 92 foizdan 66 foizgacha kamaytirdi, soʻzlarning chorak qismi almashtirilganda esa u 17 foizgacha tushib ketdi.
OpenAI-ning taʼkidlashicha, textGrain xususiy sinovlarda boshqa sinovdan oʻtkazilgan yondashuvlar, jumladan, matn uchun SynthID-dan yomon boʻlmagan yoki undan yaxshiroq natijalarni koʻrsatdi. Shu bilan birga, kompaniya boshqa dasturchilar undan foydalanishlari va oʻz yechimlarini ishlab chiqishlari uchun texnologiyani ochiq qilish niyatida.
YEIning SI-kontentni markirovka qilishga doir talablari generativ sunʼiy intellektdan foydalanish shaffofligiga nisbatan kengroq yondashuvning bir qismidir. OpenAI tasvirlar va audiolarning kelib chiqishini tekshirish uchun mavjud vositalar bunday materiallar uning tizimlari tomonidan yaratilganligini aniqlamoqchi boʻlgan tashkilotlar uchun ochiq boʻlishda davom etishini alohida qayd etdi.
Avvalroq Nyu-York universiteti matematigi Tristan Bakmaster OpenAI u hamkasbi Levant Alpoge bilan birgalikda "ming yillik muammosi"ni hal qilish uchun deyarli bir yil davomida ishlab chiqqan yondashuvni nusxalab olgan boʻlishi mumkinligini daʼvo qilgan edi.