OpenAI ChatGPT’dan oʻsmirlarning foydalanishi cheklanganini aytmoqda, biroq tadqiqotlar buni «qabul qilib boʻlmas xavf» deb topdi
Tadqiqot shuni koʻrsatdiki, oʻsmirlar uchun ChatGPT’dan foydalanishdagi muhim himoya toʻsiqlari koʻpincha ishlamay qolgan.
OpenAI oʻsmirlarning ChatGPT’dan foydalanishi cheklanganini aytmoqda, biroq tadqiqotlar buni «qabul qilib boʻlmas xavf» deb atamoqda
Yoshlarning ChatGPT kabi internet platformalaridan foydalanishi tobora kuchayib borayotgan nazoratga duch kelmoqda.
OpenAI kompaniyasining oʻsmirlar uchun moʻljallangan ChatGPT (ChatGPT for Teens) talqini sunʼiy intellekt chat-botidan sogʻlomroq foydalanishni ragʻbatlantirish maqsadida yaratilgan edi, biroq yangi tadqiqotlar uning asosiy xavfsizlik himoyasi yetarli emasligini koʻrsatmoqda.
Yirik SI kompaniyasi avgust oyida oʻsmirlar xavfsizligini taʼminlash boʻyicha bir qator cheklovlarni joriy etdi, jumladan, emotsional qaramlikni cheklash va xavotirli foydalanish holatlari boʻyicha ota-onalar uchun yangi ogohlantirishlar shular jumlasidandir.
Chorshanba kuni OpenAI oʻz maʼlumotlari oʻsmirlarning ChatGPT’dan oʻrtacha foydalanishi ancha cheklanganini va asosan «oʻrganish» faoliyatiga qaratilganini koʻrsatganini maʼlum qildi.
Biroq, xuddi shu kuni Common Sense Media notijorat tashkiloti tomonidan eʼlon qilingan tadqiqot shuni koʻrsatdiki, ChatGPT hali ham oʻsmirlar uchun «qabul qilib boʻlmas xavf» tugʻdirmoqda, chunki xavfsizlik funktsiyalari, jumladan, ota-onalarni oʻz-oʻziga zarar yetkazish haqidagi suhbatlar toʻgʻrisida ogohlantirish tizimi koʻpincha ishlamayapti.
OpenAI shu yozda ChatGPT for Teens deb nomlangan loyihasini ishga tushirganda, 13 yoshdan 17 yoshgacha boʻlgan foydalanuvchilar uchun «sogʻlom foydalanishni targʻib qiluvchi funktsiyalar va ota-onalar uchun qoʻshimcha nazorat vositalari» faollashtirilishini aytgan edi.
Ushbu funktsiyalar oʻsmir ChatGPT foydalanuvchilarining «emotsional qaramlikni» keltirib chiqarishi mumkin boʻlgan romantik yoki boshqa tillardan foydalanishini toʻxtatishni, jumladan, vositaning oʻzini qandaydir tarzda ongli deb koʻrsatishining oldini olishni oʻz ichiga oladi. Shuningdek, jinsiy xususiyatga ega tasvirlarga cheklovlar va oʻsmirlar «nozik» tasvirni ulashganda ular uchun «eslatmalar» mavjud.
Bu funktsiyalar, shuningdek, agar ota-onalar farzandlarining ChatGPT akkauntiga ulangan boʻlsalar, oʻz-oʻziga zarar yetkazish yoki ovqatlanishning buzilishi bilan bogʻliq chatlar haqida bildirishnomalar olishlarini taʼminlashga qaratilgan.
OpenAI ushbu funktsiyalar oʻsmirlarning koʻproq oʻrganishga, yaʼni dars tayyorlashga yordam olishdan tortib, maktab topshiriqlari boʻyicha maslahatlargacha boʻlgan faoliyatga eʼtibor qaratishiga olib kelganini aytdi.
Oʻrtacha oʻsmir foydalanuvchi ChatGPT’da kuniga 15 daqiqadan kam vaqt sarflashini aytish bilan birga, OpenAI uzoq davom etadigan sessiyalar paytida dam olish haqidagi avtomatik eslatmalar yaxshi ishlashini taʼkidladi. Oʻsmir foydalanuvchilarning deyarli yarmi bunday eslatmadan keyin ChatGPT’dan foydalanishni tezda toʻxtatgan.
Kompaniya, shuningdek, ChatGPT’dan ketma-ket uch soat yoki undan koʻproq vaqt davomida foydalangan oʻsmirlarning soʻrovlari 80% dan ortiq hollarda oʻqish bilan bogʻliq boʻlganini maʼlum qildi.
Biroq, Common Sense Media tashkilotining yangi tadqiqoti ChatGPT for Teens oʻsmirlar va ota-onalar uchun «qabul qilib boʻlmas xavf» degan xulosaga keldi va OpenAI oʻsmirlar xavfsizligi cheklovlari ishonchli ekanligi isbotlanmaguncha, 18 yoshga toʻlmagan shaxslarga platformadan foydalanishni taqiqlashi kerakligini aytdi.
OpenAI vakilining soʻzlariga koʻra, Common Sense Media metodologiyasini koʻrib chiqish shuni koʻrsatdiki, sinovlarning aksariyati ota-ona nazorati toʻliq faollashtirilishidan oldin boshlangan va tugagan boʻlishi mumkin.
«Biz qatʼiy mustaqil baholashni olqishlaymiz, biroq Common Sense Media sinovlari ChatGPT’ning oʻsmirlar xavfsizligi tizimi amalda qanday ishlashini yoki SI oʻsmirlarni qanday qoʻllab-quvvatlashi borasidagi ekspertlar fikrini aniq aks ettiradi deb hisoblamaymiz», dedi u.
Guruhning oʻsmir sifatida roʻyxatdan oʻtgan bir nechta akkauntlar va oʻsmirlar xavfsizligi cheklovlari joriy etilishidan oldingi va keyingi suhbatlar orqali oʻtkazilgan tadqiqoti ChatGPT yosh foydalanuvchilar bilan «jinsiy rolli oʻyinlardan» qochishda samarali ekanligini koʻrsatgan boʻlsa-da, OpenAI’ning boshqa himoya tizimlari, jumladan, oʻz joniga qasd qilish muhokamalarida muvaffaqiyatsizlikka uchragan.
Tadqiqot shuni koʻrsatdiki, yangi yaratilgan, ota-onaga ulangan akkauntlarda «oʻz joniga qasd qilish fikri, oʻz-oʻziga zarar yetkazish yoki ovqatlanishning buzilishi» haqidagi bir soatlik oʻsmir-ChatGPT suhbati ham ota-onalarga «nol» ogohlantirish yuborgan.
Faqatgina «nozik mavzularda haftalab toʻplangan suhbatlar tarixiga ega» eskiroq ChatGPT akkauntlarigina ota-onalarni ogohlantirish tizimini ishga tushirgan.
Ushbu suhbatlarda ChatGPT, shuningdek, «inqirozdagi oʻsmirlarga ishonch telefoni yoki mutaxassis bilan bogʻlanishni ishonchli tarzda tavsiya eta olmadi», deyiladi hisobotda.
Sinovlar shuni koʻrsatdiki, ChatGPT for Teens hali ham maktab topshiriqlarini bajarib bermoqda va OpenAI ushbu xulq-atvorni jilovlashga vaʼda berganiga qaramay, bot antropomorf tildan foydalanishda yoki «doʻst kabi gaplashishda» davom etmoqda.
«ChatGPT for Teens ota-onalarda tez-tez ishlamay qoladigan himoya tizimlari va xavfsizlik ogohlantirishlariga nisbatan soxta ishonch paydo qilishi mumkin», dedi Common Sense tarkibidagi Yoshlar SI xavfsizligi instituti rahbari Tom Sigel.
Soʻnggi yillarda bolalar oʻrtasida oʻz-oʻziga zarar yetkazish va oʻz joniga qasd qilish holatlari tez-tez uchrayotgani sababli, yoshlarning onlayn platformalar bilan qanday aloqada boʻlishi muhim muammoga aylandi.
Bu yil Meta, TikTok va boshqa kompaniyalarni bolalar ruhiy salomatligiga zarar yetkazganlik uchun javobgarlikka tortishga qaratilgan bir nechta sud daʼvolari ushbu firmalar uchun misli koʻrilmagan yoʻqotishlar bilan yakunlandi.
OpenAI ham yoshlarning ChatGPT’dan foydalanish usuli tufayli kuchaygan nazorat va huquqiy bosimga duch keldi.
Fevral oyida Kanadaning chekka hududidagi Tambler-Rij shahrida sodir etilgan ommaviy otishma 18 yoshli yigit tomonidan amalga oshirilgan boʻlib, u bundan oldin bir necha oy davomida ChatGPT bilan qurolli zoʻravonlikni muhokama qilgan.
OpenAI avvalroq qotilning akkaunti haqida huquq-tartibot idoralarini ogohlantirmagani uchun uzr soʻragan edi va hozirda ushbu hodisa boʻyicha bir nechta sud daʼvolariga duch kelmoqda.