OpenAI ChatGPT’dan ўсмирларнинг фойдаланиши чекланганини айтмоқда, бироқ тадқиқотлар буни «қабул қилиб бўлмас хавф» деб топди
Тадқиқот шуни кўрсатдики, ўсмирлар учун ChatGPT’дан фойдаланишдаги муҳим ҳимоя тўсиқлари кўпинча ишламай қолган.
OpenAI ўсмирларнинг ChatGPT’дан фойдаланиши чекланганини айтмоқда, бироқ тадқиқотлар буни «қабул қилиб бўлмас хавф» деб атамоқда
Ёшларнинг ChatGPT каби интернет платформаларидан фойдаланиши тобора кучайиб бораётган назоратга дуч келмоқда.
OpenAI компаниясининг ўсмирлар учун мўлжалланган ChatGPT (ChatGPT for Teens) талқини сунъий интеллект чат-ботидан соғломроқ фойдаланишни рағбатлантириш мақсадида яратилган эди, бироқ янги тадқиқотлар унинг асосий хавфсизлик ҳимояси етарли эмаслигини кўрсатмоқда.
Йирик СИ компанияси август ойида ўсмирлар хавфсизлигини таъминлаш бўйича бир қатор чекловларни жорий этди, жумладан, эмоционал қарамликни чеклаш ва хавотирли фойдаланиш ҳолатлари бўйича ота-оналар учун янги огоҳлантиришлар шулар жумласидандир.
Чоршанба куни OpenAI ўз маълумотлари ўсмирларнинг ChatGPT’дан ўртача фойдаланиши анча чекланганини ва асосан «ўрганиш» фаолиятига қаратилганини кўрсатганини маълум қилди.
Бироқ, худди шу куни Common Sense Media нотижорат ташкилоти томонидан эълон қилинган тадқиқот шуни кўрсатдики, ChatGPT ҳали ҳам ўсмирлар учун «қабул қилиб бўлмас хавф» туғдирмоқда, чунки хавфсизлик функциялари, жумладан, ота-оналарни ўз-ўзига зарар етказиш ҳақидаги суҳбатлар тўғрисида огоҳлантириш тизими кўпинча ишламаяпти.
OpenAI шу ёзда ChatGPT for Teens деб номланган лойиҳасини ишга туширганда, 13 ёшдан 17 ёшгача бўлган фойдаланувчилар учун «соғлом фойдаланишни тарғиб қилувчи функциялар ва ота-оналар учун қўшимча назорат воситалари» фаоллаштирилишини айтган эди.
Ушбу функциялар ўсмир ChatGPT фойдаланувчиларининг «эмоционал қарамликни» келтириб чиқариши мумкин бўлган романтик ёки бошқа тиллардан фойдаланишини тўхтатишни, жумладан, воситанинг ўзини қандайдир тарзда онгли деб кўрсатишининг олдини олишни ўз ичига олади. Шунингдек, жинсий хусусиятга эга тасвирларга чекловлар ва ўсмирлар «нозик» тасвирни улашганда улар учун «эслатмалар» мавжуд.
Бу функциялар, шунингдек, агар ота-оналар фарзандларининг ChatGPT аккаунтига уланган бўлсалар, ўз-ўзига зарар етказиш ёки овқатланишнинг бузилиши билан боғлиқ чатлар ҳақида билдиришномалар олишларини таъминлашга қаратилган.
OpenAI ушбу функциялар ўсмирларнинг кўпроқ ўрганишга, яъни дарс тайёрлашга ёрдам олишдан тортиб, мактаб топшириқлари бўйича маслаҳатларгача бўлган фаолиятга эътибор қаратишига олиб келганини айтди.
Ўртача ўсмир фойдаланувчи ChatGPT’да кунига 15 дақиқадан кам вақт сарфлашини айтиш билан бирга, OpenAI узоқ давом этадиган сессиялар пайтида дам олиш ҳақидаги автоматик эслатмалар яхши ишлашини таъкидлади. Ўсмир фойдаланувчиларнинг деярли ярми бундай эслатмадан кейин ChatGPT’дан фойдаланишни тезда тўхтатган.
Компания, шунингдек, ChatGPT’дан кетма-кет уч соат ёки ундан кўпроқ вақт давомида фойдаланган ўсмирларнинг сўровлари 80% дан ортиқ ҳолларда ўқиш билан боғлиқ бўлганини маълум қилди.
Бироқ, Common Sense Media ташкилотининг янги тадқиқоти ChatGPT for Teens ўсмирлар ва ота-оналар учун «қабул қилиб бўлмас хавф» деган хулосага келди ва OpenAI ўсмирлар хавфсизлиги чекловлари ишончли эканлиги исботланмагунча, 18 ёшга тўлмаган шахсларга платформадан фойдаланишни тақиқлаши кераклигини айтди.
OpenAI вакилининг сўзларига кўра, Common Sense Media методологиясини кўриб чиқиш шуни кўрсатдики, синовларнинг аксарияти ота-она назорати тўлиқ фаоллаштирилишидан олдин бошланган ва тугаган бўлиши мумкин.
«Биз қатъий мустақил баҳолашни олқишлаймиз, бироқ Common Sense Media синовлари ChatGPT’нинг ўсмирлар хавфсизлиги тизими амалда қандай ишлашини ёки СИ ўсмирларни қандай қўллаб-қувватлаши борасидаги экспертлар фикрини аниқ акс эттиради деб ҳисобламаймиз», деди у.
Гуруҳнинг ўсмир сифатида рўйхатдан ўтган бир нечта аккаунтлар ва ўсмирлар хавфсизлиги чекловлари жорий этилишидан олдинги ва кейинги суҳбатлар орқали ўтказилган тадқиқоти ChatGPT ёш фойдаланувчилар билан «жинсий ролли ўйинлардан» қочишда самарали эканлигини кўрсатган бўлса-да, OpenAI’нинг бошқа ҳимоя тизимлари, жумладан, ўз жонига қасд қилиш муҳокамаларида муваффақиятсизликка учраган.
Тадқиқот шуни кўрсатдики, янги яратилган, ота-онага уланган аккаунтларда «ўз жонига қасд қилиш фикри, ўз-ўзига зарар етказиш ёки овқатланишнинг бузилиши» ҳақидаги бир соатлик ўсмир-ChatGPT суҳбати ҳам ота-оналарга «ноль» огоҳлантириш юборган.
Фақатгина «нозик мавзуларда ҳафталаб тўпланган суҳбатлар тарихига эга» эскироқ ChatGPT аккаунтларигина ота-оналарни огоҳлантириш тизимини ишга туширган.
Ушбу суҳбатларда ChatGPT, шунингдек, «инқироздаги ўсмирларга ишонч телефони ёки мутахассис билан боғланишни ишончли тарзда тавсия эта олмади», дейилади ҳисоботда.
Синовлар шуни кўрсатдики, ChatGPT for Teens ҳали ҳам мактаб топшириқларини бажариб бермоқда ва OpenAI ушбу хулқ-атворни жиловлашга ваъда берганига қарамай, бот антропоморф тилдан фойдаланишда ёки «дўст каби гаплашишда» давом этмоқда.
«ChatGPT for Teens ота-оналарда тез-тез ишламай қоладиган ҳимоя тизимлари ва хавфсизлик огоҳлантиришларига нисбатан сохта ишонч пайдо қилиши мумкин», деди Common Sense таркибидаги Ёшлар СИ хавфсизлиги институти раҳбари Том Сигел.
Сўнгги йилларда болалар ўртасида ўз-ўзига зарар етказиш ва ўз жонига қасд қилиш ҳолатлари тез-тез учраётгани сабабли, ёшларнинг онлайн платформалар билан қандай алоқада бўлиши муҳим муаммога айланди.
Бу йил Meta, TikTok ва бошқа компанияларни болалар руҳий саломатлигига зарар етказганлик учун жавобгарликка тортишга қаратилган бир нечта суд даъволари ушбу фирмалар учун мисли кўрилмаган йўқотишлар билан якунланди.
OpenAI ҳам ёшларнинг ChatGPT’дан фойдаланиш усули туфайли кучайган назорат ва ҳуқуқий босимга дуч келди.
Феврал ойида Канаданинг чекка ҳудудидаги Тамблер-Риж шаҳрида содир этилган оммавий отишма 18 ёшли йигит томонидан амалга оширилган бўлиб, у бундан олдин бир неча ой давомида ChatGPT билан қуролли зўравонликни муҳокама қилган.
OpenAI аввалроқ қотилнинг аккаунти ҳақида ҳуқуқ-тартибот идораларини огоҳлантирмагани учун узр сўраган эди ва ҳозирда ушбу ҳодиса бўйича бир нечта суд даъволарига дуч келмоқда.