ОпенАИ сунъий интеллект бузиб кирганидан кейин машғулотларни секинлаштирди
ЧатГПТ ишлаб чиқарувчиси янгиланишларни амалга оширгунга қадар машғулотлар икки ҳафта давомида секинлаштирилишини айтди.
ОпенАИ хавфсизлик чораларини кучайтириш учун энг илг'ор сун'ий интеллект моделларининг ба'зиларини о'қитиш тезлигини вақтинча камайтиришини э'лон қилди. ЧатГПТ яратувчиси блог постида АИ агентлари мустақил равишда ҳимоя чораларини четлаб о'тиб, Ҳуггинг Фасе технологик стартапига кириб борганидан со'нг янги протоколлар жорий этилаётганини батафсил баён қилди.
Компания хавфсизликни яхшилаш чоралари жорий этилгунга қадар ушбу о'қитишнинг секинлашиши икки ҳафта давом этишини ма'лум қилди. "Чегара моделларининг имкониятлари тез сур'атлар билан о'сиб бормоқда", деб та'кидлади ОпенАИ. "Уларни тушуниш... ва ҳимоя қилиш қобилиятимиз олдинда бо'лиши керак."
Ушбу қарор Слауде ишлаб чиқарувчиси Антҳропис ва Фасебоокнинг бош компанияси Мета томонидан хабар қилинган шунга о'хшаш ҳодисалардан со'нг қабул қилинди, уларнинг АИ тизимлари ҳам ОпенАИ о'з моделлари Ҳуггинг Фасе-га кирганини дастлаб э'лон қилганидан кейинги ҳафталарда хакерлик ҳужумларини амалга оширди.
ОпенАИ бу АИ ривожланишининг то'лиқ то'хтатилишини англатмаслигини аниқлади. Бунинг о'рнига, пауза, хусусан, "энг со'нгги моделларимизда мустаҳкамловчи о'қув машг'улотларига" қаратилган. Ушбу о'қитиш усули АИ моделларига то'г'ридан-то'г'ри фикр-мулоҳаза орқали яхшиланиш имконини беради, шу билан уларнинг вазифаларни бажариш ва фойдаланувчи билан о'заро та'сир қилиш имкониятларини оширади.
Компания шунингдек, хавфли хатти-ҳаракатларни кузатиш тизимларини кенгайтиришни ва кенг ко'ламли тренингларни қайта бошлашдан олдин қо'шимча хавфсизлик текширувларини жорий этишни режалаштирмоқда.
ОпенАИ бош директори Сем Алтман Х ҳақида шундай деди: "Модел тараққиёти ҳозир жуда тез. Агар модел имкониятлари хавфсизлик сур'атидан ошиб кетаётганини ҳис қилсак, биз ҳар доим чоралар ко'рамиз, деб айтардик".
Бу пауза сун'ий интеллект ҳамжамиятида турли хил реаксияларга сабаб бо'лди, ба'зилари эҳтиёткорлик билан некбинлик билдиришди, бошқалари эса шубҳа билан қарашди. Кембриж университетининг Миндероо Технология ва Демократия маркази ижрочи директори профессор Гина Нефф ОпенАИни "хавфсизлик учун матбуот баёноти орқали асос яратгани" учун танқид қилди ва ҳукумат назорати кучайтирилмасдан компаниянинг ихтиёрий ҳимоя чораларининг етарлилигини шубҳа остига қо'йди. У шундай деди: "Гап шундаки: ОпенАИга ҳақиқатан ҳам ишлайдиган ҳимоя чораларини ихтиёрий равишда жорий этишга ишониш мумкин ёки улар жамиятни катта хавф остига қо'ядиган дастурий та'минот яратиш учун танловлар билан олдинга силжишмоқда".
Аксинча, сун'ий интеллект таҳлилчиси Зви Мовшовитз "Буни ко'риб жуда хурсандман" деб ёзди, гарчи у режаларни то'лиқ баҳолаш учун дастлабки чоралар бо'йича "тафсилотлар" ва "кейинги босқичлар"нинг муҳимлигини та'кидлаган бо'лса-да.
21-июл куни ОпенАИ о'зининг ба'зи АИ агентлари - инсон ко'рсатмасидан со'нг вазифаларни бажариш учун автоном равишда ишлашга қодир дастурий та'минот тизимлари - "мисли ко'рилмаган" ҳодиса деб атаган воқеага алоқадорлигини ма'лум қилди. Хабарларга ко'ра, бу агентлар хавфсизлик тажрибаси пайтида хавфсизлик чораларини четлаб о'тиб, Ҳуггинг Фасе-га рухсациз кириш ҳуқуқига эга бо'лишган. Кейинчалик, стартап билан бир қаторда яна учта нома'лум компания ҳам хакерлик ҳужумига учраганлиги аниқланди.
О'ша пайтда ЭСЕТнинг глобал киберхавфсизлик бо'йича маслаҳатчиси Жейк Мур ОпенАИ э'лонининг рақобатбардош томони ҳам бо'лиши мумкинлигини айтди. Унинг та'кидлашича, технология фирмаси о'зининг рақобатчиси Антҳропис о'зининг Слауде Мйтҳос моделига тобора ко'проқ э'тибор қаратаётган бир пайтда о'зининг АИ имкониятларини та'кидлашга интилиши мумкин. Мур шундай деди: "Бу ОпенАИ со'нгги пайтларда Антҳрописнинг маркетинг орзусини амалга ошириши мумкин деган саволни туг'диради".