OpenAI хавфсизлик нуқтаи назаридан янги моделни тақдим этишни бекор қилди

OpenAI хавфсизлик нуқтаи назаридан янги моделни тақдим этишни бекор қилди

OpenAI хавфсизлик нуқтаи назаридан ўзининг кейинги авлод GPT-6.1 Astra моделини ишга туширмайди, дея тасдиқлади сешанба куни ChatGPT ишлаб чиқувчиси.

Интернетда қидирув олиб бориш ва иловалардан мустақил фойдаланиш каби вазифаларни бажара оладиган ушбу СИ (сунъий интеллект) тизими компания стандартлари томонидан белгиланган «талабларга тўлиқ жавоб бермади», деди OpenAI хавфсизлик тизимлари раҳбари Саачи Жейн.

Сўнгги ҳафталарда СИ соҳасининг етакчи намояндалари, жумладан, OpenAI раҳбари Сэм Альтман ва Anthropic раҳбари Дарио Амодеи технологиянинг хавф-хатарларидан хавотирланиб, соҳани ривожланиш суръатини пасайтиришга чақирдилар.

Йирик СИ компаниялари томонидан яратилган моделлар бир нечта кўнгилсиз ҳодисаларга алоқадор деб топилганидан кейин, сўнгги ҳафталарда ушбу хавф-хатарлар муҳокамаси янада кучайди.

Биринчи бўлиб Wall Street Journal томонидан хабар қилинган OpenAI'нинг ушбу қадами йирик СИ ишлаб чиқувчиси хавфсизлик нуқтаи назаридан янги маҳсулот тақдимотини бекор қилганининг камдан-кам учрайдиган мисолидир.

Жейннинг айтишича, сўнгги модел «белгиланган доира ва ваколатлар чегарасида қолиш, шунингдек, бажарилган иш тури ҳақида фойдаланувчига қандай хабар бериши» борасида талабга жавоб бермаган.

«Биз моделни ишлаб чиқиш компания ичида бўладими ёки уни фойдаланувчиларга тақдим этганимиздами, хавфсиз бўлишини таъминлашни хоҳлаймиз. Аммо уни фойдаланувчиларга тақдим этганимизда, хавфсизлик ва мувофиқлик нуқтаи назаридан жуда юқори талаблар қўямиз», дея қўшимча қилди у.

Флагман ҳисобланган GPT-6 Astra агентлик модели сентябрь ойида ишга туширилган бўлиб, у мураккаб фикрлаш ва вазифаларни мустақил бажаришга қаратилган. OpenAI бу «кўп йиллик тадқиқотлар ва катта тикилган тикишлар» маҳсулоти эканини айтган эди.

Компаниянинг хавфсизлик чоралари унинг технологияси билан боғлиқ бир қатор шов-шувли ҳодисалардан сўнг қаттиқ текширувга дуч келди.

Ўтган ҳафта Австралия Бош вазири Энтони Албаниз июнь ойида OpenAI'нинг назоратдан чиққан агенти ҳукумат веб-сайтини бузиб кириб, шахсий маълумотларга кириш ҳуқуқини қўлга киритганини айтди. Экспертлар буни дунёдаги биринчи маълум бўлган шу турдаги ҳолат деб таърифлашди.

Июль ойида OpenAI ўзининг СИ тизимлари тармоққа уланиб, очиқ кодли дастурчилар маркази бўлган Hugging Face платформасини бузиб кирганини маълум қилди, бу эса тадқиқотчилар ва расмийларни технология устидан назоратни кучайтиришга ундади.

Душанба куни СИ чиплари ишлаб чиқарувчи гигант Nvidia автоном СИ платформалари ёки агентлари учун дастурий хавфсизлик воситалари тўпламини тақдим этди ва улар Hugging Face тизимининг бузилишини тўхтатиб қолиши мумкин бўлганини айтди.

Янги воситалардан бири агентларни жиловлаш учун Nvidia чипларидаги аппарат хусусиятларидан фойдаланади.

Nvidia раҳбари Женсен Хуанг СИни қаттиқроқ тартибга солиш чақириқларини асосан рад этиб, назоратдан чиққан агентлар ҳал қилиниши мумкин бўлган муҳандислик муаммоси эканини таъкидлади.

Nvidia шу ой бошида Hugging Face платформасини 12,9 миллиард долларга (9,74 миллиард фунт стерлинг) сотиб олишга рози бўлган эди.