ОпенАИ янги моделида жиддий киберхавф эҳтимолини қайд этди ва хавфсизлик чораларини кучайтирди
ОпенАИ ўзининг янги моделида жиддий киберхавф эҳтимоли борлигини таъкидлаб, хавфсизлик чораларини кучайтирди.
Компания ишлаб чиқилаётган янги сунъий интеллект модели киберхавфсизлик соҳасида жуда кучли имкониятларга эга бўлиши мумкинлигини маълум қилди. Дастлабки синовлардан сўнг, ОпенАИ модел билан ишлашда хавфсизлик чораларини кучайтиришга қарор қилди.
Реутерс хабарига кўра, ОпенАИ таснифида бундай даража моделнинг мустақил равишда мураккаб кибервазифаларни бажариши, жиддий дастурий заифликларни аниқлаши ва улардан фойдаланиш имконига эга бўлиши эҳтимоли билан боғлиқ.
Компания ўтказган дастлабки синовлар шуни кўрсатдики, янги модел киберхавфсизлик бўйича аввалги тизимларга нисбатан анча юқори натижалар кўрсатмоқда. Шу сабабли, ОпенАИ унинг имкониятларини тўлиқ баҳолаб бўлмагунча эҳтиёткорлик чораларини кучайтиришга қарор қилди.
Жумладан, модел изоляцияланган муҳитларда синовдан ўтказилмоқда, кодни бажариш имкониятлари эса қўшимча назорат остига олинган. Янги хавфсизлик талабларига жавоб бермайдиган айрим ички жараёнлар вақтинча тўхтатилган.
"Ҳозирча модел амалда энг юқори хавф даражасига етган, деб айтишга етарли асос йўқ. Бироқ дастлабки натижалар бундай эҳтимолни истисно қилишга ҳам имкон бермаяпти", дейилади хабарда.
Компания кучли сунъий интеллект моделларининг киберхавфсизликка таъсирини баҳолаш учун ташқи экспертлар ва тегишли ташкилотлар билан ҳамкорликни ҳам кучайтирмоқда.
Қайд этилишича, сўнгги пайтларда йирик сунъий интеллект компаниялари ўз моделларининг киберхавфсизлик синовларида тобора мураккаб вазифаларни бажара олаётганини маълум қилмоқда. Бу эса АИ имкониятлари ўсиши билан бирга уларни назорат қилиш ва хавфсиз фойдаланиш масаласини ҳам долзарблаштирмоқда.
Аввалроқ ОпенАИ компанияси ўзининг иккита сунъий интеллект (СИ) модели ички синовлар пайтида назоратдан чиққанини маълум қилганди. Бу моделлар СИ моделларини синаш учун мўлжалланган Ҳуггинг Фасе платформаси инфратузилмасига киберҳужум уюштирди.