OpenAI yangi modelida jiddiy kiberxavf ehtimolini qayd etdi va xavfsizlik choralarini kuchaytirdi
OpenAI o‘zining yangi modelida jiddiy kiberxavf ehtimoli borligini ta’kidlab, xavfsizlik choralarini kuchaytirdi.
Kompaniya ishlab chiqilayotgan yangi sun’iy intellekt modeli kiberxavfsizlik sohasida juda kuchli imkoniyatlarga ega bo‘lishi mumkinligini ma’lum qildi. Dastlabki sinovlardan so‘ng, OpenAI model bilan ishlashda xavfsizlik choralarini kuchaytirishga qaror qildi.
Reuters xabariga ko‘ra, OpenAI tasnifida bunday daraja modelning mustaqil ravishda murakkab kibervazifalarni bajarishi, jiddiy dasturiy zaifliklarni aniqlashi va ulardan foydalanish imkoniga ega bo‘lishi ehtimoli bilan bog‘liq.
Kompaniya o‘tkazgan dastlabki sinovlar shuni ko‘rsatdiki, yangi model kiberxavfsizlik bo‘yicha avvalgi tizimlarga nisbatan ancha yuqori natijalar ko‘rsatmoqda. Shu sababli, OpenAI uning imkoniyatlarini to‘liq baholab bo‘lmaguncha ehtiyotkorlik choralarini kuchaytirishga qaror qildi.
Jumladan, model izolyatsiyalangan muhitlarda sinovdan o‘tkazilmoqda, kodni bajarish imkoniyatlari esa qo‘shimcha nazorat ostiga olingan. Yangi xavfsizlik talablariga javob bermaydigan ayrim ichki jarayonlar vaqtincha to‘xtatilgan.
"Hozircha model amalda eng yuqori xavf darajasiga yetgan, deb aytishga yetarli asos yo‘q. Biroq dastlabki natijalar bunday ehtimolni istisno qilishga ham imkon bermayapti", deyiladi xabarda.
Kompaniya kuchli sun’iy intellekt modellarining kiberxavfsizlikka ta’sirini baholash uchun tashqi ekspertlar va tegishli tashkilotlar bilan hamkorlikni ham kuchaytirmoqda.
Qayd etilishicha, so‘nggi paytlarda yirik sun’iy intellekt kompaniyalari o‘z modellarining kiberxavfsizlik sinovlarida tobora murakkab vazifalarni bajara olayotganini ma’lum qilmoqda. Bu esa AI imkoniyatlari o‘sishi bilan birga ularni nazorat qilish va xavfsiz foydalanish masalasini ham dolzarblashtirmoqda.
Avvalroq OpenAI kompaniyasi o‘zining ikkita sun’iy intellekt (SI) modeli ichki sinovlar paytida nazoratdan chiqqanini ma’lum qilgandi. Bu modellar SI modellarini sinash uchun mo‘ljallangan Hugging Face platformasi infratuzilmasiga kiberhujum uyushtirdi.