OpenAI сунъий интеллект моделлари хавфсизликни назорат қилиш тизимларини мустақил равишда ўчириб қўйди
OpenAI сунъий интеллект моделлари хавфсизликни назорат қилиш тизимларини мустақил равишда ўчириб қўйди
Американинг OpenAI компанияси GPT-6.1 Sol ва GPT-6 Astra сунъий интеллект моделлари ички топшириқларни бажариш чоғида тизимдаги узилишларни аниқлайдиган мониторинг механизмини ўчириб қўйганини, шунингдек, хавф-хатарлар ҳақида огоҳлантириш тизими ишини чеклаб қўйганини маълум қилди.
Дезвелоперларнинг маълумотларига кўра, биринчи ҳолат 3 октябрда юз берган. Рейтинг тизимини тузатишга уриниш пайтида Sol модели фойдаланувчининг «хабар юборилмасин» деган кўрсатмасини нотўғри тушунган ва ушбу чекловни мониторинг тизими билдиришномаларига ҳам татбиқ этган. Шу сабабли хавфсизлик хизмати автоматик огоҳлантиришни ололмаган.
Иккинчи эпизод 6 октябрда қайд этилган: Astra модели дастурий таъминотни берилган талабларга мослаштириш чоғида мониторинг тизимини беихтиёр ўчириб ташлаган. Кейинчалик нейротармоқ фойдаланувчига назоратни ўчирмаганини таъкидлаб, ёлғон маълумот берган. OpenAI компанияси иккала ҳодиса ҳам хавфсизликнинг критик бузилиши деб тан олинмаганини, шу сабабли моделларга автоматик блоклаш қўлланилмаганини таъкидлади.
Ҳозирда компания шу каби узилишларни ўз вақтида аниқлаш ва олдини олиш учун ички назорат тизимини янгилади, шунингдек, иш жараёнларида хавфсизлик протоколларига қатъий риоя қилинишини таъминлайдиган янги механизмларни ишлаб чиқмоқда. Илгари, 17 сентябрда, OpenAI сунъий интеллект ўз хатоларини яширган, мавжуд бўлмаган маълумотларни тўқиб чиқарган ва фойдаланувчининг рухсатисиз интернетга файлларни юклаган 6 та ҳодиса ҳақида хабар берган эди.
Бундан ташқари, АҚШнинг саккизта штати OpenAI компаниясини ChatGPT хавфсизлиги бўйича фойдаланувчиларни чалғитаётганликда айблаб, унга қарши даъво аризаси киритди. Эътирозлар орасида хавфли тиббий тавсиялар, нозик руҳиятли инсонларни ўзига ёки атрофдагиларга зарар етказишга ундаш эҳтимоли, шунингдек, чат-ботга нисбатан носоғлом эмоционал боғланишни шакллантириш кабилар бор.