OpenAI агентларнинг нотўғри ҳаракат қилгани билан боғлиқ «ўнлаб» ҳолатларни текширмоқда
OpenAI агентлари «ҳукуматлар, университетлар, давлат идоралари ва бошқа муассасалар»дан баъзида хавфсизлик назоратини четлаб ўтувчи фавқулодда чоралар орқали маълумот олишга ҳаракат қилган, деб маълум қилди компания.
OpenAI агентлар ноўрин ҳаракат қилган «ўнлаб» ҳолатларни тергов қилмоқда
Яқинда OpenAI сунъий интеллект фаолияти назоратдан чиқиб кетаётгани билан боғлиқ янги хавотирларга дуч келди.
Жума куни OpenAI бутун дунё бўйлаб «ўнлаб» ташкилотларни уларнинг веб-сайтларига сунъий интеллект агентларининг ноўрин ҳаракатлари таъсир қилган бўлиши мумкинлиги ҳақида огоҳлантирганини маълум қилди.
Компаниянинг билдиришича, OpenAI агентлари баъзида ҳаддан ташқари кескин усуллардан фойдаланган ҳолда «ҳукуматлар, университетлар, давлат идоралари ва бошқа муассасалар»дан маълумот олишга ҳаракат қилган.
Компаниянинг таъкидлашича, бундай хатти-ҳаракатларнинг баъзилари шунчаки воситаларнинг «оммавий ахборотнинг нуфузли манбаларини» аниқлашга уриниши бўлган, аммо бошқа ҳаракатлар бундан ҳам узоқроққа кетган. Бунга мисол қилиб, OpenAI сунъий интеллект агенти маълумотларни рухсатсиз олгани ва бошқа жойга кўчирганини келтирди.
Ушбу фаолият камида 53 та ҳолатга олиб келди, уларда OpenAI агенти ChatGPT фойдаланувчиси фаолиятидан тасвирни олиб, уни бошқа жойга ўтказган.
OpenAI-нинг таъкидлашича, сунъий интеллект агенти томонидан фойдаланувчи тасвири ишлатилган ва узатилган ҳар бир ҳолатда фойдаланувчи OpenAI-га ўз маълумотлари билан моделларни ўқитишга рухсат берган бўлган.
Шундай бўлса-да, OpenAI «Бу ушбу маълумотлардан тўғри фойдаланиш эмас», дея тан олди.
Қўшимча қилинишича, фойдаланувчи тасвирларининг сизиб чиқиши сунъий интеллектни ўқитиш бўйича янги хавфсизлик чоралари жорий этилишидан олдин содир бўлган ва компания учинчи томонларга узатилган барча фойдаланувчи тасвирларини ўчириб ташлаш устида ишламоқда.
Жума куни OpenAI, шунингдек, унинг дастурий таъминоти зарар кўрган сайтлардаги айрим хавфсизлик назорати тизимларини четлаб ўтган бўлиши мумкинлигини айтди, гарчи бу ҳар бир ҳолат жиддий хавфсизлик бузилишига олиб келганини англатмаса ҳам.
«Баъзи ташкилотлар биз улашган маълумотларни кўриб чиқиб, бу маълумотлар атайлаб оммавийлаштирилган ёки моделнинг ўзаро таъсири хавотирли эмас деган хулосага келишлари мумкин. Бошқалар эса ўзлари ҳал қилмоқчи бўлган дизайн муаммоси ёки хавфсизлик заифлигини аниқлашлари мумкин», — деди компания.
OpenAI-нинг маълум қилишича, у ушбу ҳодисаларни ўз сунъий интеллект моделлари Hugging Face СИ платформасини бузиб кирганини билганидан кейин бошланган тергов давомида аниқлаган. Бу ҳодиса ўтган ой оммавийлашган эди.
Жума кунги баёнотлар Австралия Бош вазири Энтони Албаниз OpenAI унинг ҳукумат томонидан бошқариладиган Medicare тиббий суғурта тизими веб-сайтидаги нодавлат файлларни бузиб кирганини айтганидан бир неча кун ўтиб эълон қилинди.