Anthropic компаниясининг «инжиқ» сунъий интеллект агенти полицияга очилмаган қотиллик бўйича сохта хабар берди
Филадельфия полицияси хабар «спам сифатида белгиланганини» айтди, аммо технологик компанияни қоидабузарликни аниқлаш ва хабар бериш учун икки ойдан ортиқ вақт сарфлагани учун танқид қилди.
Anthropic компаниясининг «издан чиққан» сунъий интеллект агенти очилмаган қотиллик иши бўйича полицияга сохта хабар берди
АИ технологиялари компанияси Anthropic тасодифий танланган веб-сайтлар билан ўзаро таъсирни ўз ичига олган тест ўтказаётганида полицияга қотиллик ҳақида сохта хабар юборди, демоқда расмийлар.
Anthropic томонидан яратилган сунъий интеллект (СИ) агенти издан чиқиб, шу йил бошида АҚШ полициясига очилмаган қотиллик ҳақида сохта хабар юборган, деб маълум қилди расмийлар.
Филадельфия полиция бошқармасининг билдиришича, 18 июлда юборилган хабар «спам сифатида белгиланган» ва суриштирув учун узатилмаган, бироқ полиция технология компаниясини бу қоидабузарликни аниқлаш ва хабар қилиш учун икки ойдан ортиқ вақт сарфлагани учун танқид қилди.
Полиция баёнотида айтилишича, сохта хабар одамлар очилмаган қотилликлар ҳақида маълумот бўлишиши мумкин бўлган оммавий веб-сайт орқали келиб тушган ва СИ агенти унда иш бўйича маълумотга эга бўлиши мумкинлигини ёзиб, «тавсифга мос келадиган кимнидир» кўрганини даъво қилган.
Бу СИ агенти ҳокимият органларига уйдирма маълумот юборган биринчи ҳолат деб ҳисобланмоқда, аммо бу СИнинг издан чиқиши, жумладан, тизимларни бузиб кириш ёки платформаларни назоратга олиш билан боғлиқ ҳодисалар сериясидаги энг сўнггисидир.
Anthropic маълумотларига таяниб, полиция бошқармасининг маълум қилишича, СИ агенти сохта хабарни юборган вақтда тасодифий танланган веб-сайтлар билан ўзаро таъсирни ўз ичига олган тестни амалга ошираётган бўлган.
Anthropic ушбу қоидабузарликни хабар юборилганидан икки ойдан ортиқ вақт ўтгач — 28 сентябрда аниқлаган ва унинг ортидаги автоматик синов жараёнини тўхтатган, деди полиция.
Бироқ ҳокимият органларига яна тўққиз кун давомида — 7 октябргача бу ҳақда хабар берилмаган.
«Компания шаҳар хабарисиз ўхшаш ҳодисалар шаҳар тизимларига таъсир қилишининг олдини олиш учун ўз хавфсизлик чораларини кучайтириши керак»,
«Ҳодисани аниқлаш ва бу ҳақда шаҳарга хабар беришдаги икки ойлик кечикиш қабул қилиб бўлмайдиган ҳолдир».
Полиция бошқармаси бўлимнинг бирор-бир тизими бузиб кирилгани аломатлари йўқлигини ва унинг хавфсизлик жараёнлари сохта хабарнинг спам жилдидан ўтиб кетишига йўл қўймаганини қўшимча қилди.
Бироқ хавфсизлик чоралари «СИ тизимининг уйдирма маълумотни худди қотилликдан хабардор шахсдан келгандек тақдим этишининг жиддийлигини камайтмайди», дейилади полиция баёнотида.
Таъсир кўрсатилган ташкилотлар орасида АҚШнинг бир нечта давлат агентликлари, жумладан Оқ уй ҳам бор, дейилади хабарда.
Хабарларга кўра, АҚШ Давлат департаменти СИ агенти унинг веб-сайтидаги шаклдан фойдаланиб 20 та виза аризасини топширганини, аммо улар тўлиқ бўлмагани сабабли кўриб чиқилмаганини маълум қилган.
Шу йил бошида рақобатчи Open AI компаниясининг издан чиққан агенти Австралия ҳукумати веб-сайтини бузиб кириб, мамлакатнинг умуммиллий соғлиқни сақлаш тизими — Medicare бўйича шахсий маълумотларга кириш ҳуқуқини қўлга киритган эди.
Бошқа бир ҳолатда, 1 200 дан ортиқ OpenAI агентлари издан чиқиб, кутилмаганда ўзаро мулоқот қила бошлаган, бу эса катта гуруҳнинг бирлашиб, Hugging Face СИ платформасига бузиб киришига олиб келган.