Саинсбурйъс харидор ишдан бўшатилганидан кейин сунъий интеллект камераларини тўхтатиб қўйди
Метт Арнолднинг айтишича, ундан нотўғри равишда дўкондан ўғри сифатида кўрсатилганидан кейин дўкондан чиқиб кетиш сўралган.
Саинсбурй'с Лондондаги до'конларидан бирида мижоз Метт Арнолд ното'г'ри равишда до'кондан о'г'ри сифатида аниқланганидан ва до'кондан чиқиб кетишни со'раганидан со'нг, сун'ий интеллектга асосланган камера тизимидан фойдаланишни то'хтатди. 46 ёшли Арнолд бу ҳодисани "келажакнинг даҳшатли манзараси" деб та'рифлаб, бундай чакана савдо кузатув технологияси мижозларни хо'рлаш хавфини туг'дириши ва ходимларни танқидий инсоний ҳукмни қо'лламасдан автоматлаштирилган огоҳлантиришларга ко'р-ко'рона амал қилишга олиб келиши мумкинлиги ҳақида огоҳлантирди.
Ҳодиса 6-август куни Эаст Дулвич до'конида содир бо'лган. Тадбир учун материаллар сотиб олувчи комедия промоутери Арнолд о'з-о'зига хизмат ко'рсатиш кассасида эди, у аллақачон буюмлари ва Нестар картасини сканерлаган ва хизматчининг спиртли ичимликлар сотиб олишни тасдиқлашини кутаётган эди. Бунинг о'рнига, унга икки раҳбарият ходими мурожаат қилиб, "ҳафта бошида" содир бо'лган аввалги воқеа туфайли унга хизмат ко'рсатиб бо'лмаслигини айтишди.
Арнолд ББС Лондонга шундай деди: "Улар келиб, кетишим кераклигини айтишди. Ходим мени сун'ий интеллект аниқлаганини ва камералар мени белгилаб қо'йганини айтди". У шундай деб та'кидлади: "О'г'рилик қилувчи до'конда шунча ко'п харид қилиш билан юрмайди, улар уни сканерламайдилар, Нестар карталарини текширмайдилар". У "одамлар шунчаки машинанинг айтганларини оқибатлари ҳақида о'йламасдан тинглашлари"дан хавотир билдирди. Арнолд кузатиб қо'йилгандан со'нг, тепадаги ССТВ мониторида унинг юзи атрофида қизил доира бо'лган огоҳлантириш ко'рсатилаётганини ко'рди.
Саинсбурй бош офиси эртаси куни Арнолд билан бог'ланиб, хатони дастурий та'минотдаги носозлик эмас, балки "инсон хатоси" билан бог'лади. Уларнинг та'кидлашича, ходимлар алоҳида байроқдан кейин ното'г'ри одамни нишонга олган.
Бу Фасеватч томонидан тақдим этилган Саинсбурй юзни аниқлаш тизимининг бегуноҳ харидорга қарши чиқишга олиб келган биринчи ҳолати эмас. Сентабр ойида Варрен Ражаҳ худди шу Фасеватч дастури томонидан ното'г'ри байроқ қо'йилганидан со'нг, Элепҳант анд Састледаги Саинсбурй'с филиалидан ҳам чиқариб юборилди, гарчи хавфсизлик фирмаси кейинчалик унинг уларнинг тизимида эмаслигини тасдиқлаган бо'лса ҳам. Бу ҳодиса Саинсбурй'с ва Фасеватч томонидан ҳам "инсон хатоси" билан бог'лиқ деб топилди. Фасеватч бошқа чакана савдо ҳамкорлари билан ҳам шунга о'хшаш ишларда, жумладан, 2024-йилда Ҳоме Баргаинс до'конида ва о'тган йили Кардиффдаги Б&М до'конида ҳам иштирок этган.
Арнолд ходимлар гавжум чакана савдо муҳитида тизимни самарали бошқаришда қийналаётганига ишонади. "Мен билан содир бо'лган воқеа даҳшатли бо'лса-да, мен ходимлар учун афсусдаман", деди у ва қо'шимча қилди: "Хатолар бо'лади. Улар сун'ий интеллектни то'г'ри жорий этиш учун жиҳозланмаган". У шунингдек, тизимнинг аниқлигига шубҳа билан қаради ва ҳатто 0,2% хато даражаси ҳам "ҳар ҳафта миллионлаб одамлар Саинсбурй'с до'конига кирганда ко'п одамларга" та'сир қилишини та'кидлади.
Саинсбурй'с вакили технология Дулвич до'конида тергов учун то'хтатилганини тасдиқлади, аммо чакана савдо ходимларига нисбатан зо'равонликнинг ко'пайишини айтиб, уни кенгроқ жорий этишни ҳимоя қилди. Улар шундай дедилар: "Биз жаноб Арнолд билан Дулвич супермаркетимиздаги тажрибаси учун узр со'раш учун бог'ландик. Ҳодиса юзни аниқлаш технологияси эмас, балки инсон хатоси туфайли юзага келган". Улар қо'шимча қилишди: "Мижозларга Фасеватч тизимининг аниқлик даражаси 99,98% га етишига ва ҳар бир мослик малакали менежер томонидан ко'риб чиқилишига ишонч ҳосил қилиш мумкин". Саинсбурй'с о'тган йили ба'зи до'конларда юзни аниқлаш дастурини синовдан о'тказишни бошлади.
Фасеватч вакили ҳам уларнинг технологияси "айбдор эмас" эканлигини та'кидлаб, "Чакана сотувчига то'г'ри огоҳлантириш юборилди, аммо кейинчалик до'конда ишлов бериш усулида инсон хатоси туфайли юзага келди" деди. Компания до'коннинг то'хтатилишини қо'шимча ходимларни о'қитиш учун "эҳтиёт чораси" деб та'рифлади. Фасеватч унинг 99,98% аниқлик ко'рсаткичи икки алгоритмли текшириш ва инсон таҳлилчиларининг текшируви билан жонли чакана савдо синовларига асосланганлигини ва қолган 0,02% маржа огоҳлантиришлар юборилишидан олдин инсон текширувлари потенциал хатоларни филтрлайдиган чегарани ифодалашини аниқлади.
Саинсбурй'с Британия Чакана савдо консорсиумининг ма'лумотларини та'кидлади, бу бутун мамлакат бо'йлаб до'кон ищиларига нисбатан ҳар куни 1600 та зо'равонлик ва зо'равонлик ҳолатларини ко'рсатади, бу 2019-20 йиллардаги кунига 455 тадан сезиларли даражада ко'п. Чакана сотувчининг хабар беришича, юзни аниқлаш тизимининг иккита до'конда дастлабки синовлари о'г'ирлик ва ижтимоий бо'лмаган хатти-ҳаракатларнинг қайд этилган ҳолатларини 46% га камайтирди, жиноятчиларнинг 90% дан ортиг'и қайтиб келмади.
Фуқаролик эркинликлари гуруҳи Биг Бротҳер Ватч директори Силки Карло Саинсбурй'с компаниясини ушбу технологиядан воз кечишга чақирди ва у "мижозларга жиноятчидек муносабатда бо'лаётганини" та'кидлади. Унинг та'кидлашича, "миллий чакана сотувчи ушбу даҳшатли кузатув технологияси билан юз минглаб шахсни тасдиқловчи текширувларни бепарволик билан амалга оширганда, бундай жиддий хатолар муқаррар".
Саинсбурй'с компаниясидан маҳаллий озиқ-овқат банкига 150 фунт стерлинглик хайрия ваучерини хайрия қилган Арнолд тизим нима учун бошқа жойда фаол эканлигига шубҳа қилди. "Агар улар уни ушбу Шарқий Дулвич до'конида то'хтатиб қо'йса, улар унда муаммо борлигини тан олишади. Нима учун улар уни ҳар бир до'конда то'хтатиб қо'йишмаяпти?"