Sainsbury's xaridor ishdan bo'shatilganidan keyin sun'iy intellekt kameralarini to'xtatib qo'ydi

Sainsbury's Londondagi do'konlaridan birida mijoz Mett Arnold noto'g'ri ravishda do'kondan o'g'ri sifatida aniqlanganidan va do'kondan chiqib ketishni so'raganidan so'ng, sun'iy intellektga asoslangan kamera tizimidan foydalanishni to'xtatdi. 46 yoshli Arnold bu hodisani "kelajakning dahshatli manzarasi" deb ta'riflab, bunday chakana savdo kuzatuv texnologiyasi mijozlarni xo'rlash xavfini tug'dirishi va xodimlarni tanqidiy insoniy hukmni qo'llamasdan avtomatlashtirilgan ogohlantirishlarga ko'r-ko'rona amal qilishga olib kelishi mumkinligi haqida ogohlantirdi.

Hodisa 6-avgust kuni East Dulwich do'konida sodir bo'lgan. Tadbir uchun materiallar sotib oluvchi komediya promouteri Arnold o'z-o'ziga xizmat ko'rsatish kassasida edi, u allaqachon buyumlari va Nectar kartasini skanerlagan va xizmatchining spirtli ichimliklar sotib olishni tasdiqlashini kutayotgan edi. Buning o'rniga, unga ikki rahbariyat xodimi murojaat qilib, "hafta boshida" sodir bo'lgan avvalgi voqea tufayli unga xizmat ko'rsatib bo'lmasligini aytishdi.

Arnold BBC Londonga shunday dedi: "Ular kelib, ketishim kerakligini aytishdi. Xodim meni sun'iy intellekt aniqlaganini va kameralar meni belgilab qo'yganini aytdi". U shunday deb ta'kidladi: "O'g'rilik qiluvchi do'konda shuncha ko'p xarid qilish bilan yurmaydi, ular uni skanerlamaydilar, Nectar kartalarini tekshirmaydilar". U "odamlar shunchaki mashinaning aytganlarini oqibatlari haqida o'ylamasdan tinglashlari"dan xavotir bildirdi. Arnold kuzatib qo'yilgandan so'ng, tepadagi CCTV monitorida uning yuzi atrofida qizil doira bo'lgan ogohlantirish ko'rsatilayotganini ko'rdi.

Sainsbury bosh ofisi ertasi kuni Arnold bilan bog'lanib, xatoni dasturiy ta'minotdagi nosozlik emas, balki "inson xatosi" bilan bog'ladi. Ularning ta'kidlashicha, xodimlar alohida bayroqdan keyin noto'g'ri odamni nishonga olgan.

Bu Facewatch tomonidan taqdim etilgan Sainsbury yuzni aniqlash tizimining begunoh xaridorga qarshi chiqishga olib kelgan birinchi holati emas. Sentabr oyida Warren Rajah xuddi shu Facewatch dasturi tomonidan noto'g'ri bayroq qo'yilganidan so'ng, Elephant and Castledagi Sainsbury's filialidan ham chiqarib yuborildi, garchi xavfsizlik firmasi keyinchalik uning ularning tizimida emasligini tasdiqlagan bo'lsa ham. Bu hodisa Sainsbury's va Facewatch tomonidan ham "inson xatosi" bilan bog'liq deb topildi. Facewatch boshqa chakana savdo hamkorlari bilan ham shunga o'xshash ishlarda, jumladan, 2024-yilda Home Bargains do'konida va o'tgan yili Kardiffdagi B&M do'konida ham ishtirok etgan.

Arnold xodimlar gavjum chakana savdo muhitida tizimni samarali boshqarishda qiynalayotganiga ishonadi. "Men bilan sodir bo'lgan voqea dahshatli bo'lsa-da, men xodimlar uchun afsusdaman", dedi u va qo'shimcha qildi: "Xatolar bo'ladi. Ular sun'iy intellektni to'g'ri joriy etish uchun jihozlanmagan". U shuningdek, tizimning aniqligiga shubha bilan qaradi va hatto 0,2% xato darajasi ham "har hafta millionlab odamlar Sainsbury's do'koniga kirganda ko'p odamlarga" ta'sir qilishini ta'kidladi.

Sainsbury's vakili texnologiya Dulwich do'konida tergov uchun to'xtatilganini tasdiqladi, ammo chakana savdo xodimlariga nisbatan zo'ravonlikning ko'payishini aytib, uni kengroq joriy etishni himoya qildi. Ular shunday dedilar: "Biz janob Arnold bilan Dulwich supermarketimizdagi tajribasi uchun uzr so'rash uchun bog'landik. Hodisa yuzni aniqlash texnologiyasi emas, balki inson xatosi tufayli yuzaga kelgan". Ular qo'shimcha qilishdi: "Mijozlarga Facewatch tizimining aniqlik darajasi 99,98% ga yetishiga va har bir moslik malakali menejer tomonidan ko'rib chiqilishiga ishonch hosil qilish mumkin". Sainsbury's o'tgan yili ba'zi do'konlarda yuzni aniqlash dasturini sinovdan o'tkazishni boshladi.

Facewatch vakili ham ularning texnologiyasi "aybdor emas" ekanligini ta'kidlab, "Chakana sotuvchiga to'g'ri ogohlantirish yuborildi, ammo keyinchalik do'konda ishlov berish usulida inson xatosi tufayli yuzaga keldi" dedi. Kompaniya do'konning to'xtatilishini qo'shimcha xodimlarni o'qitish uchun "ehtiyot chorasi" deb ta'rifladi. Facewatch uning 99,98% aniqlik ko'rsatkichi ikki algoritmli tekshirish va inson tahlilchilarining tekshiruvi bilan jonli chakana savdo sinovlariga asoslanganligini va qolgan 0,02% marja ogohlantirishlar yuborilishidan oldin inson tekshiruvlari potentsial xatolarni filtrlaydigan chegarani ifodalashini aniqladi.

Sainsbury's Britaniya Chakana savdo konsorsiumining ma'lumotlarini ta'kidladi, bu butun mamlakat bo'ylab do'kon ishchilariga nisbatan har kuni 1600 ta zo'ravonlik va zo'ravonlik holatlarini ko'rsatadi, bu 2019-20 yillardagi kuniga 455 tadan sezilarli darajada ko'p. Chakana sotuvchining xabar berishicha, yuzni aniqlash tizimining ikkita do'konda dastlabki sinovlari o'g'irlik va ijtimoiy bo'lmagan xatti-harakatlarning qayd etilgan holatlarini 46% ga kamaytirdi, jinoyatchilarning 90% dan ortig'i qaytib kelmadi.

Fuqarolik erkinliklari guruhi Big Brother Watch direktori Silki Karlo Sainsbury's kompaniyasini ushbu texnologiyadan voz kechishga chaqirdi va u "mijozlarga jinoyatchidek munosabatda bo'layotganini" ta'kidladi. Uning ta'kidlashicha, "milliy chakana sotuvchi ushbu dahshatli kuzatuv texnologiyasi bilan yuz minglab shaxsni tasdiqlovchi tekshiruvlarni beparvolik bilan amalga oshirganda, bunday jiddiy xatolar muqarrar".

Sainsbury's kompaniyasidan mahalliy oziq-ovqat bankiga 150 funt sterlinglik xayriya vaucherini xayriya qilgan Arnold tizim nima uchun boshqa joyda faol ekanligiga shubha qildi. "Agar ular uni ushbu Sharqiy Dulvich do'konida to'xtatib qo'ysa, ular unda muammo borligini tan olishadi. Nima uchun ular uni har bir do'konda to'xtatib qo'yishmayapti?"