Google AI harbiy shartnomalari sababli isteʼfolar toʻlqiniga duch kelmoqda

Google sunʼiy intellekt boʻyicha harbiy shartnomalar sababli xodimlarning eʼtirozlariga duch kelmoqda

Google oʻz sunʼiy intellekt (SI) texnologiyasidan harbiy sohada foydalanilayotgani sababli baʼzi xodimlarining tanqidiga duch kelmoqda.

BBC Google’ning sunʼiy intellekt boʻyicha shoʻʼba korxonasi — Google DeepMind’ni yaqinda tark etgan yoki kompaniyaning harbiy shartnomalaridan xavotirlanib, ketish jarayonida boʻlgan bir nechta axborot texnologiyalari mutaxassislari bilan suhbatlashdi.

Ulardan biri — londonlik tadqiqotchi-muhandis Sofiya Liguori. U shu hafta Google DeepMind’dan isteʼfoga chiqdi va ommaga oshkor qilishni cheklaydigan shartnomaga qaramay, oʻz xavotirlarini eksklyuziv tarzda BBC bilan oʻrtoqlashdi.

«Kompaniyam harbiy operatsiyalarda SI tizimlarini qoʻllashga tobora koʻproq urinayotganini anglash Google’da ishlashimdan uyat hisini uygʻotadi», — dedi Liguori shaxsiy fikri bildirar ekan.

Google vakili BBC’ga shunday javob berdi: «Biz butun dunyo boʻylab davlat sektori tashkilotlari bilan ishlaymiz va ushbu shartnomalarni koʻrib chiqish hamda tuzishda izchil jarayonga, jumladan, foydalanish qoidalarimiz va SI tamoyillarimizga amal qilamiz».

«Bizda, shuningdek, xodimlar biznes etikasidan tortib nojoʻya xatti-harakatlargacha boʻlgan har qanday xavotirlarni xavfsiz tarzda koʻtarishlari uchun maxsus kanallar mavjud va har qanday shakldagi oʻch olishning oldini olish uchun ish joyida qatʼiy siyosat joriy etilgan».

Google joriy yil boshida AQSh harbiylari bilan maxfiy harbiy muhitda SIni joriy etish boʻyicha shartnoma imzolagan bir nechta texnologik kompaniyalardan biridir.

AQSh Mudofaa vaziri Pit Hegset SIni qurolli kuchlarga integratsiya qilishni asosiy ustuvor vazifaga aylantirdi va Tramp maʼmuriyati «'birinchi navbatda SI'ga tayanadigan jangovar kuch»ga aylanishini aytdi.

Biroq SI jadal rivojlanmoqda va tanqidchilar tegishli sinovlar, kuchliroq himoya choralari hamda inson nazoratisiz u harbiy harakatlar uchun yetarlicha ishonchlimi-yoʻqmi, degan masalani soʻroq ostiga olishmoqda.

Kompaniyadagi uch yillik faoliyatdan soʻng, Liguori Google’ning AQSh va Izrail harbiylari bilan tobora ortib borayotgan hamkorligi sababli isteʼfoga chiqishni tanlaganini aytdi. «Men bu yoʻnalishga qoʻshilmayman va bu kompaniyamning oʻzi eʼlon qilgan axloqiy qadriyatlariga sodiqligiga boʻlgan ishonchimni yoʻqotishimga olib keldi», — dedi u.

, SIni «inson nazorati» ostida joriy etishni va texnologiyani «xalqaro huquq va inson huquqlari»ga moslashtirishni oʻz ichiga oladi. Ammo kompaniyaning sobiq va amaldagi xodimlari hamda BBC suhbatlashgan ekspertlar hal qiluvchi daqiqalarda inson nazorati darajasidan xavotirda ekanliklarini bildirishdi.

AQSh Mudofaa vaziri Pit Hegset yanvar oyida AQSh «'birinchi navbatda SI'ga tayanadigan jangovar kuchga aylanishini» aytgan edi.

Axborot texnologiyalari xodimlarining taʼkidlashicha, ularni ayniqsa bu yil imzolangan SI boʻyicha harbiy bitimlar tashvishga solmoqda, chunki ular Pentagonning ushbu texnologiyadan foydalanish imkoniyatlari doirasini sezilarli darajada kengaytiradi.

SI boʻyicha tadqiqotchi Andreas Kirsh ham oʻz xavotirlari sababli shu oy boshida Google DeepMind’ni tark etdi.

Kirsh BBC’ga shunday dedi: «Google’ning boshqaruvi va nazorati SIni harbiy va maxfiy sharoitlarda xavfsiz hamda masʼuliyat bilan joriy etish» yoki «kelajakda xavfsiz tarzda superintellektni yaratish uchun yetarlicha yoki mazmunan yetarli emas» deb hisoblaydi.

«Google Pentagonning oʻz SIdan qanday foydalanishini nazorat qilish yoki unga veto qoʻyish huquqiga ega emasday tuyuladi va uning qanday joriy etilayotganini koʻrish imkoniyati ham cheklangandek», — deya qoʻshimcha qildi u.

Soʻnggi bir necha yil ichida AQSh harbiylari oʻzlarining jangovar imkoniyatlarini mustahkamlash uchun SI bilan jihozlangan bir nechta texnologiyalarni joriy etdilar.

Buning eng mashhur misoli — Pentagonning razvedka va maʼlumotlarni tartibga solish boʻyicha asosiy dasturiy platformasi boʻlmish Maven Smart Systems mega-tizimidir.

AQShning Palantir mudofaa kompaniyasi tomonidan yaratilgan ushbu tizim harbiy xizmatchilarga zarba berish uchun nishonlarni tanlash va aniqlashda yordam berish uchun SIdan foydalanadi. Palantir bir nechta yirik SI kompaniyalarining texnologiyalarini Maven’ga integratsiya qildi, bu esa baʼzi jarayonlarni sezilarli darajada tezlashtirdi.

Project Maven’ning sobiq direktori, isteʼfodagi general-leytenant Jek Shanahanning aytishicha, «falsafa» shunday koʻrinadi: «SI texnologisini imkon qadar kengroq joriy etish uchun imkon qadar tez harakat qilish, ehtimol, sinov va baholashning qatʼiyligi va intizomi hisobiga».

Biroq Pentagon SI texnologiyalarini qabul qilish urushlarda gʻalaba qozonish uchun juda muhimligini taʼkidladi. «SI erasida tezlik gʻalabani belgilaydi», dedi AQSh Mudofaa vazirligi muovini Emil Maykl joriy yil boshida bergan bayonotida.

Sobiq va amaldagi xodimlarning aytishicha, ular shartnomalarda koʻzda tutilgan nazorat darajasi sunʼiy intellektning muhim vazifalarda qoʻllanilishiga toʻsqinlik qila olishiga ishonchlari komil emas.

Shunga oʻxshash shartnomalar OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia va Reflection startapi tomonidan ham imzolangan boʻlib, bu SI texnologiyasidan transport, rejalashtirish va jang maydonidagi operatsiyalar kabi turli harbiy sohalarda foydalanish imkonini beradi.

Texnologiya jadal rivojlanib borayotgan bir paytda, SIdan urush hududlarida foydalanish boʻyicha xavotirlar ortib bormoqda.

«SI operatorning qaror qabul qilish vaqtini qisqartiradi, chunki u insonga qaraganda ancha tez ishlaydi va bu, ayniqsa, yuqori stressga ega muhitda juda xavflidir», — dedi OpenAI’ning Geopolitika jamoasi sobiq rahbari Sara Shoker.

«SI tomonidan tanlangan yuzlab nishonlar va qisqa vaqt mavjud boʻlganda, inson-operator uchun SI natijalarini xatoliklar uchun mazmunan koʻrib chiqish deyarli imkonsizdir».

Google xodimlari BBC’ga maʼlum qilishicha, xodimlar SI xavfsizligi va undan urushda foydalanish haqida oshkora gapirishdan qoʻrqishadi, chunki ularning mehnat shartnomalari kompaniyani ommaviy ravishda tanqid qilishni taqiqlaydi.

«Printsipial jihatdan menga butun umrim davomida Google’ni tanqid qilishga ruxsat berilmagan», — dedi Sofiya Liguori BBC’ga. Ammo u shunday qilishni tanladi, «chunki bu narsalarning maʼlum boʻlishi muhim deb hisoblayman va faktlar haqida gapirish tanqid qilish emas deb oʻylayman».

Liguori Google’da «odamlar oʻch olinishidan va oʻz karyerasini xavf ostiga qoʻyishdan qoʻrqishadi. Oʻzingizni kuzatilayotgandek his qilasiz, gapira olmaysiz», deya qoʻshimcha qildi.

Google DeepMind’ning oʻch olishdan qoʻrqib ismi oshkor etilmasligini soʻragan amaldagi xodimi BBC’ga shunday dedi: «[Kompaniyaning] dastlabki missiyasi uchun kelgan juda koʻp ishtiyoqli xodimlar ketishi mumkin – lekin karyerasining boshida turgan va bu lavozimlarni egallay oladigan odamlar oqimi ham bor. Bu xodimlarning almashinishi boʻlishi mumkin».

Google DeepMind’ning ismi oshkor etilishini istamagan yana bir xodimi BBC’ga shunday dedi: «Bunga [Google DeepMind oʻz etika pozitsiyasini qanday oʻzgartirganiga] nisbatan qatʼiy pozitsiyada boʻlgan juda koʻp odamlar kompaniyani tark etishdi».

«Baʼzi odamlar kurashmoqda, boshqalari esa: 'Bu katta kompaniya. Nima oʻzgarishini kutyapsiz?' deb oʻylashmoqda», — dedi xodim.

Google’ning Izrail bilan bitimlari ham bahs-munozaralarga sabab boʻldi. 2024 yilda kompaniya Amazon bilan birgalikda qiymati 1,2 milliard dollarlik (£960 mln) Project Nimbus deb nomlangan qoʻshma shartnoma sababli xodimlar tomonidan tanqid qilingan edi. Bu loyiha Izrail hukumati va harbiylariga SI texnologiyasi hamda bulutli hisoblash infratuzilmasini taqdim etadi. Oʻsha paytda Google Project Nimbus «qurol-yarogʻ yoki razvedka xizmatlariga aloqador juda nozik, maxfiy yoki harbiy vazifalarga yoʻnaltirilmaganini» aytgan edi.

Bundan tashqari, Izrailning harbiy harakatlardagi SI imkoniyatlari yaqinda suratga olingan, Gʻazo sektorini bombardimon qilishda SI asosidagi nishonga olish tizimlarining rolini koʻrsatib beradigan va tinch aholi orasida koʻplab qurbonlarga sabab boʻlgani yoritilgan «Naza» hujjatli filmida alohida qayd etilganidan soʻng muhokamalarga sabab boʻldi. Izrail hukumati vaziri filmdagi daʼvolar yolgʻon va buzib koʻrsatilganligini aytdi.

Google’ning sobiq xodimi Andreas Kirshning aytishicha, u SI harbiy texnologiyasi jang maydoni uchun tayyor ekaniga ishonmaydi. «Hozirgi SI modellari yetarlicha mustahkam emas va fikrimcha, ular bunday vazifalar uchun oʻqitilmagan ham», — dedi u.