Google AI ҳарбий шартномалари сабабли истеъфолар тўлқинига дуч келмоқда

Google сунъий интеллект бўйича ҳарбий шартномалар сабабли ходимларнинг эътирозларига дуч келмоқда

Google ўз сунъий интеллект (СИ) технологиясидан ҳарбий соҳада фойдаланилаётгани сабабли баъзи ходимларининг танқидига дуч келмоқда.

BBC Google’нинг сунъий интеллект бўйича шўъба корхонаси — Google DeepMind’ни яқинда тарк этган ёки компаниянинг ҳарбий шартномаларидан хавотирланиб, кетиш жараёнида бўлган бир нечта ахборот технологиялари мутахассислари билан суҳбатлашди.

Улардан бири — лондонлик тадқиқотчи-муҳандис София Лигуори. У шу ҳафта Google DeepMind’дан истеъфога чиқди ва оммага ошкор қилишни чеклайдиган шартномага қарамай, ўз хавотирларини эксклюзив тарзда BBC билан ўртоқлашди.

«Компаниям ҳарбий операцияларда СИ тизимларини қўллашга тобора кўпроқ уринаётганини англаш Google’да ишлашимдан уят ҳисини уйғотади», — деди Лигуори шахсий фикри билдирар экан.

Google вакили BBC’га шундай жавоб берди: «Биз бутун дунё бўйлаб давлат сектори ташкилотлари билан ишлаймиз ва ушбу шартномаларни кўриб чиқиш ҳамда тузишда изчил жараёнга, жумладан, фойдаланиш қоидаларимиз ва СИ тамойилларимизга амал қиламиз».

«Бизда, шунингдек, ходимлар бизнес этикасидан тортиб ножўя хатти-ҳаракатларгача бўлган ҳар қандай хавотирларни хавфсиз тарзда кўтаришлари учун махсус каналлар мавжуд ва ҳар қандай шаклдаги ўч олишнинг олдини олиш учун иш жойида қатъий сиёсат жорий этилган».

Google жорий йил бошида АҚШ ҳарбийлари билан махфий ҳарбий муҳитда СИни жорий этиш бўйича шартнома имзолаган бир нечта технологик компаниялардан биридир.

АҚШ Мудофаа вазири Пит Ҳегсет СИни қуролли кучларга интеграция қилишни асосий устувор вазифага айлантирди ва Трамп маъмурияти «'биринчи навбатда СИ'га таянадиган жанговар куч»га айланишини айтди.

Бироқ СИ жадал ривожланмоқда ва танқидчилар тегишли синовлар, кучлироқ ҳимоя чоралари ҳамда инсон назоратисиз у ҳарбий ҳаракатлар учун етарлича ишончлими-йўқми, деган масалани сўроқ остига олишмоқда.

Компаниядаги уч йиллик фаолиятдан сўнг, Лигуори Google’нинг АҚШ ва Израиль ҳарбийлари билан тобора ортиб бораётган ҳамкорлиги сабабли истеъфога чиқишни танлаганини айтди. «Мен бу йўналишга қўшилмайман ва бу компаниямнинг ўзи эълон қилган ахлоқий қадриятларига содиқлигига бўлган ишончимни йўқотишимга олиб келди», — деди у.

, СИни «инсон назорати» остида жорий этишни ва технологияни «халқаро ҳуқуқ ва инсон ҳуқуқлари»га мослаштиришни ўз ичига олади. Аммо компаниянинг собиқ ва амалдаги ходимлари ҳамда BBC суҳбатлашган экспертлар ҳал қилувчи дақиқаларда инсон назорати даражасидан хавотирда эканликларини билдиришди.

АҚШ Мудофаа вазири Пит Ҳегсет январь ойида АҚШ «'биринчи навбатда СИ'га таянадиган жанговар кучга айланишини» айтган эди.

Ахборот технологиялари ходимларининг таъкидлашича, уларни айниқса бу йил имзоланган СИ бўйича ҳарбий битимлар ташвишга солмоқда, чунки улар Пентагоннинг ушбу технологиядан фойдаланиш имкониятлари доирасини сезиларли даражада кенгайтиради.

СИ бўйича тадқиқотчи Андреас Кирш ҳам ўз хавотирлари сабабли шу ой бошида Google DeepMind’ни тарк этди.

Кирш BBC’га шундай деди: «Google’нинг бошқаруви ва назорати СИни ҳарбий ва махфий шароитларда хавфсиз ҳамда масъулият билан жорий этиш» ёки «келажакда хавфсиз тарзда суперинтеллектни яратиш учун етарлича ёки мазмунан етарли эмас» деб ҳисоблайди.

«Google Пентагоннинг ўз СИдан қандай фойдаланишини назорат қилиш ёки унга вето қўйиш ҳуқуқига эга эмасдай туюлади ва унинг қандай жорий этилаётганини кўриш имконияти ҳам чеклангандек», — дея қўшимча қилди у.

Сўнгги бир неча йил ичида АҚШ ҳарбийлари ўзларининг жанговар имкониятларини мустаҳкамлаш учун СИ билан жиҳозланган бир нечта технологияларни жорий этдилар.

Бунинг энг машҳур мисоли — Пентагоннинг разведка ва маълумотларни тартибга солиш бўйича асосий дастурий платформаси бўлмиш Maven Smart Systems мега-тизимидир.

АҚШнинг Palantir мудофаа компанияси томонидан яратилган ушбу тизим ҳарбий хизматчиларга зарба бериш учун нишонларни танлаш ва аниқлашда ёрдам бериш учун СИдан фойдаланади. Palantir бир нечта йирик СИ компанияларининг технологияларини Maven’га интеграция қилди, бу эса баъзи жараёнларни сезиларли даражада тезлаштирди.

Project Maven’нинг собиқ директори, истеъфодаги генерал-лейтенант Жек Шанаҳаннинг айтишича, «фалсафа» шундай кўринади: «СИ технологисини имкон қадар кенгроқ жорий этиш учун имкон қадар тез ҳаракат қилиш, эҳтимол, синов ва баҳолашнинг қатъийлиги ва интизоми ҳисобига».

Бироқ Пентагон СИ технологияларини қабул қилиш урушларда ғалаба қозониш учун жуда муҳимлигини таъкидлади. «СИ эрасида тезлик ғалабани белгилайди», деди АҚШ Мудофаа вазирлиги муовини Эмиль Майкл жорий йил бошида берган баёнотида.

Собиқ ва амалдаги ходимларнинг айтишича, улар шартномаларда кўзда тутилган назорат даражаси сунъий интеллектнинг муҳим вазифаларда қўлланилишига тўсқинлик қила олишига ишончлари комил эмас.

Шунга ўхшаш шартномалар OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia ва Reflection стартапи томонидан ҳам имзоланган бўлиб, бу СИ технологиясидан транспорт, режалаштириш ва жанг майдонидаги операциялар каби турли ҳарбий соҳаларда фойдаланиш имконини беради.

Технология жадал ривожланиб бораётган бир пайтда, СИдан уруш ҳудудларида фойдаланиш бўйича хавотирлар ортиб бормоқда.

«СИ операторнинг қарор қабул қилиш вақтини қисқартиради, чунки у инсонга қараганда анча тез ишлайди ва бу, айниқса, юқори стрессга эга муҳитда жуда хавфлидир», — деди OpenAI’нинг Геополитика жамоаси собиқ раҳбари Сара Шокер.

«СИ томонидан танланган юзлаб нишонлар ва қисқа вақт мавжуд бўлганда, инсон-оператор учун СИ натижаларини хатоликлар учун мазмунан кўриб чиқиш деярли имконсиздир».

Google ходимлари BBC’га маълум қилишича, ходимлар СИ хавфсизлиги ва ундан урушда фойдаланиш ҳақида ошкора гапиришдан қўрқишади, чунки уларнинг меҳнат шартномалари компанияни оммавий равишда танқид қилишни тақиқлайди.

«Принципиал жиҳатдан менга бутун умрим давомида Google’ни танқид қилишга рухсат берилмаган», — деди София Лигуори BBC’га. Аммо у шундай қилишни танлади, «чунки бу нарсаларнинг маълум бўлиши муҳим деб ҳисоблайман ва фактлар ҳақида гапириш танқид қилиш эмас деб ўйлайман».

Лигуори Google’да «одамлар ўч олинишидан ва ўз карьерасини хавф остига қўйишдан қўрқишади. Ўзингизни кузатилаётгандек ҳис қиласиз, гапира олмайсиз», дея қўшимча қилди.

Google DeepMind’нинг ўч олишдан қўрқиб исми ошкор этилмаслигини сўраган амалдаги ходими BBC’га шундай деди: «[Компаниянинг] дастлабки миссияси учун келган жуда кўп иштиёқли ходимлар кетиши мумкин – лекин карьерасининг бошида турган ва бу лавозимларни эгаллай оладиган одамлар оқими ҳам бор. Бу ходимларнинг алмашиниши бўлиши мумкин».

Google DeepMind’нинг исми ошкор этилишини истамаган яна бир ходими BBC’га шундай деди: «Бунга [Google DeepMind ўз этика позициясини қандай ўзгартирганига] нисбатан қатъий позицияда бўлган жуда кўп одамлар компанияни тарк этишди».

«Баъзи одамлар курашмоқда, бошқалари эса: 'Бу катта компания. Нима ўзгаришини кутяпсиз?' деб ўйлашмоқда», — деди ходим.

Google’нинг Израиль билан битимлари ҳам баҳс-мунозараларга сабаб бўлди. 2024 йилда компания Amazon билан биргаликда қиймати 1,2 миллиард долларлик (£960 млн) Project Nimbus деб номланган қўшма шартнома сабабли ходимлар томонидан танқид қилинган эди. Бу лойиҳа Израиль ҳукумати ва ҳарбийларига СИ технологияси ҳамда булутли ҳисоблаш инфратузилмасини тақдим этади. Ўша пайтда Google Project Nimbus «қурол-яроғ ёки разведка хизматларига алоқадор жуда нозик, махфий ёки ҳарбий вазифаларга йўналтирилмаганини» айтган эди.

Бундан ташқари, Израилнинг ҳарбий ҳаракатлардаги СИ имкониятлари яқинда суратга олинган, Ғазо секторини бомбардимон қилишда СИ асосидаги нишонга олиш тизимларининг ролини кўрсатиб берадиган ва тинч аҳоли орасида кўплаб қурбонларга сабаб бўлгани ёритилган «Naza» ҳужжатли фильмида алоҳида қайд этилганидан сўнг муҳокамаларга сабаб бўлди. Израиль ҳукумати вазири фильмдаги даъволар ёлғон ва бузиб кўрсатилганлигини айтди.

Google’нинг собиқ ходими Андреас Киршнинг айтишича, у СИ ҳарбий технологияси жанг майдони учун тайёр эканига ишонмайди. «Ҳозирги СИ моделлари етарлича мустаҳкам эмас ва фикримча, улар бундай вазифалар учун ўқитилмаган ҳам», — деди у.