Шифокорлар СИнинг нотўғри маслаҳатларига осонгина ишонмоқда — тадқиқот
**Шифокорлар сун'ий интеллектнинг ното'г'ри маслаҳатларига осонликча ишонишмоқда – тадқиқот натижалари хавотирли**
Олимлар амалиётчи шифокорларнинг алгоритм хатосини аниқлай олиш қобилиятини синовдан о'тказишга қарор қилишди, ҳатто рақамлар бунинг аксини ко'рсаца ҳам. Натижалар ташвишли бо'лди: ко'п йиллик тажрибага эга шифокорлар тизимнинг ното'г'ри тавсияларига қайта-қайта эргашишди.
Тадқиқот икки қисмдан иборат бо'либ, биринчи қисмда 105 нафар, иккинчисида эса 118 нафар шифокор иштирок этди. Улар турли мутахассислик вакиллари бо'либ, о'ртача иш стажи 10 йилдан 13 йилгача эди. Ҳар бир иштирокчига то'қима касаллиги ва экспериментал препарат шароитида даволовчи шифокор ролини о'йнаш таклиф қилинди. Алгоритм беморларни олдиндан икки гуруҳга ажратган эди: даволашга "юқори сезгир" ва "паст сезгир" беморлар. Иштирокчининг вазифаси оддий эди: дори бериш-бермасликка қарор қилиш ва натижани дарҳол ко'риш.
Аслида эса, иккала гуруҳдаги беморларнинг ҳам тузалиш эҳтимоли мутлақо бир хил бо'либ, бу тизимнинг ёрлиг'ига бог'лиқ эмас эди. Биринчи тажрибада препарат о'ртача, аммо ҳамма учун бир хилда яхши та'сир ко'рсатди. Иккинчисида эса у ҳеч кимга мутлақо ёрдам бермади.
Шунга қарамай, шифокорлар "юқори сезгир" беморларга даволаш муолажаларини сезиларли даражада ко'проқ тайинлашди ва гарчи ҳар икки тоифадаги беморлар бир хил частотада сог'айган бо'лса-да, даво самарасини айнан шу гуруҳда яққолроқ деб баҳолашди. Иккинчи тажрибада бу ҳолат янада аниқроқ такрорланди: ҳатто препарат умуман та'сир қилмаганида ҳам, ко'плаб иштирокчилар, айниқса, алгоритм томонидан "белгиланган" беморлар учун даволаш самарали бо'лганига охир-оқибат ишонч ҳосил қилишди.
Тадқиқот муаллифлари шифокорларнинг хулқ-атворини оддий интернет фойдаланувчилари билан о'тказилган аввалги тажриба натижалари билан солиштирди – унда ҳам айни шундай тузоқ кузатилган эди. Тиббий ма'лумотга эгалик ҳам вазиятни о'нглай олмади. Қизиг'и шундаки, технологияларга бо'лган шахсий муносабат ҳеч қандай рол о'йнамади: сун'ий интеллектга ишонмаслигини айтганлар ҳам унинг белгиларига автоматлаштириш тарафдорларидан кам таянган эмас.
Тадқиқотчилар бунинг бир нечта эҳтимолий изоҳини илгари сурмоқда. Буларга машинага қайта текширмасдан ишониш одати, ма'лумотларда о'зи кутилган нарсани ко'ришга мойиллик киради. Шунингдек, оддий тасодифни ҳам ко'пинча қонуният деб қабул қилиш ҳолатлари кузатилади. Олимлар ссенарий о'та соддалаштирилганини – касаллик тарихи, ё'лдош ташхислар ва шифокорлар реал амалиётда одатда фойдаланадиган бошқа контекстлар ҳисобга олинмаганини тан олишади.
Шундай бо'лса-да, бу ҳолатнинг о'зи олимларни хавотирга солмоқда. Масалан, Европанинг сун'ий интеллект то'г'рисидаги қонуни (АИ Аст) тиббиётда алгоритм ёнида доим шифокор бо'лишини қат'ий талаб қилади. Унга ко'ра, сун'ий интеллект қарорларини тизимнинг о'зи эмас, айнан шифокор текшириши ва тасдиқлаши лозим. Бироқ ушбу тадқиқот бундай назорат г'оясининг о'зинигина шубҳа остига қо'яди. Агар соддалаштирилган шароитда ҳам мутахассис алгоритмнинг хатосини пайқамаса, унинг тизим ёнида туриши шунчаки расмиятчиликка айланиб қолади. Я'ни у го'ёки о'зи қарор қабул қилаётгандек бо'лади-ю, амалда эса сун'ий интеллект таклиф қилган нарсани такрорлайди, холос.