Shifokorlar SIning noto‘g‘ri maslahatlariga osongina ishonmoqda — tadqiqot
**Shifokorlar sun'iy intellektning noto'g'ri maslahatlariga osonlikcha ishonishmoqda – tadqiqot natijalari xavotirli**
Olimlar amaliyotchi shifokorlarning algoritm xatosini aniqlay olish qobiliyatini sinovdan o'tkazishga qaror qilishdi, hatto raqamlar buning aksini ko'rsatsa ham. Natijalar tashvishli bo'ldi: ko'p yillik tajribaga ega shifokorlar tizimning noto'g'ri tavsiyalariga qayta-qayta ergashishdi.
Tadqiqot ikki qismdan iborat bo'lib, birinchi qismda 105 nafar, ikkinchisida esa 118 nafar shifokor ishtirok etdi. Ular turli mutaxassislik vakillari bo'lib, o'rtacha ish staji 10 yildan 13 yilgacha edi. Har bir ishtirokchiga to'qima kasalligi va eksperimental preparat sharoitida davolovchi shifokor rolini o'ynash taklif qilindi. Algoritm bemorlarni oldindan ikki guruhga ajratgan edi: davolashga "yuqori sezgir" va "past sezgir" bemorlar. Ishtirokchining vazifasi oddiy edi: dori berish-bermaslikka qaror qilish va natijani darhol ko'rish.
Aslida esa, ikkala guruhdagi bemorlarning ham tuzalish ehtimoli mutlaqo bir xil bo'lib, bu tizimning yorlig'iga bog'liq emas edi. Birinchi tajribada preparat o'rtacha, ammo hamma uchun bir xilda yaxshi ta'sir ko'rsatdi. Ikkinchisida esa u hech kimga mutlaqo yordam bermadi.
Shunga qaramay, shifokorlar "yuqori sezgir" bemorlarga davolash muolajalarini sezilarli darajada ko'proq tayinlashdi va garchi har ikki toifadagi bemorlar bir xil chastotada sog'aygan bo'lsa-da, davo samarasini aynan shu guruhda yaqqolroq deb baholashdi. Ikkinchi tajribada bu holat yanada aniqroq takrorlandi: hatto preparat umuman ta'sir qilmaganida ham, ko'plab ishtirokchilar, ayniqsa, algoritm tomonidan "belgilangan" bemorlar uchun davolash samarali bo'lganiga oxir-oqibat ishonch hosil qilishdi.
Tadqiqot mualliflari shifokorlarning xulq-atvorini oddiy internet foydalanuvchilari bilan o'tkazilgan avvalgi tajriba natijalari bilan solishtirdi – unda ham ayni shunday tuzoq kuzatilgan edi. Tibbiy ma'lumotga egalik ham vaziyatni o'nglay olmadi. Qizig'i shundaki, texnologiyalarga bo'lgan shaxsiy munosabat hech qanday rol o'ynamadi: sun'iy intellektga ishonmasligini aytganlar ham uning belgilariga avtomatlashtirish tarafdorlaridan kam tayangan emas.
Tadqiqotchilar buning bir nechta ehtimoliy izohini ilgari surmoqda. Bularga mashinaga qayta tekshirmasdan ishonish odati, ma'lumotlarda o'zi kutilgan narsani ko'rishga moyillik kiradi. Shuningdek, oddiy tasodifni ham ko'pincha qonuniyat deb qabul qilish holatlari kuzatiladi. Olimlar ssenariy o'ta soddalashtirilganini – kasallik tarixi, yo'ldosh tashxislar va shifokorlar real amaliyotda odatda foydalanadigan boshqa kontekstlar hisobga olinmaganini tan olishadi.
Shunday bo'lsa-da, bu holatning o'zi olimlarni xavotirga solmoqda. Masalan, Yevropaning sun'iy intellekt to'g'risidagi qonuni (AI Act) tibbiyotda algoritm yonida doim shifokor bo'lishini qat'iy talab qiladi. Unga ko'ra, sun'iy intellekt qarorlarini tizimning o'zi emas, aynan shifokor tekshirishi va tasdiqlashi lozim. Biroq ushbu tadqiqot bunday nazorat g'oyasining o'zinigina shubha ostiga qo'yadi. Agar soddalashtirilgan sharoitda ham mutaxassis algoritmning xatosini payqamasa, uning tizim yonida turishi shunchaki rasmiyatchilikka aylanib qoladi. Ya'ni u go'yoki o'zi qaror qabul qilayotgandek bo'ladi-yu, amalda esa sun'iy intellekt taklif qilgan narsani takrorlaydi, xolos.