Anthropic фойдаланувчиларга ўзининг СИ (сунъий интеллект) тизимларига нисбатан «шафқатсиз» муносабатда бўлишни тақиқлади

Anthropic компанияси ўз сунъий интеллект тизимларига нисбатан фойдаланувчиларнинг «давомли ва асоссиз» ҳақоратли хатти-ҳаракатларини тақиқлашини маълум қилганидан кейин диққат марказига тушди.

Claude ботини яратувчиси пайшанба куни фойдаланиш сиёсатини қайта кўриб чиқаётганини маълум қилди, унга кўра, одамлар «шафқатсизлик» қилган суҳбатларни компания воситалари тўхтатиб қўйиши мумкин — бундай ҳолатлар илгари ҳам «камдан-кам» бўлса-да содир бўлгани айтилмоқда.

Бундай хулқ-атвор эндиликда тақиқланган хатти-ҳаракатлар рўйхатига киритилади, унга шунингдек, бошқаларни камситиш, ўз-ўзига зарар етказишни рағбатлантириш ва розиликсиз интим тасвирларни яратиш ҳам киради.

Гарчи Anthropic ушбу қоида фақат такрорий суиистеъмол қилишнинг «ўта оғир ҳолатларида» қўлланилишини айтган бўлса-да, бу одамларнинг СИ воситалари билан қандай гаплашиши кераклиги ҳақидаги баҳс-мунозараларни яна жонлантирди.

Компания бу қоида «фойдаланувчиларнинг норозилиги, эътирозлари, қора ижодий мавзулар ёки моделни синаш ва тадқиқ қилишнинг одатий шаклларига» тааллуқли бўлмаслигини билдирди — бу ушбу қоида фақат аниқ қасддан қилинган ҳолатларда қўлланилишини англатади.

Шунга қарамай, Anthropic ўз моделларига нисбатан айнан нимани «ҳақоратли ёки шафқатсиз хатти-ҳаракат» деб ҳисоблаши ҳозирча ноаниқ.

Янгиланган сиёсатнинг скриншотлари ижтимоий тармоқларда кенг тарқалди ва муҳокама қилинди, баъзилар буни одоб-ахлоқ қоидалари ёки «модел фаровонлиги» сари ташланган қадам сифатида олқишлади.

Бироқ, бошқалар бу қадамни танқид қилишди, жумладан, бир киши буни «мутлақо нотўғри» деб атади, бошқаси эса бу одамлар ва ҳайвонларга нисбатан шафқатсизликка бўлган эътиборни сусайтириши мумкинлигини айтди.

«Сиз рақамлар ва математикага нисбатан шафқатсиз бўла олмайсиз», деб ёзди Ирландиянинг William Fry юридик фирмасининг технология бўйича ҳамкори доктор Барри Сканнелл LinkedIn тармоғида.

«СИни бу даражада антропоморфизация қилиш (инсонлаштириш) зарарлидир. Бу одамларни у аслида йўқ бўлган нарсага ишонишига олиб келади».

Сентябрь ойида рақобатчи Anthropic фирмасини СИга худди инсондек муносабатда бўлаётгани учун танқид қилган Microsoft AI директори Мустафо Сулаймон Anthropic янгиланишига эриб бораётган юз эможиси билан муносабат билдирди.

Anthropic шунингдек, пайшанба куни фойдаланиш сиёсати бошқа соҳалардаги янги ёки пайдо бўлаётган хавфларни бартараф этиш учун янгиланганини, жумладан, Claude'дан «алдамчи кампаниялар» учун фойдаланишни тақиқлашини маълум қилди.

Anthropic аввалги сиёсатида ҳам ўз воситаларидан қурол яратишда фойдаланишни тақиқлаганини айтган эди.

Аммо ўзгаришларнинг ҳеч бири фойдаланувчиларга чат-ботларни ҳақорат қилишни тақиқлаш қарори каби катта эътибор ёки синчковлик билан ўрганишга сабаб бўлмади.

Бу шунингдек, генератив СИ воситаларидан фойдаланишда одамлар қўпол ёки хушмуомала бўлиши кераклиги ҳақидаги узоқ давом этаётган баҳсларни ҳам кучайтирди.

Баъзи экспертларнинг фикрига кўра, ChatGPT каби воситаларга «илтимос» ёки «раҳмат» сўзларини қўшиш шарт эмас ва бу токенларни — генератив СИ воситалари ортидаги йирик тил моделлари фойдаланувчиларга ишлов бериш ва жавоб бериш учун фойдаланадиган бирликларни беҳуда сарфлайди.

Бошқалар эса хушмуомалалик яхшироқ сифатли жавоблар беришига ёрдам беради деб ҳисоблашади.

Ўтган йили X фойдаланувчиси ChatGPT'нинг фойдаланувчиларнинг «илтимос» ва «раҳмат» хабарларига жавоб бериши натижасида юзага келадиган электр энергияси харажатлари ҳақида сўраганида, OpenAI раҳбари Сэм Альтман бу «яхши сарфланган ўн миллионлаб доллар — ҳеч қачон билиб бўлмайди» деб жавоб берган эди.

Шу билан бирга, ўтган йилнинг ноябрь ойида Collins луғати СИ воситалари учун камситувчи атама сифатида «clanker» (темир-терсак) сўзининг қайтишига эътибор қаратди.

Баъзи экспертлар, шунингдек, СИ чат-ботларига қўполлик қилиш одамларнинг бошқалар билан қандай гаплашиши ва муносабатда бўлишига таъсир қилиб, инсоний мулоқотга зарар етказиши мумкинлигини тахмин қилишмоқда.