Anthropic раҳбари OpenAI ортидан сунъий интеллект ривожланишини зудлик билан секинлаштиришга чақирди
Anthropic раҳбари OpenAI ортидан сунъий интеллект ривожланишини зудлик билан секинлаштиришга чақирди
Anthropic раҳбари Дарио Амодеи хавфсизликка таҳдид солаётган хавф-хатарлар туфайли сунъий интеллектнинг ривожланиш суръатларини зудлик билан секинлаштириш зарурлигини маълум қилди. Унинг баҳолашича, агар тегишли ҳимоя чоралари кўрилмаса, кучли СИ тизимлари яқин 6-12 ой ичидаёқ юзлаб миллиард долларлик зарар етказиши мумкин.
Claude тил модели яратувчиси ўз блогида СИ имкониятларининг тезлашиб бораётган ривожланиши интернетни эгаллаб олиши мумкин бўлган ботлар тўдаси пайдо бўлиши хавфини туғдиришини кўрсатиб ўтди. У агар зарур ҳимоя механизмлари жорий этилмаса, алгоритмлар қувватининг ошиши билан бирга потенциал зарар кўлами ҳам ўсиб боришини таъкидлади.
Ушбу муаммони ҳал қилиш учун Амодеи технологияларнинг мувозанатли ва хавфсиз ривожланишига қаратилган уч босқичли мувофиқлаштириш режасини таклиф қилди. Биринчи босқичда ишлаб чиқувчи компаниялар ички хавфсизлик амалиётини аудитдан ўтказиш учун ташқи экспертларни жалб қилишлари керак.
Иккинчи босқич демократик мамлакатлардаги СИ компаниялари ўртасида ҳамкорликни йўлга қўйишни назарда тутади. Учинчи босқич эса дунёнинг аксарият мамлакатлари, жумладан, Хитой каби авторитар давлатлар ҳукуматлари иштирокидаги глобал мувофиқлаштиришни назарда тутади.
Anthropic раҳбарининг баёноти OpenAI раҳбариятининг шунга ўхшаш позицияси фонида янгради. Аввалроқ компания раҳбари Сэм Альтман ходимлар билан ёпиқ учрашувда хавфсизлик йўлида энг илғор сунъий интеллект тизимларини ишлаб чиқишни секинлаштиришга тайёрлигини маълум қилган ва бозорнинг бошқа иштирокчиларини ҳам ушбу намунага эргашишга чақирган эди.