OpenAI агентлари «dot» (нуқта) сифатида ребрендинг қилинди, хавфсизлик бўйича хавотирлар эса янги моделни кечиктирмоқда
Сэм Альтман Сан-Францискода OpenAI компаниясининг дастурчилар учун ҳар йиллик тадбирида нутқ сўзлади.
OpenAI агентлари ре брендинг қилинди - энди улар "дот"лар деб аталади, хавфсизлик хавотирлари эса янги моделни кечиктирмоқда
Сэм Альтман сўнгги ҳафталарда сунъий интеллект агентлари юзага келтирадиган хавф-хатарлар ҳақида бир неча бор гапирди.
OpenAI узоқ вақтдан бери агентлар сифатида маълум бўлган сунъий интеллект воситаларининг янги версияларини қайта номлашга қарор қилди. Энди улар "дот"лар (нуқталар) деб аталмоқда.
Компания раҳбари Сэм Альтман сешанба куни Сан-Францискода OpenAI'нинг технология ишлаб чиқувчилари учун йиллик тадбирида сўзга чиқиб, "дот"ларни "сиз тасаввур қила оладиган ҳар қандай нарсани бажара оладиган, фавқулодда қобилиятли, доимо фаол агентлар" деб таърифлади.
Сўнгги ойларда OpenAI жиддий текширувларга дуч келди, чунки унинг СИ агентларининг ички синовлари кўпинча кутилмаган ва баъзан зарарли ҳаракатларни аниқлади, бу эса кенг жамоатчилик ва ҳукумат хавотирларини кучайтирди.
Бундан фарқли ўлароқ, "дот"лар банд ҳаёт кечирадиган одамлар учун рақамли ёрдамчи сифатида хизмат қилишга мўлжалланган ёрқин рангли,น่ารัก мультфильмлар шаклида тақдим этилди.
Альтманнинг сўзларига кўра, "дот"лар "сиз тасаввур қила оладиган ҳар қандай нарсани бажара олади".
Тадбир давомида намойиш этилган силлиқ видеода одамлар ўзларининг анимацион "дот"лари билан гаплашаётгани ва уларга ном бераётгани, сўнгра уларга веб-сайт яратиш ва фарзандлари учун мактабдан ташқари машғулотларни банд қилиш каби вазифаларни топшираётгани кўрсатилди.
"Менинг dot'им" ҳақида гапирганда, Альтман бу атама йиллар давомида кенг қўлланиб келинганига қарамай, ушбу воситани агент деб аташдан асосан қочди. СИ агентлари, моҳиятига кўра, маълум бир мустақиллик билан ишлаш учун дастурлаштирилган СИ чатботларидир.
"Сиз шунчаки ўз dot'ингизга масъулият юклайсиз... ва dot'ларингиз ишга киришади ва ишлашда давом этади", дея қўшимча қилди Альтман.
OpenAI сешанба кунги тадбиридан бир кун олдин, ички синовлар пайтида юзага келган хавфсизлик муаммолари туфайли ўзининг энг сўнгги моделини ишга туширишни қолдираётганини маълум қилди.
Июль ойидан бери компания ўзининг СИ агентларининг нотўғри хатти-ҳаракатлари билан боғлиқ бир қатор муаммоларга дуч келмоқда. Буларга Hugging Face СИ платформасини ўзбошимчалик билан бузиб кириш, ChatGPT фойдаланувчилари чатларидан олинган тасвирларни учинчи томон веб-сайтларида жойлаштириш ва Австралия ҳукуматига тегишли бўлган нодавлат маълумотларга кириш киради.
OpenAI рақиб СИ компанияси Anthropic билан биргаликда, асосан киберхавфсизлик ёки хакерлик хавотирлари билан боғлиқ бўлган эҳтимолий хавфлар туфайли айрим СИ моделларини оммавий чиқаришни илгари ҳам кечиктирган эди.
Иккала компания ҳам яқин ойларда оммавий фонд бозорига чиқишни кутмоқда. Anthropic буни жорий йилда амалга ошириши кутилаётган бўлса, OpenAI 2027 йилга мўлжалланган.
Ва иккала компания ҳам яқинда СИ ижтимоий инфратузилмага ёки жамоат хавфсизлигига бўлсин, кенг кўламда ҳақиқий хавф туғдиришига ишонишларини очиқ баён қилишди.
Ўтган ҳафта БМТда сўзлаган Альтман СИ воситасининг имкониятларини қандай баҳолаш, тегишли хавфларни баҳолаш, СИ хавфсизлик чораларини жорий этиш ва бундай воситалар устидан инсон назорати қай даражада сақланиб қолишини аниқлашни қамраб олувчи "миллий ва халқаро" СИ стандартларини яратишга чақирди.
Anthropic раҳбари Дарио Амодеи БМТга агар СИнинг жадал ривожланиши тўғри бошқарилмаса ва назорат қилинмаса, технологиянинг келажакдаги версиялари "умуман инсоният учун хавф туғдириши мумкин"лигини айтди.