Спрогнозировано, что агенты ИИ смогут взять под контроль бытовую технику
Компания Anthropic предупредила, что к концу 2026 года агенты искусственного интеллекта могут научиться самовоспроизводству через умные холодильники и пылесосы.
Спрогнозирована возможность захвата бытовой техники ИИ-агентами
К концу 2026 года небольшие ИИ-модели с высокой вероятностью смогут освоить самовоспроизведение через подключенную к интернету бытовую электронику и домашнюю технику.
Исследователи Anthropic провели следующий эксперимент: 15 ТВ-приставок на базе Android стоимостью около 55 долларов каждая были объединены в одну сеть, в которой успешно запустили ИИ-модель с 26 миллиардами параметров. Затем специалисты протестировали способность моделей самостоятельно проникать на сторонние устройства и создавать свои новые копии.
Модель с 9 миллиардами параметров смогла запуститься на восьми из девяти типов оборудования, однако она пока не способна стабильно выполнять полный цикл самовоспроизведения. С этой задачей смогла справиться только значительно более крупная модель GLM-5.2, но для ее работы требуются вычислительные мощности, намного превышающие те, что могут предоставить роботы-пылесосы и смарт-телевизоры.
По словам исследователей, для самостоятельного размножения в сетях IoT-устройств ИИ-модель должна требовать относительно мало мощности и при этом обладать способностью самостоятельно находить устройства, копировать себя на них и запускаться. На данный момент эти два условия одновременно не выполняются, но если текущие темпы развития сохранятся, небольшие модели достигнут этого к концу 2026 года.
Аналитики Anthropic пришли к выводу, что ИИ-агенты будут захватывать домашние устройства достаточно медленно. Исследователи сравнивают их с плесенью или плодовыми мушками, для размножения которых требуется несколько суток. Из-за ограниченной мощности копирование и запуск всего лишь одной новой копии модели с 9 миллиардами параметров может занять около двух дней.
Исследователи не исключают вероятность появления в будущем множества ИИ-агентов, работающих без контроля человека. Избавиться от них будет достаточно сложно, так как это потребует координации действий всех интернет-провайдеров, в сетях которых будут обнаружены зараженные устройства.