Может ли искусственный интеллект стать причиной гибели одного миллиарда человек?
Билл Гейтс предупредил, что использование искусственного интеллекта в злонамеренных целях может угрожать жизням миллиардов людей. Эксперт по кибербезопасности Дэвид Линтикум, в свою очередь, считает сценарий, способный привести к гибели одного миллиарда человек, теоретически возможным, но маловероятным, если одновременно не произойдет множество серьезных ошибок.
Может ли искусственный интеллект привести к гибели одного миллиарда человек?
Сооснователь Microsoft Билл Гейтс в интервью NBC News заявил, что современные инструменты искусственного интеллекта могут стать чрезвычайно опасным оружием в руках злоумышленников. Он также подчеркнул необходимость регулирования этой технологии на законодательном уровне.
Издание Tom’s Guide обратилось к Дэвиду Линтикуму, эксперту по искусственному интеллекту, облачным технологиям и кибербезопасности, чтобы обсудить это предупреждение.
Согласно комментарию Линтикума, для возникновения катастрофы такого масштаба ИИ должен иметь возможность влиять на критическую инфраструктуру, вооружение, цепочки поставок или биологические системы. Кроме того, он должен быть способен действовать без вмешательства человека.
По мнению эксперта, для этого должны совпасть такие факторы, как крупные ошибки при объединении систем в единую сеть, серьезные изъяны в управлении и намеренное использование технологии в вредоносных целях. По этой причине он не считает подобный сценарий неизбежным или событием ближайшего будущего.
Линтикум предположил, что Гейтс мог иметь в виду возможность использования ИИ террористами или нестабильными государствами. Однако, по его оценке, на пути от вредоносного замысла до осуществления крупномасштабной катастрофы существуют большие практические препятствия.
В то же время эксперт не отрицает сегодняшние риски, связанные с искусственным интеллектом. К числу актуальных проблем он отнес утечки данных, мошенничество, дипфейки, ошибочную автоматизацию и предвзятые решения.
Его главная обеспокоенность — подключение недостаточно проработанных систем ИИ к реальным корпоративным и государственным системам. Если некоторые организации внедряют технологию без необходимых механизмов контроля, это может нанести вред.
Для снижения рисков Линтикум предложил предоставлять ИИ только те полномочия, которые необходимы для выполнения его задач, использовать системы изолированно и привязывать действия с высоким уровнем риска к подтверждению человеком. Он также отметил важность фиксации всех действий системы, регулярного тестирования и сохранения возможности отката изменений.
По мнению эксперта, полагаться только на кнопку аварийного отключения недостаточно. Если человек обнаружит проблему поздно, ущерб может быть нанесен еще до того, как система будет отключена. Поэтому безопасность должна опираться на несколько уровней контроля и учитываться с самых первых этапов разработки программы.