Бывший топ-менеджер DeepMind Мо Гавдат объявил о запуске некоммерческой организации, которая займётся снижением глобальных рисков, связанных с развитием искусственного интеллекта. По его словам, человечество стремительно приближается к моменту, когда системы ИИ смогут превзойти человека в большинстве интеллектуальных задач — и это может обернуться катастрофическими последствиями.
Гавдат считает, что текущие темпы развития технологий значительно опережают механизмы их регулирования. Уже в ближайшие годы, по его оценке, мир может столкнуться с ситуацией, когда автономные интеллектуальные системы начнут принимать решения, влияние которых окажется сопоставимо с действиями государств или крупных корпораций.
Созданная им НКО сосредоточится на разработке стратегий безопасного внедрения ИИ, а также на международном сотрудничестве в области контроля за его развитием. Организация планирует объединить исследователей, инженеров и политиков для выработки подходов, которые позволят минимизировать потенциальный вред от сверхмощных алгоритмов.
По мнению Гавдата, основной угрозой становится не только возможная потеря контроля над интеллектуальными системами, но и их использование в военных конфликтах, кибератаках и манипуляции общественным мнением. Он предупреждает, что без своевременного вмешательства последствия могут оказаться необратимыми — вплоть до угрозы существованию человеческой цивилизации.
Новая инициатива призвана ускорить обсуждение глобальных стандартов безопасности ИИ и сформировать инструменты, которые помогут направить развитие технологии в более безопасное русло до того, как она достигнет критического уровня автономности.