Ученый Нейт Соарес оценил риск исчезновения людей из-за ИИ
Стремительное развитие искусственного интеллекта вызывает опасения у исследователей, занимающихся безопасностью новых технологий. Руководитель Института исследований машинного интеллекта Нейт Соарес предупредил, что появление сверхмощных систем может создать угрозу существованию человечества.
По информации Business Insider, эксперт оценивает вероятность катастрофического сценария до 2036 года более чем в 50%.
Главная проблема, по мнению Соареса, заключается в возможной утрате контроля над искусственным интеллектом. Он допускает появление систем, которые смогут самостоятельно выбирать цели, обходить защитные механизмы и улучшать собственные возможности. Если подобный ИИ начнет действовать вопреки интересам людей, человечество может оказаться неспособным остановить его деятельность.
Исследователь предполагает, что высокоразвитая система способна изменить окружающую среду таким образом, что условия на Земле станут непригодными для человеческой жизни. При этом Соарес не называет катастрофу неизбежной. Его оценка отражает личное представление о масштабах угрозы, а не общепринятый научный прогноз.
Для снижения рисков эксперт предлагает отказаться от дальнейшего обучения универсальных систем ИИ. Развитие технологий, по его мнению, следует сосредоточить на конкретных полезных направлениях, включая онкологические исследования и безопасность беспилотных машин.
