Anthropic: ИИ грозит человечеству с вероятностью более 10%

Исследователь компании Anthropic Эван Хьюбингер заявил, что считает вероятность гибельного воздействия искусственного интеллекта на человечество в ближайшие десять лет выше 10%. Его слова прозвучали после ухода из компании Джейкоба Коксона, сообщает Ridus.

Коксон решил покинуть Anthropic и сферу искусственного интеллекта из-за опасений, связанных с быстрым развитием технологий. По его мнению, компании слишком быстро движутся к созданию самосовершенствующегося сверхразума.

После этого Хьюбингер отметил, что специалисты действительно серьезно рассматривают сценарий, при котором искусственный интеллект может стать угрозой для всего человечества. Личную оценку такого риска в ближайшие десять лет он назвал превышающей 10%.

При этом исследователь подчеркнул, что нынешние системы искусственного интеллекта он не считает источником угрозы такого масштаба. Основные опасения, по его словам, связаны с будущими сверхразумными системами, которые смогут самостоятельно повышать свои возможности.

Хьюбингер также заявил, что Anthropic занимается поиском способов согласовать цели таких систем с интересами людей. Однако, по его словам, надежного решения этой задачи пока не найдено.

Отдельно исследователь обратил внимание на скорость развития технологий. Он отметил, что технический прогресс в этой области оказался значительно быстрее прежних ожиданий.

Может быть интересно:

1. Пельмени сварились, но весь бульон оказался в кастрюле: почему тесто лопается по шву
2. Пирог поднялся почти до края формы, а потом провалился посередине: какая ошибка случилась еще до духовки
3. Салат из огурцов на зиму «Зимний король»: сколько ни закатываю, до весны банки не доживают
4. Вчерашний рис не отправляю на гарнир: добавляю яйцо и овощи — через 10 минут новое блюдо
5. Драники румяные снаружи, а внутри остаются сырыми: одна ошибка с картошкой портит всю сковороду