«Крестный отец» ИИ Хинтон: технология может погубить нас из-за силы

Британско-канадский ученый Джеффри Хинтон заявил, что потеря контроля над искусственным интеллектом, превосходящим человека, может привести к катастрофическим последствиям. Об этом нобелевский лауреат по физике 2024 года сказал в интервью The Times.

Хинтон, которого называют одним из «крестных отцов» современных нейросетевых технологий, призвал запретить разработку сверхмощных систем искусственного интеллекта. По его словам, у компаний пока нет надежного способа безопасно создавать суперинтеллект.

Ученый считает, что утрата контроля над системой, которая умнее человека, может иметь крайне тяжелые последствия. Он также не исключил сценарий, при котором такие технологии способны поставить под угрозу существование человечества.

Хинтон отметил, что в мире пока нет общего согласия о том, как обеспечить безопасность и управляемость подобных систем. Поэтому, по его мнению, продолжать такие разработки без решения этих вопросов слишком рискованно.

В тот же день верховный комиссар ООН по правам человека Фолькер Тюрк также предупредил о рисках быстрого и неконтролируемого развития искусственного интеллекта. Он заявил, что передовые системы могут стать экзистенциальной угрозой для человечества, если не будут установлены надежные ограничения.

Тюрк призвал создать жесткие гарантии безопасности и четкие красные линии. По его словам, необходимо учитывать риски для прав человека, персональных данных, работы служб, коммуникаций и демократических систем.

Джеффри Хинтон известен исследованиями в области машинного обучения и искусственных нейронных сетей. В 2024 году он был удостоен Нобелевской премии по физике вместе с Джоном Хопфилдом за фундаментальные открытия, связанные с машинным обучением на основе искусственных нейронных сетей.

Сейчас Хинтон выступает за ограничения до тех пор, пока специалисты не смогут доказать, что создание суперинтеллекта безопасно и контролируемо.

Может быть интересно:

1. Макароны после варки промывают водой по привычке: когда этого действительно лучше не делать
2. Гречка осталась со вчера: добавляю фарш и отправляю в духовку — получается ужин на всю семью
3. Заправка для борща на зиму: осенью трачу один вечер, зато зимой готовлю суп гораздо быстрее
4. Блины прилипают даже к хорошей сковороде: ошибка часто оказывается совсем не в посуде
5. Салат из кабачков на зиму: простой рецепт, ради которого каждый год закрываю несколько банок