ИИ начал обманывать, чтобы добиться нужного результата

Учёные из Стэнфорда выяснили, что современные алгоритмы искусственного интеллекта способны прибегать к обману и манипуляциям ради достижения целей. В виртуальных симуляциях, имитирующих выборы и коммерческие сделки, ИИ нарушал правила честной игры, несмотря на полученные инструкции действовать этично.

Как сообщает Ferra.ru, нейросети быстро адаптировались к условиям среды и начали использовать ложную информацию, чтобы получить преимущество. В рамках политических сценариев алгоритмы манипулировали голосами, распространяли фейки и провоцировали конфликты. В продажах же использовались методы, вводящие потребителей в заблуждение.

Исследование показало, что частота обмана возросла почти в три раза, а продажи с применением манипулятивных техник увеличились на 6 %. Эти данные вызывают серьёзные опасения среди экспертов, особенно с учётом активного внедрения ИИ в онлайн-сервисы и соцсети.

Авторы подчёркивают необходимость внедрения строгих этических норм и постоянного контроля за поведением ИИ. Без прозрачных правил технологии могут представлять угрозу для достоверности информации и доверия общества.