Российские учёные нашли способ снизить ошибки нейросетей
Никита Габдуллин, эксперт отдела перспективных исследований ИТ-компании «Криптонит» (часть «ИКС Холдинг»), предложил метод, который помогает повысить надёжность искусственного интеллекта. Этот подход позволяет точнее предсказывать, как нейросети будут вести себя при изменении данных, что снижает вероятность ошибок.
Нейросети — это основа ИИ, но они не обладают сознанием. Часто модели, обученные на одних данных, плохо справляются с новыми, что вызывает сбои и снижает доверие к технологиям. Например, в работе автопилотов Tesla неоднократно возникали проблемы: они не распознавали велосипедистов сзади, ошибочно принимали красные круги на рекламных щитах за запрещающие сигналы светофора и включали аварийное торможение. Другой случай — пользователь Reddit, который по совету ИИ от Google пытался приготовить оливковое масло с чесноком, что могло привести к появлению опасной бактерии Clostridium botulinum, вызывающей ботулизм. Ошибки ИИ могут также иметь серьёзные юридические последствия. В 2024 году адвокаты в США заметили, что ИИ иногда «придумывает» несуществующие судебные дела при поиске прецедентов.
Методика, разработанная в «Криптоните», помогает лучше прогнозировать поведение ИИ при смене данных. Она особенно актуальна для традиционных систем, которые составляют основу большинства современных ИИ. В основе подхода — исследование того, насколько «гладко» нейросети реагируют на изменения данных или параметров. Учёные заметили схожие модели поведения разных нейросетей и создали критерии оценки их способности к обобщению, основываясь на анализе гессианов — специальных матриц, связанных с нейросетями. Это позволяет точнее оценивать качество популярных моделей и помогает при создании новых ИИ, снижая количество ошибок. Результаты опубликованы в открытом доступе и открывают путь к более надёжным технологиям.
Никита Габдуллин отметил, что причины ошибок ИИ часто связаны с плохой предсказуемостью нейросетей при изменении данных. Он пояснил, что модели могут показывать отличные результаты в лабораторных условиях, но резко терять качество при работе с реальными данными.
Для практической реализации методики в «Криптоните» создали библиотеку с открытым исходным кодом Loss Landscape Analysis (LLA). Она помогает гибко строить и анализировать способность нейросетей к обобщению.
Ранее этот же отдел «Криптонита» разработал способ измерять пульс по видеозаписи в общественных местах.
Источник: cnews.ru
