Ученые обучили нейросеть сомневаться
На престижной Международной конференции по использованию компьютерного зрения (WACV-2025) были представлены результаты нового подхода, направленного на улучшение надежности нейросетевых моделей, особенно в сложных и пограничных ситуациях, где предсказания могут быть ненадежными из-за неопределенности или шума в данных.
Современные нейросетевые модели часто демонстрируют высокую точность, но иногда проявляют избыточную уверенность в своих предсказаниях, что может быть опасным в таких областях, как медицина, промышленная безопасность или автономные системы. Новый метод помогает нейросетям выявлять случаи, в которых их прогнозы требуют дополнительной проверки со стороны человека, пишет Naked-Science.
Технология была протестирована на реальных данных, включая задачи медицинской диагностики, например, типирование крови, и продемонстрировала значительный рост точности в оценке неопределенности при классификации и сегментации.
В отличие от традиционных подходов, где в обучающих выборках используются только бинарные метки (0 или 1), новая методика вводит «мягкие» метки — значения от 0 до 1, которые отражают степень уверенности экспертов в правильности разметки данных. Это помогает модели разрабатывать более осторожную стратегию принятия решений и эффективнее справляться с высоко неопределенными ситуациями.
Метод учитывает два типа неопределенности: эпистемическую, связанную с недостаточностью данных, и алеаторную, вызванную шумом или неоднозначностью в самих данных.
«Наш метод помогает нейросети понимать, где нужно проявить осторожность. Мы протестировали технологию на реальных данных и подтвердили её эффективность в оценке неопределенности», — пояснил Александр Югай, младший инженер-исследователь Центра искусственного интеллекта Сколтеха.
Эта технология может быть использована в сферах, где важна высокая надежность искусственного интеллекта, включая медицинские системы диагностики, промышленную автоматизацию, системы контроля качества и автономные решения.
«Мы сосредоточились на том, чтобы научить модель не только принимать решения, но и выделять случаи, когда риск ошибки особенно высок. Использование разметки уверенности значительно улучшает наше решение по сравнению с существующими подходами, что критически важно для принятия решений в медицине и других областях, где ошибки могут стоить дорого», — добавил Алексей Зайцев, доцент Сколтеха, заведующий Лабораторией прикладных исследований «Сколтех-Сбербанк».
