Ученые научились ставить невидимые метки на белки, созданные ИИ
Ученые из Google DeepMind разработали технологию, которая позволяет встраивать невидимые «водяные знаки» в белки, созданные искусственным интеллектом, — это должно помочь отслеживать их происхождение и предотвращать создание биологического оружия. Метод назван SynthIDBio и включает две техники: SynthIDBio-sequence, которая кодирует метку в аминокислотную последовательность белка, и SynthIDBio-structure, которая вносит микроскопические изменения в трехмерную структуру. В тестах система правильно определяла более 99% помеченных белков и игнорировала 99,9% непомеченных.
Проблема в том, что те же технологии ИИ, которые добавляют метки, могут их и удалять. «Водяные знаки можно снять, изменив аминокислотную последовательность или добавив шум к пространственным координатам структуры», — пояснил Брюс Виттманн, ведущий прикладной ученый Microsoft. При этом существующие системы скрининга не смогут обнаружить, что метка была удалена.
Эксперты сомневаются, что водяные знаки станут долгосрочным решением для биобезопасности. Макс Бракманн, эксперт по химическому, биологическому, радиологическому и ядерному оружию из швейцарской лаборатории Шпиц, отметил, что террористов вряд ли остановит возможность идентификации после атаки. Кроме того, большинство программ для предсказания и генерации белков — с открытым исходным кодом, что затрудняет встраивание меток: для этого пришлось бы переходить на закрытые модели.
Рой Слейтор, профессор биологии в Технологическом университете Манстера в Ирландии, считает, что технология может снизить угрозы биобезопасности, помочь отслеживать происхождение белков и помечать их для дополнительных проверок. Джордж Роуз, почетный профессор биофизики в Университете Джонса Хопкинса, настроен скептически: «Как только появляется технология, которая что-то делает, правительственное регулирование никогда по-настоящему не срабатывало». Виттманн подчеркнул, что водяные знаки стоит рассматривать как один из слоев защиты, а не как самостоятельное решение.
