ИИ ускоряет разработку встроенного ПО, а безопасность не успевает

AI (искусственный интеллект) перестал быть экспериментом и стал частью промышленной разработки. По опросу RunSafe среди 200+ специалистов в США, Великобритании и Германии, 80,5% уже используют AI в embedded-разработке, а лишь 2% не применяют его вовсе. AI-код активно используется в медицинских устройствах, промышленном управлении, автомобилях и энергетике. При этом компании признают рост скорости и качества разработки, но отмечают серьезные риски для безопасности и эксплуатации.

Для промышленной автоматики это особенно чувствительно. Основные приоритеты команд - надежность в реальном времени (61%) и соответствие требованиям и защита данных (55%). 40,5% указывают на сложность интеграции, 29% - на рост поверхности атак. Только 28,5% опираются на стандарт ISA/IEC 62443 (стандарт по кибербезопасности промышленных систем), а 44% используют внутренние правила, что говорит о неравномерном применении отраслевых стандартов и их слабой адаптации к AI-коду.

RunSafe рекомендует исходить из того, что AI-код уже везде, и усиливать контроль за ним. Важны трассируемость и отдельные проверки AI-кода, защита на этапе выполнения (ASLR - рандомизация адресного пространства, CFI - контроль потока управления), а также использование AI для защиты - анализа кода, моделирования угроз и поиска аномалий. Инвестиции в безопасность должны быть связаны с показателями надежности, безопасности и соответствия требованиям, включая MTTR (среднее время восстановления) и долю устройств с активной защитой.

Вся промышленная автоматика в одном месте