Мы привыкли восхищаться скоростью, с которой современные нейросети генерируют код, и часто забываем задаться вопросом: а насколько этот код вообще безопасен? Свежее исследование, проведённое специалистами по кибербезопасности, даёт отрезвляющий ответ. Оказывается, ИИ-код почти всегда функционален — то есть компилируется, запускается и даже выполняет поставленную задачу. Но вот парадокс: в 56% случаев этот код содержит уязвимости, которые могут быть использованы злоумышленниками. Другими словами, мы получаем работающий продукт, который одновременно является дырявым решетом с точки зрения безопасности.
Цифра в 56% — это не просто статистическая погрешность или результат тестов на синтетических задачах. Это реальные результаты анализа кода, написанного такими системами, как GitHub Copilot, ChatGPT и другими популярными ассистентами. Исследователи проверяли его на наличие типичных ошибок: SQL-инъекции, переполнение буфера, неправильная обработка пользовательского ввода, утечка данных и небезопасные криптографические алгоритмы. Оказалось, что языковые модели пока не научились учитывать все тонкости безопасного программирования — они генерируют синтаксически правильный, но логически незащищённый код.
Это ставит перед разработчиками серьёзную дилемму. С одной стороны, использование ИИ-ассистентов многократно ускоряет написание кода, особенно в рутинных задачах. С другой — этот код требует обязательной проверки человеком, который должен быть достаточно компетентен, чтобы заметить скрытые угрозы. Но здесь возникает проблема: многие программисты, особенно начинающие, склонны доверять нейросетям больше, чем следовало бы. Они воспринимают сгенерированный код как готовое решение, не задумываясь о потенциальных последствиях.
В итоге мы приходим к парадоксальной ситуации: ИИ-код — это как машина без ремней безопасности. Она быстро доставит вас до места, но если что-то пойдёт не так, вероятность серьёзных последствий крайне высока. Решение проблемы — не отказываться от ИИ, а выстраивать процессы с двойным контролем, где нейросеть выступает как помощник, а не как замена специалисту. И пока такие процессы не станут стандартом отра�ли, цифра в 56% будет лишь напоминанием о том, что доверять машине нужно, но не безоговорочно.
Об авторе
