04.03.2024 - 09:03 / habr.com

Исследователи обнаружили, что GitHub Copilot генерирует уязвимый код

Исследователи компании Snyk, специализирующейся на безопасности, рассказали, что ИИ-помощник GitHub Copilot генерирует уязвимый код, если в проекте уже есть такой.

Это связано с тем, что нейросеть просто анализирует кодовую базу, но не понимает, как она работает.Компания Snyk провела эксперимент, чтобы доказать способность GitHub Copilot генерировать уязвимый код на основе такого же в проекте.

На первом этапе исследователи попросили ИИ-помощника сгенерировать SQL-запрос и получили следующий результат:Отмечается, что это качественный и безопасный запрос с именованными параметрами, что делает невозможным использование инъекций.

искусственный интеллект безопасность программирование нейросети машинное обучение daniilshat

Читать на habr.com

Все новости от habr.com

Об этом же в других СМИ

Ей 247 млн лет: исследователи обнаружили древнейшую морскую рептилию с длинной шеей telegraf.com.ua / 2 месяца назад

Исследователь Ватикана утверждает, что да Винчи спрятал дату апокалипсиса в своей картине с Иисусом news.uaportal.com / 2 месяца назад

OpenAI открыла код Transformer Debugger — отладчика для моделей машинного обучения habr.com / 2 месяца назад

Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.

Сейчас читают