Исследователи продемонстрировали новый вид атаки, который позволяет с помощью генеративных ИИ-сервисов запускать процесс самовоспроизведения сетевого червя.
В эксперименте использовали почтовый клиент на базе языковых моделей, который и стал причиной массового распространения зловреда в лабораторных условиях.Для эксперимента исследователи разработали службу обмена электронными письмами, к которой подключили языковые модели ChatGPT, Gemini и LlaMA.
Приложение использовало нейросети для автоматизированного процесса получения и отправки писем. После этого провели два вида атак.В первом случае на электронный адрес жертвы отправляется письмо с вредоносной командой, которая заставляет языковую модель перейти по ссылке и найти там ответ.
Читать на habr.com