Сегодня в новостях
Об этом же в других СМИ
gagadget.com / 1 месяц назад
habr.com / 1 месяц назад
incrypted.com / 1 месяц назад
habr.com / 1 месяц назад
/ habr.com
Исследование: цензуру языковых моделей можно обойти с помощью ASCII-арта
Исследователи из Вашингтонского и Чикагского университетов выяснили, что цензуру больших языковых моделей можно обойти с помощью ASCII-арта.
Если зашифровать стоп-слова с помощью символов, то нейросеть ответит на запрещённые вопросы. С помощью этого хака исследователи получили от ChatGPT инструкцию по изготовлению фальшивых денег.Новый вид атаки получил название ArtPrompt.
Он заключается в том, чтобы зашифровать стоп-слова в ASCII-арт и передать их модели машинного обучения. Исследователи утверждают, что все виды защиты языковых моделей основаны на семантике.
Читать на habr.comОб этом же в других СМИ
Softline: Microsoft обсуждает перенос срока приостановки доступа к облачным сервисам в РФ с 20 марта на конец месяца habr.com / 1 месяц назад
Игры для консоли Playdate теперь можно разрабатывать на языке программирования Swift habr.com / 1 месяц назад
Discord открыл возможность создавать игры и приложения, которые работают внутри платформы habr.com / 2 месяца назад
Показать ещё
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.