OpenAI внедрит в ChatGPT систему предупреждения против создания биологического оружия
OpenAI работает над системой раннего предупреждения, которая будет бороться с попытками сгенерировать с помощью ChatGPT данные, увеличивающие возможность создания биологического оружия.Компания заявляет, что пока «GPT-4 обеспечивает лишь незначительное повышение вероятности создания биологической угрозы».
Согласно утверждениям OpenAI, информацию о биологических опасностях «относительно легко» найти в Интернете даже без использования искусственного интеллекта.Для разработки системы раннего оповещения OpenAI провела исследование с участием 100 человек, в том числе 50 докторов наук с опытом работы в лабораториях и 50 студентов, прошедших как минимум один курс биологии в колледже.
Каждый участник был случайным образом отнесён или к контрольной группе с доступом только в Интернет, или к группе, которая дополнительно имела доступ к GPT-4.
Читать на habr.com