Нью-Йоркский чат-бот распространяет ложную информацию

Недавнее расследование, проведенное The Markup, раскрыло, что чат-бот, запущенный правительством Нью-Йорка для оказания информационной поддержки владельцам бизнеса, время от времени распространяет неточную и даже дезинформационную информацию о городской политике.Согласно отчету, чат-бот, основанный на искусственном интеллекте от Microsoft Azure, предоставляет ложную информацию, иногда даже нарушает законодательство.Публикация, проведенная вместе с местными некоммерческими изданиями Documented и The City, выявила ряд неточностей в ответах чат-бота на вопросы о жилищной политике, правах работников и других существенных темах.Мэр Адамс представил этот чат-бот в октябре, как часть портала "My City", который введен в марте 2023 года как главный источник городских услуг.

Однако оказалось, что это лишь пилотный проект, с предупреждением на сайте, что иногда информация может быть неточной или даже вредной.Во время тестирования The Markup чат-бот предоставлял неверную информацию в ответ на различные вопросы, вопросы о безналичных магазинах и правилах трудоустройства.

Эксперты по жилищной политике характеризуют чат-бот как "опасно неточный" в худшем случае.Представитель Управления технологий и инноваций Нью-Йорка, Лесли Браун, отметил, что чат-бот уже предоставил тысячам людей своевременные точные ответы.