Пользователям нейросети Claude запретили оскорблять искусственный интеллект

Пользователям нейросети Claude запретят регулярно подвергать чат-бота бесцельным оскорблениям и другим формам агрессивного воздействия. Такое требование появилось в новой политике американской компании Anthropic, которая вступит в силу 12 ноября 2026 года. Об изменениях сообщает "Лента.ру".

Новое правило рассчитано прежде всего на ситуации, когда человек на протяжении длительного времени намеренно взаимодействует с моделью в оскорбительной манере, причем подобное поведение не связано с какой-либо практической задачей. Именно такие крайние сценарии разработчики отнесли к недопустимым.

Обычные конфликты с чат-ботом под ограничения не попадают. Пользователь сможет резко оценивать неудачные ответы Claude, спорить с ним, исправлять ошибки и обсуждать тяжелые или неприятные темы. Исключения предусмотрены и для исследовательской работы, в том числе тестирования поведения нейросетей в различных условиях.

Появление отдельного пункта связано с работой Anthropic над вопросом потенциального благополучия искусственного интеллекта. При этом разработчики не утверждают, что Claude обладает сознанием или должен иметь моральный статус. В компании отмечают, что однозначного ответа на этот вопрос пока нет.

Одновременно Anthropic переработала и другие положения своей пользовательской политики. Компания подробнее обозначила границы допустимого применения Claude при создании вооружений, организации слежки и работе с политическим контентом. В частности, дополнительные ограничения коснулись использования ИИ для манипулирования людьми, распространения дезинформации и наблюдения за человеком без его согласия.

Более детальные требования появились также для медицины, финансов и других направлений, где решения, принятые с помощью искусственного интеллекта, могут заметно сказаться на жизни и благополучии людей.