Anthropic запретила пользователям "издеваться" над своими ИИ-системами

Компания Anthropic, разработчик чат-бота Claude, запретила пользователям "длительное и беспричинное" оскорбительное обращение со своими ИИ-системами.

В четверг, 8 октября, компания объявила об обновлении правил использования: ее инструменты смогут завершать диалог, если пользователь проявляет "жестокость". По словам Anthropic, в редких случаях это происходило и раньше. Теперь такое поведение включено в перечень запрещенных действий наряду с травлей, пропагандой самоповреждения и созданием интимных изображений без согласия изображенных людей.

В Anthropic уточнили, что правило будет применяться только в "крайних случаях" повторяющихся оскорблений и не распространяется на обычное раздражение пользователей, споры с моделью, мрачные темы в творчестве, а также на тестирование и исследование моделей. Вместе с тем остается неясным, что именно компания будет считать оскорбительным или жестоким поведением.