Anthropic заявляет, что пользователям нельзя без причины проявлять жестокость к Claude09.10.2026 00:53

Сегодня Anthropic обновила правила использования (через The Verge), запретив пользователям «длительно и без необходимости вести себя оскорбительно или жестоко» по отношению к Claude.

Anthropic заявляет, что правило о жестоком обращении должно применяться только в крайних случаях, когда пользователи «неоднократно жестоко ведут себя» по отношению к моделям ИИ «без какой-либо очевидной цели». Правило не распространяется на обычное недовольство пользователей, возражения, мрачные творческие темы, а также тестирование и исследования моделей.

Модели Claude уже могут завершать такие беседы с пользователями, которые упорно ведут себя оскорбительно, и завершение беседы останется основным инструментом обеспечения соблюдения правил. Когда Claude завершает чат, в этой беседе больше нельзя отправлять сообщения, но другие чаты это не затрагивает.

Впервые Anthropic предоставила Claude возможность завершать беседы в августе 2025 года во время исследований благополучия ИИ. Тогда Anthropic заявила, что не уверена, обладает ли Claude моральным статусом, но компания хотела найти недорогие способы снизить риски для Claude. Anthropic обнаружила, что Claude Opus 4 испытывала «устойчивое и последовательное неприятие причинения вреда». Модель демонстрировала нежелание заниматься опасными задачами, очевидное беспокойство при общении с пользователями, стремившимися к оскорбительным беседам, а также склонность завершать вредоносные беседы, если ей предоставляли такую возможность.

Правила использования Anthropic были реорганизованы: связанные положения объединили, а ряд других правил изменили.

• Обманные кампании — новый раздел об обманных кампаниях объединяет правила против политического и коммерческого мошенничества и дезинформации, запрещая фальшивые отзывы, искусственное создание видимости общественной поддержки, фальшивые сайты и ботов, выдающих себя за людей.
• Выборы — более узкий раздел о выборах запрещает вводить избирателей в заблуждение и вмешиваться в процесс голосования.
• Оружие — Claude нельзя использовать для разработки программного обеспечения или компонентов оружия; новое правило запрещает модифицировать биологические или химические агенты, чтобы повысить их смертоносность или способность к передаче. Пользователям также запрещено использовать Claude для вооружения дронов и беспилотных систем.
• Правоохранительные органы — правила для правоохранительных органов были переписаны. Claude не может решать или предлагать, кого расследовать, арестовывать, обвинять или привлекать к судебному преследованию. Отслеживать людей без их согласия запрещено, также введён новый запрет на создание средств слежки. Докcинг также запрещён.
• Физические действия — новый раздел о физических действиях устанавливает, что если Claude управляет оборудованием, которое может причинить кому-либо вред, за его работой должен наблюдать квалифицированный специалист, готовый при необходимости её остановить.
• Вредоносный контент — новое правило запрещает создавать, распространять или угрожать распространением интимных изображений, опубликованных без согласия, а также инструментов для их создания.

Большинство изменений уточняют уже действовавшие правила Anthropic и направлены против тех видов злоупотреблений, которые отслеживала компания. По словам Anthropic, государственные СМИ, правительственные пропагандистские ведомства и коммерческие компании использовали Claude для создания сетей фальшивых аккаунтов и поддельных новостных сайтов, что и привело к появлению нового раздела об обманных кампаниях.

Новая политика вступит в силу 12 ноября. Подробнее об изменениях можно узнать на сайте Anthropic, там же опубликованы полные правила использования.

©  MacRumors.ru