Anthropic запретила Opus 5.5 помогать в разработке LLM
- Anthropic ограничила модель Opus 5.5: при запросах о разработке передовых LLM диалог автоматически переключается на менее способную Opus 5.
- Аналогичные фильтры с откатом на Opus 5 внедрены для тем вирусологии, токсикологии и молекулярного дизайна.
- Обе модели блокируют попытки дистилляции рассуждений, а проверенным организациям компания предлагает программы верификации с ослабленными ограничениями.
Почему это важно: Компания объясняет ограничения стремлением снизить риски по мере роста возможностей искусственного интеллекта.
Anthropic ввела дополнительные ограничения для Claude Opus 5.5 — своей флагманской модели. Теперь система отказывается помогать в разработке передовых языковых моделей (frontier LLM): при обнаружении запросов, связанных, например, с созданием ядра для определённых ML-ускорителей, разговор автоматически переключается на менее способную Opus 5. Ограничение действует только для Opus 5.5, у Opus 5 таких запретов нет.
Аналогичные «предохранители» появились в биологической сфере. Opus 5.5 получила классификаторы, близкие к тем, что используются в модели Fable, для запросов двойного назначения — вирусологии, токсикологии, молекулярного дизайна. При срабатывании модель также откатывается на Opus 5. Обе модели, Opus 5 и Opus 5.5, блокируют попытки дистилляции — извлечения внутренних рассуждений, например просьбы повторить цепочку мыслей дословно. Обычные вопросы вроде «почему так сделал?» остаются доступными.
Автоматическое переключение моделей включено по умолчанию, но пользователь может отключить его в настройках: тогда запрос будет просто заблокирован. Компания объясняет меры стремлением снизить риски по мере роста возможностей ИИ.
Для легитимных организаций, занимающихся кибербезопасностью или науками о жизни, Anthropic предлагает программы верификации — Cyber Verification Program и Life Sciences Verification Program. Они открывают доступ к более способным моделям с меньшими ограничениями. Opus 5.5 пока недоступна в киберпрограмме, но организациям на Opus 4.8 уже предоставляется доступ к Opus 5 с ослабленными кибер-ограничениями.
Эти шаги стали очередным сигналом: разработчики сильных ИИ-систем начинают встраивать ограничения не только в продукт, но и в саму архитектуру доступа, балансируя между полезностью и потенциальной опасностью.
© iXBT
