OpenAI и Anthropic начали блокировать пользователей за реверс-инжиринг с помощью ИИ
- Пользователи Claude и Codex столкнулись с блокировками декомпиляции; в отдельных случаях OpenAI заблокировала аккаунты за реверс-инжиниринг телевизоров Samsung.
- Проект Reverse Engineer Anything помогал анализировать электронику, устанавливать новые системы на телевизоры и обновлять старые устройства.
- OpenAI заявила, что блокировки за реверс-инжиниринг не должны происходить и обычно возникают случайно из-за защитных механизмов.
Почему это важно: Чрезмерно строгие фильтры кибербезопасности мешают законным исследованиям и обновлению устройств.
Пользователи Anthropic Claude и OpenAI Codex столкнулись с ограничениями при попытках применить ИИ для реверс-инжиринга. Защитные механизмы начали блокировать также декомпиляцию ПО, а в отдельных случаях происходила блокировка аккаунтов. Под ограничения попали даже проекты, связанные с модификацией устройств, принадлежащих самим пользователям.
По данным 404 Media, несколько пользователей Claude Code сообщили о срабатывании механизмов безопасности, которые препятствовали обратному проектированию программ, а в сообществе Reverse Engineer Anything на Reddit появилась публикация с заголовком «Мечта умерла», автор которой заявил, что использовать Claude для подобных задач, вероятно, больше не получится. Другие участники Discord-сообщества также подтвердили, что сервис отказывается декомпилировать программы.
Аналогичные проблемы возникли у пользователей Codex. Один из них сообщил, что OpenAI заблокировала его аккаунт после обратного проектирования телевизоров Samsung, сославшись на нарушение правил о злоупотреблениях в сфере кибербезопасности.
Интерес к этому направлению вырос благодаря бесплатному проекту с открытым исходным кодом Reverse Engineer Anything, который позволяет применять ИИ для анализа электроники и замены заводского программного обеспечения на открытые или созданные с помощью ИИ альтернативы. Пользователи устанавливали новые операционные системы на умные телевизоры, превращали их в ИИ-помощников, восстанавливали устройства Интернета вещей, которые производители перестали поддерживать, и обновляли ПО старой электроники.
404 Media также обращает внимание на противоречие в политике крупных ИИ-компаний. В частности, технологические корпорации защищают интересы производителей электроники, ограничивая использование ИИ для обратного проектирования. При этом сбор огромных массивов материалов из интернета для обучения собственных моделей не вызывает у крупных компаний аналогичного отношения к вопросам авторских прав.
Представитель OpenAI Тарун Гогинени (Tarun Gogineni) заявил, что блокировки аккаунтов за обратное проектирование не должны происходить. По его словам, большинство таких ограничений возникает случайно из-за сложности настройки защитных механизмов ИИ, а сам Codex не запрещает подобную деятельность. Гогинени добавил, что проблему решают.
Однако некоторые специалисты уже предпочитают переходить на альтернативные модели, опасаясь внезапных изменений правил. Мэтт Браун (Matt Brown), главный консультант Brown Fine Security, рассказал 404 Media, что блокировки реверс-инжиринга практически полностью совпадают со срабатыванием фильтров категории кибербезопасности.
По его мнению, разработчики в своём стремлении предотвратить использование ИИ для взломов, накладывают чрезмерно строгие ограничения, что мешает законным исследованиям. Браун намерен инвестировать в оборудование и локальные модели с открытыми весами, которые становятся всё умнее, в том числе благодаря разработкам китайских компаний.
© 3DNews
