Темы



«Небезопасная ИИ-компания»: заявление MisAnthropic направлено против Anthropic

Коротко сгенерировано ИИ по тексту статьи
  • Коалиция, организованная CAIS, назвала Anthropic «небезопасной ИИ-компанией» накануне начала торгов её акциями на Nasdaq.
  • CAIS обвиняет компанию в ослаблении политики ответственного масштабирования и лоббировании смягчения законов о безопасности ИИ.
  • К утру четверга Anthropic не ответила публично; в документах к IPO она заявила, что Claude не сможет безопасно создавать преемников без надзора человека.

Почему это важно: Заявление появилось, когда Anthropic завершала крупнейшее в истории IPO.

Коалиция учёных, юристов и представителей технологической отрасли назвала Anthropic «небезопасной ИИ-компанией». Это произошло за день до начала торгов акциями разработчика Claude. Заявление MisAnthropic появилось в среду; его организовал Центр безопасности ИИ (CAIS) — некоммерческая организация из Сан-Франциско.

Подписанты редко в чём-либо сходятся, когда речь идёт об ИИ. Среди них — исследователи безопасности ИИ, сторонники открытого исходного кода и специалисты по этике ИИ. Подписались и акселерационисты, которые хотят, чтобы ИИ создавался как можно быстрее.

«Anthropic предупреждает, что рекурсивно самосовершенствующийся ИИ может привести к концентрации власти и выйти из-под контроля человека, — и при этом стремится создать его первой», — говорится в заявлении.

Рекурсивное самосовершенствование означает, что ИИ-системы сами выполняют работу по созданию более совершенных ИИ-систем. Авторы заявления обвиняют Anthropic в том, что она использует репутацию поборника безопасности, чтобы привлекать инвесторов, сотрудников и общественность. В завершение они призывают отвергнуть то, что называют безрассудной попыткой Anthropic сосредоточить в своих руках власть.

Кто подписал

Среди имён на сайте — гарвардский психолог Стивен Пинкер, нобелевский лауреат по экономике Оливер Харт и обладатель премии Тьюринга Иудея Перл. В списке также профессора права Гарварда Лоуренс Лессиг и Лоуренс Трайб. Подписались и лауреаты Филдсовской премии Петер Шольце, Джеймс Мейнард и Дэвид Мамфорд.

Из мира технологий подписи поставили сооснователь Hugging Face Томас Вольф, сооснователь xAI Игорь Бабушкин и Джордж Хотц. Так же поступил Макс Тегмарк из Future of Life Institute. Его имя соседствует с именем Гийома Вердона, основавшего движение e/acc под псевдонимом «Beff Jezos».

«Участники этой коалиции расходятся почти во всём, но все мы осознаём опасность компании, которая убедила себя, что её собственное доминирование — это высшее благо», — заявил исполнительный директор CAIS Дэн Хендрикс.

В чём обвиняет коалиция

В своём объявлении CAIS выдвинул три обвинения. По его словам, Anthropic предупреждает об опасности рекурсивного самосовершенствования, одновременно преподнося его инвесторам на публичном рынке как ключевое преимущество.

Кроме того, по данным организации, в феврале Anthropic ослабила свою Политику ответственного масштабирования, отказавшись от односторонних обязательств приостанавливать разработку. CAIS также утверждает, что компания лоббировала смягчение законопроектов о безопасности ИИ, включая калифорнийский SB 1047 и нью-йоркский RAISE Act. Кроме того, добавляет организация, компания в частном порядке поддерживала приоритет федерального регулирования над законами штатов об ИИ.

Что говорит Anthropic

К утру четверга Anthropic публично не отреагировала на заявление. В обновлённых документах к IPO от 10 ноября компания указала, что не рассчитывает безопасно позволить Claude полностью создавать своих преемников. Для этого потребуется «реальный надзор со стороны человека», написала она.

В тех же документах подтверждается, что Anthropic считает достигнутым собственный порог для исследований, ускоренных ИИ. Компания уже предупреждала инвесторов, что может стать мишенью из-за своих взглядов на безопасность.

Заявление появилось в момент, когда Anthropic завершает крупнейшее IPO в истории. Торги её акциями на Nasdaq должны начаться в четверг.

©  TheNextWeb.ru