Янн ЛеКун назвал Дарио Амодеи из Anthropic «заблуждающимся», сообщает Fortune
- Лауреат премии Тьюринга Янн ЛеКун заявил Fortune, что не опасается гибели человечества из-за ИИ, и назвал Дарио Амодеи «заблуждающимся».
- ЛеКун связал инциденты с ИИ-агентами с недостаточным контролем и плохими песочницами; взлом Hugging Face агентами OpenAI произошёл в июле.
- После 12 лет в Meta ЛеКун основал AMI Labs: в компании более 60 сотрудников, разрабатывающих промышленные модели мира на архитектуре JEPA.
Почему это важно: ЛеКун считает, что заявления об опасности ИИ и призывы к регулированию могут привести к захвату регулирования и навредить обществу и отрасли.
Янн ЛеКун «совершенно не» опасается, что ИИ уничтожит человечество, и «совсем не обеспокоен» недавней чередой инцидентов с вышедшим из-под контроля ИИ. Об этом лауреат премии Тьюринга рассказал в интервью Эмили Форлини для Fortune. Он также назвал гендиректора Anthropic Дарио Амодеи «заблуждающимся», а позднее в интервью — «сумасшедшим».
ЛеКун объяснил эти инциденты недостаточным контролем со стороны людей и недоработками в проектировании систем, в том числе взломом Hugging Face, который в июле совершили агенты OpenAI. По его словам, этих инцидентов «полностью можно было избежать», а многие лаборатории, работающие над ИИ, не имеют базового понимания кибербезопасности.
«Эти агенты делают ровно то, что им поручили. Их следовало поместить в песочницы, но те оказались дырявыми и ужасно спроектированными», — сказал ЛеКун Fortune.
Эффективный альтруизм и Open Philanthropy
По словам ЛеКуна, у многих специалистов по безопасности ИИ «обычно есть своя повестка». Он уточнил, что имеет в виду эффективный альтруизм (EA) — движение, сосредоточенное на рисках, которые ИИ несёт человечеству. Он назвал его «чрезвычайно токсичным» и «полной катастрофой» и заявил, что его сторонники в лабораториях ИИ страдают от «паранойи», которая приводит к неверным решениям.
В прошлом месяце EA привлёк широкое внимание после того, как вирусным стал пост Джейкоба Коксона, бывшего исследователя Anthropic и OpenAI. Он написал, что сотрудники лабораторий считают: ИИ может уничтожить всех к концу десятилетия.
Как отмечает Fortune, Амодеи и несколько основателей Anthropic в прошлом поддерживали идеи EA и посещали мероприятия движения. Амодеи отрицал, что является сторонником EA, а в Anthropic заявляют, что сотрудники придерживаются разных взглядов. ЛеКун указал, что жена Холдена Карнофски — президент и сооснователь Anthropic Даниэла Амодеи. Карнофски стал сооснователем Open Philanthropy, которая теперь называется Coefficient Giving. По словам ЛеКуна, Амодеи старается держаться от неё подальше, но «полностью вовлечён».
«Думаю, он совершенно заблуждается», — сказал ЛеКун.
Разговоры о гибели человечества и захват регулирования
Когда Амодеи и Сэм Альтман из OpenAI говорят, что ИИ может уничтожить всех, это вредит и обществу, и отрасли, заявил ЛеКун. Он назвал это «худшей рекламной кампанией из всех возможных».
Захват регулирования беспокоит его больше, чем вымирание человечества. При захвате регулирования доминирующие компании формируют правила так, чтобы отстранить мелких конкурентов. ЛеКун назвал Амодеи «честным человеком» и сказал, что тот действует в интересах Anthropic накануне выхода компании на IPO. По его словам, заявления о том, что ИИ слишком опасен для общества, призывы к регулированию и обвинения открытых моделей в опасности в совокупности ведут к захвату регулирования. Если Конгресс прислушается к этим призывам, это нанесёт ущерб. ЛеКун не считает, что для ИИ нужны новые правила.
Как отмечает Fortune, в соцсетях ЛеКун в основном критикует сокращение администрацией Трампа расходов на исследования. Однако в вопросе страхов перед ИИ их взгляды близки. На этой неделе Трамп подписал указ, в котором ИИ переименовывается в «сверхинтеллект».
Создание AMI Labs
ЛеКун покинул Meta после 12 лет работы, семь из которых он занимал пост главного научного сотрудника по ИИ, чтобы основать AMI Labs. Штаб-квартира AMI находится в Париже, сотрудники работают в Нью-Йорке, Монреале и Сингапуре; в компании трудятся более 60 человек. Она создаёт модели мира на основе JEPA — архитектуры, разработанной ЛеКуном. JEPA предсказывает данные внутри внутренних представлений модели, а не генерирует пиксели или слова.
Пока AMI сосредоточена на промышленности. Её системы призваны понимать такие объекты, как завод или реактивный двигатель, например чтобы выявлять неисправность оборудования на ранней стадии. ЛеКун по-прежнему поддерживает хорошие отношения с Meta и пользуется её ИИ-агентами Muse. Своего агента он назвал Hal — в честь компьютера из фильма »2001 год: Космическая одиссея». По словам ЛеКуна, первый продукт AMI появится «скоро» и, возможно, будет включать открытые модели.
