Ник Клегг отвергает опасения по поводу того, что ИИ может уничтожить человечество
- Ник Клегг в эфире BBC Radio 4 призвал разработчиков ИИ сосредоточиться на кибератаках, биологическом оружии и зависимости от ботов, а не на апокалиптических угрозах.
- По мнению Клегга, закрытые модели и кнопки экстренного отключения не доказали эффективности, поэтому индустрии нужны прозрачность и государственное регулирование.
- Клегг стал соучредителем стартапа AMI Labs и владеет более чем 917 000 акций британской компании Nscale.
Почему это важно: Апокалиптические предупреждения создают риск затягивания политических дискуссий и передачи полного контроля над безопасностью ИИ олигополии из нескольких компаний.
Ник Клегг отверг опасения по поводу того, что искусственный интеллект однажды может восстать против человечества и уничтожить его, назвав эту точку зрения необоснованной.
Бывший заместитель премьер-министра Великобритании, который позднее руководил вопросами глобальной политики в компании Meta, выступил в четверг в программе Today на радиостанции BBC Radio 4, сообщает The Guardian.
По его утверждению, вместо того чтобы беспокоиться о машинах, подобных богам, разработчикам ИИ следует заняться конкретными и уже известными угрозами. Он упомянул кибератаки, биологическое оружие и эмоциональную зависимость людей от чат-ботов.
Клегг также предположил, что апокалиптические предупреждения выгодны тем компаниям, которые их распространяют, и что они создают риск затягивания политических дискуссий вокруг этой технологии.
«Это как бы подразумевает, что безопасность нам может гарантировать лишь полный контроль, осуществляемый, по сути, олигополией из небольшого числа компаний», — заявил он.
По словам Клегга, в самой индустрии нет единого мнения по этому вопросу. Он рассказал, что руководитель одной из лабораторий ИИ назвал нынешние дебаты глупостью.
Он также возложил ответственность на культуру Кремниевой долины, в которой инженеры, тесно работающие с технологиями, излишне увлекаются собственными идеями.
Теперь у Клегга есть и собственные интересы в этом секторе. Как сообщает The Guardian, он владеет более чем 917 000 акций британской компании по управлению центрами обработки данных Nscale и стал соучредителем ИИ-стартапа AMI Labs.
Отвечая на вопрос о
взломе платформы Hugging Face
агентами OpenAI (ссылка на источник), он отметил, что существуют основания для создания более четких правил и повышения прозрачности. Тем не менее, он выразил сомнениe в том, что администрация Трампа поддержит это, учитывая ее стремление выиграть гонку в сфере ИИ, и добавил, что не ждет особой помощи со стороны Китая.
Вместо этого он видит потенциал для более тесного сотрудничества между Индией, Европой и США. Британии же, добавил он, следует реально оценивать свое влияние, поскольку она не занимает лидирующих позиций в области ИИ.
Клегг также отверг два популярных метода регулирования. По его словам, кнопка экстренного отключения не сработает, а имеющиеся данные не доказывают, что закрытые модели безопаснее моделей с открытым исходным кодом.
Чего он действительно добивается, так это гораздо большей прозрачности в отношении того, как создаются модели и как они функционируют, что должно быть достигнуто с помощью сочетания добровольных мер и государственного регулирования.
Его скептицизм перекликается с позицией главы Nvidia Дженсена Хуанга, который на этой неделе назвал предупреждения Джеффри Хинтона безответственными.
