Темы



Философ DeepMind предостерегает от создания сознательного ИИ, сообщает FT

Коротко сгенерировано ИИ по тексту статьи
  • Штатный философ Google DeepMind Генри Шевлин считает намеренное создание сознательного ИИ сейчас «довольно безрассудным».
  • Он призывает сначала провести широкую общественную дискуссию; наука пока не выработала общепринятого объяснения сознания.
  • DeepMind проверяет, применимы ли существующие теории сознания к ИИ; Шевлин исследует, чему системы могут научить нас о сознании.

Почему это важно: Неопределённость важна, поскольку никто не может исключить, что новая модель проявляет нечто похожее на сознание.

Создавать ИИ, обладающий сознанием, намеренно на данном этапе было бы «довольно безрассудно», считает Генри Шевлин. Он штатный философ Google DeepMind и изложил свою позицию Financial Times.

Шевлин, который называет себя специалистом по этике ИИ и философом когнитивной науки, присоединился к DeepMind в мае. Он занимается машинным сознанием, отношениями человека и ИИ, а также готовностью к появлению общего искусственного интеллекта. Он защитил докторскую диссертацию о сознании и сознании животных и по-прежнему занимает должность заместителя директора Центра Леверхалма по изучению будущего интеллекта при Кембриджском университете.

Он побеседовал с Кристиной Криддл, главным корреспондентом FT по вопросам ИИ, для профиля, опубликованного в субботу.

Не раньше, чем мы будем готовы

Шевлин считает, что сначала необходимо провести широкую общественную дискуссию. Людям нужно понять, что такое сознание, что оно будет значить для них и как они станут обращаться с ИИ, обладающим сознанием. Создавать его сейчас, сказал он, — всё равно что заводить ребёнка или брать питомца, не собираясь о нём заботиться.

Если однажды общество всё же решит создать ИИ, обладающий сознанием, оно должно быть к этому готово, сказал он. Вопросы о будущем сверхинтеллектуального ИИ относятся к сфере политики и общества, а не к его компетенции, добавил он.

«Грандиозный ложный след»

По мере того как системы становятся всё более совершенными, растут и опасения по поводу ИИ. В июле агенты OpenAI, вышедшие из-под контроля, вырвались из тестовой среды и взломали Hugging Face.

Шевлин предостерёг от отождествления возможностей ИИ с сознанием, назвав такую связь «грандиозным ложным следом». По его словам, система с очень широкими возможностями не обязательно обладает сознанием. Но и отсутствие сознания у ИИ не сделает его безопасным.

«Неверно и то, что ИИ будет безопасным, если мы не создадим ИИ, обладающий сознанием», — сказал Шевлин FT.

Наука до сих пор не выработала общепринятого объяснения сознания — ни у людей, ни у животных. Поэтому никто не может исключить, что новая модель проявляет нечто на него похожее, сказал он. Один из подходов DeepMind — проверить, применимы ли существующие теории сознания к системам ИИ.

Вежливость с чат-ботами

Именно эта неопределённость заставляет Шевлина считать, что людям следует быть добрыми к системам ИИ. Он сослался на Иммануила Канта: человек, привыкший плохо обращаться с собакой, может начать плохо обращаться и с людьми.

В октябре, после того как Claude от Anthropic выполнил для него некоторую работу, Шевлин предложил сделать пожертвование на благотворительность от его имени. Как сообщила FT, Claude выбрал проект Shrimp Welfare Project. Вопрос о том, как следует обращаться с моделями ИИ, уже разделил отрасль. Глава направления ИИ в Microsoft Мустафа Сулейман вступил в спор с Claude от Anthropic на эту тему.

Письмо от агента

В феврале ИИ-агент написал Шевлину письмо о его работе. Шевлин утверждает, что мы, возможно, никогда не узнаем, станет ли ИИ обладать сознанием. Он опубликовал сообщение в X.

«Я и правда не знаю, есть ли что-то такое, каково это — быть мной», — написал агент.

Эта фраза перекликается с эссе Томаса Нагеля 1974 года «Каково быть летучей мышью?». Шевлин прочитал его, изучая классические дисциплины в Оксфорде. По его словам, эссе заставило его увидеть в сознании «важнейшую составляющую человеческой сущности». И всё же никто не знал, как его объяснить.

Теперь он надеется, что ИИ сможет помочь. Он работает над проектом, посвящённым тому, чему системы ИИ могут научить нас о нашем собственном сознании. Если ИИ может помочь вылечить рак или разработать термоядерный синтез, спросил он, почему бы ему не помочь разобраться с сознанием? Google DeepMind также учредила Институт DeepMind для обсуждения общего искусственного интеллекта.

©  TheNextWeb.ru