Почему Маск и Возняк призывают остановить обучение искусственного интеллекта
В сети появилось открытое письмо от Института будущего жизни. Оно призывает прекратить разработку всего, что «умнее» GPT-4, как минимум на полгода. Это письмо подписали более тысячи ученых, и среди них знаковые фигуры в мире технологий: Илон Маск, Стив Возняк, ученые из Гарварда и Кембриджа. Как рассматривать это письмо: палки в колеса Microsoft от конкурентов, обиды Илона Маска, тревога о восстании машин?
Источник: cryptobread.net
Что в письме?
Авторы пишут: «Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле. Эти изменения необходимо планировать и управлять ими. К сожалению, последние месяцы лаборатории ИИ увлечены неконтролируемой гонкой по разработке и развертыванию все более мощных цифровых умов. И никто, даже их создатели, не может до конца понять, предсказать или надежно контролировать этот процесс. Должны ли мы развивать искусственный разум, который в конечном итоге может превзойти и заменить нас? Вправе ли мы рисковать потерей контроля над нашей цивилизацией?»
Другими словами, авторы письма считают, что языковые модели способны навредить людям. Описаны экономические и политические последствия для цивилизации. Но компания OpenAI считает, что сам по себе их алгоритм не несет угрозы людям и не имеет самосознания.
Еще в 2018 году на фестивале SXSW в Техасе Илон Маск высказал свое мнение по поводу развития ИИ:
Запомните мои слова: искусственный интеллект намного опаснее ядерного оружия. Я не особый сторонник надзора и регулирования, но это тот случай, когда существует очень серьезная опасность для общества. Почему у нас нет надзорных органов? Это безумие.
По его мнению, эксперты в сфере ИИ думают, что знают больше, чем на самом деле, и они не представляют ситуации, когда машина окажется умнее их. В этом есть доля правды. Пока что алгоритмы применяют в узких областях, поэтому они представляют угрозу только для рабочих мест. Но когда появится универсальный «сверхразум», это станет угрозой цивилизации.
С другой стороны, Илон Маск был одним из основателей OpenAI. Когда по идеологическим соображениям они с Microsoft разошлись, он был вынужден отдать этот ресурс. При выходе из проекта Маск сделал ряд резких заявлений об ИИ. Вот почему это письмо частично можно рассматривать как ответ «захватчику».
Письмо — это общая точка зрения у людей?
Хотя письмо подписали авторитетные личности в сфере технологий, это не единственное мнение в обществе. Письмо о моратории на ИИ разделило людей на 3 лагеря:
- одни верят, что прогресс не получится остановить, а потому «если не мы, то они». Тут уместно отметить, что Китай не будет ждать. Если самим не развивать технологию ИИ, то соседи и конкуренты точно этим займутся. Механизм уже запущен, нельзя отставать;
- вторые считают, что опасность представляет не ИИ, а люди. GPT не имеет сознания, воли, стремлений. У него не возникнет мысли поработить мир, потому что он ничего не понимает в этом;
- третьи не понимают, как работает GPT-4 и зачем он нужен.
Стоит отметить, что другие легендарные личности в сфере ИТ выступают в поддержку дальнейшего развития GPT. Например, основатель Microsoft Билл Гейтс раскритиковал идею приостановки исследований в сфере ИИ. Хотя в настоящее время он полностью сосредоточен на благотворительном фонде, он активно поддерживает ИИ и называет его таким же революционным явлением, как Интернет или мобильные телефоны.
В интервью Билл Гейтс также сказал, что детали любой паузы будет сложно обеспечить: «Я не думаю, что просьба одной конкретной группы взять паузу решит все проблемы. Я не очень понимаю, кто, по их словам, может остановиться, и согласится ли каждая страна в мире остановиться и почему остановиться».
Почему же именно сейчас появилось это письмо?
Ответ прост: технология вышла из стен лабораторий и получила массовое применение. Мы наблюдаем всеобщую тенденцию внедрения ИИ-инструментов в разных отраслях. Раньше мы наслаждались появлением соцсетей, а теперь флаг передан нейросетям.
Конкуренты увидели, как одна корпорация вырывается вперед, поэтому они решили притормозить Microsoft, которая стремится опередить своих коллег за счет многомиллиардных инвестиций в ChatGPT.
Однако регулирующие меры в этой сфере точно не помешают. Произошло событие, последствия которого сложно представить. ИИ внедряют в промышленность, сферу услуг, транспорт и логистику, финансы, медицину, образование, космическую отрасль, торговлю.
Раньше Википедия воспринималась как достоверный ресурс, хотя статьи писали люди и они могли ошибаться. Тоже самое с ChatGPT, который выдает фейки. Но каждая следующая версия превосходит предыдущую. Впервые на планете появится разум, который будет обладать влиянием на умы людей.
Вывод: необходимо принять, что эволюция неизбежна
Нейросети активно развиваются. Одни видят это в радужных тонах, другие готовятся как минимум потерять работу, а как максимум — к восстанию машин. Люди задумывают о том, к чему может привести такое быстрое обучение ИИ. Удастся ли достичь уровня artificial general intelligence (AGI)? Пока это только предположения разработчиков из OpenAI. Тем более, что общепринятых критериев для определения искусственного разума не существует. Модели AGI, с которой можно было бы сравнить ChatGPT, попросту не существует. В любом случае эволюция неизбежна, а нам пора приспосабливаться.
Полный текст статьи читайте на Компьютерра
