Прогресс в области ИИ и наши рекомендации06.11.2025 00:00

Когда популярное представление о тесте Тьюринга осталось позади, многим из нас показалось удивительным, насколько привычным чередом шла наша повседневная жизнь. Об этом рубеже говорили десятилетиями. Сначала он казался совершенно недостижимым, потом — неожиданно близким, а затем мы внезапно оказались по другую сторону. Мы получили отличные новые продукты, но в самом мире изменилось немногое, несмотря на то, что компьютеры теперь умеют поддерживать беседу и решать сложные задачи.

Большая часть мира по-прежнему воспринимает ИИ как чат-ботов и улучшенный поиск, однако сегодня у нас есть системы, способные превосходить умнейших людей в некоторых из самых сложных интеллектуальных состязаний. Хотя системы искусственного интеллекта всё ещё имеют слабые места и сталкиваются с серьезными трудностями, решения столь сложных задач приближают их к уровню исследователя-человека скорее на 80%, чем на 20%. Разрыв между тем, как большинство людей использует ИИ, и тем, на что ИИ способен в настоящее время, огромен.

Системы искусственного интеллекта, способные открывать новые знания — автономно или за счет повышения эффективности людей, — судя по всему, окажут значительное влияние на мир.

Всего за несколько лет ИИ прошел путь от выполнения задач (в частности, в области программной инженерии), на которые у человека уходит несколько секунд, до задач, требующих более часа. Вскоре мы ожидаем появления систем, способных справляться с задачами, на которые у человека уходят дни или недели; мы пока даже не представляем, как подступиться к системам, способным решать задачи, на выполнение которых у человека уходили бы целые столетия.

При этом стоимость единицы определенного уровня интеллекта резко снизилась; оценка в 40 раз за год вполне отражает тенденцию последних лет!

В 2026 году мы ожидаем, что ИИ сможет совершать очень небольшие открытия. В 2028 году и в последующий период мы достаточно уверены в появлении систем, способных совершать более значительные открытия (хотя мы, конечно, можем ошибаться, но текущий прогресс в исследованиях указывает именно на это).

Мы давно заметили, что развитие ИИ идет неожиданными путями, а общество всегда находит способы совместной эволюции с технологиями. Хотя в ближайшие годы мы ожидаем быстрого и значительного роста возможностей ИИ, повседневная жизнь, судя по всему, будет казаться удивительно неизменной; наш уклад обладает огромной инерцией даже при появлении гораздо более совершенных инструментов.

В частности, мы рассчитываем, что будущее предоставит новые и, надеемся, лучшие возможности для полноценной жизни, и что значительно большее число людей сможет такую жизнь вести. Разумеется, характер труда изменится, экономический переход в некоторых аспектах может оказаться очень сложным, и вполне возможно, что фундаментальный социально-экономический договор придется пересмотреть. Но в мире повсеместного изобилия жизнь людей может стать намного лучше, чем сегодня.

Системы ИИ помогут людям следить за своим здоровьем, ускорят прогресс в таких областях, как материаловедение, разработка лекарств и климатическое моделирование, а также расширят доступ к персонализированному образованию для учащихся по всему миру. Демонстрация таких осязаемых преимуществ помогает сформировать общее видение мира, в котором ИИ делает жизнь лучше, а не просто эффективнее.

OpenAI глубоко привержена принципам безопасности⁠, под которой мы понимаем практику реализации позитивного потенциала ИИ за счет смягчения негативных последствий. Хотя потенциальные преимущества огромны, мы рассматриваем риски создания сверхвысокоинтеллектуальных систем как потенциально катастрофические и убеждены, что эмпирическое⁠изучение⁠безопасности⁠ и согласования⁠ может помочь в принятии глобальных решений — например, о том, стоит ли всему нашему направлению замедлить разработку, чтобы более тщательно изучить эти системы по мере приближения к созданию технологий, способных к рекурсивному самосовершенствованию. Очевидно, что никто не должен развертывать сверхъинтеллектуальные системы, не умея надежно согласовывать их и управлять ими, а это требует дополнительной технической работы.

Вот несколько шагов, которые, по нашему мнению, могли бы способствовать достижению благополучного будущего с участием ИИ:

Мы считаем, что передовые лаборатории должны договориться об общих принципах безопасности и делиться исследованиями в области безопасности⁠, выводами о новых рисках, механизмами снижения темпов гонки вооружений и многим другим. Мы можем представить, что такие инициативы, как согласие передовых лабораторий соблюдать определенные стандарты в отношении оценки контроля над ИИ, будут весьма полезны.

Человечество прошло через аналогичный процесс при создании строительных норм и противопожарных стандартов, которые спасли бесчисленное количество жизней.

Существует две точки зрения на ИИ. Первая заключается в том, что ИИ — это «обычная технология», которая будет развиваться так же, как и прошлые технологические революции, от печатного станка до интернета. События будут развиваться таким образом, что у людей и общества появится шанс адаптироваться, а традиционные инструменты государственной политики сработают. Нам нужно будет уделять первоочередное внимание таким идеям, как содействие инновациям, защита конфиденциальности бесед с ИИ и противодействие неправомерному использованию мощных систем злоумышленниками посредством партнерства с федеральным правительством.

Мы считаем, что ИИ при текущем уровне возможностей находится примерно на этом этапе и должен распространяться повсеместно. Это означает, что большинство разработчиков, модели с открытым исходным кодом и практически все варианты развертывания сегодняшних технологий должны иметь минимальные дополнительные регуляторные обременения по сравнению с тем, что уже существует. И уж точно они не должны сталкиваться с разрозненным законодательством 50 штатов.

Вторая точка зрения предполагает, что суперинтеллект развивается и распространяется такими темпами и способами, которых человечество еще не висело. В этом случае мы должны сделать многое из перечисленного выше, но нам также потребуется проявить большую инновационность. Если исходить из посылки, что обществу будет трудно адаптироваться к подобному явлению «обычным путем», то не стоит ожидать, что и типичное регулирование окажет серьезное влияние. В этом случае нам, вероятно, придется тесно сотрудничать с исполнительной властью и профильными ведомствами разных стран (например, различными институтами безопасности) для эффективной координации, особенно в таких сферах, как предотвращение применения ИИ в биотерроризме (и использование ИИ для выявления и предотвращения биотерроризма), а также последствия появления самосовершенствующегося ИИ.

Главным приоритетом должна оставаться подотчетность перед общественными институтами, но пути ее достижения, возможно, будут отличаться от прошлых практик.

В любом сценарии создание экосистемы устойчивости к рискам ИИ будет иметь важнейшее значение. Когда появился интернет, мы не защищали его с помощью какой-то одной политики или компании — мы создали целую отрасль кибербезопасности: программное обеспечение, протоколы шифрования, стандарты, системы мониторинга, группы быстрого реагирования и т. д. Эта экосистема не устранила риски полностью, но снизила их до уровня, с которым общество может сосуществовать, позволив людям доверять цифровой инфраструктуре настолько, чтобы строить на ее основе свою жизнь и экономику. Нам понадобится нечто аналогичное для ИИ, и национальные государства могут сыграть мощную роль в проведении промышленной политики для стимулирования этого процесса.

Понимание того, как ИИ реально влияет на мир, облегчает управление этой технологией в сторону положительного эффекта. Прогнозировать будущее сложно: например, влияние ИИ на рынок труда оказалось непросто предугадать отчасти потому, что сильные и слабые стороны современных систем ИИ сильно отличаются от человеческих. Измерение того, что происходит на практике, будет чрезвычайно полезным.

Мы считаем, что взрослые люди должны иметь возможность использовать ИИ на собственных условиях, в рамках широких границ, определяемых обществом. Мы ожидаем, что доступ к передовому ИИ в ближайшие годы станет базовой коммунальной услугой — наравне с электричеством, чистой водой или пищей. В конечном счете, мы полагаем, что общество должно поддерживать широкую доступность этих инструментов, а главной путеводной звездой должна быть помощь людям в достижении их целей.

Автор