OpenAI, Anthropic и Google призвали Конгресс США ужесточить контроль над синтетической ДНК
Руководители крупнейших компаний в сфере искусственного интеллекта выступили с совместным призывом к Конгрессу США усилить регулирование рынка синтетической ДНК и РНК. Авторы инициативы считают, что быстрое развитие ИИ может упростить разработку опасных биологических агентов и повысить риски биобезопасности.
Открытое письмо, опубликованное 3 июня, подписали Сэм Альтман, глава OpenAI, Дарио Амодеи из Anthropic, Демис Хассабис из Google DeepMind и Мустафа Сулейман из Microsoft AI.
Авторы предлагают сделать обязательной проверку каждого заказа на синтетические последовательности ДНК и РНК, оформляемого в США. По их мнению, поставщики должны сверять заказы с базами данных известных опасных патогенов, проводить идентификацию клиентов и выполнять оценку потенциальных рисков ещё до начала синтеза.
В письме отмечается, что современные модели искусственного интеллекта всё лучше справляются с задачами в области биологии. Хотя ИИ пока не способен самостоятельно создавать новые патогены, он может существенно ускорить поиск информации, анализировать биологические процессы и помогать пользователям решать сложные задачи в сфере генетики и молекулярной биологии.
Иллюстрация: Nano BananaПо данным публикации, тревогу компаний усилили результаты внутренних проверок. OpenAI проводит специальные испытания своих моделей с начала 2024 года, пытаясь оценить, насколько эффективно они могут помогать в работе с биологическими угрозами. Полученные результаты оказались достаточно серьёзными, чтобы компания пришла к выводу о недостаточности добровольных отраслевых мер.
Anthropic также неоднократно предупреждала о рисках «биологического усиления» — ситуации, когда ИИ позволяет людям без профильной подготовки выполнять задачи, ранее доступные лишь специалистам. Исследователи компании считают, что именно биология может стать одной из наиболее чувствительных сфер применения всё более мощных языковых моделей.
Примечательно, что инициатива объединила компании, которые сегодня являются прямыми конкурентами в гонке за создание передового ИИ. Факт совместного обращения OpenAI и Anthropic многие аналитики рассматривают как показатель того, насколько серьёзно индустрия воспринимает потенциальные биологические риски.
Если Конгресс поддержит предложения, то производителям синтетической ДНК придётся внедрять дополнительные механизмы контроля. Это увеличит расходы на соблюдение требований и может особенно болезненно сказаться на небольших компаниях сектора. Одновременно новые правила способны создать спрос на решения в области биобезопасности, включая системы автоматического анализа генетических последовательностей и инструменты оценки рисков.
Отдельные последствия могут затронуть и проекты в области децентрализованной науки (DeSci), которые используют открытые платформы для обмена геномными данными, координации исследований и разработки биотехнологий. Обязательная проверка заказов на синтетическую ДНК может усложнить часть таких процессов и увеличить административные барьеры для открытых исследований.
По сути, ИИ-компании предлагают сместить фокус регулирования с самих моделей на инфраструктуру, которая может использоваться для практической реализации потенциально опасных биологических разработок. По их мнению, именно контроль над синтезом генетического материала способен стать одним из наиболее эффективных способов предотвращения злоупотреблений по мере дальнейшего роста возможностей искусственного интеллекта.
© iXBT
