Масайоси Сон из SoftBank заявил, что сверхинтеллект в чужих руках может быть «суперопасным»
- В Киото Сон предупредил, что сверхинтеллект в неподходящих руках может быть чрезвычайно опасен.
- Декларацию о технологиях для науки одобрили 17 стран; в её тексте нет обещаний или обязательств.
- В этом месяце SoftBank увеличила инвестиции в OpenAI до 64,6 млрд долларов, получив около 13% компании.
Почему это важно: По словам Сона, странам нужно укреплять доверие, чтобы контролировать эту угрозу.
Масаёси Сон, вложивший в OpenAI 64,6 млрд долларов и называющий разговоры о пузыре абсурдными, заявил в Киото, что сверхинтеллект не в тех руках может стать чрезвычайно опасным и что страны должны сотрудничать, чтобы держать его под контролем. Он выступал рядом с Майклом Кратсиосом, который представил декларацию 17 стран, составленную в новой терминологии Вашингтона и одобренную Германией, Италией, Польшей, Грецией, Болгарией, Кипром и Великобританией.
Масаёси Сон говорит, что его беспокоит безопасность ИИ. Он вложил в OpenAI 64,6 млрд долларов и весь прошлый год называл разговоры о пузыре абсурдными. Он выступал в Киото рядом с научным советником Трампа.
Сверхинтеллект не в тех руках может стать »чрезвычайно опасным», — заявил Сон в воскресенье, как сообщило издание Bloomberg.»Мы больше не можем позволить себе, чтобы люди воевали друг с другом.» По его словам, странам необходимо укреплять доверие, чтобы контролировать эту угрозу.
Bloomberg назвал это замечание нетипичным для Сона и сопоставил его с нарушениями безопасности, связанными с моделями ИИ, которые происходили в последние месяцы. С 2024 года Сон вкладывает средства SoftBank в OpenAI и большую часть этого времени утверждает, что эти инвестиции окупятся.
Расходы не сокращаются.
В этом месяце SoftBank завершила выплату транша в размере 30 млрд долларов, увеличив общую сумму инвестиций в OpenAI до 64,6 млрд долларов — примерно 13% компании. Последние 10 млрд долларов были получены от крупнейшего в истории размещения высокодоходных корпоративных облигаций, проведённого две недели назад.
Майкл Кратсиос приехал в Киото по другому поводу. Он возглавляет научное управление Белого дома и привёз план применения технологий в научных исследованиях.
Семнадцать стран одобрили его «Киотское видение золотого века науки», в котором роботизированные лаборатории проводят сотни экспериментов одновременно. Во всей декларации эту технологию называют «сверхинтеллектом» — всего за пять дней до исполнительного указа, после которого это слово стало официальным термином правительства США.
Среди семнадцати стран семь — европейские.
Декларацию одобрили Германия, Италия, Польша, Греция, Болгария, Кипр и Великобритания. Шесть из них — страны ЕС, на которые распространяется закон под названием «Акт об искусственном интеллекте», требования которого к маркировке начали применяться в августе.
Китая среди одобривших декларацию стран нет. Аргентина, Чили, Индонезия, Казахстан и Новая Зеландия её поддержали.
Экономический прогноз Сона не нов. В июле он заявил, что к 2040 году на ИИ будет приходиться пятая часть мирового производства; теперь он оценивает этот показатель в 46 трлн долларов.
В самой декларации четыре раза говорится, что страны будут стремиться действовать, но нигде не сказано, что они что-либо пообещали или обязались сделать. В сообщении Белого дома о декларации сказано, что министры дали обещания и взяли на себя обязательства. Никто из тех, кто одобрил текст, не возразил против такой более категоричной формулировки.
Сон заявил, что следующий этап — когда машины будут действовать в физическом мире — начнётся в следующем году. В августе SoftBank возглавила инвестиционный раунд на 200 млн долларов в цюрихскую Gravis Robotics и ведёт переговоры о сделке с мюнхенской Agile Robots.
