Нейросеть создала собственный язык, который ученые не могут расшифровать
Поначалу эти слова показались ученым тарабарщиной, однако затем оказалось, что нейросеть их понимает
Нейросеть DALLE-2, анонсированная не так давно, поражает своими способностями. Так, она способна преобразовать любой текст в соответствующее изображение. Например, вы описываете с нужными подробностями сцену, которую хотите получить, а нейросеть сама создает рисунок. Получается это у нее очень профессионально.
Новый язык нейросети
Исследователи, использующие искусственный интеллект с машинным обучением (ИИ), часто не знают точно, как их алгоритмы решают проблемы, с которыми они сталкиваются. Точно так же и с DALLE-2: ученые до сих пор не понимали, какие процессы происходят внутри этого «черного ящика». Раскрыв их теперь, исследователи пришли к удивительному выводу: для построения изображений искусственный интеллект создал собственный язык.
Авторы заметили, что система DALLE-2, которая создает изображения на основе введенного текста, при определенных обстоятельствах будет возвращать бессмысленные слова. Например, изображения со словом «самолет» часто возвращают какую-то тарабарщину. Сначала казалось, что это баг, но потом ученые пришли к выводу, что последовательность букв в возвращаемых словах не случайная.
Чтобы проверить это, ученые просто «скормили» нейросети сгенерированные ей ранее слова. Оказалось, что эти наборы букв и правда имеют значение для программы, причем они означают то же, что и ранее было введено в систему. Это может означать, что нейросеть зачем-то преобразует человеческие слова в свои, чтобы затем на их основе проще сгенерировать изображения.
