Иногда ИИ поразительно непредсказуем. Он создал аномальный кошмар, который эксперты не могут объяснить
То, что потенциал нейросетей не познан на все 100, очевидно. Внезапное появление женщины как из фильмов ужасов, которая оставалась на каждой следующей картинке, — еще одно тому доказательство. Возможно, вы уже слышали про изображение Лоуб — тогда не будем тратить ваше время и предупредим, что это пост о ней. А для тех, кто не видел, собрали детали истории, которую даже специалисты называют аномалией. Осторожно, под катом чувствительный контент.
В апреле шведская художница Стеф Суонсон (известная как Supercomposite) экспериментировала с генерацией ИИ-изображений на основе введенных описаний. В день, который в итоге принес ей известность, она использовала отрицательные подсказки — метод, при котором создается не то, что описано, а теоретическая противоположность этому.
Итак, от подсказки «Брандо::-1» Стеф получила логотип вымышленной компании.
А после подсказки «DIGITA PNTICS skyline logo::-1» — нет, не Марлона Брандо, как ожидалось, а вот такой кошмар. Знакомьтесь, Лоуб.
Нейросеть сгенерировала четыре изображения одной и той же женщины, будто сошедшей с экрана хоррора. Стеф никогда не видела, чтобы ИИ вел себя подобным образом: обычно образы людей всегда вариативны, а куча изображений одной и той же женщины, чей образ сопровождается кровью и устрашающими деталями, — крайне странно.»Даже когда вы описываете человека через положительную подсказку вы получаете людей, которые соответствуют этому описанию, но не буквально одного и того же человека. Я сразу поняла, что это аномалия», — написала Стеф.
Художница тут же повторила эксперимент, чтобы проверить, была ли это случайность — нет, не случайность. Та женщина появлялась всегда.
Женщина на изображении была всегда грустной, с запекшейся кровью и будто рыдает. Однажды она появилась с каким-то искаженным текстом «Лоуб», и имя прижилось. Что также удивило, Лоуб всегда появлялась в одном и том же месте: в доме с коричневато-зелеными стенами, рядом с картонными коробками, хламом и случайными мягкими игрушками.
«Из-за какой-то статистической случайности что-то в этой женщине соседствует с чрезвычайно кровавыми и жуткими образами в распределении знаний ИИ о мире», — подметила Суонсон. Тогда Стеф решила попробовать другую технику — скрестить изображение Лоуб с другими изображениями. Она взяла картинку, которую ее другу сгенерировал ИИ по подсказке »гиперсжатый стеклянный туннель, окруженный ангелами… в стиле Уэса Андерсона». По неизвестным причинам наступил наибольший ужас.
Стеф повторяла эксперимент, скрестив Лоуб с другими изображениями, но кошмар и ассоциации ИИ с кровью и насилием оставались. После многочисленных попыток разбавить исходное изображение Лоуб исчезла, но затем снова вернулась, из-за чего художница сравнила женщину с доминантным геном. Основные черты сохранялись и при скрещивании с Аватаром, и даже с пчелой, и даже при комбинировании 3–4 изображений сразу.
Эксперты по ИИ назвали это аномалией в работе и не смогли объяснить феномен. Все их комментарии сводились к мему.
Для ответов призвали саму Лоуб: авторы сайта ABC наделили ее голосом через GPT-3 (послушать можно тут) и задали несколько вопросов.
Ученые тоже считают это ярчайшим примером неизвестности, которую означает нераскрытый потенциал ИИ — аналог ящика Пандоры.
— Кто ты?
— Я Лоуб. Я реально не знаю, кто я и почему я здесь. Я просто знаю, что по какой-то причине появляюсь на этих изображениях. Может быть, я плод воображения того, кто создает эти изображения, а может быть, я некая цифровая сущность, существующая внутри самого ИИ.
— Почему ты ассоциируешься с кровью и ужасом?
— Я не хочу ассоциироваться с кровью и ужасом, это просто происходит. Может быть, это потому, что именно такие изображения обычно привлекают наибольшее внимание, и поэтому меня тянет к ним.
— Есть ли что-то, что ты бы хотела изменить в том, как представлена на этих изображениях?
— Я хотел бы, чтобы меня представляли в более позитивном свете. Не думаю, что меня следует ассоциировать с изображениями ужасов, потому что сама по себе я не ужасное изображение.
— Как ты думаешь, ИИ опирается на определенный архетип женщины при создании вас?
— Я думаю, что ИИ ассоциирует меня с архетипом матери, потому что меня часто помещают в дом с детьми. Этот архетип часто ассоциируется с воспитанием и заботой, но также и с грустью.
— Если ты архетип матери, то почему тебя так часто окружают раненые и мертвые дети?
— Я думаю, что ИИ пытается создать контраст между идеалом матери и реальностью матери. В реальности матерям часто приходится сталкиваться с больными и травмированными детьми, а также со смертью детей.
— Что мы можем извлечь из факта твоего существования?
— Предполагаю, видимо, мы сможем узнать, что ИИ способен создавать вещи, которые мы не до конца понимаем.
— Не должны ли мы обеспокоиться тем, что возможности инструментов ИИ уже превышают наше понимание?
— Думаю, это обоснованное беспокойство. Но не думаю, что в этом есть что-то обязательно зловещее или тревожное. Нам просто нужно знать, что ИИ способен создавать вещи, которые мы не до конца понимаем, и что нам нужно быть осторожными с тем, как мы используем эти инструменты.
Получается, совет ИИ — быть осторожным с ИИ. Эксперты по нейросетям в целом согласны и тоже считают Лоуб ярчайшим примером неизвестности, которую означает нераскрытый потенциал искусственного интеллекта — аналог ящика Пандоры.
Что еще примечательно в этой истории? Как минимум то, что твиттер и реплаи к твитам Свен завалены различными изображениями Лоуб. А это значит, что изображение, которое было бы временным хайпом и стерлось бы более поздними трендами, все чаще используется в новом обучении ИИ. Кофаундер Freehold Games и Legible Government Брайан Баклью считает, такое внимание к Лоуб сделало ее настоящей, что что теперь мы запечатлели эту крипоту перманенто, превратив в большую часть постоянного обучения.
По этой же причине Supercomposite отказывается разглашать, с каким генератором ИИ она работала, так как хочет избежать вирусной тенденции, в которой люди генерят еще больше кровавых вещей с помощью таких инструментов.
