Как я ходил на «ИТ‑Пикник» и общался о вселенной AI‑ассистентов от «Т‑Банка»
Ну что ж, давно я не рассказывал о мероприятиях в формате статьи. Исправляюсь, хотя там ещё рассказ о майском Positive Hack Days 2 в работе, но тут я сам виноват: набрал много интервью на этом мероприятии. Но сейчас речь пойдёт об «ИТ‑Пикнике». Это ещё один большой IT‑фестиваль, проводится он уже несколько лет. В 2024 году, как и в 2023, мероприятие проходило в парке «Коломенское».
«ИТ‑Пикник» менее специализированный, чем, например, Offzone или тот же Positive Hack Days, поэтому носит научно‑популярный характер. И хоть в названии есть сокращение «ИТ», означающая «Информационные Технологии», на «ИТ‑Пикник» немало контента, не особенно связанного с ИТ, но зато дающего много полезной информации. Вообще, оформление мероприятия мне нравится: что в прошлом году, что в в этом. Также по душе мне количество и качество лекций.
Причём лекции разделены по тематикам и сценам, что не может не радовать. Кстати, на некоторых стендах также были маленькие сцены, где спикеры от компаний рассказывали интересные вещи. Однако не всё так было хорошо: я второй год на «ИТ‑Пикник», и второй год очень много людей. Причём настолько много, что к каждой активности надо отстоять немаленькую очередь. Это касается и различных фудтраков: что к платным, что к бесплатным выстраивались очереди, в которых надо минут по 20–30 отстоять, чтобы купить чего‑то съестного. Это очень сильно портило впечатление, потому что прорваться к любому стенду, чтобы опросить представителя о стенде или о компании, — тот ещё квест. И это при учёте того, что организаторы увеличили площадку для проведения мероприятия в 2 раза.
Кстати, опросить спикера от «Т‑Банка» тоже было задачкой не из простых. Но с ней мне помогла справиться пресс‑служба финансовой организации, за что ей огромное спасибо, как и за билет (на двух взрослых и двух детей) на мероприятие. Ну раз уж я заговорил о спикере, то представляю вашему вниманию наш небольшой разговор с директором Центра искусственного интеллекта «Т‑Банка» Виктором Тарнавским. Мы немного поговорили об их вселенной AI‑ассистентов, просто ИИ и его развитии в России. Приятного чтения!
Весной 2024 года были представлены 6 ваших AI‑ассистентов, расскажите о них подробнее.
Они умеют подстраиваться под запросы человека и давать ему персонализированный ответ с рекомендациями или подборками товаров по самым разным темам и вопросам.
Базовые модели обучены на общих данных и не учитывают специфические требования и контексты, характерные для конкретных запросов от пользователей. Соответственно, они не могут эффективно выполнять задачи, требующие специализированных знаний и навыков. По этой причине наши AI‑ассистенты запущены на основе специализированных больших языковых моделей (LLM). Поэтому каждый из шести помощников является экспертом в своей сфере и способен решать узкопрофильные задачи: например, тревел‑ассистент поможет распланировать путешествие в конкретном городе, предложит подборку мест и варианты билетов в нужное время и дату. Так же и шоппинг‑ассистент может найти товар с конкретным рисунком, ценой и под нужный сезон года.
Всего есть шесть ассистентов, которые охватывают все основные сферы человека: шоппинг‑ассистент, тревел‑ассистент, финассистент, инвест‑ассистент, секретарь и джуниор‑ассистент.
В доступе сейчас Инвест‑ассистент и Джуниор‑ассистент, но до конца года запустим и всех остальных, проводим финальные тесты.
В пресс‑релизе указано, что в них используется Gen‑T. Что это за технология, что лежит в её основе?
Gen‑T — это семейство специализированных языковых моделей, которые созданы для решения конкретных задач. В отличие от универсальных моделей вроде ChatGPT, технология Gen‑T ориентирована на конкретные области и предлагает решения с максимальной адаптацией под запрос пользователя.
Модели решают реальные задачи наших клиентов. И на них мы стабильно обходим ChatGPT и умеем обходить GPT-4. Например, Джуниор ассистент дает более корректный ответ на 20% чаще по сравнению с ChatGpt.
Скажите, эта вселенная рассчитана больше на бизнес и потребительский сегмент, или её можно переориентировать на науку, исследования или программирование, в частности, разработку?
Вселенная ассистентов — это пользовательский продукт. Перед тем, как создавать тот или иной продукт в Центре искусственного интеллекта «Т‑Банка», в том числе и Вселенную ассистентов, мы ориентируемся на пользовательский опыт — будет ли этот продукт приносить пользу наших клиентам или нет. Если нет, то нет и смысла тратить ресурсы на это.
В ближайшее время мы не планируем расширять Вселенную другими ассистентами. Но отдельно для сотрудников мы создаем ко‑пилоты на основе искусственного интеллекта для всех крупных профессий внутри компании: поддержки, наём, продаж, представителей и ИТ‑специалистов.
Данные, на которых обучались нейросети, были взяты из открытых источников или это собственная экспертиза компании?
Данные — это однозначно ключ к хорошим моделям. Мы используем данные из внешних открытых источников, тщательно их фильтруем и готовим, но также мы строим свои собственные базы. В частности, у нас есть своя AI‑редакция с экспертами в разных областях. Это AI‑тренеры, специалисты, в чьи задачи входит разметка и подготовка текста для ИИ. От них напрямую зависит, насколько успешно будет работать языковая модель и как быстро, качественно будет проходить ее обучение.
Насколько данные технологии могут заменить человека? Стоит ли ждать, что ваша компания откажется от традиционной поддержки клиентов с операторами и кол-центрами в пользу AI-ассистентов?
Касательно интеграции поддержки клиентов с AI-инструментами мы мыслим в концепции ко-пилота или усиления возможностей человека. Решения на базе AI позволяют сотрудникам поддержки выполнять свою работу эффективнее и быстрее. Поэтому про замену сотрудников на AI-ассистентов речи не идет, скорее наоборот — про усиление их возможностей, автоматизацию определенных рутинных процессов.
Как вы считаете, что лучше: развивать ИИ-модели самим или отдать на откуп сообществу (open source)? Ваша компания отдала бы Gen-T на откуп сообществу для большего её развития?
Развитие ИИ — это совместная работа компаний и профсообщества. Мы верим в open source и тоже усиленно работаем в этом направлении. Например, недавно выпустили в open source одну из наших больших языковых моделей — T-lite. Её фишка — небольшой размер (8 млрд параметров), она в разы меньше, чем текущие модели, и очень проста в использовании.
Мы сделали это и для того, чтобы поделиться технологией с комьюнити, и одновременно для того, чтобы собрать обратную связь и улучшить внутренние модели, которые мы используем в ассистентских продуктах.
На индустриальных и внутренних бенчмарках модель обогнала по показателям зарубежные Llama-3–8B‑Instruct и Chat‑GPT 3.5. При этом T‑lite создана с использованием всего 3% вычислительных ресурсов, которые обычно требуются для такого типа моделей.
T‑lite входит в Gen‑T — это семейство наших специализированных языковых моделей, на который работают AI‑ассистенты.
На ваш взгляд, как в России обстоят дела с созданием проприетарных и open source моделей нейросетей и LLM‑моделей? Существует ли разрыв между РФ и остальным миром в части создания ИИ‑моделей и нейросетей? И когда наша страна это отставание преодолеет?
Создавать собственные решения — это в некотором смысле вынужденный подход. Мы должны это делать, нельзя зависеть от внешних решений. Причины могут быть разные — как геополитические, так и законодательные в части использования данных клиентов. Совершенно точно должны быть альтернативные решения, которые развиваются на территории РФ. Тем более у нас есть инженеры, способные такие задачи выполнять, — это редкость, и нужно этим пользоваться. Получится или нет? Вообще‑то уже получается.
Как вы считаете, действительно ли ажиотаж вокруг ИИ раздут, потому что можно обойтись более простыми и дешевыми системами?
Вокруг ИИ надут слишком большой ажиотаж, это верно. Но он не на пустом месте. За новым поколением моделей точно стоит великое будущее — просто, возможно, не такое грандиозное, как ожидают все, кто не сильно погружен в тему.
К сожалению, время у всех было ограничено, поэтому мы распрощались с Виктором, и далее я поехал на другое мероприятие. По поводу «ИТ‑Пикника» я могу сказать так: в очередной раз убеждаюсь, что ходить на большие мероприятия стоит только с определённой целью (взять интервью, обсудить конкретный стенд или конкретную новинку от какой‑то компании и так далее). Потому что обзора не получается из‑за количества народа, а писать «Ой, было всё круто», при этом просто перечислять стенды разных компаний, мне уже неинтересно. Кстати, ещё интересный момент: у меня нет негатива к «Т‑Банку», мне нравится их участие в ИБ‑конференциях, нравятся статьи и материалы по работе с ИИ, но вот связь, принадлежащая «Т‑Банку», на мероприятии от работала очень плохо, у меня не грузились видеосообщения, плохо воспроизводились аудиосообщения, сам интернет работал медленно. При этом другой провайдер на другом телефоне работал хорошо. То есть проблема была не в количестве людей, хотя действительно, когда много людей, на вышки больше нагрузка, Однако у человека, который меня сопровождал, также плохо работала связь «Т‑Мобаил». Возможно, тут даже не вина «Т‑Мобаил», а были какие‑то глушилки. На больших мероприятиях они точно есть, но, повторюсь, другой провайдер у меня работал нормально.
Честно говоря, не моё дело указывать организаторам, как изменить ситуацию с большим количеством людей, но я бы предложил как вариант увеличить мероприятие с 1 на 2 дня. Да, это сложнее и затратнее, но, возможно, это решит проблему количества народа и разгрузит очереди. Вероятно, стоит увеличить количество активностей или сместить вектор в сторону лекций. Но проблема большого количества людей у меня отбивает всякое желание посещать мероприятие. И это я был как репортёр, если бы я заплатил денег, я бы ушёл ещё раньше. И эти мысли по итогам не одного «ИТ‑Пикника», а двух, в прошлом году я из‑за этого даже не стал писать обзорный репортаж, потому что просто не было материала. Поэтому было опубликовано только одно интервью с Алексеем Усановым из Positive Technologies о реверс‑инжиниринге и создании книги по этой специализации. В этом году я всё‑таки решился написать обзорный материал, но чтобы не совсем критиковать, разбавил его интервью об ИИ.
