Бесплатные фронтенды к ChatGPT10.05.2023 16:16

Специалист без доступа к ChatGPT сегодня сродни бухгалтеру XX века без компьютера. Конечно, он может работать, но не так эффективно.

Ещё немного, и владение ChatGPT станет почти обязательным требованием квалифицированного сотрудника по многим специальностям. Поэтому печально, что разработчики OpenAI ограничили тестирование инструмента только пользователями с зарубежными SIM-картами. В этой ситуации у нас три выхода:

Съездить в соседнюю страну и приобрести SIM-карту (например, в Польше она стоит 5 злотых у оператора Play24, без абонентской платы, и многократно пригодится в будущем, так что это полезная инвестиция).
Купить «одноразовую» виртуальную симку на одном из полулегальных сервисов, чтобы получить SMS (без гарантии, потому что эту симку тысячи раз перепродают).
Воспользоваться сторонним фронтендом, который даёт доступ к ChatGPT из России без VPN и СМС.

На третьем пункте и остановимся. Любопытно, что созданием таких фронтендов занялись в основном русскоязычные разработчики, потому что на западе у всех есть доступ к оригиналу, а вот в РФ это проблема. Статья о регистрации ChatGPT на левую симку стала самой популярной на Хабре за последние несколько лет, если не подводит память (1,2 млн просмотров).
Итак, приступим. Мы попытались найти все бесплатные фронтенды, какие смогли. В основном, компании покупают доступ к API у OpenAI, разрабатывают свой интерфейс, добавляют к нему различные возможности и строят на этом свой бизнес (перепродают сервис с дополнительными «плюшками»). В большинстве случаев у них есть бесплатный демо-доступ, которым мы и воспользуемся.

ChadGPT

ChadGPT — чатбот на основе оригинальной языковой модели GPT-3,5 от OpenAI. Разработчики честно пишут, что:

ChatGPT иногда может выдавать неправильные ответы на непопулярные локальные запросы в России или вопросы, содержание которых относится к событиям, имевшим место до 2021 года.
Рекомендуют проверить, являются ли ответы модели точными, а также использовать её для популярных вопросов, ответы на которые можно сгенерировать на основе открытой информации.
Создатели чат-бота подали заявку на подключение к GPT-4, но сетуют, что четвёртая версия в 30 раз дороже и медленнее (хотя и умнее).

Защищают довольно высокие цены на свой продукт следующими доводами:

У ChatGPT — отдельная токенизация для кириллических символов, они занимают гораздо больше токенов. Русское предложение израсходует в 5–8 раз больше токенов, чем английское.
При оплате API — НДС 20%.
Нужна поддержка зарубежных серверов, чтобы не показывать, что трафик идёт из России, обходить блокировки и пользоваться сервисом без VPN.

Оплата $20 с зарубежной карты. Бесплатной версией можно пользоваться без привязки карты, просто зарегистрироваться по адресу электронной почты.

В целом, удобный сервис, но главный недостаток — отсутствие ChatCPT 4.0.

Bothub

Bothub работает на основе ChatGPT-4, которая на голову выше третьей версии. Есть библиотека промтов (запросов к ChatGPT, которые значительно упрощают работу).

В качестве тестового задания обсудили с ним влияние ИИ на развитие человечества. Он указал на недостатки текущей версии:

Качество генерации. Хотя ChatGPT может генерировать текст, который кажется натуральным, иногда предложения могут быть неправильными и нелогичными.
Необходимость большого количества данных. ChatGPT требует просто огромного количества информации для обучения, что может стать проблемой для небольших компаний или индивидуальных пользователей.
Необходимость мощного оборудования. Обучение и использование ChatGPT требует больших вычислительных ресурсов, поэтому для использования этой технологии нужен бюджет.

Сразу видно, что чатбот не в курсе свободных разработок февраля-апреля 2023 года, которые перечислены в конце этой статьи. Сейчас многие из этих ограничений уже не актуальны.

Чатбот перечислил задачи, которые не рекомендуется решать с помощью ChatGPT:

Работа с конфиденциальными данными, такими, как медицинские записи или финансовые, разведданные, поскольку ChatGPT генерирует текст, доступный для просмотра другими людьми.
Работа с текстом, требующим высокой точности, например, научные и технические документы.

Но это, в принципе, и так понятно и очевидно.

Бесплатный доступ при регистрации по электронной почте дают на 10 000 токенов.

Сhatgptbot

Сhatgptbot не отличается широким набором функций. Есть бесплатный фронтенд, а также три тарифа от 109 рублей в месяц или 10 000 знаков. Из плюсов то, что демо-версию можно использовать вообще без регистрации. Но тоже не совсем понятно, до какого предела.

ТalkAI

На ТalkAI возможна генерация изображений, но она весьма своеобразная, впору удивиться изобретательности бота. У чатбота простой интерфейс анонсирован как бесплатный. Версия ChatGPT не указана. Возможно, это версия 3.5, а функция генерации картинок по описанию прикручена от другой нейросети.

GigaChat

GigaChat от «Cбера». Обучен на основе модели ruGPT-3.5 13B. Самое интересное в этой разработке — веб-интерфейс с визуальным конструктором и с возможностью подключения API для создателей программного обеспечения. Позволяет создавать чат-боты, виртуальных ассистентов, распознавать речь и т.д. Функций и возможностей много. К сожалению, чат пока в «бете» и пообщаться с ним не удалось.

Телеграм-бот на русском

Телеграм-бот на русском полностью бесплатный, без ограничений, версия — 3.5. Для бесплатного продукта — неплохо.

Указано, что текущая версия CHATGPT 3.5 turbo помнит диалог, распознаёт голосовые сообщения и синтезирует речь. Для запуска бота нужно быть подписанным на тг-канал про ИИ (видимо, от разработчиков бота).

Из иностранных сервисов ничего особо интересного не нашлось. как мы уже говорили, им нет смысла строить обычные фронтенды, если у всех есть доступ к оригинальному ChatGPT без всяких ограничений. Например, можно упомянуть Chatgptbay и Gpt4login, хотя никаких подробностей об этих сервисах нет. В то же время растёт инфраструктура специализированных сервисов ChatGPT для программирования, библиотек базовых промтов, расширений для браузеров и других дополнительных примочек к ChatGPT. Вот там прогресс действительно впечатляет.

ChatGPT уже в прошлом?

Из недр Google недавно «выплыл» документ, в котором сотрудник компании с тревогой пишет о превосходстве программ с открытым кодом над системами, создаваемыми Google и OpenAI. «Пока мы ссорились, третья сторона тихо забирала наш обед», — отмечает он.

По его мнению, сейчас уже существуют разработки, в том числе «опенсорсные», которые значительно лучше ChatGPT. И те проблемы, которые ещё не решены Google и OpenAI, уже неактуальны для этих новых проектов. Он привёл несколько примеров:

Пользователи запускают базовые языковые модели на Pixel 6 со скоростью 5 токенов в секунду.
Вы можете настроить масштабируемый персональный AI на своём ноутбуке за вечер.
Появились целые веб-сайты, полные картинок и арт-моделей, которые можно использовать без каких-либо ограничений. И тексты не отстают.
Мультимодальная модель Science QA SOTA была обучена за час, причём она может работать как с текстом, так и с картинками.

И хотя разработки OpenAI и Google всё ещё имеют небольшое преимущество в качестве работы, разрыв сокращается. Модели с открытым кодом быстрее, лучше настраиваются, более функциональны — считает автор.

Не вкладывая миллионы долларов, разработчики систем с открытым кодом за 100 долларов и с 13 млрд параметров делают, в разы больше и быстрее решают стоящие перед ними задачи, чем разработчики Google с 10 млн долларов и 540 млрд параметров.

Автор документа делает вывод:

Секретного рецепта разработки самых эффективных продуктов нет. Необходимо сотрудничать со всеми и учиться.
Люди не будут платить за ограниченный функционал чатботов, если появятся бесплатные продукты, сопоставимые с ними по качеству.
Гигантские языковые модели медленно развиваются. В долгосрочной перспективе лучше работать над небольшими проектами, в которые легче внедрять перспективные новшества. К тому же мы теперь знаем, что можно сделать в режиме менее 20 млрд параметров.

В целом, языковые модели — крайне полезный инструмент для любых областей ИТ, в том числе для программирования. Прогресс в этой области очень бурный. Даже нынешние ранние версии выполняют ряд задач не хуже, а то и лучше (и быстрее) человека. И это только начало.

Примечание. Из бесплатных фронтендов ChatGPT пока нашёлся только один рабочий вариант с 4.0. Дополнения приветствуются.