Бесплатные локальные LLM-модели

bb03aa0a57efbeb92b08e35317de6dee.jpg

Всем, привет, сегодня хочу вам продемонстрировать набор бесплатных LLM моделей работающих через web интерфейс, а именно:

  • mistral-nemo: latest

  • gemma2:27b

  • llama3.2: latest

  • neural-chat: latest

  • mistral: latest

  • llama3.1: latest

  • llama2-uncensored: latest

  • gemma2:9b

  • gemma2:2b

  • codellama: latest

Все они расположены на личном, локальном ресурсе, который расположен по адресу https://texthub.tech/.

При входе нужно нажать «Зарегистрироваться» (рис. 1).

рис.1

рис. 1

Для регистрации можно указать рандомные значения (рис. 2), нажать «Создать аккаунт».

рис.2

рис. 2

Далее будет показана начальная страница с выбором LLM-моделей, и дефолтными запросами для моделей (рис. 3)

рис.3

рис. 3

Так же в настройках возможно выпустить API ключ, для взаимодействия с ваши приложением (рис. 4)

рис.4

рис. 4

© Habrahabr.ru