Genervis и Фонд Бортника: постоянный сервер для работы нейросетей
С середины осени наша команда была поражена странным отказом фонда Бортника по программе Старт. Когда мы запросили комментарий, он сопровождался запиской вида «мы посмотрели Ваш сайт, там стоит заглушка и не работают нейросети». Мы были дважды в шоке от компетентности жюри, так как серверы стоят дорого, а рабочие скрины мы приложили. Оказывается, комиссия посмотрела продукт именно тогда, когда уже не было денег платить за сервер, хотя мы правильно и верно ждали экспертной оценки 3 месяца, поддерживая все наши сервера.
Сервис проверки НПА от Genervis
На данном портале https://urist.genervis.ru можно выбрать пример юридического документа НПА. Если есть свой, который составлен, но не выверен, стоит попробовать загрузить его. Так вот, сервис не уже сегодня, а еще «со вчера» может полноценно с высокой точностью анализировать качество составления данных документов.
Выбор файла НПА для анализа
Жюри невнимательно посмотрело все возможности портала на презентации и скринах, а часть функционала данного портала отключается, если банально вовремя не заплатить за платную выделенную машину. Мы могли уже иметь средства, чтобы дальше улучшать результаты проверки, но вместо этого наткнулись на еще большую сложность с оплатой серверов, когда деньги приходится выделять уже со своей зарплаты.
В связи с данной ситуацией мы поняли, что в стартапе надо полагаться только на себя, и запустили зеркальные сервера с ngrok на случай, если в Интернете не оплачен сервер. Своего сервера пока нет и, как выяснилось, это очень важный вопрос, мы бы сами даже сложились и профинансировали его, но нужно еще место, где сам сервер может быть онлайн 24/7. В современных идеологиях выглядит это очень коротко:
colima start
docker-compose start
ngrok config add-authtoken 48IjsdfhjhUYourToken
ngrok http --url=our_name.ngrok-free.app http://0.0.0.0/
Ну и небольшая донастройка, что уже оставим секретом фирмы.
Однако все просто кажется, но давайте окунемся в проблематику. Платить за сервер не особо охота, если только под это не будет постоянного финансирования. Обожглись уже тем, что на сервер выделены средства, а после гранта все разводят руками и с сервера бы успеть файлы скопировать, пока их не удалили! Мы думали даже запустить dev-серверы для тестирования и разработки на мобильных телефонах, так как это ARM-процессоры, низкое потребление электроэнергии и сравнительно высокая производительность как раз под наши задачи. Эволюцию, однако, поддержал в итоге наш процессор M1 от MacBook Pro. А результат примерно тот же: малое потребление электроэнергии, бесплатный сервис (при условии, что обслуживает его наша команда).
На сегодня получилось сделать примерно следующее. Сервер должен при загрузке юридического документа по адресу выдавать в процентах соответствие абзацев идеальным данным, на которых проводилось обучение нейросети, по каждому классу (их более 30). Без нейросети результат просто не будет выведен, что логично, и мы думали, что знающие люди достаточно компетентны, чтобы понять текущую стадию развитию стартапа и посмотреть, как это работает, на скринах или на презентации, если недоступны нейронки. Если нейронки доступны, результат впечатляет того, кто смотрит проект:
Добавьте описание
Точность классификации
Результат проверки на чистоту составления документа на примере абзаца №8
Напомню, решение поддержано в своем пререлизном состоянии еще на хакатоне Цифровой прорыв! Мы заняли призовое место. Сервис действительно подсказывает правильность составления юридического документа: НПА. И обеспечивает неплохие результаты, как видно на изображениях выше.
Таким образом, вопрос наличия у нашей команды постоянного сервера стал еще острее. Того сервера, за который нельзя случайно не заплатить. И который не отключится в моменты, когда компания Genervis по тем или иным причинам не может держать платные сервера.
Мы убрали ворнинги через ngrok и завели постоянный домен, который будет доступен, однако, когда включен наш мини-сервер, созданный нами на коленке и отрегулированный сисадмином.
«headers»: {
«ngrok-skip-browser-warning»: «true»
}
Получили постоянный домен. Запустили Docker-контейнеры, но уже у нас.
И вуаля! Теперь если бы мы поставили компьютер на постоянку в любое место, где есть интернет и где он не отключится, сервер был бы доступен 24/7. Пока такого не будет, но ура! Мы это сделали. Вы можете начать тестировать как минимум данную нейросеть: https://urist.genervis.ru
Дальше мы будем подключать другие нейросети к проекту и еще раз пересмотрим, как и где нам лучше держать сервера.
#нейросети #genervis #стартап #нейросети #ml #python
