Разработчик представил PrivateGPT с упором на конфиденциальность
Разработчик Иван Мартинес Торо презентовал PrivateGPT — модель искусственного интеллекта с открытым исходным кодом, которая позволяет пользователям задавать вопросы без подключения к Интернету.
Чат-бот запускается локально на устройстве. Для его использования нужно загрузить большую языковую модель с открытым исходным кодом под названием gpt4all. Затем пользователям предлагается поместить все соответствующие файлы в каталог, чтобы модель могла обработать их. После обучения LLM пользователи могут задавать любые вопросы модели, и она будет отвечать, используя документы, предоставленные в качестве контекста. PrivateGPT может обрабатывать более 58 тысяч слов. В настоящее время для его настройки требуются значительные локальные вычислительные ресурсы, в частности, хороший процессор.
«PrivateGPT в его нынешнем состоянии — это демонстрация концепции (POC), которая доказывает возможность создания полностью локальной версии помощника, подобного ChatGPT, но персонализированного и безопасного», — сказал Торо.
По словам разработчика, эта идея пришла ему после того, как у его компании закончились кредиты доступа к ChatGPT. Торо добавил, что юридический отдел хотел обобщить частный юридический документ с помощью чат-бота, но не смог сделать этого из-за рисков конфиденциальности.
Многие крупные компании отказались от использования ChatGPT из-за аналогичных рисков. В апреле трое сотрудников Samsung в Корее случайно передали конфиденциальную информацию в чат-бот. Один из них поделился конфиденциальным исходным кодом для проверки на наличие ошибок, другой попросил ChatGPT оптимизировать код, а третий поделился записью встречи и попросил чат-бота преобразовать её в заметки. Теперь Samsung Electronics и Naver совместно разрабатывают генеративную платформу искусственного интеллекта для корпоративных пользователей.
В политике данных OpenAI говорится, что для улучшения своих моделей она использует данные пользователей, не относящиеся к API, однако опцию можно отключить в настройках ChatGPT.
В апреле Европейский совет по защите данных (European Data Protection Board, EDPB) организовал рабочую группу, которая будет заниматься вопросами использования чат-бота ChatGPT. Ожидается, что она разработает политику конфиденциальности для систем искусственного интеллекта.
В мае генеральный директор OpenAI Сэм Альтман на слушаниях в Сенате США заявил, что развитие искусственного интеллекта необходимо регулировать законодательно. Он предложил создать агентство, которое будет лицензировать инструменты для ИИ и ограничивать возможность чат-ботов типа ChatGPT.
