Огромный открытый датасет русской речи версия 1.0
В начале этого года по ряду причин мы загорелись идеей создать самый большой открытый датасет русской речи. Подробнее о нашей мотивации и о том, как всё начиналось,
можно прочитать в этой статье — Огромный открытый датасет русской речи. С тех пор наш проект прошел через ряд масштабных изменений, мы в три раза увеличили количество данных, повысили их качество, добавили лейблы для спикеров и сейчас мы наконец готовы представить вам версию 1.0.
Также мы не готовы останавливаться на достигнутом и планируем продолжать делать интесивную работу над ошибками в последующих версиях и улучшать качество уже опубликованных данных. Версию 1.1 мы планируем посвятить масштабной работе над ошибками.
- Более 20 000 часов (изначально мы ставили себе планку в 10 000 часов) аудио русской речи, 2.3 Tb данных (в формате
wav, в формате.mp3конечно меньше); - Большое разнообразие доменов: начиная с аудио, записанных на профессиональный микрофон, заканчивая телефонными звонками:
Более детально со статистикой можно познакомиться в репозитории проекта.
- Теперь данные можно скачать на высокой скорости как в
.wav(mono, 16KHz, int16) формате через торрент, так и по прямой ссылке в.mp3; - Добавили небольшой вручную размеченный валидационный датасет (18 часов) для 3х основных доменов;
Мы приложили максимум усилий для повышения качества разметки:
- Усовершенстовали модель для алайнмента новых доменов;
- Использовали более качественные и тонко настроенные STT-модели для алайнмента;
- Улучшили алгоритм нормализации цифр и латиницы;
- Постепенно переразмечаем/убираем «грязные» данные из прошлых версий;
- Вылечили ряд детских проблем датасета таких как:
- «Болтающиеся» одиночные буквы в начале и конце предложений;
- Низкий выход алайнмента вследствие низкого качества моделей;
- «Правильная» работа со знаками препинания во время алайнмента;
- (Скоро!) Появятся настоящие лейблы для спикеров;
Для каких задач может пригодиться наш датасет?
- Распознавание речи;
- Синтез речи;
- Денойзинг, устранение шума в аудио;
- Идентификация голоса;
- Разделение дикторов;
Как планируем развивать датасет в дальнейшем?
- Улучшить / перезалить существующие датасеты, почистить разметку;
- Опубликовать модели для распознования речи и постпроцессинга;
- Добавить разметку со speaker id. Для части новых доменов есть готовая разметка, но есть также идея добавить спикеров и в старые датасеты;
- Возможно переключиться на другие языки;
- Возможно добавить несколько новых доменов;
Подробнее познакомиться с новыми доменами можно в репозитории
