УДК 004.934

СРАВНИТЕЛЬНЫЙ АНАЛИЗ МЕТОДОВ РАСПОЗНАНИЯ ГОЛОСА

Муравьев М.О.
МИРЭА – Российский технологический университет
119454, Россия, г. Москва, проспект Вернадского, 78
E-mail: maxim_mour@mail.ru

Первоисточник

Оригинальная публикация (PDF): COMPARATIVE-ANALYSIS-OF-VOICE-RECOGNITION-METHODS.pdf

Библиографическое описание: Муравьев М.О. Сравнительный анализ методов распознавания голоса (УДК 004.934). МИРЭА – Российский технологический университет. Электронный ресурс.

Аннотация: На сегодняшний день наблюдается активная разработка и интеграция инновационных решений из области информационных технологий. При этом особую актуальность получают технологии и методы распознавания голоса, используемые во многих областях жизнедеятельности современного человека. Цель текущей статьи заключается в рассмотрении методов распознавания голоса в голосовых помощниках. Автором предпринимается попытка систематизации материалов относительно существующих методов распознавания голоса.

Annotation: Today, there is an active development and integration of innovative solutions from the field of information technology. At the same time, technologies and methods of voice recognition, used in many areas of the life of a modern person, are of particular relevance. The purpose of the current article is to review voice recognition methods in voice assistants. The author makes an attempt to systematize the materials on the existing methods of voice recognition.

Ключевые слова: распознавание голоса, информационные технологии, голосовой помощник, распознавание речи.
Keywords: voice recognition, information technology, voice assistant, speech recognition.

Введение

В современном мире наблюдаются устойчивые тенденции, связанные с развитием и интеграцией в различных бытовых и профессиональных сферах жизнедеятельности технологий распознавания голоса. На основе данных инструментов представляется возможность взаимодействия между человеком и цифровым устройством исключительно на основе использования голоса. Использование методов распознавания голоса является основой работы современных голосовых помощников, способных упростить и качественно улучшить жизнь современного человека. Наиболее распространёнными из примеров использования данных технологий являются индивидуальные голосовые помощники, телефонные роботы и ряд иных задач, при выполнении которых происходит экономия временных ресурсов человека [1].

Помимо этого, в зависимости от используемых методов распознавания голоса, активно разрабатываются интеллектуальные системы обучения, способные принимать экзамен и помогать в изучении иностранных языков. При этом использование голосовых помощников получает свое развитие и в решении наиболее сложных задач из профессиональных сфер человеческой жизнедеятельности. Примерами данного применения являются: идентификация личности, судебная экспертиза, помощь людям с ограниченными возможностями и ряд иных задач.

Основные направления распознавания голоса

Широкое распространение голосовых помощников стало возможным благодаря развитию методов распознавания голоса. На сегодняшний день существует два основных направления развития по распознаванию речи – традиционное направление автоматического распознавания речи и направление комплексного (end-to-end) подхода к распознаванию речи [9]. При этом необходимо отметить, что каждый из данных методов имеет уникальные особенности, преимущества и недостатки.

Традиционный метод автоматического распознавания речи представляет собой совокупность компьютерного оборудования и программных технологий, выполняющих прямую идентификацию и обработку человеческого голоса. Принцип работы данной технологии может быть определён в качестве автоматической транскрипции разговорного языка в читаемый текст. При этом распознавание голоса происходит в режиме реального времени на основе заранее заданных звуковых шаблонов. Таким образом, данный метод ASR представляет компьютеру возможность выявить слова из человеческой речи и перевести их в электронный текст [2].

Основное использование данного метода наблюдается в задачах распознавания слов для идентификации речи человека. Данный метод подразумевает разделение ответственности за распознавание различных компонентов языка – последовательное преобразование звука в фонемы, фонем в слова, слов – в связные предложения. Подобная архитектура определяет, с одной стороны, преимущества данного подхода – модульность и возможность повторного использования некоторых компонентов для разных языков, имеющих похожие фонемы, словоформы или синтаксис. В то же время из этого выходят и недостатки подобного подхода – потеря ряда данных на каждом из преобразований.

Особое внимание заслуживает инновационный метод комплексного подхода к распознаванию речи. Данный метод представляет собой актуальное направление из области машинного обучения, в котором обработка голоса производится на основе интеллектуальных алгоритмов. Данный подход отличается от традиционного тем, что фонемы преобразуются напрямую в текст, минуя промежуточные формы представления. При этом один из вариантов процесса распознавания голоса в данном методе, применённого в голосовом помощнике, может выглядеть следующим образом: запись речи человека; преобразование машиной слов из аудио в электронный текст; разбор текста на основные составляющие для понимания контекста беседы и целей человека; после определения контекста алгоритм может возвратиться к этапу анализа аудио для более точного преобразования в текст и повторить цикл; по результатам работы система определяет команду на выполнение [3].

В таблице 1 сведены основные особенности, сферы использования, преимущества и недостатки рассмотренных методов распознавания голоса.

Таблица 1 – Сравнение методов традиционного и комплексного распознавания речи
Параметр Традиционное распознавание речи End-to-end распознавание речи
Преимущества модульность архитектуры программного обеспечения на основе данной архитектуры;
повторное использование одних и тех же решений для схожих языков;
высокая производительность, работа в реальном времени.
отсутствие потери данных из-за преобразования данных в различные промежуточные абстракции;
возможность учёта контекста на уровне распознавания речи;
высокое качество распознавания.
Недостатки нет возможности учёта контекста в ходе распознавания;
низкое качество распознавания сленговых выражений, имён собственных, аббревиатур.
более высокие требования к производительности;
высокие требования к качеству и размеру корпуса текстов для обучения.
Особенности сочетание высокой производительности и модульности позволяет использовать методы даже на портативных устройствах. высокое качество распознавания при высоких требованиях к производительности на сегодняшний день ограничивает применение облачными технологиями.
Области использования случаи необходимости распознавания речи в реальном времени или распознавания на локальных устройствах – голосовые помощники, «умные» устройства с голосовым управлением. извлечение текстовых стенограмм, системы корпоративного и государственного управления, перспективные голосовые помощники с обработкой голоса в облаке.

Проведение тестирования существующих программных продуктов

Для экспериментальной оценки данных методов распознавания речи было проведено тестирование на примере двух программных продуктов, использующих указанные методы распознавания речи.

В рамках данной статьи будут рассмотрены следующие программные продукты, которые применяют данные технологии для конвертации аудиодорожки в текстовый формат:

Vosk-Browser Demo использует технологию традиционного распознавания речи и применяет библиотеку Vosk – практическую библиотеку распознавания речи в реальном времени, которая поставляется с набором точных моделей, сценариев, практик и обеспечивает готовый к использованию сервис распознавания речи для различных платформ. Библиотека поставляется со множеством различных словарей на различных языках.

RealSpeaker Transcriber является результатом российского стартапа «РеалСпикер» и представляет приложение по превращению аудио- и видеофайлов в текстовые документы. RealSpeaker Transcriber основан на технологии распознавания речи на базе интеллектуальной системы, оценивающей не только аудиодорожку, но и видео с человеческой мимикой и контекст распознаваемого текста, что позволяет точнее определять частоту встречаемости слов и их взаимодействия между собой, уточняя в том числе уже распознанные части предложения [4]. Это говорит об использовании комплексного подхода к распознаванию речи.

Оба этих приложения используются для конвертации в текст записи голоса на естественных языках и имеют широкий круг использования, то есть не имеют ярко выраженной специфики речи. В рамках данной статьи рассмотрено применение технологии распознавания голоса на примере этих двух приложений. Для тестирования был подготовлен аудиофайл на основании судебного заседания, представленного в открытой сети Интернет – заседание арбитражного суда по делу А12-6556/2020 [6].

По результатам работы приложений были получены следующие результаты (таблица 2).

Таблица 2 – Результаты распознавания голоса: Vosk-Browser Demo и RealSpeaker Transcriber
Ручная стенография Результат работы Vosk-Browser Demo Результат работы RealSpeaker Transcriber
Да добрый день. Здравствуйте. Да слышно видно. Да, кто-то мы не сумели подключиться сначала в 4 часа, так, судебное заседание по делу А12-6556/2020 объявляется открытым. Двенадцатый арбитражный апелляционный суд рассматривает апелляционную жалобу публичного акционерного общества «Волгоград Энергосбыт» на решение Арбитражного суда Волгоградской области от 22 июня 2020 года. Судебное заседание проводится с использованием системы видеоконференцсвязи, которую обеспечивает Арбитражный суд Волгоградской области. Нашего коллегу просим представиться: кто из судей обеспечивает видеоконференцсвязь, кто ведёт в судебном заседании протокол судебного заседания в Арбитражном суде Волгоградской области и проверить полномочия представителей лиц, обеспечивших явку в судебное заседание. Организация видеоконференцсвязи осуществляется судьёй Арбитражного суда Волгоградской области Репниковой Викторией Вячеславовной, протокол судебного заседания ведёт помощник судьи Лабутова Надежда Фёдоровна. В судебное заседание явился представитель публичного акционерного общества «Волгоград Энергосбыт» Дундуков Никита Андреевич. Личность подтверждается, полномочия подтверждаются доверенностью № 220, выданной 27 декабря 2019 года сроком действия до 1 января 2021 года, также представлен диплом, подтверждающий наличие высшего юридического образования. Иные представители не явились. Всё, спасибо вам большое, не задерживаем и со стороной продолжаем судебное заседание. Прошу встать, для вас объявляется заседание суда. Дело слушается в составе председательствующего судьи Борисовой, членов судебной коллегии судей Дубровиной и Цуцковой. Секретарь судебного заседания – Кравцова. К составу суда, секретарю доверяете? Процессуальные права, предусмотренные статьёй 41 Арбитражного процессуального кодекса Российской Федерации, вам известны? Заявления, ходатайства с вашей стороны какие-либо будут? Нет. Считаете возможным приступить к рассмотрению апелляционной жалобы в отсутствие не явившихся представителей ответчика? Да. Суд, совещаясь на месте, с учётом надлежащего извещения всех лиц, участвующих в деле, определил приступить к рассмотрению апелляционной жалобы в составе, который вам был озвучен, в отсутствие представителя ответчика. Отзыв на апелляционную жалобу, который вы направили в адрес апелляционного суда, не поступал, поэтому никакими новыми документами, доказательствами суд апелляционной инстанции не располагает. Тогда слушаем доводы вашей апелляционной жалобы. Сошла добрый день да слышно, вина что там и не сумели подключиться сначала четыре часа. Судебное заседание по делу о двенадцать шесть тысяч пятьсот пятьдесят шесть дробь две тысячи двадцать объявляется открытым. Двенадцатый арбитражный апелляционный суд рассматривает апелляционную жалобу публичного акционерного общества Волгоград Энерго сбыт на решение арбитражного суда Волгоградской области от двадцать второго июня две тысячи двадцатого года. Заседание проводится с использованием системы видеоконференцсвязи, обеспечиваемой арбитражным судом Волгоградской области. Нашего коллегу просим представиться: кто из судей обеспечивает видеоконференцсвязь, кто ведёт протокол судебного заседания в арбитражном суде Волгоградской области, и просим проверить полномочия лиц, обеспечивающих явку в судебное заседание. Организацию видеоконференцсвязи осуществляет судья арбитражного суда Волгоградской области Репникова Виктория Вячеславовна, протокол судебного заседания ведёт помощник судьи Лабутова Надежда Фёдоровна. В судебное заседание явился представитель публичного общества Волгоград Энерго сбыт Дундуков Никита Андреевич, личность подтверждается паспортом, полномочия подтверждаются доверенностью номер двести двадцать, выданной двадцать седьмого декабря две тысячи девятнадцатого года сроком действия до первого января две тысячи двадцать первого года, также представлен диплом, подтверждающий наличие высшего юридического образования. Иные представители не явились. Спасибо вам большое, не задерживаем, и со стороной продолжаем судебное заседание. Прошу встать, для вас объявляется заседание суда. Дело слушается в составе председательствующего судьи Борисовой, членов судебной коллегии судей Дубровиной и Цуцковой. Секретарь судебного заседания – Кравцова. К составу суда, секретарю доверяете? Процессуальные права, предусмотренные статьёй сорок первый Арбитражного процессуального кодекса Российской Федерации, вам известны? Заявления, ходатайства с вашей стороны какие-либо будут? Нет. Считаете возможным приступить к рассмотрению апелляционной жалобы в отсутствие не явившегося представителя ответчика? Совещаясь, учитывая сведения о надлежащем извещении всех лиц, участвующих в деле, суд определил приступить к рассмотрению апелляционной жалобы в составе, который вам был озвучен. В отсутствие представителя ответчика отзыв на апелляционную жалобу, которую вы направили в адрес апелляционного суда, не поступал, поэтому никаких новых документов и доказательств суд апелляционной инстанции не располагает. Тогда слушаем доводы вашей апелляционной жалобы. Да добрый день. Здравствуйте. Да, слышно, видно. Да, кто-то, мы не сумели подключиться сначала в 4, так, судебное заседание по делу А12-6556/2020 объявляется открытым. Двенадцатый арбитражный апелляционный суд рассматривает апелляционную жалобу публичного акционерного общества «Волгоград Энергосбыт» на решение Арбитражного суда Волгоградской области от 22 июня 2020 года. Судебное заседание проводится с использованием системы видеоконференцсвязи, которую обеспечивает Арбитражный суд Волгоградской области. Нашего коллегу просим представиться: кто из судей обеспечивает видеосвязь, кто ведёт в судебном заседании протокол судебного заседания в Арбитражном суде Волгоградской области и проверить полномочия представителей лиц, обеспечивших явку в судебное заседание. Организация видеоконференцсвязи осуществляется судьёй Арбитражного суда Волгоградской области Репниковой Викторией Вячеславовной, протокол судебного заседания ведёт помощник судьи Лабутены Надежда Фёдоровна. В судебное заседание явился представитель публичного акционерного общества «Волгоград Энергосбыт» Подбыков Никита Андреевич. Полномочия подтверждаются доверенностью номер 220, выданной 27 декабря 2019 года сроком действия до 1 января 2021 года. Представлен диплом, подтверждающий наличие высшего юридического образования. Иные представители не явились. Спасибо вам большое, не задерживаем и со стороной продолжаем судебное заседание. Прошу встать, для вас объявляется заседание суда. Дело слушается в составе председательствующего судьи Борисовой, членов судебной коллегии судей Дубровиной и Цуцковой. Секретарь судебного заседания – Кравцова. К составу суда, секретарю доверяете? Процессуальные права, предусмотренные статьёй 41 Арбитражного процессуального кодекса Российской Федерации, вам известны? Заявления, ходатайства с вашей стороны какие-либо будут? Нет. Считаете возможным приступить к рассмотрению апелляционной жалобы в отсутствие не явившихся представителей ответчика? Надлежащим образом извещены все лица, участвующие в деле. Суд определил приступить к рассмотрению апелляционной жалобы в составе, который вам был озвучен, в отсутствие представителя ответчика. Отзыв на апелляционную жалобу, которую вы направили в адрес апелляционного суда, не поступал, поэтому никаких документов и доказательств суд апелляционной инстанции не располагает. Тогда слушаем доводы вашей апелляционной жалобы.

Примечание. При сравнении использовалась ограниченная версия RealSpeaker Transcriber, что ограничило фрагмент аудиодорожки.

Технологии подлежали оценке по следующим метрикам:

Коэффициент полноты – это доля полученных релевантных документов по сравнению с их общим количеством в поисковом массиве. Коэффициент точности – это доля релевантных документов среди документов, выданных в результате [7]. Полнота и точность результатов приложений представлена в таблице 3.

Таблица 3 – Полнота и точность результатов: Vosk-Browser Demo и RealSpeaker Transcriber
Мера RealSpeaker Transcriber Vosk-Browser Demo
Полнота 93 % 87 %
Точность 91 % 89 %

Для RealSpeaker Transcriber были некорректно выделены 23 слова, из которых:

Также частично неверными (неправильная словоформа, окончание, приставка) оказались 9 слов. В номере дела допущена только одна ошибка в связи с опущением цифры «шесть». Прослеживается работа не только над выделением слов, но и над пунктуацией, что помогает передать смысловую нагрузку. Приложение различает предложения, включая сложные, а также абзацы, заданные явными паузами в диалоге. В то же время орфография не соответствует предметной области (что затрудняет сравнение с оригинальным текстом), а также не различаются дикторы.

Для Vosk-Browser Demo были некорректно выделены 32 слова, среди которых:

Также частично неверными (неправильная словоформа, окончание, приставка) оказались 8 слов. При этом пунктуация и выделение предложений не производились.

Таким образом, можно наблюдать, что задачу обработки аудио, насыщенного профессиональной терминологией, оба подхода решают на сравнимом уровне. Но так как основная задача состоит в составлении юридически верного, точного, грамматически и орфографически корректного документа – протокола судебного заседания, возможность выделения речевых оборотов и расстановка пунктуационных знаков является неоспоримым преимуществом. Как было отмечено в исследовании, современный подход позволяет распознавать и выделять пунктуацию.

Заключение

В заключение необходимо отметить, что каждый из рассмотренных методов имеет индивидуальные особенности, а также ряд преимуществ и недостатков своего использования в голосовых помощниках. Было определено, что оба подхода имеют недостатки в распознавании специфической информации, такой как номера, шифры и специфические термины, традиционно записываемые на иных языках. При этом подход на основе понимания естественного языка содержит возможность распознавания пунктуационных знаков по стилю и темпу речи.

Таким образом, можно сделать вывод, что развитие подхода с использованием систем понимания естественного языка позволяет расширить спектр задач, где применяются методы распознавания речи, на задачи, имеющие существенную профессиональную специфику с точки зрения оформления и терминологии, к примеру на задачи протоколирования судебных заседаний. Однако текущие реализации технологии ASR всё ещё обеспечивают недостаточную точность распознавания речи для автоматизации многих чувствительных к специфике процессов, что открывает возможности для реализации более специфичных систем на основе представленных методов, которые смогут заполнить данную нишу.

Литература

  1. Хеин М.З. Современное состояние проблемы обработки, анализа и синтеза речевых сигналов // Computational nanotechnology. 2018.
  2. Хлопенкова А.Ю., Белов Ю.С. Методы обработки естественного языка в виртуальных голосовых помощниках // E-Scio. 2019.
  3. Abougarair A.J. Design and implementation of smart voice assistant and recognizing academic words // International Journal of Robotics and Automation. 2022.
  4. RealSpeaker Transcriber. Режим доступа: https://realspeaker.net/ (дата обращения: 01.12.2022).
  5. Vosk-Browser Demo. Режим доступа: https://alphacephei.com/vosk/ (дата обращения: 01.12.2022).
  6. Судебное заседание по делу А12-6556/2020. Режим доступа: https://www.youtube.com/watch?v=46oPauC9_Aw (дата обращения: 01.12.2022).
  7. Зубец В.В., Ильин А.А. О коэффициенте полноты информационного поиска // Вестник российских университетов. Математика. 2004. № 1. Режим доступа: https://cyberleninka.ru/article/n/o-koeffitsiente-polnoty-informatsionnogo-poiska (дата обращения: 03.12.2022).
  8. Riqiang W. Automatic Speech Recognition 101: How ASR systems work // Dialpad. Режим доступа: https://www.dialpad.com/blog/automatic-speech-recognition/ (дата обращения: 04.12.2022).

References

  1. Hein M.Z. The current state of the problem of processing, analysis and synthesis of speech signals // Computational nanotechnology. 2018.
  2. Khlopenkova A.Yu., Belov Yu.S. Natural language processing methods in virtual voice assistants // E-Scio. 2019.
  3. Abougarair A.J. Design and implementation of smart voice assistant and recognizing academic words // International Journal of Robotics and Automation. 2022.
  4. Tsitulsky A.M., Ivannikov A.V., Rogov I.S. NLP – natural language processing // StudNet. 2020.
  5. RealSpeaker Transcriber. Access mode: https://realspeaker.net/ (Accessed 01.12.2022).
  6. Vosk-Browser Demo. Access mode: https://alphacephei.com/vosk/ (Accessed 01.12.2022).
  7. Court session in case А12-6556/2020. Access mode: https://www.youtube.com/watch?v=46oPauC9_Aw (Accessed 01.12.2022).
  8. Zubets V.V., Ilyin A.A. On the coefficient of completeness of information retrieval // Bulletin of Russian Universities. Mathematics. 2004. No. 1. Access mode: https://cyberleninka.ru/article/n/o-koeffitsiente-polnoty-informatsionnogo-poiska (Date of access: 03.12.2022).
  9. Riqiang W. Automatic Speech Recognition 101: How ASR systems work // Dialpad. Access mode: https://www.dialpad.com/blog/automatic-speech-recognition/ (Date of access: 04.12.2022).