Недавно Meta AI открыл исходный код своей масштабной модели перевода No Language Left Behind (NLLB-200), намереваясь исключить языковые барьеры по всему миру. Как мы знаем, в настоящее время машинный перевод стал ключевой областью исследований, и это стало отличной новостью для многих исследователей и организаций, которые могут использовать его для своих исследований и работы. Итак, давайте посмотрим на новости и немного разберемся в NLLB-200 со следующими пунктами:

Оглавление

  • Что такое НЛЛБ-200?
  • Продвижение в NLLB-200
  • Где применяется NLLB-200?
  • Процедура обучения для NLLB-200

Что такое НЛЛБ-200?

No Language Left Behind (NLLB-200) — это модель из серии массивных моделей машинного перевода MetaAI для языкового перевода. Новый член серии NLLB-200 способен переводить между 200 языками, представляя возможности Meta в направлении исследователей ИИ. Эти разработки направлены на то, чтобы позволить людям получать доступ, делиться и использовать онлайн-контент на своих родных языках и общаться по всему миру независимо от языковых предпочтений.

Продвижение в NLLB-200

Некоторые из значительных улучшений в этой модели:

  • По данным исследовательской группы Meta AI, эта модель может обеспечить на 44% лучшие результаты, чем предыдущие версии.
  • Эта модель также способна переводить языки камба и лаосский. Эти языки не переводились до использования любого из доступных бесплатно методов машинного перевода.
  • Для обучения этой модели они создали новый набор данных под названием Flores-200, состоящий из данных на 200 языках.
  • Оценка этой модели прошла через 40 000 различных направлений перевода.
  • Он может переводить контент с одного языка на другой без использования промежуточного языка, например, напрямую с хинди на тайский.

Где применяется NLLB-200?

Meta AI использует этот проект на своей платформе в Facebook и Instagram для улучшения общения на разных языках. Эти платформы очень ответственны за объединение людей. Согласно статье на statista, в первом квартале 2022 года насчитывается около 2,93 миллиарда активных пользователей Facebook. Глядя на эту статистику, мы можем понять, насколько полезна эта модель не только для Facebook, но и для людей, использующих Facebook, потому что они стать более эффективными при использовании своих родных языков.

Технология, лежащая в основе этого проекта, также доступна в инструменте перевода контента Фонда Викимедиа, который помогает Википедии переводить контент на разные языки. Это очень полезно для мира, потому что это даст больше знаний на большем количестве языков.

Процедура обучения для NLLB-200

Эти три основных шага участвуют в процедуре обучения NLLB-200:

  1. Автоматическое построение данных. Чтобы эта модель работала на языках с низким уровнем ресурсов, Meta использовала процедуру обучения «учитель-ученик», в которой старая модель LASER (Language-Agnostic Sentence Representation) обучалась на 200 языках и создавала огромное количество данных для обучения NLLB-200.
  2. Моделирование 200 языков. При моделировании использовалось большое количество экспертных моделей, поэтому каждая категория данных или язык может быть направлена ​​в соответствии с настройками общей емкости моделей. Кроме того, используются методы регуляризации, чтобы избежать переобучения моделей. Этот шаг можно сравнить с обычной процедурой моделирования машинного перевода, где один кодер и один декодер используются сначала для перевода словесных данных в числовую форму, а затем снова в словесную форму.
  3. Оценка результатов. Для оценки результатов NLLB-200 компания meta расширила свой набор данных FLORES, чтобы охватить 200 языков. Набор данных состоит из данных, переведенных человеком. Используя различные метрики и поддержку оценки человеком, они подтвердили, что модель дает на 44% лучшие результаты, чем старые модели машинного перевода Meta.

Заключительные слова

В этой статье мы рассмотрели большие новости в области моделирования машинного перевода. NLLB-200 — одно из основных изменений, поскольку оно используется для перевода между 200 языками. В продвижении мы можем увидеть основные направления, в которых расширяется это поле. Эта технология помогла продвинуть некоторые из основных платформ, которые необходимы для преодоления значительных языковых барьеров. Процедуры обучения этих моделей могут помочь в понимании процедуры моделирования больших алгоритмов. Мы можем узнать больше об этой модели с открытым исходным кодом здесь.

Рекомендации