Conformer2

Conformer-2 ist ein fortschrittliches automatisches Spracherkennungs-KI-Modell, das als Nachfolger von Conformer-1 entwickelt wurde. Es ist mit robusten Verbesserungen für die Dekodierung von Eigennamen, alphanumerischen Zeichen und überlegene Leistung in lauten Umgebungen entworfen. Dies wurde durch intensives Training an einem großen Korpus von englischem Audiodaten erreicht. Ein Vorteil von Conformer-2 ist, dass es die Wortfehlerrate im Vergleich zu Conformer-1 nicht kompromittiert, während es verbesserte benutzerorientierte Metriken bietet. Weitere Verbesserungen an Conformer-2 im Vergleich zu seinem Vorgänger wurden durch Erweiterung der Trainingsdatenmenge und Erhöhung von Pseudo-Label-Modellen realisiert. Darüber hinaus wurde mit Modifikationen an der Inferenz-Pipeline die Latenzzeit von Conformer-2 reduziert, wodurch die Gesamtleistung beschleunigt wird. Ein weiterer kritischer Schritt-up bei Conformer-2 betrifft seine innovative Trainingstechnik, die Model-Ensembling nutzt. Anstatt Labels ausschließlich von einem einzelnen „Lehrer“ abzuleiten, werden in diesem Modell Labels von mehreren „Lehrern“ generiert, wodurch ein vielseitigeres und robusteres Modell sichergestellt wird. Dies hat den Effekt, die Auswirkungen einzelner Modellfehler zu reduzieren. Die Entwicklung von Conformer-2 beinhaltete auch eine Erforschung von Daten- und Modellparameter-Skalierung, Erhöhung der Modellgröße und Erweiterung der Trainings-Audiodaten. Diese Ansätze zielten darauf ab, das ungenutzte Potenzial zu matchen, das vom „Chinchilla“-Papier für große Sprachmodelle identifiziert wurde. Mit diesen Updates bietet Conformer-2 schnellere Reaktionszeiten als Conformer-1, gegen den Trend, dass größere Modelle langsamer und teurer sind.