Проблему медленной генерации LLM в многоязычной среде может решить фреймворк ADASPEC
Японские исследователи представили ADASPEC — технологию, ускоряющую работу языковых моделей в многоязычном режиме за счет адаптивных словарей и самообучающихся моделей-черновиков.