Долгая инициализация модели vosk-model-tts-ru-0.8-multi (без учета времени загрузки bert)

[AlexMaxy]

Здравствуйте! Подскажите, пожалуйста, как можно решить данную проблему:
Ноутбук Win10x64 ОЗУ 4Гб, Python 3.11, onnxruntime 1.22, запуск на cpu, без cuda.
Проблема в том, что инициализация самой модели vosk-model-tts-ru-0.8-multi занимает около 3-x минут, до начала загрузки модели bert и генерации аудио. (модель расположена локально).
Строка
self.onnx = onnxruntime.InferenceSession(str(model_path / "model.onnx"), ...)
При этом model.onnx версии vosk-model-tts-ru-0.7 загружалась секунд за 10, до начала синтеза.
Есть ли способ ускорить инициализацию в новой версии?

[nshmyrev]

Пока так, в будущем ускорим. Там в коде надо разбираться, возможно, torchscript используется для ROPE, надо убирать это. 4GB для этой модели маловато.

[AlexMaxy]

Понял, спасибо!