Артефакты, кеш, усталость модели.
Здравствуйте! Отличная модель, спасибо большое за старания!
Я генерю по одному предложению за раз (перевожу речь с английского на русский). Примерно час после первого запуска всё работало хорошо, но после модель начала глючить. Артефакты не хаотичные, а вполне шаблонные. В начале записи появляются куски с референса на английском, потом идёт русская речь (обрывисто) иногда также попадаются английские словечки. Можно сравнить это поведение с усталостью, но перезапуск всего что можно было перезапустить не сильно помог. Я грешу на кеш, но понятия не имею, как его чистить. Вообще, было бы неплохо понять, как можно сбрасывать модель до заводского состояния, но опять же, как это сделать я не узнал.
Буду рад ответу!
В целом я пока не сталкивался с усталостью этой модели, но я пока и не делал супер больших тестов.
Ранее с другими моделями, иногда использовал torch.cuda.empty_cache() - для очистки кеша, вероятно это может помочь, но торч весьма странная штука и в нем у меня бывали утечки памяти, когда я пытался делать загрузку различных rvc моделей. Очистка кеша мне не полностью помогала, так что приходилось вызывать сборщик мусора.