Да я сам в поисках решения этой проблемы
К выше написанному ещё можно добавить:
Max VRAM Usage желательно до максимума выставить, при этом отключив все остальные программы, во время работы с Topaz Video Enhance AI
Наверно у них до конца ещё не реализована поддержка всех ядер CUDA, часто изменение настроек в панели Nvidia активирует работу видеокарты по максимуму, вместо процессора, для разных программ.
Но можно попробовать в этой панели управления Nvidia, в программных настройках выбрать .exe файл программы и изменить настройки
Сперва в "Cuda - графические процессоры" выбрать карту
Ну и в "ГП рендеринга OpenGL" выбрать свою видеокарту
И так поочередно для всех .exe файлов из папки Program Files\Topaz Labs LLC\Topaz Video Enhance AI
Настройки могут слетать, после обновления видеодрайверов карты.