Как ограничить число файлов бэкапа?

Через переменную окружения HOUDINI_MAX_BACKUP_FILES.

Можно добавить ее в Houdini.env, например так:

HOUDINI_MAX_BACKUP_FILES=3

При значении ноль ограничения снимаются.