Было такое раньше на камерах BX120 и аналогичных. Ночью камеры пытались вытянуть максимальную детализацию без ограничения битрейта, хотя днем писали нормально. И из за шумов размер вырастал до 200-600 мегабайт. Это можно как то регулировать параметром качество
У вас стоит GOOD без ограничения битрейта. вот камера и гонит 30-50 мегабит при шумах.
Обновите прошивку камеры до последней. Сделайте сброс настроек на Default. Настройте качество видео заново. 1280х1024 20fps/VBR лимит 5 мегабит/GOP 1сек.
Кстати матрицы на этих камерах 1,3мп 3*4, а у вас стоит 1мп 16*9 - вы теряете часть угла обзора по высоте