усе. сам разобрался(пока мифический админ снизойдет на меня и мою активацию). Надо было во вкладке jpg поставить галочку в пункте создать jpg/gif файлы.
Поменял HTTP порт на 8081( в программе и в роутере), сменил настройки подключения на xxxx.dyndns-free.com:8081, а в пункте порт ввел 8866. теперь к серверу Webcam подключаюсь(можно даже включать и выключать запись,но вместо картинки надписи Video lost или loading.