Könnte durchaus an der x264 Version liegen, hab gerade gelesen, dass die Automatische Inputerkenneung wohl nicht immer fluppt und da der build den Du nutzt (nebenbei: der build ist älter als der im Paket) auch mit "lavf&ffms input" erstellt wurde, kannst Du das Problem eventuell auch lösen, wenn Du unter Analysing als Command line addition --demuxer "yuv" angibst.
Cu Selur