Auch ich hatte schon mal solche Fehler mit ungeheuer unlogischen Größenangaben. In der Vorschau vom MainConcept MPEG Encoder war dann auch alles grün zu sehen.
Bei mir lag's ganz klar an der Tatsache, dass ich ein für AviSynth 2.08 geschriebenes Skript (in dem die für AviSynth 2.0x gedachte MPEG2DEC#.DLL importiert wurde) in einem parallelen Betriebssystem aufgerufen habe, in dem AviSynth 2.51 installiert war. Nach der Korrektur des Verzeichnisses zur Position der AviSynth-2.5x-Variante von MPEG2DEC#.DLL lief es dann wieder richtig.