Ich bin über eine Googlesuche hier gelandet, und hatte wegen der Beiträge eine Idee, woran das liegen könnte. In meinem Fall ist eine NVidia Karte installiert. In der NVidia Systemsteuerung kann man im Bereich "Video-Farbeinstellungen ändern" zwischen VideoPlayer Einstellungen und NVidia wählen. Im letzteren Fall kann man auf der "Erweitert" Registerkarte den Dynamikbereich anpassen. Standardmäßig steht er auf 16-235, und das ist theoretisch korrekt für ein YCbCr Overlay. Der verminderte Dynamikbereich soll bei diesem Farbraum irgendwie helfen, ein saubereres Signal zu kriegen, ist aber bei komplett digitaler Verarbeitung irgendwo schwachsinnig. Jedenfalls scheint VLC den gesamten Dynamikbereich zu nutzen und wenn man die Einstellung auf 0-255 ändert ist das Bild plötzlich knackig. Komplett logisch ist das Ganze für mich nicht, aber es löst das Problem.