10 Bit debanding

may24

So, avisynth.dll ausgetauscht - und ja es ist deine Version jetzt. Nochmal probiert: siehe da kein Fehler mehr. NeatVideo läuft
Als Vergleich wollte ich daraufhin mal mein altes Script öffnen und Kawumm Crash:
error.jpg

Das ging aber vor dem Austausch der .dll :mad:

Scheinbar crashe das Ganze beim Aufruf von GradFun3(). Kommentiert man den aus geht's.
Doch wenn man den zum Debanden haben will hat man erst mal geloosed. Warscheinlich liegt es auch am mt_xxpand_multi.avsi :hm:

LigH: Laut Doom9 Forum hast du dich doch mit dieser Fehlermeldung befasst. In welcher Version von SEt ist das ge-fixed ?

Groucho2004

Schau mal hier.

may24

Ah, ok. Hatte mich nur gewundert weil ich Masktools gar nicht verwendet habe. Ja, ok die Dither.avsi tut's.
Ok, das klappt soweit wieder

TheGenesis

Ich steh momentan auf die Kombination dither_xyz(mode=0) und f3kdb() ... macht echt prima Ergebnisse ... probiers mal aus ... dann kannste den GradFun3() weglegen

may24

Ok, habe mir f3kdb() mal angeschaut. Kommt mir das nur so vor oder produziert das weit mehr Grain als GradFun3() ?

TheGenesis

Mhmmm ... kann grad nicht vergleichen ... hatte bisher nur vergleiche mit 709 gemacht ... meinst du das hier:

http://forum.doom9.org/showthread.php?p=1535858#post1535858

... aber evtl. lohnt es sich auf das hier zu warten:

http://forum.doom9.org/showthread.php?p=1645652#post1645652

sneaker2

Zitat von may24

Ok, habe mir f3kdb() mal angeschaut. Kommt mir das nur so vor oder produziert das weit mehr Grain als GradFun3() ?

gradfun3() nimmt standardmäßig einen Ordered Dither. So einen kannst Du bei f3kdb() auch wählen. Aber auch danach wird das Ergebnis nicht identisch sein - sind halt verschiedene Algorithmen.

sneaker2

Achso: und natürlich das Rauschen direkt über grainY/grainC runterregeln.

TheGenesis

Zitat von may24

Ok, habe mir f3kdb() mal angeschaut. Kommt mir das nur so vor oder produziert das weit mehr Grain als GradFun3() ?

Hab gerade ein paar lustige Erkenntnisse gesammelt.

f3kdb() macht mit Default-Einstellungen nur 'nen ordentlichen job, wenn man vorher so richtig klötzchenmäßig ge-dither't hat.
Dither() mit mode 0 (relativ harte Klötzchen) -> prima Ergebnis mit f3kdb()
Dither() mit mode 2 (schön weich) -> und viele Bandings bleiben übrig

Auch sollte man den f3kdb() ganz ans Ende des Scripts stellen und die Filter davor sollen sich mit den Klötzchen vom Dither() rumschlagen.
Das bringt bei meinem "Logans Run" im 709er Farbraum die besten Ergebnisse.

Selur
Das nachträgliche entrauschen mit FFT3DGPU() produziert bei "natürlichem" Material in der tat wieder Banding-Artefakte.
Das scheint bei den Cartoons aber egal zu sein ... vielleicht weil nach dem massiven filtern keine allzu feinen gradienten mehr übrig sind ... das funktioniert übrigens auch mit Computergeneriertem Material (z.B. in meinen "Let's Play"-Youtube-Dingern) sehr gut.
Cartoons sind scheinbar unkaputtbar

may24

Hi, hab mir das Neat-Video Plugin besorgt da es zunächst mal sehr positive Ergebnisse gebracht hat.
Jetzt habe ich es aber mal auf was anderes als Animes angewendet (std settings - nichts nachgeregelt) und da treten doch sehr unschöne Streifen auf !
Warum ?
Under the Dome - snapshot.jpg

Selur

Banding,.. -> wie sieht denn der Input aus, eventuell zu viel geglättet

TheGenesis

Das Noise-Profil hast du aber neu erfasst, oder?

Ansonsten lad mal ein Stück hoch und wir stellen das mal gemeinsam ein.

may24

Selur: nein, da ist erst mal nichts zum glätten drinne ...

TheGenesis: Ja, noise Profile habe ich neu erstellt. Ich hab hier mal alles zusammengepackt -> File

Goldwingfahrer

Bis Datengrösse 200 MB
http://www.file-upload.net/

Bis 500 MB
http://www.file2send.de/

Bis 2000 MB
http://www.filemail.com

may24

Goldwingfahrer: Danke

may24

TheGenesis: habe meine Post updated und ein "Paket" mit "Allem" verlinkt (siehe Post 93)

may24

Irgendwelche neuen "Neat" Ideen ?

Selur

Beschäftige mich gerade mal wieder mit Gradfun3 und habe folgendes Skript:

Code

SetMemoryMax(1536)
SetMTMode(5,8) # change MT mode
LoadPlugin("G:\Hybrid\AVISYN~1\LSMASH~1.DLL")
LoadPlugin("G:\Hybrid\AVISYN~1\dither.dll")
LoadPlugin("G:\Hybrid\AVISYN~1\REMOVE~3.DLL")
LoadPlugin("G:\Hybrid\AVISYN~1\MASKTO~2.DLL")
LoadPlugin("G:\Hybrid\AVISYN~1\FLASH3~2.DLL")
Import("G:\Hybrid\avisynthPlugins\dither.avsi")
Import("G:\Hybrid\avisynthPlugins\mt_xxpand_multi.avsi")
#  input luminance scale tv
LWLibavVideoSource("F:\TestClips&Co\ProRes\Something In The way You Move [2160p]---.mov",cache=false,stacked=true,format="YUV422P10",repeat=true)
# current resolution: 4096x2160
#SetMTMode(2) # change MT mode
# cropping 4096x1712
Dither_crop16(0,224,0,-224)
# debanding
ConvertToYV16(interlaced=false)
# HIER HÄTTE ich gerne einen Gradfun3-Aufruf
f3kdb_dither(stacked=true,input_depth=10)
return last

Alles anzeigen

stehe aber irgendwie auf dem Schlauch wie man Gradfun3 da reinpacken muss.

-> Da weiß doch sicher einer wie das aussehen muss,..

Cu Selur

sneaker2

Code

SetMemoryMax(1536)
SetMTMode(5,8) # change MT mode
LoadPlugin("G:\Hybrid\AVISYN~1\LSMASH~1.DLL")
LoadPlugin("G:\Hybrid\AVISYN~1\dither.dll")
LoadPlugin("G:\Hybrid\AVISYN~1\REMOVE~3.DLL")
LoadPlugin("G:\Hybrid\AVISYN~1\MASKTO~2.DLL")
LoadPlugin("G:\Hybrid\AVISYN~1\FLASH3~2.DLL")
Import("G:\Hybrid\avisynthPlugins\dither.avsi")
Import("G:\Hybrid\avisynthPlugins\mt_xxpand_multi.avsi")
#  input luminance scale tv
LWLibavVideoSource("F:\TestClips&Co\ProRes\Something In The way You Move [2160p]---.mov",cache=false,stacked=true,format="YUV422P16",repeat=true)
# current resolution: 4096x2160
#SetMTMode(2) # change MT mode
# cropping 4096x1712
Dither_crop16(0,224,0,-224)
# debanding
# HIER HÄTTE ich gerne einen Gradfun3-Aufruf
GradFun3(lsb_in=true, lsb=true)
f3kdb_dither(stacked=true, input_depth=16)
return last

Alles anzeigen

?

TheGenesis

Ansonsten hätt ich noch den hier zum testen:

Code

ConvertToYV12()f3kdb(keep_tv_range=true, grainy=0, grainc=0)

oder den:

Code

ConvertBackToYUY2()
ConvertToYV12()
f3kdb()

Jetzt mitmachen!