schon mal die texturgröße verkleinert??
Mit meiner 9800pro hatte ich auch einige probleme mit shadern da manche effekte ein max-skingöße vorausgesetzt haben. Wenn die überschritten war entstand ein ähnlicher effekt wie bei deinem shot.

ist vielleicht ein versuch wert.