ich habe es glaubs rausgefunden was für die diagonale verzerung sorgt.
wenn ich die targetmap reingebe im sampler habe ich;
AddressU = Wrap;
AddressV = Wrap;
und bei
float4 pixel2 = tex2D(targetmap, ( TexcoordScreen.xy+pixeltest.xy));
will es über den rand der targetmap
sagen wir er holt sich ein pixel von rechts über der targetmap
dann landet er wegen warp wieder links und holt sich dort ein pixel und das sieht dann wie eine diagonale verzerung aus
also je weiter er raus will um ein pixel zu holen für den effect desto näher kommt er an den rand der targetmap und desen warp effect
mal schauen wie ich das umgehen kann ^^
edit:
nein das ist es doch nicht.