öhhmmm du könntest zu jedem punkt (vom quader!!! heißt isngesamt 8) auch eine geragen funktion machen mit der selben direction nur halt dem punkt koordinaten dann setzt du meinetwegen für x 1 ein und dann prüfst du ob der punkt in der mitte von mind 4 ist d.h.

a-b
-h-
c-d

vec_dist(punkta,hauptpunt)<vec_dist(punkta,punktc)&&
vec_dist(punktc,hauptpunt)<vec_dist(punkta,punktc)&&
vec_dist(punktb,hauptpunt)<vec_dist(punktb,punktc)&&
vec_dist(punktd,hauptpunt)<vec_dist(punktd,punktc)

und das für jede seite des rechtecks, wenn eins stimmt schneidet die gerade den quader