Ich denke so etwas würde auch gehen durch einfach eine bitmap zu machen als panel, wobei eine Runde ins mitten völlig transparant ist und die aussenseite nicht, beispielsweise nur schwarz ist.
Du solltest dann aber eine eigene function schreiben für die mouse und wo der so gehen kann und so weiter. Nur das mit die mouse wird schwierig, aber eine eigene Ausschnittsfenster ist schon möglich, nur kann mann das nicht definieren mit der 'window' funktion.
Wie stellst du dir das denn eigentlich vor, ein rundes Fenster, weil mann hat immer noch ein bildschirm das Quadratisch ist.

Also, das bedeutest das du schwarz oder so rum das runde Fenster hast, und das kann mann einfach durch einen bitmap panel erstellen, für ne 'sniper kamera' macht jeder es auf diese art und weise.
Mfg,