Hi, ich schau mal was mir so einfällt, alles ohne gewähr:

1. Mit lite-c oder plugins halte ich es für möglich, eine andere engine einzubinden. allerdings wäre das wohl seehr umständlich, und wenn du schon c++ kannst, warum dann so? der vorteil vom 3d-gamestudio ist nunmal, dass hier engine und scriptsprache perfekt aufeinander abgestimmt sind.

2. Grafikeffekte:
Shader werden von haus aus unterstützt, musst mal schauen mit welchen editionen.
Es werden auch ein paar beispiel-shader mitgeliefert, und hier im forum gibt es sehr gute die einfach einzubauen sind. da gibts im grunde alles was man braucht.

3. eine exe-datei bekommst du immer.. aber deine beobachtung war richtig, mit der alten script-sprache "c-script" wurde der sourcecode mitgeliefert und dann beim start erst kompiliert. inzwischen ist "c-script" allerdings veraltet und wird momentan von "lite-c" abgelöst. hier wird der code vorher kompiliert, und läuft damit auch wesentlich schneller. das weiße fenster wird trotzdem noch kurz angezeigt, während die engine initialisiert wird. mit der professional-edition kannst du auch dessen aussehen an dein spiel anpassen.
EDIT: die professional-edition hat auch die funktion, verschlüsselte archieve mit deinen dateien automatisch zu erstellen, damit niemand was abkupfern kann.

zu 4. Du möchtest das dein spiel ganz normal rüberkommt?
dann muss alles in einem einheitlichen grafikstil sein, animationen und bewegungen müssen fließend sein. somit musst du nicht nur gut programmieren können, sondern auch modellieren und texturieren.
setzt dir also erstmal kleine ziele, z.b. ein kleines demo-level in nem sehr begrenzten tal, wo man mit ein oder zwei orks kämpfen kann. das wird schon verdammt viel arbeit.

ich wünsch dir viel erfolg und spass dabei. wenn noch fragen offen sind, nur zu.