lite-c stellt leider nur 64 Vektoren zur Verfügung, daher wirst du um dreidimensionale variablen nicht herumkommen. Problem ist der gleichzeitige Zugriff jeder Funktion auf eben die verfügbaren Vektoren, daher die Fehlermeldung.
Ich hatte damit auch Probleme und musste die vec_rotate-Funktion komplett neu schreiben, damit ich keine Vektoren verwenden muss.

Gruß, Jörn