Du benutzt einen hex editor wie 010 editor oder parst die datei mit deinem code.
Entweder parst du es jetzt von hand und findest die deformer daten so, oder hat dein script findet daten die es nicht bearbeiten kann.
Reverse engineering eines dateiformates braucht ein gewisses verständnis von dateisystemen und allgemeinen dateiformaten (speichern von daten auf einem begrenzten medium zum späteren parsen). Was man dann genau macht bzw. wie man genau rangeht ist jedes mal verschieden und basiert auf dem jeweiligen wissen welches man besitzt. In deinem fall würde ich das vorhanden wissen einfach mal nutzen, und bekannte daten aus der datei "schneiden" - also entfernen.
Danach bleibt das übrig was du nicht kennst, dann markierst du dir die stellen und findest anhanf der daten heraus wie genau die struktur aussieht.

Das ganze klingt relativ abstrakt, du solltest es einfach mal anwenden.
Reverse engineering ist eigentlich nur logik kombiniert mit dem oben genannten wissen