Ich kann mich noch erinnern das die Demo beim Release 2003 auf meinem damaligen PC, der mit einem Athlon XP 1400+ und einer GeForce TI4200 64MB bestückt war, mit mittleren Details und 1280x1024 flüssig lief. Bei maximalen Details und gleicher Auflösung ruckelte es aber, wenn ich mir das riesige Mutterschiff ganz aus der Nähe angesehen habe.
Wie McSkywalker schon sagte, wirds wohl am Prozessor liegen. Du darst nicht vergessen das die Multicoreunterstützung damals noch kein Thema war. Damals zählten bei den Central Processing Units halt nur wahnwitzig hohe Taktraten.
Außerdem hast du im Vergleich zu deinem Prozessor und deiner Grafikkarte relativ wenig Arbeitsspeicher ? Warum nur drei Gigabyte ? Hast du nur ein 32bit Betriebssystem ?
Ansonsten hab ich Homeworld 2 vor nem halben Jahr auch mal probiert. Ruckelte ebenfalls, aber nach der Installation vom 1.1 Patch liefs flüssig.