So einfach wird das nicht funktionieren, die Grafikkarte im iMac auszutauschen... Zum spielen ist ein Mac auch eindeutig der falsche Computer ;-) Das erste Problem wird sein eine MXM-Karte überhaupt zu bekommen. Wenn Du eine gefunden hast, müssen die Treiber auch in MacOS vorhanden sein... (wie Mick_Foley schon schrieb). Das nächste Problem ist die Kühlung im iMac.
Lass die Grafik so wie sie ist, sonst wird es mehr Probleme als alles andere geben. Wenn Du zocken willst, kauf Dir eine Konsole oder einen PC ;-)