Problem gelöst, kA was ich umgestellt hab aber jetzt kann ich FSB 500 ohne Probleme booten.
Settings
pll 1,52v
nb 1,28v
vtt 1,36v hatte vorher 1,3v eingestellt kann mir aber nicht vorstellen das es daran lag.
/edit: Prime large fft läuft auch grad ohne probleme...