Verlustfei ist nicht ohne das es dabei kleiner wird, denn h.264 ist schon sehr effizient kodiert.
Am besten transcodierst du es wieder in h.264 - mit weniger Datenrate und nur einer Tonspur. Das ganze dann in eine .mkv-Datei.
Wenn du 5 Folgen in ein einer DVD9 haben willst, dann bleiben dir ja...