Программа - VirtualDub-MPEG2.
Выходной формат - по желанию (Ну, один из MPEG4-х).
Лично я предпочитаю XviD.
Как вариант, если нужно сохранить совместимость с MPEG2, можно попробовать TMPGEnc и перекодировать с низким битрейтом. Качество будет похуже, чем в MPEG4, зато будет совместимость с форматом DVD.