В VirtualDub например есть небольшой набор фильтров... Правда улучшить до DVD качества вряд ли удастся. Я как то раз попробовал перекодировать "Мэверик", уж слишком много кубиков было. Использовал один из фильтров (для изменения четкости\контрастности и чего то ещё), кубиков стало видно меньше, но засчёт уменьшения четкости...Вот.
При кодировании каждый кадр делится на блоки, высокие частоты (отвечающие за четкость) давятся в каждом блоке, при маленьком битрейте возникает еще и "блочность", таким фильтром просто давятся высокие частоты по всему кадру, блочность заметна меньше, но четкость пропала еще при кодировании, ее все равно не вернуть.