视频压缩算法与视频压缩后的画质没有直接关系。
画质是压缩算法、码率、帧率三方面相关。
相对来说，在码率、帧率一样的前提下，h.264算法最先进最好。但h.264本身也分三级（baseline/main/high)，每一级又为51个小级。级越高，图像细节保留越多，因而画质就越好。
一般网上电影的压缩采用h.264,high/4.1的居多，更高的级别对画质提升不明显，但可能会显著延长压缩处理时间。
另外，你提到的压缩算法都是有损压缩。
我本人不记得有无损视频压缩算法存在。原因可能是人眼对颜色的分辨能力是有限的，无损压缩可能实际意义不大吧。