Lo primero es la fuente. Si son grabaciones tuyas, mira cual es la resolución de tu cámara. Si haces edición, mira que el archivo fuente tenga buena calidad lo primero, osea, resolución, frames por segundo, bitrate y en qué codec está. Yo para edición uso el AVS video editor (crakeado). Una vez en el editor, con el botón derecho miro las propiedades del video que estoy trabajando, y después consiste en cambiarle lo mínimo los frames y la resolución, etc. El codec, youtube recomienda el h.264.
Y muy importante el bitrate, 1200 es lo recomendable, siempre y cuando el archivo fuente tenga estos o más (en caso contrario es tontería). La resolución mínima aconsejable es 640 x 480 (Quizá esto sea lo principal para que youtube lo ponga como HQ). Todo esto también lo puedes hacer con windows movie maker (el que viene con windows), donde poniendo más bitrate, te salen mejor calidad, pero no controlas la resolución ni los frames. Resumen: averigua propiedades del archivo origen y cambiale lo menos posible.
Este es el último video que he subido. Es de un documental, y está en h.264, 1200 kbps, 640 x 480 y 30 f/s. Si lo hubiera extraído de calidad dvd se vería mejor. pero el HQ no me lo quita nadie, por la resolución de pantalla.
http://www.youtube.com/watch?v=0HN04NRVLVA