Hola, para poder cambiar la calidad de un vídeo, este debe subirse en un formato válido y con una calidad aceptable, eso te permitirá una visualización en 240p, 320p y 480p.
Para lograr una visualización HD, (720p o 1080p) es necesario que subas un vídeo de esas características, el número en 720p se refiere al alto, en concreto técnicamente tendrías que elaborar un vídeo con relación de aspecto panorámica (16:9) cuyo alto sea de 720px y su velocidad ronde los 30fps para que youtube te permitiera elegir la calidad 720p.
En el propio youtube hay tutoriales acerca de la subida de vídeos en alta definición y el mejor formato para subir un vídeo.
Espero haberme explicado, un saludo, suerte