El flash es un formato pequeño, la mala calidad es normal que aparezca en los videos flash. Y aún es más normal que la pierda cuando la subes a youtube (aunque no debe perder mucha). Si quieres que tu video no pierda mucha calidad subelo en MPEG o MPEG2, ocupa un poco más pero bueno...
YouTube admite este tipo de formato (flash, mpeg, mpeg2) y muchos mas. Podrás saber más en el link adjunto.
Saludos :)