Revisa en la sección de Ayuda, que formatos son los aceptados en YouTube.
Es muy probable que el archivo este roto o fallando y por tanto no pueda ser procesado.
Usa algún editor de vídeos, y renderiza el vídeo en un formato mas tradicional como MP4 o AVI (aunque tarde un poco mas)