VLC no esta entre los formatos permitidos (de hecho, no es un formato, es el nombre del reproductor) debes usar un editor de vídeos para cambiarlo (por las dudas, no preguntes como ni con que editor, busca en Internet,, ya que no damos soporte para eso)
Editado, ya que estaba confundiendo VCL como si fuera un formato-
Nota : Increíblemente YouTube me aceptó el formato MTS que es el que si graba mi filmadora, fue un vídeo muy corto y de prueba, pero me lo aceptó.