Hola.
.VEP es un archivo de proyecto y no un formato de video, por lo que no vas a poder hacer una conversión directa, sino que tienes que cargar el proyecto (comprobar su integridad) y luego exportarlo a un formato de video compatible
Estos los formatos compatibles con youtube:
https://support.google.com/youtube/troubleshooter/2888402?hl=es-419