Si ocurre un Error al subir el video por estar en un formato no soportado, como pregfuntas, tienes que convertir el Video a un formato estardar (MPEG recomendado). Existen muchos programas gratuitos y de calidad en Internet para convertir videos.
Y NO, con cambiar la extensión a un archivo no es suficiente. Por ejemplo, para archivo .mov el MIME es application/quicktime y por mucho que lo cambies a .mpg seguirá siendo application/quicktime