YouTube acepta y muestra resoluciones de hasta 4096x2304, pero en los últimos días la página de subidas ha estado mostrando advertencias erróneas sobre ciertos formatos de video. En la mayoría de casos, el video se procesa normalmente pese a que la página de subidas diga que no reconoce el formato.
Recomiendo que simplemente dejes que se suba el video, con suerte se procesará normalmente.