No hay ningún límite en pixeles oficialmente, y un artículo de ayuda sobre personalización de canales de marca menciona que no lo hay, no puedo asegurar que la información sea actualizada, pero oficialmente el límite es de peso y formato no de pixeles.
YouTube no la rechazará si es demasiado grande en pixeles, pero probablemente reajuste la imagen si es demasiado grande. La imagen no necesita ser más grande de lo necesario, con unos 1920 de ancho bastaría para la mayoría de monitores en altas resoluciones, y el largo dependiendo del diseño y los módulos activados.