Es la primera vez que veo una publicación así.
La resolución del tamaño del monitor se puede cambiar (dependiendo si es HD ó FullHD).
1. Entra a Configuración de Pantalla (en Ejecutar escribe "desk.cpl")

2. Cambia de resolución legítima para Youtube (en el caso 1280x720p, 1920x1080p si el monitor y la tarjeta gráfica soporta esta opción)


3. Aplicar cambios y "Conservar la configuración". Si dejas que pase 15 segundos, la resolución a configurar se restablece.
Una vez realizado ya no tendrás problemas para grabar vídeos con resolución permitida.
Si lo que refieres es redimensionar los vídeos grabados, deberás buscar en Google.