Parece que estás escribiendo la dirección de correo en lugar del nombre de usuario... Vuelve a la página de recuperación de contraseña en YouTube y escribe el nombre de usuario en lugar de la dirección de correo, así recibirás las instrucciones de restablecimiento.
Si el canal de YouTube está vinculado a una cuenta Google, entonces quizás quieras ahorrarte un paso e ir directamente a Google para cambiar la contraseña, (probablemente YouTube te remita a ese lugar cuando recibas la respuesta...