Para acceder a YouTube o cualquier otro producto de Google hay que usar las credenciales de acceso de la cuenta Google a la que están vinculados. No puedes modificar la contraseña de un único producto/servicio, si quieres otra contraseña, debes cambiar la de la cuenta Google.
Creaste una cuenta en Gmail, lo que significa que también creaste otra cuenta Google y como el canal de YouTube seguramente está vinculado a una cuenta diferente, la sesión se cerró para que pudieras acceder a la otra cuenta.