Si sabes cuál es la dirección de la cuenta Google a la que se vinculó tu canal de YouTube, entonces intenta restablecer su contraseña desde
https://www.google.com/accounts/recovery ...si al intentar acceder con tu nombre de usuario y vieja contraseña aparece una dirección de correo en su lugar, significa que esa es la cuenta Google con la que debes acceder a ese canal. Si aparece una dirección Gmail, entonces usa su respectiva contraseña.
Recomendaría borrar las cookies del navegador, es probable que alguna vieja cookie cause conflicto al acceder después de la vinculación.
Si quieres desvincular tu canal de YouTube de la cuenta Google y vincularlo a una diferente, entonces sigue las instrucciones que se encuentran en esta página: