Probablemente puedas añadir una URL de un sitio externo en una anotación, pero no se convertirá en un enlace, los enlaces solo funcionan para algunas secciones dentro de YouTube. Así que probablemente eso haga que el enlace sea más difícil de copiar y quizás sea mejor añadirlo en la descripción.
En cuanto a si se consideraría spam, creo que viendo el contenido del video y los enlaces podría dar una mejor opinión. Si el enlace está relacionado al contenido del video, no estás publicando el enlace y el contenido de forma repetitiva, no se trata de contenido fraudulento, engañoso o ilegal, no creo que haya problemas en general.