Por casualidad, ¿estás intentando subir un archivo con el formato ".camproj"? Este es el formato de los archivos de proyecto que tiene Camtasia Studio. Un archivo de proyecto sólo contiene la información de los vídeos, audio, fotos, etc que usaste en el programa para crear el vídeo resultante, por eso aparece error al subirlo a Youtube, ya que no hay ningún vídeo. Para guardar un archivo de vídeo con ese programa selecciona la opción "Produce and share" (situado en la barra de opciones localizado sobre el reproductor y la biblioteca) y se te abrirá un asistente. En el desplegable selecciona "Custom prodution settings" y el asistente te irá guiando para guardar tu vídeo (seleccionar el formato, las dimensiones, etc).