Si realmente es .camrec, abrelo con Camtasia, y una vez allí, haz clic derecho sobre el archivo y debería aparecer una opción para extraer los contenidos del archivo, entre ellos debería haber uno con formato .avi.

La herramienta de grabación de Camtasia permite (entre sus opciones) seleccionar si quieres grabar en camrec o avi, así que para la próxima quizás quieras ajustar la configuración antes de grabar.