Si tienes una librería de referencias en EndNote y la quieres exportar a formato BibTEX, es muy sencillo, solo tienes que usar un formato de salida de EndNote y el resultado sera legible para BibTEX.

Hay una sección en la página de EndNote que se llama Support and Services en la parte de downloading style files
y puedes encontrar el archivo del estilo para BibTEX llamado bibtex_export.ens. Solo descargalo y ponlo en tu carpeta de estilos (ej. C:Program FilesEndNote 8Styles) y ya esta listo para usarse.