sábado, 19 de mayo de 2018

¿Más ayuda a la investigación o más ayuda a Elsevier y Clarivate? (y III)



Esta entrada es la tercera y última de una serie de tres, que comenzamos con la primera hablando del coste y la eficiencia del servicio de compra de artículos a los complejos de edición científica como Elsevier y Clarivate, y que continuamos con la segunda hablando de que no basta ya con el open access y sobre qué es y qué repercusiones tiene la article processing charge (APC



4. ¿A qué intereses y criterios obedecen las grandes editoriales de las revistas científicas?


Recientemente se ha firmado, y ahora se ha hecho público, un acuerdo entre Clarivate (antes Thomson-Reuters),de una parte, y REDIB-CSIC, de otra. Hay que recordar que en sus inicios el repositorio REDIB se nutrió de las revistas indexadas en E-REVISTAS,plataforma que fundamos un grupo de editores al amparo de CINDOC-CSIC y de lasredes de discusión científica de Red Iris, también del CSIC. Hay que decir que en esas discusiones y en ese proceso me cupo el privilegio de participar, y de cuyo recuerda aún persiste el foro del proyecto inicial compuesto por medio centenar de editores de revistas de acceso abierto, es el foro E-REVISTAS del servicio de listas de Red Iris, redacadémica española.

Este acuerdo, el firmado y hecho público ahora, supone aceptar por medios públicos españoles y validar, con repercusión en la promoción de personas y de proyectos, la metodología para la evaluación de publicaciones que Clarivate ofrece (el famoso impact factor, IF, con el que se elabora el Journal Citation Report, el JCR) para aplicarlo a las revistas de Iberoamérica incluidas en WoS, es decir mayoritariamente a las revistas del índice donde Clarivate acogió, sin explicar muy bien con qué criterios, como vamos a ver, a prácticamente la todas las revistas que solicitaron ser evaluadas e incluidas en JCR , es decir a las revistas acogidas en el Emerging Sources Citation Index (ESCI).

Resumiendo, Clarivate, con el aval del CSIC y de la administración española, y con el apoyo de su infraestructura y medios, ha creado un ranking en el que se ofrece una valoración y una prelación de las revistas españolas, portuguesas e iberoamericanas que están ya incluidas en en la Core-Collection de la WoS, es decir sólo las que están en Clarivate. Valoración hecha, como después veremos, exclusivamente a partir de las citas que de esas publicaciones se hacen en la misma WoS. Y con una metodología opaca, cuyos criterios apenas podemos entrever a través de los casos que conocemos y de las escasas justificaciones que ofrecen para sus decisiones.

Dentro de esos casos, en lo que sigue, vamos a relatar algo del procedimiento seguido con RED. Y después analizaremos el procedimiento y los resultados a partir de los datos hechos públicos y de otras valoraciones que se han públicas en medios especializados.



Con fecha 1 de octubre de 2015 recibimos este mensaje de Nancy Thornton, Editor - Editorial Development de Thomson Reuters. En él, como se puede leer, se nos comunicaba la inclusión de RED en el  Emerging Sources Citation Index (ESCI). En dicho mensaje se dice:
While RED-Revista de Educacion a Distancia continues to be evaluated for WoS Core products, Thomson Reuters has accepted it for a new edition of Web of Science launching this November.

The new edition, called the Emerging Sources Citation Index, will make your content discoverable and citable on Web of Science while the journal undergoes its more rigorous evaluation for the WoS core.



El día 25 de Enero recibimos este mensaje de Thomas A. CiavarellaManager, Publisher Relations de Thomson Reuters, con copia a Nancy Thornton, Editor at Thomson Reuters Corporation, en el que se nos comunicaba el comienzo de la indexación de artículos de RED (We will proceed with indexing) con esa fecha

Después, WoS empezó a incluir nombres de revistas en la lista MASTER JOURNAL LIST, en el apartado correspondiente a ESCI, incluso creó un acceso a la lista completa. En esa lista, como resultado de la búsqueda no apareció RED. Pedimos aclaraciones, y éste es el mensaje recibido de Thomas A. CiavarellaManager, Publisher Relations de Thomson Reuters, con copia a Nancy Thornton:

Dear Miguel,

We have accepted the journal for our new Emerging Sources Citation Index. The 2015 content of the journal is being processed by our Web of Science indexing team. Processing takes a few weeks to complete.

Our Master Journal List is updated with the names of newly processed journals. Your journal will appear on the Master Journal List when we have processed its content.

Separately, you will receive a formal notification of coverage from the Publisher Relations team via email. If you have questions in the meantime, please be in touch.

Thank you for joining us in this new venture.

Best,
- Tom


· · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · · ·

Thomas A. Ciavarella

Manager, Publisher RelationsThomson Reuters



En estos mensajes podemos seguir más o menos las incidencias de cómo se inició el proceso y de las conceptualizaciones y datos que se nos ofrecieron y se nos prometieron.


Hay que decir que RED, según las métricas de Google Scholar (GSM), que son absolutamente transparentes porque permiten ver una por una todas las citas de todos los artículos, con el rigor que Harzing explica, está clasificada, con un índice H5= 19 y una Mediana H5=34, en la posición 17 de las revistas científicas que se publican en español (total o parcialmente) y en la posición 26 de las revistas científicas internacionales de su especialidad.

Como final, por ahora, del proceso, en fecha reciente, se nos comunica las exclusión de RED del JCR
Este es el mensaje de Clarivate/ Thonsom – Reuters:
________________________________________________________________
Dear Miguel,

Thank you for following up. I hope you're well.

Our editors evaluated your journal for the Social Science Citation Index a few months ago. Unfortunately, the citation record for RED does not compare favorably to that of our existing education coverage in Web of Science; this is a well-covered category.

Furthermore, the citation activity is lower than that of similar journals from Spain and journals focusing on distance education.

As such, we have decided not to add RED to SSCI at this time. Coverage will continue in the Emerging Sources Citation Index, and the journal will be scheduled for re-evaluation.

Please be in touch if you have questions. And please note our new email addresses; they end in @clarivate.com.

Best,
Manager, Publisher Relations  |  Clarivate Analytics

-----------------------------------------------------------------------------------------

Que traducido es más o menos así:

Querido Miguel,

Gracias por el seguimiento. Espero que estés bien.

Nuestros editores evaluaron su revista para el Social Science Citation Index hace unos meses. Desafortunadamente, el registro de citaciones para RED no se compara favorablemente con el de nuestra cobertura educativa existente en Web of Science; esta es una categoría bien cubierta.

Además, la actividad de citas es más baja que la de revistas similares de España y las revistas que se centran en la educación a distancia.

Como tal, hemos decidido no agregar RED a SSCI en este momento. La cobertura continuará en el Índice de citas de fuentes emergentes, y la revista se programará para una nueva evaluación.

Por favor, póngase en contacto si tiene preguntas. Y tenga en cuenta nuestras nuevas direcciones de correo electrónico; terminan en @clarivate.com.

Saludos,


----------------------------------------



Llaman la atención dos expresiones:

the citation record for RED does not compare favorably to that of our existing education coverage in Web of Science; this is a well-covered category.

(el registro de citaciones de RED no sale favorecido si se compara con el de nuestra cobertura educativa existente en Web of Science; ésta es una categoría bien cubierta.)

Es decir, esa franja la tienen bien cubierta, y la revista carece de interés para ellos. Sin precisar si se refieren a España, el mundo hispano o el ámbito global. Sobre esto haremos las precisiones después y en el apartado siguiente.
Ése es su dictamen sin entrar en más discernimiento ni en otras consideraciones sobre el interés específico, el enfoque, la orientación, las tendencias, la calidad en función de la eficiencia (en este caso los resultados de las investigaciones ni su proyección), el carácter social,…

El otro párrafo que merece la pena tener en cuenta es

Furthermore, the citation activity is lower than that of similar journals from Spain and journals focusing on distance education.

(Además, la actividad de citas es más baja que la de revistas similares de España y las revistas que se centran en la educación a distancia.)

Pero ese va a ser la base del apartado siguiente.




5. ¿Qué ciencia, qué artículos y qué revistas están y de cuales se computan las citas en Wos y Elsevier?


5.1

Como hemos visto, RED fue incluida en ESCI, y así nos lo comunicaron, el 1 de Octubre de 2015. Mucho después, a principios de 2017 indexan algunos artículos, después incluso de indexar las últimas revistas admitidas en ESCI, algunas casi sin citación en GSM. La indexación de RED en Core Collection, la hicieron, tras mucho pedirlo, a principios de 2017, un año y cuatro meses después de comunicar la inclusión en el índice. Pero sólo indexan los artículos de 2015.

Tras un prolijo intercambio de mensajes acceden a indexar en diciembre de 2017 el número 54, publicado en junio de 2017, pero no lo hacen así con números anteriores: el 52 y el 53. Con lo cual:

  1. El 54 no da tiempo a ser computado como artículo de ESCI-WoS en 2017.
  2. El 52 y el 53, que son los otros dos de 2017, no los indexan tampoco en 2017
  3. El año 2017 está en blanco en citas, y ahora estamos en 2018: en él no hay nada.
  4. El número 46, especial sobre pensamiento computacional y que es el que más citas recibe, no se computa hasta 2017 por tanto el grueso de citas de artículos señeros como el de Walter Bender, que se producen en 2015 y 2016 tampoco se computan

Desconozco al detalle los caso de revistas tan prestigiosas como Revista de Investigación Educativa, Education in the Knowledge Society o RIFOP, pero el resultado visible es similar al de RED.

5.2

En toda esta peripecia hemos podido constatar además que WoS no tiene en cuenta las citas que vienen de fuera de su base de datos.

Tampoco las que provienen de preprints, TFM, tesis doctorales (aunque tenga un repositorio específico para algunas de esas modalidades y temas, pero la mayor parte está fuera, está en los repositorios institucionales, como Dialnet o Teseo, y en los repositorios de las universidades y centros de investigación. Y tampoco para los resultados de proyectos.

Éste hecho supone un desconocimiento deliberado, cuando no un desprecio, del carácter validador y evaluador hecho directores y tutores de tesis, de TFC, TFG y TFM, y de otros agentes como son los que revisan y validan los preprints, los advisors de las redes científicas como Research Gate, Mendeley, etc. y de los propios editores de las revistas fuera del circuito de Clarivate.

Queda constancia pues, a partir de este caso y de otros puestos de manifiesto en las métricas publicadas por Comunicar como después veremos, que en el caso de ESCI, WoS ha estado incluyendo y dejando de incluir ¿arbitrariamente? artículos y números completos de revistas. Eso ha sucedido, como hemos visto con la nuestra y otras revistas de Educación Aprendizaje, Investigación Educativa,… En el caso nuestro tenemos toda la comunicación intercambiada entre el gestor de relación con los editores y un miembro del consejo técnico, el que ha tenido que estar tras ellos reclamando y negociando la inclusión de números, tras comprobar que a nuestra revista de forma reiterada dejaban de incluirla.

6. ¿Reflejan la realidad los índices de impacto de WoS y de Scopus?


A partir de los datos recopilados[1] por el grupo Comunicar[2] (a los cuales agradecemos su trabajo, aunque venga sin firmar de forma académica y sin constatar metodología y fuente ni referencia alguna) hemos confeccionado de forma urgente esta hoja de cálculo. Obviamente es incompleta y susceptible de ser completada, pero sirve para evidenciar un hecho: y es que la correlación ni tan siquiera es nula, lo cual señalaría que no existe ninguna dependencia ni relación entre ambos índices, el IF de WoS y el H5 de GMS, sino que, más allá, es SIGNIFICATIVAMENTE NEGATIVA.

Hace pues sospechar fundadamente que existe una RELACIÓN NEGATIVA entre ambos índices, particularmente con la Mediana H5, bajo nuestro punto de vista el índice más significativo, pero también clara y notable con el índice h5. Es decir al aumentar el FACTOR DE IMPACTO disminuye el INDICE H5:

Hoja de cálculo con coeficientes de correlación de Pearson.
REVISTA
Cuartil
Impact factor
Percentil
H5
Med H5
REDU-REVISTA DE DOCENCIA UNIVERSITARIA
Q3
0,248
46
21
30
PIXEL-BIT- REVISTA DE MEDIOS Y EDUCACION
Q3
0,157
37
20
30
RED-REVISTA DE EDUCACION A DISTANCIA
Q4
0,04
18
19
34
REVISTA DE INVESTIGACION EN EDUCACION
Q4
0,075
24
15
20
RIED-REVISTA IBEROAMERICANA DE EDUCACION A DISTANCIA
Q1
1,069
94
13
19

REVISTA EUREKA SOBRE ENSENANZA Y DIVULGACION DE LAS CIENCIAS
Q2
0,553
73
12
17
Corr IF/H5 =
-0,282666

OPEN PRAXIS
Q1
0,733
84
12
19

REVISTA INTERUNIVERSITARIA DE FORMACION DEL PROFESORADO-RIFOP
0
12
18

RELIEVE-REVISTA ELECTRONICA DE INVESTIGACION Y EVALUACION EDUCATIVA
Q2
0,563
74
11
15
Corr IF/Med H5=
-0,3081524

RIE-REVISTA DE INVESTIGACION EDUCATIVA
Q1
0,862
89
11
16

BORDON-REVISTA DE PEDAGOGIA
Q3
0,267
49
10
20

JOURNAL OF NEW APPROACHES IN EDUCATIONAL RESEARCH
Q1
1,541
98
9
14

FORO DE EDUCACION
Q2
0,559
73
7
9


En esta misma línea se manifiestan, con reservas en este caso, y con estudios que siguen evidenciando la falta de correlación entre WoS, Elsevier-Scopus y GSM, del grupo EC3 en el blog Google Scholar Digest http://googlescholardigest.blogspot.com.es/ y en Twitter https://twitter.com/GScholarDigest

Así por ejemplo los titulares de que son los miembros del equipo EC3 de la Universidad de Granada se plantean cosas como las que siguen:

Sobre el Ranking REDIB dicen que, si su objetivo es cubrir el ámbito iberoamericano de revistas científicas, ¿cuál es la representación de 947, las de Clarivate-REDIB, sobre las 19.789 inventariadas en el Directorio Latindex o las 7.761 del Catálogo Latindex?
¿Si REDIB indexa 2.345 revistas ¿por qué calcular solo el impacto de 947? Y sobre todo por qué esa ofensa a las revistas de REDIB que están mal evaluadas por WoS con respecto a GSM, añadiríamos nosotros.

Y sobre todo habría que decir, por qué lo hacen exclusivamente con las citas en WoS?

En otro momento los titulares de Not just Google Scholar's Digest dicen:

La política de Clarivate en ESCI, su SALA DE EMERGENCIAS, está clara. Con 7340 revistas ya indizadas el lema es ¡cuántas más mejor! Emulando a Scopus, abrió la puerta trasera de Web of Science a cualquier revista que se le puso a tiro. En fin de selecto club a club de campo...



Pero lo que ya es definitivo, y sobre todo coincide en grado extremo, superándolo incluso, con lo que hemos dicho sobre las correlaciones de Pearson NEGATIVAS señaladas anteriormente es lo que dicen en este tuit:


Visible en la tabla:


En épocas pasadas hemos sostenido disensiones y críticas con este grupo, el EC3 Evaluación de la ciencia y de la comunicación científica, pero ahora no podemos por menos que elogiar su trabajo, la seriedad y la independencia de su análisis en este caso y animarles a que sigan en este empeño. Sobre todo a los titulares del blog (Google Scholar digest) Juan Manuel Ayllón MillánEmilio Delgado López-CózarAlberto Martín Martín y Enrique Orduña Malea

Pero no todo está perdido, sobre todo si esta fuerza y estos recursos que pueden detraerse de una buena negociación con las grandes corporaciones editoriales, puede aplicarse sin duplicaciones, a esfuerzos ya iniciados, como pueden ser los que hacen FECYT con su homologación de revistas, que nadie critica, y con la ingente base de datos (con citación y cómputo de índices transparente, sensible a las erratas y modificable) como es la de Google Scholar y sus métricas. Y sobre todo contando con la experiencia y la seriedad en trabajos de investigación como son los de EC3 o los de desarrollo en otro ámbito como es el del grupo de investigación y desarrollo en webmetría, liderado por Isidro Aguillo, Cybermetrics Lab, en el CSIC para elaborar el a partir de los datos de GSM el ranking de universidades en la web (webmetrics).

La propuesta que hacemos es la de confeccionar un ranking en base a las revistas homologadas por FECYT, sobre los datos de GS, revisados por un grupo como EC3 y con un soporte tecnológico y metodológico como el del Cybermetrics Lab, en el CSIC. En esa línea, un paso a la estandarización y a la internacionalización sería aceptar y tomar como referencia las áreas temáticas de GSM, con su organización en categorías y subcategorias, evitando duplicidades e imputación de citas de un área en otra, tal como se verifica en el ranking de REDIB.

Tenemos recursos y materia gris ¿por qué no hacerlo?



[1] https://www.revistacomunicar.com/index.php?ranking-revistas-esci-country-view=none

[2] Los mismos autores reconocen las limitaciones de la lista ordenada y de la validez de los índices obtenidos que atribuyen a WoS (estos siempre indican que son provisionales, aunque los publican en su base de datos Core Collection) en los comentarios que incluyen al pie de la lista:

“El presente documento es una simulación que pretende visualizar cómo se posicionarían las revistas de las categorías de Educación y Comunicación de Emerging Source Citation Index (ESCI) de acuerdo a su Factor de Impacto para el año 2017.

(…) Los datos han sido calculados según las citas que reciben los artículos en Web of Science Core Collection. La carga y cálculo de datos se ha llevado a cabo en abril de 2018, por lo que, aunque los datos para obtener los indicadores ya están publicados siguen estando sujetos a correcciones y modificaciones por parte de Web of Science. Hay que aclarar que "Comunicar" no tiene ninguna relación con Clarivate Analytics y que por tanto este documento carece de valor oficial.”