Professional Documents
Culture Documents
WP
POM
M Vol. 9, Nº1 (53-80)
ISSN: 19899-9068
http://dx.doi.org/10.49995/wpom.v9i1.8989
Prottocol: Is there
t agreeement orr disagreeement bettween thee absolutee and
rellative imp
pact indices obtaineed from the
t Web of o Sciencee and Scop pus
data?
Prottocolo: ¿exxiste acuerrdo o desaccuerdo enttre los índiices de imppacto absollutos
y relativoss obtenidoss a partir dde los datos de Web of
o Science y Scopus? ?
Juan A. Marin-Gaarciaa y Rafa
aela Alfalla-Luqueb
a b
ROGLLE Research Group (DOE Un niversitat Politèècnica de Valè ència, jamarin@@omp.upv.es y Dpto. Economía
Financciera y Direccióón de Operacion
nes. Universidaad de Sevilla. allfalla@us.es .
Abstract
This protocool justifies thee relevance off the research h questions th
hat will be pos osed in future
research thaat will addreess whether th there are diffferences betw ween the classsifications off
scientific journals depend ding on the im mpact factor indicators that are used: WoS (JCR ),
and Scopus (CiteScore and a SJR) and,, if any, to what may be due. d At the saame time, the
process to beb followed to capture and analyze the data d that will allow
a us to reespond to the
stated objecctives is descriibed in detail. Finally, the results
r of a pillot analysis foocused on the
21 top jourrnals of Intern national Hum man Resourcees Management according to Caligiuri
(1999) are presented.
p In it,
i we can verif ify that the correlation betw
ween JCR andd CiteScore is
practically perfect
p hat the quartilles of Scopus represent in a much moree appropriate
and th
way than thhose of JCR th he classificatiion of these 21
2 as top jourrnals of the caategory. It is
still pendinng to carry out the comp mplete investig gation to verify if these results are
generalizablle to the field of economic aand business sciences
s in global or to othher sub-areas
of this field.
Keywords: Protocol;
P jourrnal; ranking;; citation anallysis.
Resumen
En este prottocolo se justif
ifica la pertinnencia y releva
ancia de las preguntas
p de iinvestigación
que se van a plantear en n una investiggación futura que tratará si existen diferrencias entre
las clasificaaciones de lass revistas cienntíficas dependiendo de loss indicadores de factor de
impacto quee se manejen: WoS (JCR) y Scopus (CiteeScore y SJR) y, en caso dee haberlas, a
qué puede sers debido. Al A mismo tiem mpo, se descrribe de manerra detallada el proceso a
seguir paraa capturar y analizar
a los ddatos que noss permitirán responder a llos objetivos
planteados. Finalmente, se s presentan los resultado os de un análiisis piloto cenntrado en las
21 revistas principales ded Gestión dee Recursos Hu umanos según n Caligiuri (11999). En él,
podemos comprobar que la correlacióón entre JCR y CiteScore ess prácticamennte perfecta y
que los cuarrtiles de Scopuus representann de manera mucho
m más addecuada que llos de JCR la
53
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Introducción
Este pprotocolo se centra
c en la ev
valuación del nivel de relev vancia de las revistas cienttíficas, realizaada por
comittés de acreditaación nacionaal, con la finaalidad de contratación o prromoción del personal doccente e
investtigador de ceentros universitarios en E España. Por supuesto,
s la evaluación dde la calidad de la
produucción científica es un temaa mucho más aamplio del qu ue se va a trataar en esta inveestigación, en la que
se ha acotado el coontexto nacion nal español, puues las leyes que regulan (o no) la evaluuación de releevancia
de lass revistas son sensiblementee diferentes enn cada país (BBarker, 2007; Basu et al., 20016; Galán & Zych,
2011; Hole, 2017; Kastrinos & Katsoulacoos, 1995; Ru a 2010). Peero, además, puede
uiz-Pérez et al.,
evaluaarse el nivel de
d relevancia con
c otros finees distintos a lal contrataciónn o promociónn. Por ejemplo o, para
conceeder financiación de proyecctos competitiivos o para esstablecer retrib buciones adiccionales/incenttivos a
los innvestigadores (Carreras, 2011). Además,, el actor de la l evaluación pueden ser aagencias nacio onales,
territooriales o una universidad/ce
u entro de trabaajo concreto (M Medina-López et al., 2012)). Cada uno de d esos
actorees suele tener normativas, regulaciones
r o criterios difeerentes para ab
bordar la evalluación. Adem más, en
el casso de España,, las agencias suelen tener funciones esp pecializadas. La ANEP (A Agencia Nacio onal de
Evaluuación y Prosppectiva) se cen ntra propuestaas de proyecto os, la CNEAII (Comisión N Nacional Evalu uadora
de la Actividad Invvestigadora) en retribucionees adicionaless por méritos de d investigaciión y la ANEC CA (la
Agenccia Nacional de Evaluació ón de la Caliidad y Acred ditación) en acreditaciones
a s para acceso o a los
cuerpos docentes de universidaades (Carreraas, 2011; Jim ménez-Contreraas et al., 20111; Quintas-F Froufe,
2016)).
Concrretamente, en España, la AN
NECA considdera tres nivelees de revistas académicas:
“D15. Cieencias Económ micas y Empreesariales. Se considerarán
c para
p su valoraación tres niveeles de
revistas: nivel
n 1 (indexaadas en los Q11 y Q2 del Journal Citationn Reports, JCRR, y Q1 de Sccimago
Journal Raank, SJR), niv vel 2 (incluidaas en el Q3 del JCR y Q2 del SJR), niveel 3 (incluidas en el
Q4 del JC CR y Q3 del SJR).
S La Com misión podrá modular
m ese mínimo
m en caaso de artículos con
indicios dee calidad (elevvado índice dee impacto, númmero y calidad de las citas,, etc.) especiallmente
sobresalienntes u otras publicaciones
p s de igual carrácter. Se ten
ndrá en cuentta la posición n de la
revista en los rankings, así como su ssituación en ele correspondiente cuartil o decil, el núm mero de
citas recibbido, el índice de impacto ddel año de pubblicación y el más alto en un
una ventana dee cinco
años. Se considerará cualquier categooría de JCR, bien
b sea en Scciences Citatioon Index o en Social
Sciences Citation
C Index
x.”(ANECA, N Noviembre 2017)
En esste planteamieento se puede apreciar una clara “JCR-d
dependencia”, que ha sido comentada en n otros
trabajos (Jiménez-Contreras et al., 2011; Quuintas-Froufe,, 2016). Bajo
o este enfoquue se considera que
WPOM
M, Vol 9 Nº1 (53-80)
( 54
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Clarivvate-Web Of Science (WoS S) es el Gold Standard para la calidad de d las publicacciones científiicas de
cualquuier área cienntífica. Sin du
uda, WoS fuee la primera en e sacar al mercado
m un ínndice de impaacto de
revistas y, ademáss, tiene una especial relevvancia en ciertas áreas científicas quee cubre de manera m
exhauustiva, como ese el caso de medicina
m que cuenta con 38 categorías (en ( contraste ccon las 7 cateegorías
que cubren toda ell área de las ciencias
c econóómicas y emp presariales). Sin
S embargo, eso no lo con nvierte
autommáticamente enn el mejor ind dicador de callidad científicca (Bar-Ilan, 2008;
2 Bar-Ilann et al., 2007; Bartol
et al., 2014). Simpllemente es el primero
p que sse creó y, com
mo mucho, con n una base de datos que, sinn duda,
cubre muy bien las revistas de medicina.
m
Adem más, a pesar ded cierto esfueerzo reciente por incorporaar otras basess de datos a lla evaluación de las
revistas (Ruiz-Péreez et al., 2010)), parece que Scimago Jourrnal Rank (SJJR), proporcioonado por SCO OPUS,
el otroo gigante de la indexación científica, no ha ganado peeso frente al JC
CR en las ageencias de evaluación
españñolas (Delgaddo & Fernánd dez-Llera, 20 12; Quintas-F Froufe, 2016)). Al contrariio, parece qu ue está
lastranndo que se usse Cite Score (CS), otro prroducto también de SCOPU US, en igualdaad de condiciiones a
JCR.
Otro aaspecto que coonviene destaacar es que, haabitualmente, se suele usar el factor de im mpacto (una medida
m
de poppularidad basada en citas) como
c si fuesee un índice de calidad cientíífica de las revvistas. Sin em
mbargo,
a lo laargo de este protocolo,
p vam
mos a considerrar que la caliidad es diferennte de la popuularidad (Akb bulut &
Akca,, 2017; Balatssky & Ekimov va, 2017; Dingg & Cronin, 2011;
2 Fu & Ch han, 2014; Law w & Van Derr Veen,
2008; Zhou et al., 2012),
2 aunquee en algunos caasos pueda coonverger (Balaatsky & Ekimoova, 2017).
En este contexto, se presenta un protocolo parra realizar una investigació ón que nos perrmita respond
der a la
siguieente pregunta genérica: ¿existe alguna raazón que justiffique que se contemple
c soloo el JCR y no
o el CS
de SCCOPUS para la l evaluación de méritos dee personal doccente de universidades espaañolas -o quee a este
segunndo se le pueda poner una penalización coomo se aplicaa a SJR-?
Desccripción de
d las basess de datoss empleada
as para el cálculo dee los índices de
impaacto conteemplados por
p ANEC CA
Tal coomo se ha cittado anteriorm mente, la ANE ECA sólo reconoce, a fech ha de hoy, loss índices de immpacto
JCR y SJR. Aplicaando al segun ndo una penallización (dism
minución de un
u cuartil a laa hora de valorar la
“caliddad” de las revvistas). No see reconoce en 2017 (al mennos explícitam
mente) el CS, eel factor de im
mpacto
oficiaal que ofrece SCOPUS
S (AN
NECA, Noviem mbre 2017).
Los inndicadores (JJCR, SJR y CS)
C se calculaan en función n de las revisttas contenidass en las respeectivas
bases de datos, WooS para JCR y SCOPUS paara SJR y CS.. De modo qu ue la similitudd, o diferenciaa, entre
las puuntuaciones quue se obtengan en los diferrentes indicadoores, puede deeberse no soloo al modo en que se
calcullan (muy simiilar entre JCR y CS, pero mmuy diferente para
p SJR), sin no también al cconjunto de revistas
indexadas (que sonn las que propoorcionan las ciitas que alimeentan los cálcu
ulos).
Vamoos a empezar describiendo
d las
l similitudess y diferencias en el modo de incorporacción de las rev
vistas a
las baases de datos. Es decir, cuán
ntas revistas hhay en WoS o SCOPUS y cómo
c eligen W
WoS y SCOPU US sus
WPOM
M, Vol 9 Nº1 (53-80)
( 55
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
WPOM
M, Vol 9 Nº1 (53-80)
( 56
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Tab
bla 1.- Criterioos de inclusión en WoS (http:://wokinfo.com
m/essays/journa
al-selection-pro
rocess/ , consulttado
junio 2017)
WPOM
M, Vol 9 Nº1 (53-80)
( 57
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Categgory Criteria
Miniimum criteria Consist of peeer-reviewed coontent and have a publicly avaiilable descriptioon of the peer reeview
process
Be publishedd on a regular baasis and have an n International Standard Seriall Number (ISSNN) as
registered with the ISSN Intternational Centre
Have contentt that is relevannt for and readabble by an intern
national audiencce, meaning: haave
references in Roman script aand have Englissh language absstracts and titless
Have a publiccly available puublication ethics and publicatio on malpractice statement
Journnal Policy Convincing editorial
e policy
Type of peer review
Diversity in geographical
g diistribution of ed
ditors
Diversity in geographical
g diistribution of au
uthors
Conttent Academic co ontribution to thhe field
Clarity of absstracts
Quality of an
nd conformity too the stated aim ms and scope of the journal
Readability of
o articles
Journnal Standing Citedness of journal
j articless in Scopus
Editor standinng
Publiishing No delays or interruptions inn the publicatio on schedule
Reguularity
Onlinne Full journal content
c availablle online
Avaiilability English languuage journal hoome page availaable
Quality of joournal home pagge
WPOM
M, Vol 9 Nº1 (53-80)
( 58
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Sin em
mbargo, en SJJR las citas recibidas se ponnderan en función del prestigio (citas) dee la revista en la que
se pubblica el artículo que cita, uttilizando un al
algoritmo pareecido al de Go
oogle PageRannk. Además, ene SJR
no se incluyen las auto-citas
a (Fallagas et al., 20008).
SJR ees un indicadoor accesible libbremente que se calcula a partir
p de la infformación conntenida en la base
b de
datos Scopus. La fóórmula de cálcculo de SJR nno es sencilla pues se realizza en tres etappas y otorga un u peso
determminado a las citas
c de una reevista, en funcción del área científica
c y la relevancia dee las revistas citantes
c
utilizaando un algooritmo pareciido al de Gooogle PageRank (se pued de ver la fórrmula detallaada en
http:///www.scimaggojr.com/SCIm magoJournalR Rank.pdf). Esto o significa qu ue la cita de uuna fuente coon SJR
alto tiiene más valoor que la cita de una fuentte con un SJR R menor. Para el cálculo, usa una ventana de
citacióón de tres añoos y reduce ell peso de las auto-citas mu ultiplicando po or 33% respeecto a citas exxternas
(Falaggas et al., 2008).
A moodo de resumeen, en la Tablaa 3, se presenttan las princip pales variables que pueden originar diferrencias
en el valor absolutto del factor de
d impacto dee las revistas (Falagas et al.,a 2008; Siciilia et al., 201
11). Se
puedee observar quee, dada la evollución de revi stas incluidas en el cálculo de JCR hay uun cambio sustancial
entre 2014 y 20177, que podría dar lugar a ccambios en laa clasificación n de las revisttas por el heccho de
incluiir muchas máss fuentes de citación.
c En e ste sentido, JCCR 2017 se calcula
c a partir
ir de un conjuunto de
revistas que, al mennos en cantidaad, es similar a las que se ussan en SJR o CS.
C
Base de
d datos Nº de Ventana citación Po
ondera citas Penaliza
revistes autocitas
citantes
JCR
R 2011 WoS core
c collection + 11.000 2 años
a NO NO
JCR
R 2014 WoS core
c collection + 13.000 2 años
a NO NO
JCR
R 2017 WoS core
c collection + 20.000 2 años
a NO NO
CS 22011 SCOP
PUS + 20.000 3 años
a NO NO
CS 22014 SCOP
PUS + 20.500 3 años
a NO NO
CS 22017 SCOP
PUS + 22.000 3 años
a NO NO
SJR 2011 SCOP
PUS + 20.000 3 años
a SI SI
SJR 2014 PUS
SCOP + 20.500 3 años
a SI SI
SJR 2017 PUS
SCOP + 22.000 3 años
a SI SI
Por otra parte, JCRR tiene una veentana de citaación de dos años mientrass que SJR y C CS la tienen de
d tres
años. Y, por últimoo, JCR y CS no n ponderan ccitas ni penalizza auto-citas, mientras que SJR sí. Por ello,
e no
parecee fácil predeccir si existirá un acuerdo o convergencia entre las pu untuaciones dde factor de im
mpacto
absoluuto que recibaa una revista en
e cualquiera dde los supuesttos (filas) conttemplados en la Tabla 3.
Pero el problema es e más compllejo. En la evvaluación del impacto paraa promocionees o contratacción de
personnal científico,, lo que se valora no es el faactor de impaccto absoluto, sino
s la posicióón relativa qu
ue tiene
una reevista dentro del
d conjunto de d revistas de un área cientíífica (cuartil o percentil) (G
Galán & Zych,, 2011;
Quinttas-Froufe, 20016; Ruiz-Pérrez et al., 20010). En este sentido, las agrupacioness que se haceen por
categoorías (sub-áreas científicas)) en los dos ggrandes serviciios de indexacción con factoor de impacto (WoS
WPOM
M, Vol 9 Nº1 (53-80)
( 59
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
y SCO OPUS) no soon fácilmente comparables (ver Tabla 4 y Tabla 5). Por un lado, los nombres de las
etiqueetas son sensiiblemente difeerentes. Por ootro lado, el grado
g de abstrracción de lass categorías taambién
varia. Por ejemplo,, el campo D1 15 de ANECA A está represeentado en diversas categoríías de WoS, aunquea
en alggunas de ellaas es tangenciial o solo enccaje en uno o dos de los descriptores dde la categoríía. Sin
embarrgo, en SCOP PUS los códig gos de clasificcación (classiffication codess) en los que ssubdividen lass áreas
científicas parecen más concretos. En algunoss casos, podríaamos asociarlaas a los descriiptores de cateegorías
de WooS y quizás, por
p eso, no ten ngan descriptoores asociadoss. Además, el conjunto de rrevistas que ag grupan
en cadda categoría puede
p llegar a ser bastantee diferentes. Por
P ejemplo, las revisas deel área de Reecursos
Humaanos suelen estar indexad das en la caategoría “Indu ustrial & La abor Relationns” en WoS y en
“Orgaanizational Behavior
B and Human Resouurce Manageement” en SC COPUS. Sin eembargo, podrríamos
decir que, en amboos casos, ni so on todas las qque están, ni están todas laas que son. En Entendemos qu ue esta
situacción puede esstar reproducciéndose en ootras sub-áreaas, de modo que sería neecesario analizar si
realm
mente las posicciones relativaas basadas en las categoríass que ofrecen WoS o SCOP OPUS represen ntan de
verdad el colectivo de revistas dee una sub-áreaa científica.
Nom
mbre de la categooría Descripción de la caategoría
Enginneering, Industtrial includes resources
r that focus
f on enginneering systemms that
Engiineering, Industtrial
integ
grate people, maaterials, capital, and equipmen nt to provide prroducts and serrvices.
Relevvant topics coovered in the category inclu ude operationss research, prrocess
enginneering, prod ductivity eng gineering, man nufacturing, computer-integ grated
manuufacturing (CIMM), industrial economics,
e and design engineeering.
Engin neering, Manuffacturing coverss resources on thet conversion of raw materialls into
Enginneering,
end-uuse products orr processed maaterials. Topics in this categorry include comp puter-
Manuufacturing integ
grated manufactturing (CIM), computer-aided design (CAD),, and computer--aided
manu ufacturing (CA AM); design off products, tools, and machinees; quality con ntrol;
sched duling; producction; and inveentory control.
Operrations Researchh & Operrations Research ch & Managem ment Science includes resourcees on the defin nition,
Manaagement Sciencce analyysis, and solutioon of complex problems.
p Releevant topics in tthis category in
nclude
math hematical mod deling, stochaastic modeling g, decision thheory and sysstems,
optimmization theoryy, logistics, andd control theoryy.
Businness This category coveers resources concerned
c withh all aspects oof business an nd the
businness world. Thhese may incllude marketin ng and adverrtising, foreca asting,
plann ning, adminisstration, orga anizational sttudies, compeensation, stra ategy,
retaiiling, consumeer research, and a managem ment. Also covvered are reso ources
relatiing to business history and bu usiness ethics.
Businness, Finance Busin ness, Finance ccovers resourcess primarily concerned with finnancial and econ nomic
correelations, accou unting, financcial managem ment, investmeent strategies, the
interrnational moneetary system, in nsurance, taxaation, and bankking.
Econnomics Econnomics covers resources on all a aspects, both theoretical and applied, of o the
produuction, distribuution, and conssumption of goods
g and servvices. These in nclude
generralist as well aas specialist ressources, such as
a political ecoonomy, agricu ultural
econo omics, macroecconomics, micrroeconomics, ecconometrics, trrade, and plann ning.
WPOM
M, Vol 9 Nº1 (53-80)
( 60
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Educcation & Educattional Educcation & Educcational Researrch covers ressources on thee full spectru um of
Reseearch education, from theeoretical to applied, from nursery school to PPh.D. Included ini this
categ
gory are resourcrces on pedagog gy and method dology as well as on the histo ory of
educaation, reading, curriculum sttudies, educatio on policy, andd the sociology y and
econoomics of educatation, as well as the use of com
mputers in the cllassroom.
Indusstrial Relations & Indusstrial Relations & Labor coverrs resources on arbitration, bussiness and labo
or law,
Laboor human resources, llabor history, laabor relations, and
a the sociologgy of work relaations.
WPOM
M, Vol 9 Nº1 (53-80)
( 61
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
• Economíaa (Balatsky & Ekimova, 20117; Beed & Beeed, 1996; Di Vaio & Weissdorf, 2010; Harzing
H
& van der Wal, 2009; Hole,
H 2017; M
Merigo et al., 20
016; Pislyakov, 2009)
• Empresa (Chow
( et al., 2008;
2 DuBoiss & Reeb, 2000; Harris, 20008; Harzing, 22008; Harzing & van
der Wal, 2009; Mingeers & Leydessdorff, 2015; Rosenstreich & Wooliscrooft, 2013; Zu upic &
Cater, 20115)
Pero ttambién en áreeas específicaas como, por ej
ejemplo:
WPOM
M, Vol 9 Nº1 (53-80)
( 62
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Objeetivos de la
l investiga
ación a deesarrollar aplicando este protoocolo
La innvestigación que
q desarrollaaremos siguienndo este prottocolo pretend de dar respueesta a las sigu
uientes
preguuntas de investtigación particcularizadas paara las revisas de Ciencias Económicas
E y Empresariales:
1. Dado que el CS y JCR R tienen fórmuulas de cálcullo más similaares entre sí qque con SJR (con( el
comparte la l base de dattos de revistass), ¿su factor de
d impacto (ab
bsoluto o relattivo) concuerdda más
entre elloss que con SJR?
22. ¿Es establle el factor de impacto (JCR R, CS, SJR) y sus indicado ores relativos (percentil, cuartil) a
lo largo dee los años? ¿LLa concordanncia de los vallores de varios años de un mismo indicaador es
mayor quee la concordancia en el miismo año entrre indicadores diferentes? ¿¿Se mantiene tras la
incorporacción de revistaas ESCI a WooS?
3. ¿Hay sub-áreas, del campo de las Ciencias Ecconómicas y Empresariale s, con period dos de
maduracióón o estilos de citación qque afectan sistemáticameente a su poosición en rankings
generalistaas? Es decir, ¿La distribucción de revisttas por cuartiles es homoggénea respecto o a las
WPOM
M, Vol 9 Nº1 (53-80)
( 63
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
sub-áreas cuando comp paramos con todo el conjjunto de reviistas del cam mpo de las Ciiencias
Económiccas y Empresariales? Por ejeemplo, ¿las 52 2 revistas que son Q1 en CSS-2016 en el área
á de
organizatiional behavioour and humaan resources, siguen siend do Q1 cuandoo se comparaan con
todas las revisas
r de Bussiness, Managgement and Acccounting?
44. Teniendo en cuenta el modo
m de agruupar revistas por
p categoríass y la ventanaa de citación para
p el
cálculo dee factor de im
mpacto ¿Se deb eben consideraar el WoS y SCOPUS
S com
mo “Gold Stan ndard”
para evaluuar el impacto
o de las revisaas del Cienciaas Económicass y Empresariiales, o uno ded ellos
solamentee, o ninguno dee ellos puede considerarse claramente
c co
omo tal?
5. Partiendo de los datos de factor de impacto de las l revistas qu ue están preseentes tanto en
n WoS
como en SCOPUS
S ¿Po
odemos interppolar la posiciión de las revistas que sóloo están presen ntes en
una base de
d datos para tener
t un listaddo combinado de ambas?
Con
ntribución de la investigación een la que se
s aplicará
á este prottocolo
Las liistas ordenadaas de revistas académicas ppor factor de impacto
i (cuartiles y percenntiles), es uno de los
criteriios principalees que se ussan para evaaluar la prod ducción cientíífica, no soloo en Españaa, sino
práctiicamente en toodo el mundo (Bonner et all., 2006; Bontiis & Serenko, 2009; Carrerras, 2011; DuB Bois &
Reeb,, 2000; Galán & Zych, 2011; Meho & Y Yang, 2007; Seegalla, 2009; Serenko
S & Boontis, 2009; Sh hugan,
2003; Vokurka, 19996). El valor absoluto del factor de imp pacto dependee de la base dde revistas inccluidas
para ssu cálculo, de los años conttemplados parra las citas en el numeradorr y de los artícculos que se cuentan
para iincluir en el denominador.
d Por otra partee, los valores relativos de factor
f de imppacto (posición n de la
revista en cuartiles o percentiless) dependen, ppor un lado, del
d valor abso oluto del factoor de impacto y, por
otro, de las revistaas que se inccluyan en la categoría don nde se calculla el valor reelativo. Todass estas
variabbles presentann diferencias cuando
c se usaa como referen ncia SCOPUS S frente a WooS. Además, incluso
i
se aprrecian diferenncias entre alg
gunas de ellass en función del
d índice de impacto que se use en SC COPUS
(CS ffrente a SJR) o debido a laa llamativa am mpliación del catálogo de WoSW (comparrando el núm mero de
revistas contempladdas en 2014 co on 2017).
La invvestigación quue se plantea a partir de estte protocolo permitirá
p analiizar, en las revvistas del cam
mpo 15
ANEC CA, el factor de
d impacto ab bsoluto o relattivo de CS frente a los otross índices (JCRR o SJR). Apo ortando
una vvisión particuularizada para las revisass de Cienciaas Económicaas y Empressariales en general,
complletando las laagunas de la investigaciónn previa. Porr ejemplo, acttualizando loos resultados tras la
incorpporación de reevistas ESCI a WoS, ya quue es recomen ndable repetirr el análisis cuuando el núm mero de
revistas de una cattegoría aumen nta (Sicilia ett al., 2011). También
T nos permitirá deccidir si es neccesario
elegirr cuál es el “Gold
“ Standarrd” para evalluar el impaccto de las rev visas del Cienncias Económ micas y
Empresariales (en ele caso de descubrir diferenncias notables entre los tres índices de imp
mpacto analizad dos).
Todo ello nos faccilitará inform
mación relevaante para deccidir si, tal como
c ocurre actualmente en las
evaluaaciones de AN
NECA (y quizzás también enn otras agenciias de otros paaíses), los cuaartiles de las revistas
nalizados o sii no hay evideencia científicca que avale eesa práctica para las
calcullados con CS deben ser pen
revisaas de Cienciaas Económicas y Empressariales. Tam mbién permitirrá por primeera vez analiizar el
comportamiento dee CS (de recien
nte lanzamiennto) respecto a JCR y SJR.
WPOM
M, Vol 9 Nº1 (53-80)
( 64
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Ademmás, aportamos un método de trabajo quue pueda repliicarse en otrass áreas y, sobbre todo, en laas sub-
áreas específicas deel campo de las Ciencias EEconómicas y Empresariales. Por ejemploo, seleccionanndo las
revistas identificaddas en revision
nes previas, ppara analizar las revistas de Gestión de Recursos Hu
umanos
Caligiiuri (1999) o Gestión
G de operaciones Meedina-López ett al. (2011).
Método
Comoo aplicación del
d protocolo que q planteamoos, se analizará el conjunto o de revistas ddel área de Ciiencias
Econóómicas y Em mpresariales (Tabla
T 6). En WoS están distribuidas
d en cuatro “caategories” y ene dos
coleccciones (ESCI,, sin factor dee impacto y S SSCI, donde se computa el JCR), mientrras en que SC COPUS
están en dos “subjeect areas” y see calcula el CS
S de todas suss revistas.
Tablla 6.- Número de revistas de Ciencias Econ nómicas y Emp presariales en JCR
J y en SCOP
OPUS (Fuente: ESCI
(http://mjl.cllarivate.com/cg
gi-bin/jrnlst/jlssubcatg.cgi?PC
C=EX); SSCI http://mjl.clari
h ivate.com/cgi-
b
bin/jrnlst/jlsubcatg.cgi?PC=S SS ; SCOPUS h https://www.sccopus.com/sources consultaddo febrero 20188.)
WPOM
M, Vol 9 Nº1 (53-80)
( 65
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Las fiilas de la tablaa son registros únicos para cada combinación de ISSN N, JorunalTitlle, Source, Caategory
y Yeaar. Los datos se recogerán para el períoddo 2011 a 20 016. En concreeto, para la ddescarga de daatos de
JCR se accedde a http
ps://www.recuursoscientifico
os.fecyt.es/facctor/ y ppara CS/SJJR a
https:///journalmetriics.scopus.com m/.
A parrtir de esos dattos se calcula, para cada unna de las revisstas, las siguieentes variabless adicionales para
p la
ventanna de 5 años (2012-2016)
( y todas las cateegorías para laas que se dispongan datos:
1. MaxIFjcr
22. MeanIFjcrr
3. MinQjcr (el mínimo de los cuartiles ees la mejor po
osición de la reevista)
44. MaxPerceentilejcr
5. MeanPerccentilejcr
66. MeanIFcs
77. MinQcs (eel mínimo de los
l cuartiles ees la mejor possición de la reevista)
88. MaxPerceentilecs
99. MeanPerccentilecs
Para la medida dee la concordaancia entre vaariables contiinuas (factorees de impactoo JCR y CS y sus
percenntiles) se filtrarán las revisttas con datos de ambos índ
dices y se calccularán la corrrelación de Peearson,
la corrrelación de raangos de Spearman y los ccoeficientes de d correlación intra-clase IC CC(3,1) e ICCC (3,k)
(cada revista recibe puntuacionees de JCR, C CS. Two-way, single measu ure, average m measure, agreeement
and coonsistency). Para
P la medidaa de concordanncia de los cu uartiles se usarrán las tablas de acuerdo brruto, el
coeficciente de correelación Tau-b de Kendal y el coeficiente Kappa de Co ohen ponderaddo generalizad do para
múltipples informanntes (SJR, JC CR, CS) (Fleiiss, 1971; Losilla et al., 2005;
2 Marin-GGarcia et al., 2014;
Viladrrich Segués & Doval Diegu uez, 2011)
Experiencia piloto
p
Para probar el prrocedimiento de extraccióón de datos se van a deescribir paso a paso las tareas,
centráándonos sólo en
e el análisis de una de las series de dato os (la del 2016) de una muuestra de revistas. Se
van a analizar las 21 revistas que Caligiuri ((1999) identifficó como loss más relevanntes en el cam mpo de
man resourcee managemennt”. Estas reevistas fueron consideraddas como las más
“interrnational hum
imporrtantes, de essta sub-área de d la gestiónn de recursoss humanos, por una muesstra de 22 ex xpertos
munddiales del camppo. Los experrtos se selecciionaron por seer los autores de los artículoos más citado
os en el
área y provenían de
d Estados Un nidos, Canadaa, Alemania, Australia,
A Reiino Unido, Suud-África, No oruega,
Holannda, Hong Koong y Francia. Además de contar con un n panel de exppertos internaacionales, la lista de
revistas representa a las más im mportantes deel área. De modo
m que pueede servirnos como un refferente
externno para compaarar los resultaados de nuestrro análisis.
No haas sido posiblee disponer de los datos de JJCR del año 1999,
1 la fecha más antigua dde la que se permite
p
descarrgar datos en JCR es 2002, y en ese casoo, solo se dispone del factorr de impacto y no de clasifiicación
por cuuartiles (en Sccopus no hay datos disponiibles hasta 20
006).De las 21 revistas conssideradas commo más
WPOM
M, Vol 9 Nº1 (53-80)
( 66
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Los ddatos de SCOP PUS se obtiennen directameente de la tablla completa de todas las reevistas de la base
b de
datos,, que se puedee descargar acccediendo a hhttps://journallmetrics.scopu
us.com/ (Figurra 1). El docuumento
de descarga presennta cada serie de datos en uuna pestaña diiferente (cuan ndo se desee aanalizar los daatos de
varioss años deberánn fusionarse en una sola tabbla añadiendo el campo Yea ar y completanndo sus valorees para
cada sserie).
WPOM
M, Vol 9 Nº1 (53-80)
( 67
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Figura
a 1.- Ejemplo d
de la tabla descargada de SC
COPUS
Para los datos de WoS (https://www.recurssoscientificos.fecyt.es/facto or/), primero hay que filtrrar las
revistas y años cuuyos datos qu ueremos desccargar. Se pu uede hacer in ndicando una a una su títtulo (o
selecccionando la o las cateegorías a llas que perrtenecen las revistas quue nos inteeresan:
http:///bit.ly/JCRbyC
Category ) y los
l datos a deescargar (Figu ura 2). Los resultados se m
muestran en peestañas
independientes paraa SCI y SSCI,, en una ventaana emergentee. De modo qu ue, hay que vissitar ambas peestañas
para ddescargarse (ccopiando y peegando) la tabbla de datos (F
Figura 3). Hayy posibilidad de exportarlaa como
PDF ((Figura 4) perro el formato es
e muy poco m manejable parra un posteriorr tratamiento aautomatizado de los
datos..
Figu
ura 2.-Filtradoo de la informa
ación en WoS-JCR
Figura 3.-A
Aspecto de la taabla descargad
da (copiar y pegar) de JCR
WPOM
M, Vol 9 Nº1 (53-80)
( 68
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Antess de fusionar las tablas dee datos de Sccopus y WoS hay que dep purar los datoos. Como SC COPUS
descarrga una hoja de cálculo, lo os valores ya eestán ajustado os al formato correspondiennte (salvo ISS SN que
hay qque formatear como texto para p evitar quee se pierdan los
l 0 inicialess, y hay que iinsertar un “-““ en la
cuartaa posición). Pero
P al copiar y pegar valoores de JCR, en e el caso de configuracióón española paara los
númerros, hay que prestar
p atenció
ón a las “,” y ““.” ya que loss decimales see pueden convvertir en millarres. Se
resuellve sustituyenndo, en la tablaa copiada de JJCR, todas lass “,” de la tabla por “.”. Addemás, en el caso
c de
posiciión de la reviista en el totall de la categooría en JCR, los
l “/” se pueden interpretaar como fechaas, por
ejempplo, diciembree de 1973 en n lugar de ““12/73”. Se resuelve orden nando la coluumna ascendente y
ponienndo un espaciio delante del valor (que hay ay que introduccir a mano).
Posterriormente hayy que eliminar las columnaas que no noss interesan, crrear las nuevaas que hagan falta y
reordeenar para que se ajusten a laa tabla de datoos de nuestro protocolo
p (
). Estoo se puede haacer automáticco con funcioones de PowerrQuery (de MsExcel2016)
M o mediante sintaxis
en R o SPSS. Puestto que en JCR R no se ofrecee directamentee el valor del percentil,
p lo ccalcularemos a partir
de laa posición dee la revista dentro del total de revistas de la categoría com mo: percentil=100-
(100**Rank/RankOuutOff). Esta fórmula repproduce exacttamente el valor v de perccentil ofrecid do por
SCOP PUS.
La sinntaxis para usaar en PowerQu
uery con la tab
abla de SCOPU
US es:
Nota: La tabla de RAW data de Scopus debe deffinirse como un raango (formato tabbla) con nombre T TablaSCOPUS
let
Origen = Excel.CurrentWorkb book(){[Name=""TablaSCOPUS"]]}[Content],
#"Tipo cambbiado" = Table.T TransformColum mnTypes(Origen,{{{"Scopus Sourc ceID", Int64.Type pe}, {"Title", typ
pe text},
{"CiteScore", ty ype number}, { "Percentile", Intt64.Type}, {"Citation Count", Innt64.Type}, {"Scholarly
Output", Int64.T Type}, {"Percent
nt Cited", Int64.TType}, {"SNIP", type number}, {"SJR", type number},
n
{"RANK", Int64.Type}, {"Rankk Out Of", Int64.Type}, {"Publisher", type textt}, {"Type", typ pe text},
{"OpenAccess", type text}, {"Sccopus ASJC Codee (Sub-subject Arrea)", Int64.Typee}, {"Scopus Sub-Subject
Area", type textt}, {"Quartile", ttype text}, {"Top
p 10% (CiteScorre Percentile)", tyype text}, {"URLL", type
text}, {"Print-ISSN", type any}, {"E-ISSN", type any}}),
WPOM
M, Vol 9 Nº1 (53-80)
( 69
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
WPOM
M, Vol 9 Nº1 (53-80)
( 70
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
let let
Origen = Excel.CurrentWorkb book(){[Name=""TablaWoS"]}[Co ontent],
#"Tipo cam mbiado" = Tab ble.TransformColu lumnTypes(Origeen,{{"TITULO ABREVIADO",
A type text}, {"AÑO",
{
Int64.Type}, {"P PAIS", type text}}, {"ISSN", type text}, {"CATEG GORIAS", type teext}, {"CODIGO O_PUB",
type text}, {"D DESCRIPCION CATEGORIA",, type text}, {""CODIGO CAT TEGORIA", typee text},
{"TITULO", ty ype text}, {"TO OTAL CITAS", Int64.Type}, {""FACTOR IMPA ACTO", type number},
n
{"TOTAL_REV V_CATEGORIA"", type text}, {""ARTL_INFLUE ENCE", type any ny}, {"CUARTIL L", type
text}, {"INDIICE INMEDIA ATEZ", type number}, {"V VIDA_MEDIA_C CITAS", type any},
{"FACTOR_IM MPACTO_5_AÑO OS", type any}, {"EIIGENFACTOR",, type number},
n
{"POSICION_FACTOR_IMPAC CTO", type text},, {"RANKING CATEGORÍA", tyype text}}),
#"Columnas quitadas" = Table.RemovveColumns(#"Tip po cambiado",{ {"TITULO AB BREVIADO", "PAIS",
"CATEGORIAS S", "CODIGO O_PUB", "C
CODIGO CAATEGORIA", "TOTAL CITAS",
C
"TOTAL_REV_ _CATEGORIA", "ART TL_INFLUENCE E", "VVIDA_MEDIA_C CITAS",
"POSICION_FA ACTOR_IMPACT TO"}),
#"Columnas con nombre cambiado" = Table.Renam meColumns(#"Collumnas quitadaas",{{"AÑO", "Year"}, "
{"DESCRIPCIO ON CATEGORIA A", "Category"},, {"TITULO", "JJournalTitle"}, {{"FACTOR IMPA ACTO",
"ImpactFactor2y y3y"}, {"CUAR RTIL", "Quartile"}, {"INDICE INMEDIATEZ Z", "Inmediacyindex"},
{"FACTOR_IM MPACTO_5_AÑO OS", "ImpactFacto or5y"}}),
#"Personalizzada agregada" = Table.AddColum mn(#"Columnas conc nombre camb biado", "Source", each "JCR"),
#"Dividir coolumna por delimitador" = Tablle.SplitColumn(# #"Personalizada agregada", "RAN NKING CATEG GORÍA",
Splitter.SplitTexxtByDelimiter("/"", QuoteStyle.C Csv), {"RANK KING CATEGO ORÍA.1", "RA ANKING
CATEGORÍA.2"}),
#"Tipo caambiado1" = Table.Transform mColumnTypes(# #"Dividir colum mna por delilimitador",{{"RA ANKING
CATEGORÍA.1", Int64.Type}, {{"RANKING CA ATEGORÍA.2", In nt64.Type}}),
#"Columnas con nombre cam mbiado1" = Tabble.RenameColum mns(#"Tipo camb biado1",{{"RANK KING CATEGO ORÍA.1",
"Rank"}, {"RAN NKING CATEGO ORÍA.2", "RankO OutOff"}}),
#"Personalizzada agregada1" = Table.AddC Column(#"Colum mnas con nombrre cambiado1", "Percentil", eacch 100-
([Rank]/[RankO OutOff]*100)),
#"Columna condicional
c agreggada" = Table.AdddColumn(#"Perssonalizada agrega ada1", "Decile1", each if [Percentiil] >= 90
then 1 else 0),
#"Personalizzada agregada2" = Table.AddColuumn(#"Columna condicional
c agreg
gada", "SNIP", eaach null),
#"Personalizzada agregada3" = Table.AddColuumn(#"Personalizzada agregada2", "SJR", each null)),
#"Columnas reordenadas" = Table.ReorderrColumns(#"Perssonalizada agreg gada3",{"JournalTTitle", "ISSN", "Year",
"Source", "Cateegory", "ImpactF Factor2y3y", "Qu uartile", "Decile1", "Rank", "RaankOutOff", "Peercentil",
"SNIP", "SJR", "Inmediacyindex
" x", "ImpactFactor5y", "EIGENFAC CTOR"}),
#"Valor reemplazado" = Table.ReeplaceValue(#"Columnas
reordenadas","N N/D",null,Replaceer.ReplaceValue,{{"ImpactFactor5y y"}),
#"Valor reemmplazado1" = Tab ble.ReplaceValuee(#"Valor reempllazado","Q1","1",Replacer.ReplacceText,{"Quartilee"}),
#"Valor reemmplazado2" = Tab ble.ReplaceValuee(#"Valor reempllazado1","Q2","2",Replacer.ReplaaceText,{"Quartille"}),
#"Valor reemmplazado3" = Tab ble.ReplaceValuee(#"Valor reempllazado2","Q3","3",Replacer.ReplaaceText,{"Quartille"}),
#"Valor reemmplazado4" = Tab ble.ReplaceValuee(#"Valor reempllazado3","Q4","4",Replacer.ReplaaceText,{"Quartille"}),
#"Columnas quitadas1" = Tab ble.RemoveColum mns(#"Valor reem
mplazado4",{"ED DICION", "IDIOM MA", "1AÑOPU UB"})
in
#"Columnas quitadas1"
WPOM
M, Vol 9 Nº1 (53-80)
( 71
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Figura 6.-P
Parámetros pa
ara ordenar la tabla y retener solo la fila co
on más valor dde percentil.
En este momento se s pueden fusiionar las dos tablas (una dee SCOPUS y otra de JCR).. Y, por últim mo, hay
que pivotar la tablaa por Year&S Source, para qque las filas dee la misma revista y mismoo año, se conv viertan
en coolumnas con el e valor de caada variables para ese año y cada una de d las fuentess (JCR o SCO OPUS)
(Figurra 7). Esta tabbla nos serviráá para modifiicarlas en postteriores análissis, si quisiéraamos retener sólo la
fila coorrespondientee al año con más
m percentil ppara la revistaa en una ventan na de 5 años.
WPOM
M, Vol 9 Nº1 (53-80)
( 72
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Dado que en el ejem mplo actual sóólo hemos rec ogido datos deld año 2016, podemos
p haceer el análisis de
d este
año. DDesde SPSS podemos
p analizzar la correlacción de rangoss de Spearmann:
N
NONPAR CORRR
/
/VARIABLES S=jcr16ImpacctFActor2y3y jcr16Perrcentile jccr16ImpactFaactor5y
sccp16ImpactFA Actor2y3y
scp16Percenntile scp16SNIIP scp16SJR
/
/PRINT=SPE EARMAN TW WOTAIL NOS SIG
/
/MISSING=P PAIRWISE.
En laa Tabla 8 se puede obserrvar que la ccorrelación en ntre el factorr de impacto a 2 años de JCR
(jcr166ImpactFActoor2y3y) y el faactor de impaccto a 3 años dee CS (scp16Im mpactFActor22y3y) es elevadísima
(0.9599), mientras que
q las correllaciones con el SJR (scp16SJR) son alg go menores ((0.858 y 0.92 26). En
cualquuier caso el faactor de impaccto CS correlaaciona más con n JCR que con n SJR.
T
Tabla 8.- Correelaciones de ra
angos de Spearrman. **. Corrrelación significcativa (2-tailedd) al 0.01. *. 0.05
CS2016Quarrtile
JCR2016Quaartile Q1 Q2 Q3 Q4
Q1 7 - - -
Q2 6 - - -
Q3 2 2 - -
Q4 1 - - -
Tabla
T 9.- Numeero de revistass en cada cuarttil
WPOM
M, Vol 9 Nº1 (53-80)
( 73
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Al miismo tiempo, aunque JCR R y CS proporrcionen difereencias en sus clasificacionnes, eso no im mplica,
directtamente, que una
u de ellas pu ueda considerrarse el “gold standard” y laa otra deba peenalizarse resp
pecto a
ella. E
Es probable que
q no se pu ueda consideraar JCR ni CS S como la mejor clasificacción para tod dos los
campoos científicoss, ni todas sus sub-áreaas. Quizás, una u opción, hasta que see pueda dem mostrar
fehaciientemente loo contrario, es
e que ambass sean consid deradas como o indicadores equivalentess (bien
porquue ambas sonn igual de “b buenas” o poorque ambas son igual dee “malas” com mo herramien nta de
clasifi
ficación).
Speciific contribu
utions of eacch author
The fi
first and seconnd authors con
ntributed equallly to this reseearch.
Declaaration of coonflicting in
nterests
The aauthor(s) declaared no poten
ntial conflicts of interest with o the researchh, authorship, and/or
w respect to
publiccation of this article.
a
Fund
ding
The aauthor(s) received no financcial support foor the research
h, authorship, and/or
a publicaation of this arrticle.
Refeerences
Aghaeei Chadegani,, A., Salehi, H.,
H Md Yunus,, M., Farhadi, H., Fooladi, M., Farhadi, M M., & Ale Eb brahim,
N. (2013).. A comparisoon between tw wo main acadeemic literaturee collections: Web of scien nce and
scopus dattabases. Asian
n Solcial Sciennce, 9(5), 19-2 dx.doi.org/10..5539/ass.v9n5p18
26. doi:http://d
Akbulut, M., & Akkca, S. (2017).. Popularity orr prestige?: Thhe case of jasist rank. Journnal of Sciento
ometric
Research, 6(3), 141-150 0. doi:10.55300/jscires.6.3.21
Ameeen, E. C., & Guffey, D. M. (2017). A citation analysis a and review of rresearch issuees and
methodoloogies in advaances in accoounting educcation: Teachiing and currriculum innov vations
Advances in Accounting g Education: T Teaching and Curriculum Innovations
I (V
Vol. 21, pp. 1--25)
ANECCA. (Noviembbre 2017). Mééritos evaluablles para la acrreditación nacional para el aacceso a los cuerpos
docentes unniversitarios: http
ps://www.mecd.gob.es/servvicios-al-ciudadano-
WPOM
M, Vol 9 Nº1 (53-80)
( 74
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
mecd/dmss/mecd/serviciios-al-ciudadaano-
mecd/cataalogo/general/eeducacion/acaademia/ficha/aacademia/criteerios-sociales--juridicas.pdff
(accedido 29 enero 2017)
Balatssky, E. V., & Ekimova, N. A. (2017). C Competition ofo economic journals
j in ruussia: Results of the
three wavves of ranking g. Ekonomichheskaya Politiika, 12(6), 17 78-201. doi:100.18288/1994-5124-
2017-6-099
Bar-Illan, J. (2008). Which h-ind dex? - a compparison of wo os, scopus and d google schoolar. Scientom metrics,
74(2), 2577-271. doi:10.1007/s11192--008-0216-y
Bar-Illan, J., Levene, M., & Lin, A. (2007). S Some measurees for compariing citation daatabases. Jourrnal of
Informetriics, 1(1), 26-34. doi:10.101 6/j.joi.2006.08.001
Barkeer, K. (2007). The uk reseaarch assessmennt exercise: The T evolution of a national research evalluation
system. Reesearch Evalu uation, 16(1), 3-12. doi:10.3 3152/0958202 207X190674
Barmaan, S., Hannaa, M. D., & LaaForge, R. L. (2001). Perceeived relevancce and qualityy of pom journ nals: A
decade laater. Journall of Operattions Manageement, 19(3)), 367-385. doi:10.1016/s0272-
6963(00)000060-7
Bartol, T., Budimirr, G., Deklevaa-Smrekar, D D., Pusnik, M., & Juznic, P. (2014). Asseessment of reesearch
fields in scopus
s w of scienc e in the view
and web w of national research evaaluation in slo ovenia.
Scientomeetrics, 98(2), 1491-1504.
1 dooi:10.1007/s111192-013-1148-8
Basu, A., Banshal, S. K., Singhaal, K., & Singgh, V. K. (2016). Designing a compositee index for reesearch
performannce evaluation n at the nationnal or regionaal level: Rank king central uuniversities inn india.
Scientomeetrics, 107(3), 1171-1193. ddoi:10.1007/s1 11192-016-1935-0
Batiz--Lazo, B., Esskandari, R., & Goddard, J. (2015). Online O publishhing and citatation success in the
accountingg, business an nd economic history of sp pain, 1997-20011. Investigaaciones De Historia
H
Economica, 11(3), 153--163. doi:10.1 016/j.ihe.2014 4.07.010
Baummgartner, H., & Pieters, R. (2003).
( The sttructural influence of markeeting journals : A citation an nalysis
of the discipline
d d its subare as over tim
and me. Journal of marketingg, 67(2), 12 23-139.
doi:10.15009/jmkg.67.2.123.18610
Beed,, C., & Beed, C. C (1996). Meeasuring the qquality of acad demic journalss: The case off economics. Journal
J
of Post Keeynesian Econ nomics, 18(3), 369-396. doi:10.1080/0160 03477.1996.1 1490078
Beets, S. D., Lew wis, B. R., & Brower, H. H. (2016). The quality of business eethics journals: An
assessmennt based on appliccation. Bussiness & Society, 55(2), 18
88-213.
doi:10.11777/000765031 13478974
Bettenncourt, L. A.,, & Houston, M. B. (20011). The impacct of article method m type aand subject area
a on
article citaations and refference diverssity in jm, jm
mr, and jcr. Marketing
Ma Letteers, 12(4), 32
27-340.
doi:10.10223/a:10122723 305777
Bonneer, S. E., Hesford, J. W., Van der Stedde, W. A., & Young, S. M. (2006). T The most influ uential
journals ini academic accounting. A Accounting, Organizations and Societty, 31(7), 66 63-685.
doi:https:///doi.org/10.10016/j.aos.20055.06.003
Bontis, N., & Sereenko, A. (200 09). A followw-up ranking of academic journals. Jouurnal of Know wledge
Management, 13(1), 16-26. doi:10.11108/13673270 0910931134
Brownn, L. D., & Gaardner, J. C. (1985). Using citation analy ysis to assess the
t impact of jjournals and articles
a
on contem mporary accou unting researcch (car). Journal of Accounting Reseaarch, 23(1), 84-109. 8
doi:10.23007/2490908
Caligiiuri, P. M. (19999). The ran nking of schollarly journals in internation nal human ressource management.
International Journal off Human Resoource Manageement, 10(3), 515-519.5
Cantinn, M., Munozz, M., & Roaa, I. (2015). C Comparison between
b impaact factor, eiggenfactor scorre, and
scimago journal rank in ndicator in annatomy and morphology
m jo
ournals. Interrnational Jourrnal of
Morphologgy, 33(3), 118 83-1188.
WPOM
M, Vol 9 Nº1 (53-80)
( 75
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Carrerras, J. (2011).. Evaluation ofo teaching andd faculty prom motion (viii). University
U spaanish legislatiion (f):
Quality off teaching and d complemenntary retributio ons (1st part).. Educacion M Medica, 14(4)), 199-
205. doi:10.4321/S1575 5-181320110000400002
Chan,, K. C., Chan, K. C., Seow,, G. S., & Tam m, K. (2009). Ranking
R accounting journaals using disseertation
citation annalysis: A ressearch note. A Accounting, Organizations
O s and Societyy, 34(6-7), 87 75-885.
doi:10.10116/j.aos.2008.12.002
Chan,, K. C., Fung,, H. G., & Yau u, J. (2013). PPredominant sources
s and co ontributors off influential buusiness
ethics reseearch: Evidence and impliccations from a threshold cittation analysiss. Business Etthics-a
European Review, 22(3), 263-276. dooi:10.1111/beer.12024
Chan,, K. C., Lai, P.,
P & Liano, K. K (2012). A tthreshold citaation analysis in marketing research. Eurropean
Journal off Marketing, 46(1),
4 134-1566. doi:10.1108 8/03090561211189211
Chan,, K. C., & Liaano, K. (2009 9). Threshold citation analy ysis of influenntial articles, jjournals, instittutions
and reseaarchers in acccounting. Acccounting and d Finance, 49 9(1), 59-74. doi:10.1111/j.1467-
629X.20077.00254.x
Chapm man, K., & Ellinger,
E A. E. (2009). Con structing impact factors to measure the influence of supply
chain maanagement an nd logistics journals. Jou urnal of Bussiness Logisttics, 30(2), 197-+.
doi:10.10002/j.2158-1592.2009.tb001 19.x
Chathha, K. A., Butt,
B I., & Tariq,
T A. (20015). Researcch methodolo ogies and puublication tren nds in
manufactuuring strategy y a content aanalysis based d literature review. Internnational Jourrnal of
Operationns & Productio on Managemeent, 35(4), 487 7-546. doi:10.1108/ijopm-007-2012-0285
Choww, C. W., Hadddad, K., Singh h, G., & Wu, A A. (2008). A citation
c analyssis of the top-rranked manag gement
and finanncial accountting journalss. Internation nal Journal of Managerrial and Fin nancial
Accountinng, 1(1), 29-44 4. doi:10.15044/IJMFA.2008 8.02046
Delgaado, F. J., & Fernández-Lle
F era, R. (2012).. Sobre la evaaluación del prrofesorado unniversitario (esspecial
referencia a ciencias eco onómicas y juurídicas). 2012 2, 35(2), 15. doi:10.3989/re
d edc.2012.2.861
Di Vaaio, G., & Weisdorf,
W J. L. (2010). Rannking econom mic history journals: A citaation-based im mpact-
adjusted analysis.
a Cliom
metrica, 4(1), 1-17. doi:10.1 1007/s11698-0 009-0039-y
Ding, Y., & Cronin, B. (2011). Popular and//or prestigious? Measures of scholarly eesteem. Inform mation
Processingg & Managem ment, 47(1), 800-96. doi:10.1016/j.ipm.201 10.01.002
DuBoois, F. L., & Reeb,
R D. (20000). Ranking tthe internation nal business journals. Jourrnal of Interna ational
Business Studies,
S 31(4),, 689-704. doii:10.1057/palg grave.jibs.84990929
Falagas, M. E., Kouuranos, V. D., Arencibia-Joorge, R., & Karageorgopou
K ulos, D. E. (20008). Compariison of
scimago journal rank indicator
i withh journal imp pact factor. Fa aseb Journal,, 22(8), 2623 3-2628.
doi:10.10996/fj.08-10793 38
Fleisss, J. L. (19711). Measuring g nominal scaale agreementt among many raters. Psycchological Bu ulletin,
76(5), 3788-382. doi:10.1037/h00316119
Fu, S. C., & Chann, K. M. (201 14). Ranking of orthopaedic journals: A challenge too the citation n-based
metrics. Joournal of Orth hopaedic Trannslation, 2(3),, 131-138. doii:10.1016/j.jott.2014.03.005
Galánn, A., & Zychh, I. (2011). Analysis
A of thhe criteria of the
t national commission
c fo
for the evaluattion of
research activity
a (cneai) for the conncession of the t research incentives
i in education. Bordon,
63(2), 1177-139.
García-Lillo, F., Úbeda-García,
Ú M., & Marcco-Lajara, B. (2015). The intellectual structure of human h
resource management
m research: A bibliometric study of the internationall journal of human h
resourcemmanagement, 2000-2012.
2 R
Revista Europeea de Direccion y Econom mia de la Em mpresa,
24(3), 1499-161. doi:10.1016/j.redee.22015.07.001
Garcia-Pachon, E.,, & Arencibiaa-Jorge, R. (22014). A com mparison of the impact facttor and the sccimago
journal rannk index in reespiratory sysstem journals.. Archivos Dee Bronconeum mologia, 50(7)), 308-
309. doi:10.1016/j.arbrees.2013.10.0006
WPOM
M, Vol 9 Nº1 (53-80)
( 76
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Haddaad, K., Singhh, G., Sciglimpaglia, D., & Chan, H. (2014). To whaat extent do aarticles publisshed in
other thann "top journals" have impacct on marketiing? European n Journal of M Marketing, 48 8(1-2),
271-287. doi:10.1108/ej
d jm-11-2010-00592
Harriss, C. (2008). Ranking the management journals. Jou urnal of Schollarly Publishiing, 39(4), 37 73-409.
doi:10.31338/jsp.39.4.3773
Harzinng, A.-W. (20008). On beco oming a highh impact journ nal in internattional businesss and management.
European Journal of International M Management, 2(2),
2 115-118. doi:10.1504//ejim.2008.017 7763
Harzinng, A.-W., & van der Wal, R. (2009). A google scho olar h-index fo An alternative metric
or journals: A
to measurre journal imp pact in econoomics and bu usiness. Journnal of the Am merican Socieety for
Informatioon Science and d Technology, y, 60(1), 41-46
6. doi:10.1002/asi.20953
Harzinng, A. W., & Alakangas, S. S (2016). Gooogle scholar, scopus and th he web of scieence: A longittudinal
and cross--disciplinary comparison. Scientometriccs, 106(2), 78 87-804. doi:100.1007/s11192-015-
1798-9
Hole, A. R. (2017). Ranking eco onomics journnals using dataa from a natio onal research evaluation ex xercise.
Oxford Buulletin of Econnomics and Staatistics, 79(5)), 621-636. doi:10.1111/obees.12185
Hoobler, J. M., & Johnson, N. N B. (2004)). An analyssis of curren nt human ressource manag gement
publicationns. Personnell Review, 33(66), 665-676. do oi:10.1108/0004834804105661547
Jiménnez-Contreras,, E., Robinson n-García, N., & Cabezas-C Clavijo, A. (2011). Producttivity and imp pact of
spanish researchers:
r Reference
R thhresholds witthin scientificc areas. Revvista Espanola De
Documenttacion Cientifi fica, 34(4), 5055-525. doi:10.3989/redc.2011.4.828
Jobbeer, D., & Sim mpson, P. (19 988). A citatiion analysis of selected marketing
m jouurnals. Interna ational
Journal off Research in Marketing,
M 5((2), 137-142. doi:10.1016/0
d 0167-8116(88))90065-1
Kastriinos, N., & Katsoulacos,
K Y.
Y (1995). Toowards a national system of o research evvaluation in greece.
g
Research Evaluation,
E 5(1), 63-68. dooi:10.1093/rev v/5.1.63
Kianifar, H., Sadegghi, R., & Zarrifmahmoudi,, L. (2014). Comparison
C beetween impact ct factor, eigennfactor
a scimago journal rank iindicator of pediatric
metrics, and p neuro ology journalls. Acta inform matica
medica : AIM : journa al of the Socciety for Med dical Informattics of Bosniaa & Herzego ovina :
casopis Drustva
D za meddicinsku inforrmatiku BiH, 22(2),
2 103-1006. doi:10.54555/aim.2014.2 22.103-
106
Law, R., & Van Deer Veen, R. (2 2008). The poppularity of preestigious hosp pitality journalls: A google scholar
s
approach. International Journal off Contemporary Hospitalityy Managemennt, 20(2), 113-125.
doi:10.11008/095961108 810852113
Leydeesdorff, L., & Opthof, T. (2010). Scoppus's source normalized
n im
mpact per pap aper (snip) veersus a
journal im
mpact factor baased on fractiional counting g of citations. Journal of thhe American Society
S
for Inform
mation Sciencee and Technoloogy, 61(11), 2365-2369.
2 do
oi:10.1002/asi..21371
Losillla, J. M., Navvarro, J. B., Palmer,
P A., R Rodrigo, M. F.,F & Ato, M. M (2005). Anáálisis de dato os. Del
contraste ded hipótesis al
a modelado esstadístico. Barrcelona: Ediciions a Petició..
Lowee, A., & Lockke, J. (2005). Perceptions
P oof journal quality and reseaarch paradigm m: Results of a web-
based survvey of british accounting accademics. Acccounting Orga anizations andd Society, 30(1), 81-
98. doi:100.1016/j.aos.20004.05.002
Marinn-Garcia, J. A.,
A Aragonés Beltran,
B P., & Melón, G. (2 2014). Intra-raater and inter--rater consisteency of
pair wise comparison in n evaluating tthe innovation n competency y for universityty students. WPOM-
W
Working Papers on Operationss Management, 5(2), 24-46.
doi:http://ddx.doi.org/10.4995/wpom.vv5i2.3220
Markooulli, M., Leee, C. I. S. G., G Byingtonn, E., & Felp ps, W. A. (2017). Mappinng human reesource
managemeent: Reviewin ng the field annd charting futture directions. Human Ressource Manag gement
Review, 277(3), 367-396. doi:10.1016//j.hrmr.2016.1 10.001
Marleer, J. H., & Booudreau, J. W. (2017). An eevidence-baseed review of hr h analytics. Innternational Journal
J
of Human Resource Ma anagement, 288(1), 3-26. doii:10.1080/09585192.2016.11244699
WPOM
M, Vol 9 Nº1 (53-80)
( 77
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
WPOM
M, Vol 9 Nº1 (53-80)
( 78
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Ruiz-P Pérez, R., Lóppez-Cózar, E.. D., & Jiménnez-Contreras,, E. (2010). Principles and criteria used by the
national evvaluation com mmittee of ressearch activity y (cneai-spain
n) for the asseessment of sciientific
publicationns: 1989-2009 9. Psicothemaa, 22(4), 898-9908.
Russ--Eft, D. (20088). Ssci, isi, jccr, jif, if, andd journal qualiity. Human Resource
R Deveelopment Qua arterly,
19(3), 1855-189. doi:10.1002/hrdq.12335
Salgado, J. F., & Páez, D. (2 2007). Scienttific productiv vity and hirssch's h indexx of spanish social
psychologgy: Convergen nce between productivity indexes and d comparisonn with other areas.
Psicothemma, 19(2), 179--189.
Salvador-Oliván, J.. A., & Agusttín-Lacruz, C. (2015). Corrrelation between bibliometrric indicators in i web
of sciencee y scopus journals. Revistaa General de Informacion
I y Documentaciion, 25(2), 34 41-359.
doi:10.52009/rev_RGID..2015.v25.n2. 51241
Schoeepfel, J., & Prost, H. (2009). Comparisoon of scimag go journal rannk indicator (ssjr) with jcr journal
j
impact factor
f (if) for french journals. Psychologie Francaise, 54(4), 28 87-305.
doi:10.10116/j.psfr.2009.07.002
Schöppfel, J., & Prrost, H. (2009 9). Comparisoon of scimago o journal rankk indicator (ssjr) with jcr journal
j
impact facctor (if) for freench journals. Psychologie Francaise, 54 4(4), 287-305..
Segalla, M. (2009). Will you citte me? The em merging strateegy of academ
mic publishingg. European Journal
J
of International Management, 3(4), 4411-418. doi:1 10.1504/ejim.22009.028847
Serennko, A., & Boontis, N. (200 09). Global raranking of knnowledge man nagement andd intellectual capital
academic journals. Journal of Knoowledge Management,
M 13(1), 4-15.
doi:10.11008/136732709 910931125
Serennko, A., & Boontis, N. (201 13). Global raranking of knnowledge man nagement andd intellectual capital
academic journals: 20 013 update. Journal of Knowledge Managementt, 17(2), 30 07-326.
doi:10.11008/136732713 311315231
Serennko, A., & Boontis, N. (201 17). Global raranking of knnowledge man nagement andd intellectual capital
academic journals: 20 017 update. Journal of Knowledge Managementt, 21(3), 67 75-692.
doi:10.11008/jkm-11-2016-0490
Shugaan, S. M. (20003). Editorial: Journal rankkings: Save thee outlets for your
y research. Marketing Sccience,
22(4), 4377-441. doi:10.1287/mksc.222.4.437.24904 4
Siciliaa, M. A., Sancchez-Alonso, S., & Garcia--Barriocanal, E. E (2011). Comparing impaact factors fro om two
different citation
c databaases: The casee of computerr science. Jou urnal of Inform metrics, 5, 69
98-704.
doi:https:///doi.org/10.10 016/j.joi.2011 .01.007
Siebelt, M., Siebellt, T., Pilot, P., Bloem, R R. M., Bhand dari, M., & Poolman, R. W W. (2010). Citation
C
analysis of orthopaedic literature; 18 major orthop paedic journals compared foor impact facttor and
scimago. BMC
B Musculo oskeletal Disoorders, 11. doii:10.1186/1471-2474-11-4
Stoneebraker, J. S., Gil, E., Kirk kwood, C. W.., & Handfielld, R. B. (201 12). Impact fa factor as a meetric to
assess jouurnals where om o research iis published. Journal of Operations
O Maanagement, 30 0(1-2),
24-43. doii:10.1016/j.jom m.2011.05.0022
Svenssson, G. (20006). The paraadoxnoia of ttop journal(s)) of top in marketing.
m Euuropean Jourrnal of
Marketingg, 40(11-12), 1153-1168.
1 dooi:10.1108/03090560610702740
Tadajewski, M. (20016). Academ mic labour, jouurnal ranking lists and the politics
p of knonowledge prod duction
in maarketing. Journal
J oof Marketing Mannagement, 32(1-2), 1-18.
doi:10.10880/0267257X..2015.11205008
Theusssl, S., Reutteerer, T., & Hornik,
H K. (20014). How to o derive conssensus amongg various marrketing
journal rankings? Journal of Bussiness Ressearch, 667(5), 9988-1006.
doi:10.10116/j.jbusres.20 013.08.006
Tsay, M. Y. (20122). An overvieew of the jouurnal impact indicators.
i Journal of Educcational Med dia and
Library Sccience, 49(2).
Viladrrich Segués, M. C., & Doval D Diegue z, E. (2011).. Medición: Fiabilidad
F y validez. Belllaterra:
Laboratorii d'Estadísticaa Aplicada i dee Modelització ó (UAB).
WPOM
M, Vol 9 Nº1 (53-80)
( 79
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.
Vokurrka, R. J. (19996). The relaative importannce of journalls used in opeerations manaagement reseaarch: A
citation analysis.
a Jourrnal of Opera rations Manag gement, 14(4 4), 345-355. doi:10.1016/S S0272-
6963(96)000092-7
Walteers, W. H. (20017). Citation-based journaal rankings: KeyK questions, metrics, and data sources. IEEE
Access, 5, 22036-22053 3. doi:10.11099/ACCESS.2017.2761400
Zarifm
mahmoudi, L.., Jamali, J., & Sadeghi, R R. (2015). Goo ournal metric s: Compariso
ogle scholar jo on with
impact facctor and scimaago journal raank indicator for
f nuclear medicine
m journaals. Iranian Journal
J
of Nuclearr Medicine, 233(1), 8-14.
Zhou,, Y. B., Lü, L.,L & Li, M. (2012). Quaantifying the influence of scientists andd their publications:
Distinguisshing betweenn prestige andd popularity. New
N Journal of o Physics, 144. doi:10.1088/1367-
2630/14/3/033033
Zinkhhan, G. M., & Leigh, T. W. (1999). Assesssing the quallity ranking off the journal oof advertising,, 1986-
1997. Jourrnal of Adverttising, 28(2), 551-70. doi:10.1080/00913367.1999.106773583
Zupicc, I., & Caterr, T. (2015). Bibliometric
B methods in management
m m and
a organizatition. Organiza ational
Research Methods,
M 18(3
3), 429-472. ddoi:10.1177/10 094428114562629
WPOM
M, Vol 9 Nº1 (53-80)
( 80