You are on page 1of 28

Working Paapers on Operaations Management.

WP
POM
M Vol. 9, Nº1 (53-80)
ISSN: 19899-9068

http://dx.doi.org/10.49995/wpom.v9i1.8989

Prottocol: Is there
t agreeement orr disagreeement bettween thee absolutee and
rellative imp
pact indices obtaineed from the
t Web of o Sciencee and Scop pus
data?
Prottocolo: ¿exxiste acuerrdo o desaccuerdo enttre los índiices de imppacto absollutos
y relativoss obtenidoss a partir dde los datos de Web of
o Science y Scopus? ?
Juan A. Marin-Gaarciaa y Rafa
aela Alfalla-Luqueb
a b
ROGLLE Research Group (DOE Un niversitat Politèècnica de Valè ència, jamarin@@omp.upv.es y Dpto. Economía
Financciera y Direccióón de Operacion
nes. Universidaad de Sevilla. allfalla@us.es .

Recibiido: 2018-04-288 Aceptado: 2018-04-28

Abstract
This protocool justifies thee relevance off the research h questions th
hat will be pos osed in future
research thaat will addreess whether th there are diffferences betw ween the classsifications off
scientific journals depend ding on the im mpact factor indicators that are used: WoS (JCR ),
and Scopus (CiteScore and a SJR) and,, if any, to what may be due. d At the saame time, the
process to beb followed to capture and analyze the data d that will allow
a us to reespond to the
stated objecctives is descriibed in detail. Finally, the results
r of a pillot analysis foocused on the
21 top jourrnals of Intern national Hum man Resourcees Management according to Caligiuri
(1999) are presented.
p In it,
i we can verif ify that the correlation betw
ween JCR andd CiteScore is
practically perfect
p hat the quartilles of Scopus represent in a much moree appropriate
and th
way than thhose of JCR th he classificatiion of these 21
2 as top jourrnals of the caategory. It is
still pendinng to carry out the comp mplete investig gation to verify if these results are
generalizablle to the field of economic aand business sciences
s in global or to othher sub-areas
of this field.
Keywords: Protocol;
P jourrnal; ranking;; citation anallysis.

Resumen
En este prottocolo se justif
ifica la pertinnencia y releva
ancia de las preguntas
p de iinvestigación
que se van a plantear en n una investiggación futura que tratará si existen diferrencias entre
las clasificaaciones de lass revistas cienntíficas dependiendo de loss indicadores de factor de
impacto quee se manejen: WoS (JCR) y Scopus (CiteeScore y SJR) y, en caso dee haberlas, a
qué puede sers debido. Al A mismo tiem mpo, se descrribe de manerra detallada el proceso a
seguir paraa capturar y analizar
a los ddatos que noss permitirán responder a llos objetivos
planteados. Finalmente, se s presentan los resultado os de un análiisis piloto cenntrado en las
21 revistas principales ded Gestión dee Recursos Hu umanos según n Caligiuri (11999). En él,
podemos comprobar que la correlacióón entre JCR y CiteScore ess prácticamennte perfecta y
que los cuarrtiles de Scopuus representann de manera mucho
m más addecuada que llos de JCR la

53
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

clasificaciónn de estas 21 como revisstas principalles de la cattegoría. Quedda pendiente


realizar la investigación
i completa parra comprobarr si estos resu
ultados son geeneralizables
al campo ded ciencias económicas y eempresariales en global o a otras sub-ááreas de ése
campo.
Palabras claave: Protocolo
o; Revistas dee impacto; Análisis de citas; bibliometríaa.

Introducción
Este pprotocolo se centra
c en la ev
valuación del nivel de relev vancia de las revistas cienttíficas, realizaada por
comittés de acreditaación nacionaal, con la finaalidad de contratación o prromoción del personal doccente e
investtigador de ceentros universitarios en E España. Por supuesto,
s la evaluación dde la calidad de la
produucción científica es un temaa mucho más aamplio del qu ue se va a trataar en esta inveestigación, en la que
se ha acotado el coontexto nacion nal español, puues las leyes que regulan (o no) la evaluuación de releevancia
de lass revistas son sensiblementee diferentes enn cada país (BBarker, 2007; Basu et al., 20016; Galán & Zych,
2011; Hole, 2017; Kastrinos & Katsoulacoos, 1995; Ru a 2010). Peero, además, puede
uiz-Pérez et al.,
evaluaarse el nivel de
d relevancia con
c otros finees distintos a lal contrataciónn o promociónn. Por ejemplo o, para
conceeder financiación de proyecctos competitiivos o para esstablecer retrib buciones adiccionales/incenttivos a
los innvestigadores (Carreras, 2011). Además,, el actor de la l evaluación pueden ser aagencias nacio onales,
territooriales o una universidad/ce
u entro de trabaajo concreto (M Medina-López et al., 2012)). Cada uno de d esos
actorees suele tener normativas, regulaciones
r o criterios difeerentes para ab
bordar la evalluación. Adem más, en
el casso de España,, las agencias suelen tener funciones esp pecializadas. La ANEP (A Agencia Nacio onal de
Evaluuación y Prosppectiva) se cen ntra propuestaas de proyecto os, la CNEAII (Comisión N Nacional Evalu uadora
de la Actividad Invvestigadora) en retribucionees adicionaless por méritos de d investigaciión y la ANEC CA (la
Agenccia Nacional de Evaluació ón de la Caliidad y Acred ditación) en acreditaciones
a s para acceso o a los
cuerpos docentes de universidaades (Carreraas, 2011; Jim ménez-Contreraas et al., 20111; Quintas-F Froufe,
2016)).
Concrretamente, en España, la AN
NECA considdera tres nivelees de revistas académicas:
“D15. Cieencias Económ micas y Empreesariales. Se considerarán
c para
p su valoraación tres niveeles de
revistas: nivel
n 1 (indexaadas en los Q11 y Q2 del Journal Citationn Reports, JCRR, y Q1 de Sccimago
Journal Raank, SJR), niv vel 2 (incluidaas en el Q3 del JCR y Q2 del SJR), niveel 3 (incluidas en el
Q4 del JC CR y Q3 del SJR).
S La Com misión podrá modular
m ese mínimo
m en caaso de artículos con
indicios dee calidad (elevvado índice dee impacto, númmero y calidad de las citas,, etc.) especiallmente
sobresalienntes u otras publicaciones
p s de igual carrácter. Se ten
ndrá en cuentta la posición n de la
revista en los rankings, así como su ssituación en ele correspondiente cuartil o decil, el núm mero de
citas recibbido, el índice de impacto ddel año de pubblicación y el más alto en un
una ventana dee cinco
años. Se considerará cualquier categooría de JCR, bien
b sea en Scciences Citatioon Index o en Social
Sciences Citation
C Index
x.”(ANECA, N Noviembre 2017)
En esste planteamieento se puede apreciar una clara “JCR-d
dependencia”, que ha sido comentada en n otros
trabajos (Jiménez-Contreras et al., 2011; Quuintas-Froufe,, 2016). Bajo
o este enfoquue se considera que

WPOM
M, Vol 9 Nº1 (53-80)
( 54
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Clarivvate-Web Of Science (WoS S) es el Gold Standard para la calidad de d las publicacciones científiicas de
cualquuier área cienntífica. Sin du
uda, WoS fuee la primera en e sacar al mercado
m un ínndice de impaacto de
revistas y, ademáss, tiene una especial relevvancia en ciertas áreas científicas quee cubre de manera m
exhauustiva, como ese el caso de medicina
m que cuenta con 38 categorías (en ( contraste ccon las 7 cateegorías
que cubren toda ell área de las ciencias
c econóómicas y emp presariales). Sin
S embargo, eso no lo con nvierte
autommáticamente enn el mejor ind dicador de callidad científicca (Bar-Ilan, 2008;
2 Bar-Ilann et al., 2007; Bartol
et al., 2014). Simpllemente es el primero
p que sse creó y, com
mo mucho, con n una base de datos que, sinn duda,
cubre muy bien las revistas de medicina.
m
Adem más, a pesar ded cierto esfueerzo reciente por incorporaar otras basess de datos a lla evaluación de las
revistas (Ruiz-Péreez et al., 2010)), parece que Scimago Jourrnal Rank (SJJR), proporcioonado por SCO OPUS,
el otroo gigante de la indexación científica, no ha ganado peeso frente al JC
CR en las ageencias de evaluación
españñolas (Delgaddo & Fernánd dez-Llera, 20 12; Quintas-F Froufe, 2016)). Al contrariio, parece qu ue está
lastranndo que se usse Cite Score (CS), otro prroducto también de SCOPU US, en igualdaad de condiciiones a
JCR.
Otro aaspecto que coonviene destaacar es que, haabitualmente, se suele usar el factor de im mpacto (una medida
m
de poppularidad basada en citas) como
c si fuesee un índice de calidad cientíífica de las revvistas. Sin em
mbargo,
a lo laargo de este protocolo,
p vam
mos a considerrar que la caliidad es diferennte de la popuularidad (Akb bulut &
Akca,, 2017; Balatssky & Ekimov va, 2017; Dingg & Cronin, 2011;
2 Fu & Ch han, 2014; Law w & Van Derr Veen,
2008; Zhou et al., 2012),
2 aunquee en algunos caasos pueda coonverger (Balaatsky & Ekimoova, 2017).
En este contexto, se presenta un protocolo parra realizar una investigació ón que nos perrmita respond
der a la
siguieente pregunta genérica: ¿existe alguna raazón que justiffique que se contemple
c soloo el JCR y no
o el CS
de SCCOPUS para la l evaluación de méritos dee personal doccente de universidades espaañolas -o quee a este
segunndo se le pueda poner una penalización coomo se aplicaa a SJR-?

Desccripción de
d las basess de datoss empleada
as para el cálculo dee los índices de
impaacto conteemplados por
p ANEC CA
Tal coomo se ha cittado anteriorm mente, la ANE ECA sólo reconoce, a fech ha de hoy, loss índices de immpacto
JCR y SJR. Aplicaando al segun ndo una penallización (dism
minución de un
u cuartil a laa hora de valorar la
“caliddad” de las revvistas). No see reconoce en 2017 (al mennos explícitam
mente) el CS, eel factor de im
mpacto
oficiaal que ofrece SCOPUS
S (AN
NECA, Noviem mbre 2017).
Los inndicadores (JJCR, SJR y CS)
C se calculaan en función n de las revisttas contenidass en las respeectivas
bases de datos, WooS para JCR y SCOPUS paara SJR y CS.. De modo qu ue la similitudd, o diferenciaa, entre
las puuntuaciones quue se obtengan en los diferrentes indicadoores, puede deeberse no soloo al modo en que se
calcullan (muy simiilar entre JCR y CS, pero mmuy diferente para
p SJR), sin no también al cconjunto de revistas
indexadas (que sonn las que propoorcionan las ciitas que alimeentan los cálcu
ulos).
Vamoos a empezar describiendo
d las
l similitudess y diferencias en el modo de incorporacción de las rev
vistas a
las baases de datos. Es decir, cuán
ntas revistas hhay en WoS o SCOPUS y cómo
c eligen W
WoS y SCOPU US sus

WPOM
M, Vol 9 Nº1 (53-80)
( 55
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

revistas, entre las aproximadame


a ente 180.000 ppublicacioness científicas seeriadas que see estima que existen
e
en la aactualidad (htttps://www.elssevier.com/sollutions/scopuss/content/conttent-policy-annd-selection)
La colección princiipal (core collection) de WooS, que es la que q se usa parra calcular el JJCR, se compone de
casi 220.000 revistaas en noviemb bre de 2017. Esta colecció ón principal se organiza enn 4 bloques: Arte y
Humaanidades (A&H), Ciencia (S SCI), Cienciaas Sociales (SS SCI) y emergeentes (ESCI). Sólo las revistas de
los trees primeros bloques reciben factor de im mpacto en JCR R, aunque loss cuatro bloquues aportan su us citas
para eel cálculo. Dee las aproximaadamente 3.5000 revistas que se postulan anualmente ppara ser incluiidas en
JCR, solo un 10-122% de ellas accaba siendo aaceptadas en el e JCR. Aunqu ue los conteniidos de la collección
princiipal abarcan prácticamente
p todas las áreaas científicas, WoS reconocce públicamennte en su págin na web
que laas áreas mejorr cubiertas porr esta base de datos son lass ciencias natuurales, las cienncias de la sallud, las
ingenierías (incluidda ingeniería informática)
i y las ciencias de los materiales, pudiéndo dose entender que su
interéés por las otrass áreas es men
nos manifiestoo
(httpss://clarivate.libbguides.com/w
webofsciencepplatform/coveerage (consultaado 27 noviem mbre 2017)).
Por suu parte, SCOP PUS contaba con 21.950 rrevistas en occtubre de 2017. Anualmentte recibe en torno t a
3.000 nuevas propuuestas de inclusión, de las cuales suelen n aceptar un 15%. Todas lass revistas indexadas
en la bbase de datos reciben el facctor de impactto CS y el SJR
R.
(httpss://www.elseviier.com/solutiions/scopus/coontent y http p://bit.ly/Scopu
usSources ).
La evvolución de la colección priincipal de WooS ha sido verrtiginosa, práccticamente se ha duplicado en los
últimoos 4 años, passando de men nos de 12.000 en 2013(Agh haei Chadegan ni et al., 2013)), a cerca de 13.000
en 2015 (Mongeonn & Paul-Hus, 2016) y hastaa los casi 20.0 000 en 2017. Este
E crecimiennto se ha prod ducido,
princiipalmente, por la incorporaación de las rrevistas ESCI. Estas revistas carecen dee factor de im mpacto,
pero sson indexadass tras un filtro de calidad edditorial y aporrtan sus citas al
a cálculo de llas revistas JC
CR. En
junio de 2017 la WoS tenía 19.875 revisstas: 5.954 ESCI; E 1.753 A&H; 8.8866 SCI; 3.252 SSCI
(httpss://clarivate.libbguides.com/w
webofsciencepplatform/coveerage (consultado 27 novviembre 2017 7). La
evolución del catállogo de Scopu us ha sido muc
ucho más suav ve (bien es cieerto que, en suu creación, yaa partía
de un considerable número de reevistas indexaddas en todas las áreas). Por ejemplo, teníía 20.500 revistas en
2013 (Aghaei Chaddegani et al., 2013)
2 y 21.5000 en 2016 (fu uente SCOPUS S).
En am mbos casos (W WoS y SCOPU US), las nuevvas incorporacciones se prod ducen tras unn proceso de filtrado
f
utilizaando criterioss de selección que ambass plataformas consideran transparentes.. En el caso de la
coleccción principall de WoS, todaas las revistass son sometidaas al mismo prroceso de evaaluación para valorar
v
los esstándares de calidad
c editoriial, pero existten diferenciass para ser incluidas en JCR R, donde se aplican
a
criteriios como que q consideren que ya hayan suficientes revisstas que traaten una temática
(indeppendientemennte de la calid dad de los arttículos de la solicitante) o el prestigio de los autorees o el
comitté editorial de la revista (Taabla 1). Por ssu parte, SCOPUS, usa uno os criterios tottalmente similares a
WoS para evaluar la calidad ed ditorial de lass revistas (minimum criteriia) y, posterioormente, un comité
c
evalúaa criterios addicionales de citación y coomposición in nternacional ded los autoress y comité ed ditorial
(Tablaa 2).

WPOM
M, Vol 9 Nº1 (53-80)
( 56
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Tab
bla 1.- Criterioos de inclusión en WoS (http:://wokinfo.com
m/essays/journa
al-selection-pro
rocess/ , consulttado
junio 2017)

JCR (A&H, SCI y SSCI)


S ESCI
Timeeliness of publication is a baasic criterion inn the It is of
o essential im mportance, thatt any journal under
evaluuation process evaluattion for ESCI publish
p activelyy with current issues
and articles posted reggularly.
Publiishing standardds: Publish
hing Standards:
• Peer Review • Peeer review. Peer review, as an indicator of o the
• Ethical Publishhing Practices integrity of the sccholarly contennt, must be pressent in
• Publishing Forrmat (XML, PD DF) alll journals accep
pted for coveragge in ESCI.
• Journal follows intern
national edittorial • Etthical publishinng practices. Evvidence of uneethical
conventions: informative jo ournal titles, fully pu
ublishing practiices is an obsttacle to coveraage in
descriptive artticle titles and d author abstrracts, ESSCI.
complete bibliiographic inform mation for all cited • Ellectronic form mat. Only jourrnals publishin ng in
references, annd full addresss informationn for eleectronic formatts (XML, PDF) compatible with our
every author. sy
ystems are eligib ble for coveragge in ESCI. No print-
• Full Text English: our focus is on journalss that on
nly journals are eligible.
publish full texxt in English • Ennglish languag ge bibliographhic informatio on is
• Editorial conteent required for all jo
ournals seekingg coverage in ES SCI.
• • Reecommendation n or request forr coverage by Web
W of
Sccience users. Jo ournals of partiticular importannce to
Web
W of Science users are givenn the highest prriority
in evaluation and d selection for EESCI.
• Foocused on consiideration of Ediitorial Content
Our eeditors determinne if the contennt of a journal uunder • Many
M journals th
hat are under eevaluation for SCIE,
evaluuation will enriich the databasse or if the toppic is SSSCI or AHCI are a considered first for coveraage in
alreaady adequately addressed
a in ex
xisting coveragee ESSCI. If these joournals meet thhe criteria menttioned
– International focus ab
bove they may begin coveragge in ESCI witth full
– International diversity among
a the jourrnal’s ev
valuation for po ossible coveragee in SCIE, SSC CI and
contributing authors, ed ditors, and edittorial AH HCI occurring at a later date.
advisory board
b members • Jo
ournals that neeed to be deseleected for coveraage in
– Standard citation metriccs, at both jouurnal SCCIE, SSCI or AHCI may coontinue coveraage in
and authoor levels ESSCI at the discrretion of the Edditorial Develop pment
– Keeping ini mind that overall citation rates staaff.
in the social sciences are a generally loower • Beecause ESCI iss a true Citatioon Index every issue
than thosee in the natural sciences an
nd every item published in eeach covered jo ournal
– it may take a relatively
r long time wiill be indexed. All cited referrences in each ESCI
for an articcle to attracct a journal will also be captured annd indexed. Ass with
meaningful num mber of citationns alll journals cov vered in Webb of Science Core
– We use Citation
C Analyssis to determinee the Coollection, citations to its articcles are captureed and
importancce and influencee of a journal inn the displayed as Tim mes Cited. Thhese metrics willw be
surroundinng literature off its subject visible to Web of Science userss and will be ussed by
– Also loook at the ciitation historyy of Edditorial Development as the bbasis for the ciitation
contributing authors an nd editorial bboard an
nalysis aspect ofo the classic W Web of Sciencee Core
members Coollection Journaal Selection Proocess if the jourrnal is
ev
valuated subseq quently for poossible coveraage in
SCCIE, SSCI or AHCI.
A
• An n official Jou urnal Impact FFactor will not be
pu
ublished for jou urnals covered inn ESCI.

WPOM
M, Vol 9 Nº1 (53-80)
( 57
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Tablla 2.-Criterios de inclusión en SCOPUS (htttps://www.elseevier.com/solutiions/scopus/conntent/content-po


olicy-
and-selectioon consultado junio 2017)

Categgory Criteria
Miniimum criteria Consist of peeer-reviewed coontent and have a publicly avaiilable descriptioon of the peer reeview
process
Be publishedd on a regular baasis and have an n International Standard Seriall Number (ISSNN) as
registered with the ISSN Intternational Centre
Have contentt that is relevannt for and readabble by an intern
national audiencce, meaning: haave
references in Roman script aand have Englissh language absstracts and titless
Have a publiccly available puublication ethics and publicatio on malpractice statement
Journnal Policy Convincing editorial
e policy
Type of peer review
Diversity in geographical
g diistribution of ed
ditors
Diversity in geographical
g diistribution of au
uthors
Conttent Academic co ontribution to thhe field
Clarity of absstracts
Quality of an
nd conformity too the stated aim ms and scope of the journal
Readability of
o articles
Journnal Standing Citedness of journal
j articless in Scopus
Editor standinng
Publiishing No delays or interruptions inn the publicatio on schedule
Reguularity
Onlinne Full journal content
c availablle online
Avaiilability English languuage journal hoome page availaable
Quality of joournal home pagge

Tantoo WoS como SCOPUS, calculan c sus iindicadores de


d factor de impacto parttiendo de loss datos
obtenidos de las revvisas que indeexan en sus baases de datos (en
( torno a 200.000 en amboos casos). En el
e caso
de JCCR (recurso prrivado accesibble sólo con suuscripción), el
e factor de im
mpacto de unaa revista para un
u año
determminado (poor ejemploo, el 20015) se calcula de
d la ssiguiente manera
m
(httpss://www.recursoscientificos.fecyt.es/factoor/ ):
Factor de impacto JCR R 2015 = (nº de citas que, en 2015, reciben documenntos publicados en
2013 y 2014) / (nº total de documentoos citables pub
blicados en 20
013 y 2014)
El CSS es de accesoo libre y apareeció por primeera vez a finalles de 2016, aunque
a SCOPPUS muestra la l serie
histórrica desde 20006 (https://jourrnalmetrics.sccopus.com/). Mide
M la relación de citas poor artículo pubblicado
con unn cálculo muyy parecido al Factor
F de Imppacto de JCR pero
p con una ventana de cittación de 3 añ
ños. Es
decir, para el año 2015 se calculaaría como:
Factor de impacto CiteScore 2015 = (nº de cittas en 2015 de d los documeentos publicados en
2012, 20133 y 2014) / (nº total de doccumentos publlicados en eso
os tres años 20012, 2013 y 20
014)
En CS S y en JCR toodas las citas recibidas porr una revista tienen el mism mo valor. En ambos casoss, en el
denomminador solo se consideran n artículos pubblicados (los advanced
a on-lline o los in-ppress no son tenidos
t
en cueenta en el dennominador). Pero en ese dennominador, CS contempla todos t los docuumentos publiicados,
mienttras que JCR R sólo incluy ye los docum mentos consid derados “citab bles” (por ejeemplo se excluyen
editorriales, recensioones de libross o artículos dee opinión, entre otros) (Falaagas et al., 20008).

WPOM
M, Vol 9 Nº1 (53-80)
( 58
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Sin em
mbargo, en SJJR las citas recibidas se ponnderan en función del prestigio (citas) dee la revista en la que
se pubblica el artículo que cita, uttilizando un al
algoritmo pareecido al de Go
oogle PageRannk. Además, ene SJR
no se incluyen las auto-citas
a (Fallagas et al., 20008).
SJR ees un indicadoor accesible libbremente que se calcula a partir
p de la infformación conntenida en la base
b de
datos Scopus. La fóórmula de cálcculo de SJR nno es sencilla pues se realizza en tres etappas y otorga un u peso
determminado a las citas
c de una reevista, en funcción del área científica
c y la relevancia dee las revistas citantes
c
utilizaando un algooritmo pareciido al de Gooogle PageRank (se pued de ver la fórrmula detallaada en
http:///www.scimaggojr.com/SCIm magoJournalR Rank.pdf). Esto o significa qu ue la cita de uuna fuente coon SJR
alto tiiene más valoor que la cita de una fuentte con un SJR R menor. Para el cálculo, usa una ventana de
citacióón de tres añoos y reduce ell peso de las auto-citas mu ultiplicando po or 33% respeecto a citas exxternas
(Falaggas et al., 2008).
A moodo de resumeen, en la Tablaa 3, se presenttan las princip pales variables que pueden originar diferrencias
en el valor absolutto del factor de
d impacto dee las revistas (Falagas et al.,a 2008; Siciilia et al., 201
11). Se
puedee observar quee, dada la evollución de revi stas incluidas en el cálculo de JCR hay uun cambio sustancial
entre 2014 y 20177, que podría dar lugar a ccambios en laa clasificación n de las revisttas por el heccho de
incluiir muchas máss fuentes de citación.
c En e ste sentido, JCCR 2017 se calcula
c a partir
ir de un conjuunto de
revistas que, al mennos en cantidaad, es similar a las que se ussan en SJR o CS.
C

Tablla 3.- Comparaación de los differentes indica


adores

Base de
d datos Nº de Ventana citación Po
ondera citas Penaliza
revistes autocitas
citantes
JCR
R 2011 WoS core
c collection + 11.000 2 años
a NO NO
JCR
R 2014 WoS core
c collection + 13.000 2 años
a NO NO
JCR
R 2017 WoS core
c collection + 20.000 2 años
a NO NO
CS 22011 SCOP
PUS + 20.000 3 años
a NO NO
CS 22014 SCOP
PUS + 20.500 3 años
a NO NO
CS 22017 SCOP
PUS + 22.000 3 años
a NO NO
SJR 2011 SCOP
PUS + 20.000 3 años
a SI SI
SJR 2014 PUS
SCOP + 20.500 3 años
a SI SI
SJR 2017 PUS
SCOP + 22.000 3 años
a SI SI

Por otra parte, JCRR tiene una veentana de citaación de dos años mientrass que SJR y C CS la tienen de
d tres
años. Y, por últimoo, JCR y CS no n ponderan ccitas ni penalizza auto-citas, mientras que SJR sí. Por ello,
e no
parecee fácil predeccir si existirá un acuerdo o convergencia entre las pu untuaciones dde factor de im
mpacto
absoluuto que recibaa una revista en
e cualquiera dde los supuesttos (filas) conttemplados en la Tabla 3.
Pero el problema es e más compllejo. En la evvaluación del impacto paraa promocionees o contratacción de
personnal científico,, lo que se valora no es el faactor de impaccto absoluto, sino
s la posicióón relativa qu
ue tiene
una reevista dentro del
d conjunto de d revistas de un área cientíífica (cuartil o percentil) (G
Galán & Zych,, 2011;
Quinttas-Froufe, 20016; Ruiz-Pérrez et al., 20010). En este sentido, las agrupacioness que se haceen por
categoorías (sub-áreas científicas)) en los dos ggrandes serviciios de indexacción con factoor de impacto (WoS

WPOM
M, Vol 9 Nº1 (53-80)
( 59
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

y SCO OPUS) no soon fácilmente comparables (ver Tabla 4 y Tabla 5). Por un lado, los nombres de las
etiqueetas son sensiiblemente difeerentes. Por ootro lado, el grado
g de abstrracción de lass categorías taambién
varia. Por ejemplo,, el campo D1 15 de ANECA A está represeentado en diversas categoríías de WoS, aunquea
en alggunas de ellaas es tangenciial o solo enccaje en uno o dos de los descriptores dde la categoríía. Sin
embarrgo, en SCOP PUS los códig gos de clasificcación (classiffication codess) en los que ssubdividen lass áreas
científicas parecen más concretos. En algunoss casos, podríaamos asociarlaas a los descriiptores de cateegorías
de WooS y quizás, por
p eso, no ten ngan descriptoores asociadoss. Además, el conjunto de rrevistas que ag grupan
en cadda categoría puede
p llegar a ser bastantee diferentes. Por
P ejemplo, las revisas deel área de Reecursos
Humaanos suelen estar indexad das en la caategoría “Indu ustrial & La abor Relationns” en WoS y en
“Orgaanizational Behavior
B and Human Resouurce Manageement” en SC COPUS. Sin eembargo, podrríamos
decir que, en amboos casos, ni so on todas las qque están, ni están todas laas que son. En Entendemos qu ue esta
situacción puede esstar reproducciéndose en ootras sub-áreaas, de modo que sería neecesario analizar si
realm
mente las posicciones relativaas basadas en las categoríass que ofrecen WoS o SCOP OPUS represen ntan de
verdad el colectivo de revistas dee una sub-áreaa científica.

Taabla 4.- Categorías de Clariva


ate-WOS con aalgún descriptor (en negrita)) relacionado ccon el campo D-15
D
ANNECA (fuente:: http://mjl.cla
arivate.com/scoope/scope_scie// y http://mjl.clarivate.com/sc
scope/scope_sscci/).

Nom
mbre de la categooría Descripción de la caategoría
Enginneering, Industtrial includes resources
r that focus
f on enginneering systemms that
Engiineering, Industtrial
integ
grate people, maaterials, capital, and equipmen nt to provide prroducts and serrvices.
Relevvant topics coovered in the category inclu ude operationss research, prrocess
enginneering, prod ductivity eng gineering, man nufacturing, computer-integ grated
manuufacturing (CIMM), industrial economics,
e and design engineeering.
Engin neering, Manuffacturing coverss resources on thet conversion of raw materialls into
Enginneering,
end-uuse products orr processed maaterials. Topics in this categorry include comp puter-
Manuufacturing integ
grated manufactturing (CIM), computer-aided design (CAD),, and computer--aided
manu ufacturing (CA AM); design off products, tools, and machinees; quality con ntrol;
sched duling; producction; and inveentory control.
Operrations Researchh & Operrations Research ch & Managem ment Science includes resourcees on the defin nition,
Manaagement Sciencce analyysis, and solutioon of complex problems.
p Releevant topics in tthis category in
nclude
math hematical mod deling, stochaastic modeling g, decision thheory and sysstems,
optimmization theoryy, logistics, andd control theoryy.
Businness This category coveers resources concerned
c withh all aspects oof business an nd the
businness world. Thhese may incllude marketin ng and adverrtising, foreca asting,
plann ning, adminisstration, orga anizational sttudies, compeensation, stra ategy,
retaiiling, consumeer research, and a managem ment. Also covvered are reso ources
relatiing to business history and bu usiness ethics.
Businness, Finance Busin ness, Finance ccovers resourcess primarily concerned with finnancial and econ nomic
correelations, accou unting, financcial managem ment, investmeent strategies, the
interrnational moneetary system, in nsurance, taxaation, and bankking.
Econnomics Econnomics covers resources on all a aspects, both theoretical and applied, of o the
produuction, distribuution, and conssumption of goods
g and servvices. These in nclude
generralist as well aas specialist ressources, such as
a political ecoonomy, agricu ultural
econo omics, macroecconomics, micrroeconomics, ecconometrics, trrade, and plann ning.

WPOM
M, Vol 9 Nº1 (53-80)
( 60
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Educcation & Educattional Educcation & Educcational Researrch covers ressources on thee full spectru um of
Reseearch education, from theeoretical to applied, from nursery school to PPh.D. Included ini this
categ
gory are resourcrces on pedagog gy and method dology as well as on the histo ory of
educaation, reading, curriculum sttudies, educatio on policy, andd the sociology y and
econoomics of educatation, as well as the use of com
mputers in the cllassroom.
Indusstrial Relations & Indusstrial Relations & Labor coverrs resources on arbitration, bussiness and labo
or law,
Laboor human resources, llabor history, laabor relations, and
a the sociologgy of work relaations.

Mannagement Manaagement coverrs resources on managemen nt science, orrganization stu udies,


strattegic planning and decision--making metho ods, leadershipp studies, and
d total
qualiity managemen nt.
Psychhology, Applied Psych hology, Applieed covers reso ources on organizational psyychology, inclluding
selection, trainingg, performancce, and evalu uation; organiizational beha avior;
counseling and deveelopment; as weell as aviation psychology
p andd sports psychollogy
Psychhology, Educattional Psych hology, Educattional includes resources
r on ed
ducational psycchology, educattional
meassurement, creeative behavio or, instructionaal science, reaading research
h, and
schoo ol psychology.

Tablaa 5.- Categoríass de SCOPUS rrelacionadas con


c el campo D-15
D ANECA (ffuente:
h
https://service.elsevier.com/a
app/answers/deetail/a_id/15181/kw/subject%
%20areas/suppporthub/scopuss/)

Nommbre del “classsification cod


des” (Scopus nno facilita una descripción detallada
d de laas sub-areas)
Accoounting
Applied Psycholoogy
Busiiness and Interrnational Mannagement
Busiiness, Manageement and Acccounting (all)
Busiiness, Manageement and Acccounting (misscellaneous)
Deciision Sciencess (all)
Deciision Sciencess (miscellaneu
us)
Econnomics and Ecconometrics
Econnomics, Econoometrics and Finance
F (all)
Econnomics, Econoometrics and Finance
F (misccellaneous)
Educcation
Finaance
Induustrial and Maanufacturing Engineering
E
Induustrial Relationns
Inforrmation Systeems and Manaagement
Leaddership and Management
M
Mannagement Infoormation Systeems
Mannagement of Technology
T an
nd Innovation
Mannagement Scieence and Operrations Researrch
Markketing
Orgaanizational Beehavior and Human
H Resourrce Managemeent
Sociial Psychologyy
Strattegy and Mannagement
Tourrism, Leisure and Hospitality Managemeent

WPOM
M, Vol 9 Nº1 (53-80)
( 61
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Inveestigación previa sob


bre compaaración dee factores de
d impactoo de Clariv
vate-
WOOS y de SCOPUS
El deebate académiico sobre la creación
c de ra
rankings de reevistas a parttir de métricaas de citación n sigue
estanddo de abierto en la actualid dad (Tsay, 20012; Walters, 2017). Por ejemplo, buscan ando en las baases de
datos de SCOPUS y WoS con laas palabras claave "citation analysis"
a en tíítulo, resumenn y palabras clave, y
limitaando sólo al árrea de “busineess” se obtieneen 576 resultaados en Scopuus y 497 en W Wos. De ellos, más
m de
60 tieenen que ver específicamen nte con los ínndices de imp pacto y los ran nkings de revvistas. Repitieendo la
búsquueda, sólo en WoS, con estta estrategia (((Rating OR ranking OR In nfluential OR quality OR im mpact)
NEAR R/3 journal) se pueden seeleccionar, dee los resultad dos de la bússqueda, cercaa de 90 referrencias
adicioonales relacionnadas directam
mente con el tetema.

Algunnas de estas referencias


r están asociadass a las grandees áreas científicas en el ccampo D15-ciiencias
econóómicas y emprresariales de laa ANECA. Poor ejemplo:

• Economíaa (Balatsky & Ekimova, 20117; Beed & Beeed, 1996; Di Vaio & Weissdorf, 2010; Harzing
H
& van der Wal, 2009; Hole,
H 2017; M
Merigo et al., 20
016; Pislyakov, 2009)
• Empresa (Chow
( et al., 2008;
2 DuBoiss & Reeb, 2000; Harris, 20008; Harzing, 22008; Harzing & van
der Wal, 2009; Mingeers & Leydessdorff, 2015; Rosenstreich & Wooliscrooft, 2013; Zu upic &
Cater, 20115)
Pero ttambién en áreeas específicaas como, por ej
ejemplo:

• Recursos Humanos (C Caligiuri, 19999; Chapman & Ellinger, 2009;


2 Garcíaa-Lillo et al., 2015;
Hoobler & Johnson, 2004; Markoullii et al., 2017; Marler & Bou
udreau, 2017; Pindek et al.,, 2017;
Russ-Eft, 2008)

WPOM
M, Vol 9 Nº1 (53-80)
( 62
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

• Gestión dee Operacioness (Barman et al., 2001; Ch hatha et al., 20


015; Olson, 20005; Petersen
n et al.,
2011; Raoo et al., 2013; Stonebraker eet al., 2012; Vokurka, 1996))
• Contabiliddad (Ameen & Guffey, 20 17; Batiz-Lazzo et al., 2015 5; Bonner et aal., 2006; Bro
own &
Gardner, 1985;
1 Chan et al., 2009; Chhan & Liano, 2009;
2 Chow et al., 2008; Loowe & Locke,, 2005;
O'Leary, 2008;
2 Rosensttreich & Woolliscroft, 2009))
• Marketingg(Baumgartneer & Pieters, 2003; Chan et al., 2012; Haddad et aal., 2014; Job bber &
Simpson, 1988; Moussa & Touzani, 2010; Rosen nstreich & Wo ooliscroft, 20112; Svensson,, 2006;
Tadajewskki, 2016; Theu ussl et al., 20114; Zinkhan & Leigh, 1999))
• Ética en loos negocios (B
Beets et al., 20016; Chan et al.,
a 2013)
• Gestión deel Conocimien nto (Serenko & Bontis, 200 09, 2013, 20177)
La invvestigación puublicada sobree el tema, hastta el momentoo, no ha comparado los valoores de CS con n otros
factorres de impactoo. La mayoríaa de los trabajjos comparan n JCR con SJR R (Cantin et aal., 2015; Falaagas et
al., 20008; Garcia-P
Pachon & Arencibia-Jorge, 2014; Kianiffar et al., 2014 4; Ramin & SSarraf Shirazi,, 2012;
Salvador-Oliván & Agustín-Lacrruz, 2015; Schhoepfel & Pro ost, 2009; Schöpfel & Prostt, 2009; Siciliaa et al.,
2011; Siebelt et al., 2010). Algu
unos de ellos iincorporan el índice h de Google
G u otrass métricas al análisis
a
de rannking de revistas (Leydesdoorff & Opthof, f, 2010; Zarifm
mahmoudi et al.,
a 2015).
En geeneral, la conccordancia o coorrelación entrre diferentes métricas
m es muy elevada, soobre todo cuaando se
comparan entre sí diferentes
d méttricas del tipo factor de imp
pacto en revisttas de la mism
ma área (ponderando
citas o no) (Salvaddor-Oliván & Agustín-Lacrruz, 2015; Siccilia et al., 2011). Sin embaargo, no siem mpre es
sencilllo acotar las sub-áreas de conocimientoo científico o disponer de indicadores rrelativos de im mpacto
(Cuarrtiles o percenntiles) por sub
b-áreas, a pesaar de que pareece haber evid
dencia de las nnotables diferrencias
en loss valores quee deberían co onsiderase com mo referenciaa para cada una
u de ella (B Bartol et al., 2014;
Baummgartner & Piieters, 2003; Bettencourt & Houston, 2001; 2 Harzingg & Alakanggas, 2016; Jim ménez-
Contrreras et al., 2011; Salgado & Páez, 2007) .

Objeetivos de la
l investiga
ación a deesarrollar aplicando este protoocolo
La innvestigación que
q desarrollaaremos siguienndo este prottocolo pretend de dar respueesta a las sigu
uientes
preguuntas de investtigación particcularizadas paara las revisas de Ciencias Económicas
E y Empresariales:
1. Dado que el CS y JCR R tienen fórmuulas de cálcullo más similaares entre sí qque con SJR (con( el
comparte la l base de dattos de revistass), ¿su factor de
d impacto (ab
bsoluto o relattivo) concuerdda más
entre elloss que con SJR?
22. ¿Es establle el factor de impacto (JCR R, CS, SJR) y sus indicado ores relativos (percentil, cuartil) a
lo largo dee los años? ¿LLa concordanncia de los vallores de varios años de un mismo indicaador es
mayor quee la concordancia en el miismo año entrre indicadores diferentes? ¿¿Se mantiene tras la
incorporacción de revistaas ESCI a WooS?
3. ¿Hay sub-áreas, del campo de las Ciencias Ecconómicas y Empresariale s, con period dos de
maduracióón o estilos de citación qque afectan sistemáticameente a su poosición en rankings
generalistaas? Es decir, ¿La distribucción de revisttas por cuartiles es homoggénea respecto o a las

WPOM
M, Vol 9 Nº1 (53-80)
( 63
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

sub-áreas cuando comp paramos con todo el conjjunto de reviistas del cam mpo de las Ciiencias
Económiccas y Empresariales? Por ejeemplo, ¿las 52 2 revistas que son Q1 en CSS-2016 en el área
á de
organizatiional behavioour and humaan resources, siguen siend do Q1 cuandoo se comparaan con
todas las revisas
r de Bussiness, Managgement and Acccounting?
44. Teniendo en cuenta el modo
m de agruupar revistas por
p categoríass y la ventanaa de citación para
p el
cálculo dee factor de im
mpacto ¿Se deb eben consideraar el WoS y SCOPUS
S com
mo “Gold Stan ndard”
para evaluuar el impacto
o de las revisaas del Cienciaas Económicass y Empresariiales, o uno ded ellos
solamentee, o ninguno dee ellos puede considerarse claramente
c co
omo tal?
5. Partiendo de los datos de factor de impacto de las l revistas qu ue están preseentes tanto en
n WoS
como en SCOPUS
S ¿Po
odemos interppolar la posiciión de las revistas que sóloo están presen ntes en
una base de
d datos para tener
t un listaddo combinado de ambas?

Con
ntribución de la investigación een la que se
s aplicará
á este prottocolo
Las liistas ordenadaas de revistas académicas ppor factor de impacto
i (cuartiles y percenntiles), es uno de los
criteriios principalees que se ussan para evaaluar la prod ducción cientíífica, no soloo en Españaa, sino
práctiicamente en toodo el mundo (Bonner et all., 2006; Bontiis & Serenko, 2009; Carrerras, 2011; DuB Bois &
Reeb,, 2000; Galán & Zych, 2011; Meho & Y Yang, 2007; Seegalla, 2009; Serenko
S & Boontis, 2009; Sh hugan,
2003; Vokurka, 19996). El valor absoluto del factor de imp pacto dependee de la base dde revistas inccluidas
para ssu cálculo, de los años conttemplados parra las citas en el numeradorr y de los artícculos que se cuentan
para iincluir en el denominador.
d Por otra partee, los valores relativos de factor
f de imppacto (posición n de la
revista en cuartiles o percentiless) dependen, ppor un lado, del
d valor abso oluto del factoor de impacto y, por
otro, de las revistaas que se inccluyan en la categoría don nde se calculla el valor reelativo. Todass estas
variabbles presentann diferencias cuando
c se usaa como referen ncia SCOPUS S frente a WooS. Además, incluso
i
se aprrecian diferenncias entre alg
gunas de ellass en función del
d índice de impacto que se use en SC COPUS
(CS ffrente a SJR) o debido a laa llamativa am mpliación del catálogo de WoSW (comparrando el núm mero de
revistas contempladdas en 2014 co on 2017).
La invvestigación quue se plantea a partir de estte protocolo permitirá
p analiizar, en las revvistas del cam
mpo 15
ANEC CA, el factor de
d impacto ab bsoluto o relattivo de CS frente a los otross índices (JCRR o SJR). Apo ortando
una vvisión particuularizada para las revisass de Cienciaas Económicaas y Empressariales en general,
complletando las laagunas de la investigaciónn previa. Porr ejemplo, acttualizando loos resultados tras la
incorpporación de reevistas ESCI a WoS, ya quue es recomen ndable repetirr el análisis cuuando el núm mero de
revistas de una cattegoría aumen nta (Sicilia ett al., 2011). También
T nos permitirá deccidir si es neccesario
elegirr cuál es el “Gold
“ Standarrd” para evalluar el impaccto de las rev visas del Cienncias Económ micas y
Empresariales (en ele caso de descubrir diferenncias notables entre los tres índices de imp
mpacto analizad dos).
Todo ello nos faccilitará inform
mación relevaante para deccidir si, tal como
c ocurre actualmente en las
evaluaaciones de AN
NECA (y quizzás también enn otras agenciias de otros paaíses), los cuaartiles de las revistas
nalizados o sii no hay evideencia científicca que avale eesa práctica para las
calcullados con CS deben ser pen
revisaas de Cienciaas Económicas y Empressariales. Tam mbién permitirrá por primeera vez analiizar el
comportamiento dee CS (de recien
nte lanzamiennto) respecto a JCR y SJR.

WPOM
M, Vol 9 Nº1 (53-80)
( 64
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Ademmás, aportamos un método de trabajo quue pueda repliicarse en otrass áreas y, sobbre todo, en laas sub-
áreas específicas deel campo de las Ciencias EEconómicas y Empresariales. Por ejemploo, seleccionanndo las
revistas identificaddas en revision
nes previas, ppara analizar las revistas de Gestión de Recursos Hu
umanos
Caligiiuri (1999) o Gestión
G de operaciones Meedina-López ett al. (2011).

Método
Comoo aplicación del
d protocolo que q planteamoos, se analizará el conjunto o de revistas ddel área de Ciiencias
Econóómicas y Em mpresariales (Tabla
T 6). En WoS están distribuidas
d en cuatro “caategories” y ene dos
coleccciones (ESCI,, sin factor dee impacto y S SSCI, donde se computa el JCR), mientrras en que SC COPUS
están en dos “subjeect areas” y see calcula el CS
S de todas suss revistas.

Tablla 6.- Número de revistas de Ciencias Econ nómicas y Emp presariales en JCR
J y en SCOP
OPUS (Fuente: ESCI
(http://mjl.cllarivate.com/cg
gi-bin/jrnlst/jlssubcatg.cgi?PC
C=EX); SSCI http://mjl.clari
h ivate.com/cgi-
b
bin/jrnlst/jlsubcatg.cgi?PC=S SS ; SCOPUS h https://www.sccopus.com/sources consultaddo febrero 20188.)

WoS ESCCI SSCI Total SCOPUS


S
Econoomics 156
6 354 510 Economic,
E Econ
nometrics and
1.069
Busineess and Financee 118
8 97 215 Finance
F
Busineess 129
9 141 270 Business,
B Manag
gement and
Accounting
A 1.617
Managgement 130
0 207 337
Total 513
3 799 1.312 2.686

Para ccada una de las revistas a analizar


a se haan de extraer los siguientes datos (n.a. sii no se calculla o no
está ddisponible ese año):
1. JournalTittle
22. ISSN (soloo uno por reviista. Mantenem mos el de verssión impresa si
s hay tambiénn on-line)
3. Year (dde los datos dee factor de im
mpacto absoluto o relativo)
44. Source (JCCR, ESCI o SC COPUS en el año consideraado)
5. Category (Scopus
( Sub-SSubject Area, WoS Catego ory)
66. ImpactFacctor2y3y(JCR o CS) (para eel año consideerado, n.a. paraa revistas ESC CI)
77. Quartile enn el año consiiderado y la caategory o sub--subject área; 1, 2, 3 ó 4 paara los cuartilles.
88. Decile1 Prrimer decil enn el año considderado y la category o sub-ssubject área ((0 No; 1 Yes)
99. Rank en el año considerrado en la cateegory o sub-su ubject área
10. RankOutO Off número tottal de revistass en el año connsiderado en la category o ssub-subject arrea
11. Percentile en el año connsiderado
12. SNIP (Sollo revistas SCOPUS) en el aaño consideraado
13. SJR (Solo revistas SCO OPUS) en el añño considerad do
14. InmediacyyIndex (Solo revistas
r WoS)) en el año con
nsiderado
15. ImpactFacctor5y (Solo reevistas WoS) en el año con nsiderado
16. EigenFacttor(Solo revisttas WoS) en eel año considerrado

WPOM
M, Vol 9 Nº1 (53-80)
( 65
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Las fiilas de la tablaa son registros únicos para cada combinación de ISSN N, JorunalTitlle, Source, Caategory
y Yeaar. Los datos se recogerán para el períoddo 2011 a 20 016. En concreeto, para la ddescarga de daatos de
JCR se accedde a http
ps://www.recuursoscientifico
os.fecyt.es/facctor/ y ppara CS/SJJR a
https:///journalmetriics.scopus.com m/.
A parrtir de esos dattos se calcula, para cada unna de las revisstas, las siguieentes variabless adicionales para
p la
ventanna de 5 años (2012-2016)
( y todas las cateegorías para laas que se dispongan datos:
1. MaxIFjcr
22. MeanIFjcrr
3. MinQjcr (el mínimo de los cuartiles ees la mejor po
osición de la reevista)
44. MaxPerceentilejcr
5. MeanPerccentilejcr
66. MeanIFcs
77. MinQcs (eel mínimo de los
l cuartiles ees la mejor possición de la reevista)
88. MaxPerceentilecs
99. MeanPerccentilecs
Para la medida dee la concordaancia entre vaariables contiinuas (factorees de impactoo JCR y CS y sus
percenntiles) se filtrarán las revisttas con datos de ambos índ
dices y se calccularán la corrrelación de Peearson,
la corrrelación de raangos de Spearman y los ccoeficientes de d correlación intra-clase IC CC(3,1) e ICCC (3,k)
(cada revista recibe puntuacionees de JCR, C CS. Two-way, single measu ure, average m measure, agreeement
and coonsistency). Para
P la medidaa de concordanncia de los cu uartiles se usarrán las tablas de acuerdo brruto, el
coeficciente de correelación Tau-b de Kendal y el coeficiente Kappa de Co ohen ponderaddo generalizad do para
múltipples informanntes (SJR, JC CR, CS) (Fleiiss, 1971; Losilla et al., 2005;
2 Marin-GGarcia et al., 2014;
Viladrrich Segués & Doval Diegu uez, 2011)

Experiencia piloto
p
Para probar el prrocedimiento de extraccióón de datos se van a deescribir paso a paso las tareas,
centráándonos sólo en
e el análisis de una de las series de dato os (la del 2016) de una muuestra de revistas. Se
van a analizar las 21 revistas que Caligiuri ((1999) identifficó como loss más relevanntes en el cam mpo de
man resourcee managemennt”. Estas reevistas fueron consideraddas como las más
“interrnational hum
imporrtantes, de essta sub-área de d la gestiónn de recursoss humanos, por una muesstra de 22 ex xpertos
munddiales del camppo. Los experrtos se selecciionaron por seer los autores de los artículoos más citado
os en el
área y provenían de
d Estados Un nidos, Canadaa, Alemania, Australia,
A Reiino Unido, Suud-África, No oruega,
Holannda, Hong Koong y Francia. Además de contar con un n panel de exppertos internaacionales, la lista de
revistas representa a las más im mportantes deel área. De modo
m que pueede servirnos como un refferente
externno para compaarar los resultaados de nuestrro análisis.
No haas sido posiblee disponer de los datos de JJCR del año 1999,
1 la fecha más antigua dde la que se permite
p
descarrgar datos en JCR es 2002, y en ese casoo, solo se dispone del factorr de impacto y no de clasifiicación
por cuuartiles (en Sccopus no hay datos disponiibles hasta 20
006).De las 21 revistas conssideradas commo más

WPOM
M, Vol 9 Nº1 (53-80)
( 66
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

imporrtantes del áreea (Tabla 7), sólo


s hay dos rrevistas que no
n están incluiidas ni en el JJCR ni en SC COPUS
en 20016. Probablem mente estas dos
d revistas soon más de div vulgación cieentífica y el ppúblico objetiv
vo son
directtivos de empreesa y no acadéémicos. En deefinitiva, el graado de solape de las revistaas más importaante es
práctiicamente totall entre JCR y SCOPUS. Sóllo una revistaa, “Human Ressource Managgement Journa al”, no
está aactualmente enn JCR (salió del
d listado en 22013).

Tabbla 7.- Listado ordenado de mejor


m a peor en
ntre las princip
pales revistas del
d área de Intternational Hu uman
Resoources Manageement. Fuente (Caligiuri, 19999) y elaboración propia. n.a.. (revista sin faactor de impaccto ese
año). El rankiing se ha calcu
ulado comparan ndo solo el factor de impactoo de las 21 reviistas de la lista
a.

Ranking RankingJCR-- RankingJCR


R- Ranking
g CS-
Journnal
Caligiuri 2002 2016 2016
6
Internnational Journall Of Human Reesource
1 10 13 13
Manaagement
Journnal Of Internatioonal Business Studies
S 2 7 4 4
Acaddemy Of Managgement Journal 3 3 3 1
Acaddemy Of Managgement Review 4 1 1 2
Manaagement Internaational Review 5 n.a. 14 15
Humaan Resource Management 6 5 11 10
Journnal Of Applied Psychology
P 7 4 6 12
Asia P
Pacific Journal Of Human Ressources 8 n.a. 17 18
Journnal Of World Buusiness 9 n.a. 7 6
Journnal Of Internatioonal Managemeent 10 n.a. 8 7
Humaan Resource Management Jourrnal 11 n.a. n.a. 11
Internnational Busineess Review 12 n.a. 10 8
Admiinistrative Sciennce Quarterly 13 2 5 5
Journnal Of Internatioonal Compensaation 14 n.a. n.a. n.a.
Acaddemy Of Managgement Executiv
ve 15 8 n.a. n.a.
Internnational Labourr Review 16 11 18 19
Journnal Of Managem
ment 17 6 2 3
Internnational Journall Of Interculturral Relations 18 12 15 16
Europpean Managem ment Journal 19 n.a. 9 9
Internnational Journall Of Selection And
A
20 9 16 17
Assesssment
Journnal Of Cross-Cuultural Psycholo ogy 21 n.a. 12 14

Los ddatos de SCOP PUS se obtiennen directameente de la tablla completa de todas las reevistas de la base
b de
datos,, que se puedee descargar acccediendo a hhttps://journallmetrics.scopu
us.com/ (Figurra 1). El docuumento
de descarga presennta cada serie de datos en uuna pestaña diiferente (cuan ndo se desee aanalizar los daatos de
varioss años deberánn fusionarse en una sola tabbla añadiendo el campo Yea ar y completanndo sus valorees para
cada sserie).

WPOM
M, Vol 9 Nº1 (53-80)
( 67
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Figura
a 1.- Ejemplo d
de la tabla descargada de SC
COPUS

Para los datos de WoS (https://www.recurssoscientificos.fecyt.es/facto or/), primero hay que filtrrar las
revistas y años cuuyos datos qu ueremos desccargar. Se pu uede hacer in ndicando una a una su títtulo (o
selecccionando la o las cateegorías a llas que perrtenecen las revistas quue nos inteeresan:
http:///bit.ly/JCRbyC
Category ) y los
l datos a deescargar (Figu ura 2). Los resultados se m
muestran en peestañas
independientes paraa SCI y SSCI,, en una ventaana emergentee. De modo qu ue, hay que vissitar ambas peestañas
para ddescargarse (ccopiando y peegando) la tabbla de datos (F
Figura 3). Hayy posibilidad de exportarlaa como
PDF ((Figura 4) perro el formato es
e muy poco m manejable parra un posteriorr tratamiento aautomatizado de los
datos..

Figu
ura 2.-Filtradoo de la informa
ación en WoS-JCR

Figura 3.-A
Aspecto de la taabla descargad
da (copiar y pegar) de JCR

WPOM
M, Vol 9 Nº1 (53-80)
( 68
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Figu argable desde JCR


ura 4.-Aspectoo del PDF desca

Antess de fusionar las tablas dee datos de Sccopus y WoS hay que dep purar los datoos. Como SC COPUS
descarrga una hoja de cálculo, lo os valores ya eestán ajustado os al formato correspondiennte (salvo ISS SN que
hay qque formatear como texto para p evitar quee se pierdan los
l 0 inicialess, y hay que iinsertar un “-““ en la
cuartaa posición). Pero
P al copiar y pegar valoores de JCR, en e el caso de configuracióón española paara los
númerros, hay que prestar
p atenció
ón a las “,” y ““.” ya que loss decimales see pueden convvertir en millarres. Se
resuellve sustituyenndo, en la tablaa copiada de JJCR, todas lass “,” de la tabla por “.”. Addemás, en el caso
c de
posiciión de la reviista en el totall de la categooría en JCR, los
l “/” se pueden interpretaar como fechaas, por
ejempplo, diciembree de 1973 en n lugar de ““12/73”. Se resuelve orden nando la coluumna ascendente y
ponienndo un espaciio delante del valor (que hay ay que introduccir a mano).
Posterriormente hayy que eliminar las columnaas que no noss interesan, crrear las nuevaas que hagan falta y
reordeenar para que se ajusten a laa tabla de datoos de nuestro protocolo
p (
). Estoo se puede haacer automáticco con funcioones de PowerrQuery (de MsExcel2016)
M o mediante sintaxis
en R o SPSS. Puestto que en JCR R no se ofrecee directamentee el valor del percentil,
p lo ccalcularemos a partir
de laa posición dee la revista dentro del total de revistas de la categoría com mo: percentil=100-
(100**Rank/RankOuutOff). Esta fórmula repproduce exacttamente el valor v de perccentil ofrecid do por
SCOP PUS.
La sinntaxis para usaar en PowerQu
uery con la tab
abla de SCOPU
US es:
Nota: La tabla de RAW data de Scopus debe deffinirse como un raango (formato tabbla) con nombre T TablaSCOPUS
let
Origen = Excel.CurrentWorkb book(){[Name=""TablaSCOPUS"]]}[Content],
#"Tipo cambbiado" = Table.T TransformColum mnTypes(Origen,{{{"Scopus Sourc ceID", Int64.Type pe}, {"Title", typ
pe text},
{"CiteScore", ty ype number}, { "Percentile", Intt64.Type}, {"Citation Count", Innt64.Type}, {"Scholarly
Output", Int64.T Type}, {"Percent
nt Cited", Int64.TType}, {"SNIP", type number}, {"SJR", type number},
n
{"RANK", Int64.Type}, {"Rankk Out Of", Int64.Type}, {"Publisher", type textt}, {"Type", typ pe text},
{"OpenAccess", type text}, {"Sccopus ASJC Codee (Sub-subject Arrea)", Int64.Typee}, {"Scopus Sub-Subject
Area", type textt}, {"Quartile", ttype text}, {"Top
p 10% (CiteScorre Percentile)", tyype text}, {"URLL", type
text}, {"Print-ISSN", type any}, {"E-ISSN", type any}}),

WPOM
M, Vol 9 Nº1 (53-80)
( 69
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

#"Columnas quitadas" = Taable.RemoveColuumns(#"Tipo cam mbiado",{"Citatio


on Count", "Schoolarly Output", "Percent
Cited", "Publisher", "Type", "OpeenAccess", "Scop pus ASJC Code (Sub-subject Areaa)", "URL"}),
#"Valor reemmplazado" = Tab ble.ReplaceValuee(#"Columnas qu uitadas","Top 10%%","1",Replacer.RReplaceText,{"T Top 10%
(CiteScore Perceentile)"}),
#"Columnas con nombre cambiado" = T Table.RenameCo olumns(#"Valor reemplazado",{{{"Top 10% (C CiteScore
Percentile)", "Deecile1"}}),
#"Valor reemplazado1" = Table .ReplaceValue(#"Columnas con
c nombre cambiado","Quartile
1","1",Replacer.ReplaceText,{"Q Quartile"}),
#"Valor reemplazad do2" = Table..ReplaceValue(#""Valor reemplazado1","Quartile
2","2",Replacer.ReplaceText,{"Q Quartile"}),
#"Valor reemplazad do3" = Table..ReplaceValue(#""Valor reemplazado2","Quartile
3","3",Replacer.ReplaceText,{"Q Quartile"}),
#"Valor reemplazad do4" = Table..ReplaceValue(#""Valor reemplazado3","Quartile
4","4",Replacer.ReplaceText,{"Q Quartile"}),
#"Columna condicional
c agreggada" = Table.AdddColumn(#"Vallor reemplazado4", "ISSN", each iif [#"Print-ISSN""] = null
then [#"E-ISSN""] else [#"Print-IS SSN"]),
#"Columnas quitadas1" = Table.RemoveColuumns(#"Columna condicional agre egada",{"Print-ISSSN", "E-ISSN", "Scopus
SourceID"}),
#"Columnas reordenadas" = Table.ReorderrColumns(#"Colu umnas quitadas1 1",{"Title", "ISSSN", "Source", "Year",
"Scopus Sub-Su ubject Area", ""CiteScore", "Peercentile", "SNIP P", "SJR", "RA ANK", "Rank Out O Of",
"Quartile", "Deccile1"}),
#"Columnas con nombree cambiado1" = Table.Ren nameColumns(#"Columnas reorrdenadas",{{"CiteScore",
"ImpactFActor2y3y"}}),
#"Columnas reordenadas1" = Table.ReorderC Columns(#"Colum mnas con nombre e cambiado1",{"T Title", "ISSN", "S
Source",
"Year", "Scopuss Sub-Subject Areea", "ImpactFActtor2y3y", "Quartiile", "Decile1", "R RANK", "Rank Out O Of",
"Percentile", "SN
NIP", "SJR"}),
#"Personalizzada agregada" = Table.AddColum mn(#"Columnas reordenadas1",
r "In
nmediacyIndex",, each null),
#"Personalizzada agregada1" = Table.AddColuumn(#"Personalizzada agregada", "IImpactFactor5y",, each null),
#"Personalizzada agregada2" = Table.AddColuumn(#"Personalizzada agregada1", "EigenFactor", eaach null),
#"Columnas con nombre caambiado2" = Taable.RenameColu umns(#"Personaliz zada agregada2"",{{"Scopus Sub-Subject
Area", "Category y"}, {"Title", "JoournalTitle"}}),
#"Columnas reordenadas2" = Table.ReorderrColumns(#"Colu umnas con nomb bre cambiado2", {"JournalTitle", "ISSN",
"Year", "Sourcee", "Category", "ImpactFActor2y y3y", "Quartile",, "Decile1", "RAANK", "Rank Out O Of",
"Percentile", "SN
NIP", "SJR", "Inm mediacyIndex", "ImpactFactor5y", "EigenFactor"})),
#"Valor reemplazado5"
r = Table.ReeplaceValue(#"Columnas
reordenadas2",null,"0",Replacer.R ReplaceValue,{"Decile1"}),
#"Personalizzada agregada3"" = Table.AdddColumn(#"Valo or reemplazado5 5", "PercentileCCalculado", each 100-
([RANK]/[Rank k Out Of]*100)),
#"Columnas reordenadas3" = Table.ReordeerColumns(#"Personalizada agreg gada3",{"JournalTTitle", "ISSN", "Year",
"Source", "Cattegory", "ImpacctFActor2y3y", "Quartile", "Decile1", "RANK K", "Rank Ou ut Of",
"PercentileCalcuulado", "Percentille", "SNIP", "SJR R", "InmediacyInddex", "ImpactFacctor5y", "EigenFaactor"}),
#"Columnas quitadas2" = Tab ble.RemoveColum mns(#"Columnass reordenadas3",{ {"Percentile"}),
#"Columnas con nombre cambiado3" = Table.RenameCo olumns(#"Colummnas quitadas2", {{"PercentileCalculado",
"Percentile"}})
in
mbiado3"
#"Columnas con nombre cam

De maanera análogaa, la sintaxis de PowerQueryy para la tablaa de JCR debeerá ser:


Nota: La tabla de RAW data de WoS (tal como vviene desde el SE ELECT ALL en la l pagina web, coopiar, “pegar con formato
de la hoja de calculo” -para evitarr botones y formaato HTML- y eliminar
e las filas que hay antes y después
del conjunto de datos;
d y repetir paara SCI y SSCI si hubiera datos en
n ambas),
debe definirse co
omo un rango (foormato tabla) con nombre TablaWoS

WPOM
M, Vol 9 Nº1 (53-80)
( 70
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

let let
Origen = Excel.CurrentWorkb book(){[Name=""TablaWoS"]}[Co ontent],
#"Tipo cam mbiado" = Tab ble.TransformColu lumnTypes(Origeen,{{"TITULO ABREVIADO",
A type text}, {"AÑO",
{
Int64.Type}, {"P PAIS", type text}}, {"ISSN", type text}, {"CATEG GORIAS", type teext}, {"CODIGO O_PUB",
type text}, {"D DESCRIPCION CATEGORIA",, type text}, {""CODIGO CAT TEGORIA", typee text},
{"TITULO", ty ype text}, {"TO OTAL CITAS", Int64.Type}, {""FACTOR IMPA ACTO", type number},
n
{"TOTAL_REV V_CATEGORIA"", type text}, {""ARTL_INFLUE ENCE", type any ny}, {"CUARTIL L", type
text}, {"INDIICE INMEDIA ATEZ", type number}, {"V VIDA_MEDIA_C CITAS", type any},
{"FACTOR_IM MPACTO_5_AÑO OS", type any}, {"EIIGENFACTOR",, type number},
n
{"POSICION_FACTOR_IMPAC CTO", type text},, {"RANKING CATEGORÍA", tyype text}}),
#"Columnas quitadas" = Table.RemovveColumns(#"Tip po cambiado",{ {"TITULO AB BREVIADO", "PAIS",
"CATEGORIAS S", "CODIGO O_PUB", "C
CODIGO CAATEGORIA", "TOTAL CITAS",
C
"TOTAL_REV_ _CATEGORIA", "ART TL_INFLUENCE E", "VVIDA_MEDIA_C CITAS",
"POSICION_FA ACTOR_IMPACT TO"}),
#"Columnas con nombre cambiado" = Table.Renam meColumns(#"Collumnas quitadaas",{{"AÑO", "Year"}, "
{"DESCRIPCIO ON CATEGORIA A", "Category"},, {"TITULO", "JJournalTitle"}, {{"FACTOR IMPA ACTO",
"ImpactFactor2y y3y"}, {"CUAR RTIL", "Quartile"}, {"INDICE INMEDIATEZ Z", "Inmediacyindex"},
{"FACTOR_IM MPACTO_5_AÑO OS", "ImpactFacto or5y"}}),
#"Personalizzada agregada" = Table.AddColum mn(#"Columnas conc nombre camb biado", "Source", each "JCR"),
#"Dividir coolumna por delimitador" = Tablle.SplitColumn(# #"Personalizada agregada", "RAN NKING CATEG GORÍA",
Splitter.SplitTexxtByDelimiter("/"", QuoteStyle.C Csv), {"RANK KING CATEGO ORÍA.1", "RA ANKING
CATEGORÍA.2"}),
#"Tipo caambiado1" = Table.Transform mColumnTypes(# #"Dividir colum mna por delilimitador",{{"RA ANKING
CATEGORÍA.1", Int64.Type}, {{"RANKING CA ATEGORÍA.2", In nt64.Type}}),
#"Columnas con nombre cam mbiado1" = Tabble.RenameColum mns(#"Tipo camb biado1",{{"RANK KING CATEGO ORÍA.1",
"Rank"}, {"RAN NKING CATEGO ORÍA.2", "RankO OutOff"}}),
#"Personalizzada agregada1" = Table.AddC Column(#"Colum mnas con nombrre cambiado1", "Percentil", eacch 100-
([Rank]/[RankO OutOff]*100)),
#"Columna condicional
c agreggada" = Table.AdddColumn(#"Perssonalizada agrega ada1", "Decile1", each if [Percentiil] >= 90
then 1 else 0),
#"Personalizzada agregada2" = Table.AddColuumn(#"Columna condicional
c agreg
gada", "SNIP", eaach null),
#"Personalizzada agregada3" = Table.AddColuumn(#"Personalizzada agregada2", "SJR", each null)),
#"Columnas reordenadas" = Table.ReorderrColumns(#"Perssonalizada agreg gada3",{"JournalTTitle", "ISSN", "Year",
"Source", "Cateegory", "ImpactF Factor2y3y", "Qu uartile", "Decile1", "Rank", "RaankOutOff", "Peercentil",
"SNIP", "SJR", "Inmediacyindex
" x", "ImpactFactor5y", "EIGENFAC CTOR"}),
#"Valor reemplazado" = Table.ReeplaceValue(#"Columnas
reordenadas","N N/D",null,Replaceer.ReplaceValue,{{"ImpactFactor5y y"}),
#"Valor reemmplazado1" = Tab ble.ReplaceValuee(#"Valor reempllazado","Q1","1",Replacer.ReplacceText,{"Quartilee"}),
#"Valor reemmplazado2" = Tab ble.ReplaceValuee(#"Valor reempllazado1","Q2","2",Replacer.ReplaaceText,{"Quartille"}),
#"Valor reemmplazado3" = Tab ble.ReplaceValuee(#"Valor reempllazado2","Q3","3",Replacer.ReplaaceText,{"Quartille"}),
#"Valor reemmplazado4" = Tab ble.ReplaceValuee(#"Valor reempllazado3","Q4","4",Replacer.ReplaaceText,{"Quartille"}),
#"Columnas quitadas1" = Tab ble.RemoveColum mns(#"Valor reem
mplazado4",{"ED DICION", "IDIOM MA", "1AÑOPU UB"})
in
#"Columnas quitadas1"

Figura 5.- Tabla


a de datos básiica para los an
nálisis necesarios este protocoolo

WPOM
M, Vol 9 Nº1 (53-80)
( 71
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Tras llas tareas realizadas, para cada


c año con ddatos y para cada
c una de laas revisas, tenndremos una fila
f por
cada ccategoría en la que están in ndexadas. En SCOPUS, cad da revista estáá asignada enttre 1 y 5 categorías.
Las categorías máss frecuentes son strategy aand managemeent, business and internatio ional managem ment y
managgement of techhnology and innovation.
i Ell resto de cateegorías que aparecen asociaadas a las revistas de
la muuestra son anthhropology, ap pplied psycho logy, aquatic science, arts and humanitties (miscellan neous),
culturral studies, ecconomics and d econometricc, finance, geeneral businesss managemeent and accou unting,
generral psychologyy marketing, organizational
o l behavior and human reso ource managem ement, plant sccience,
publicc administratiion, social psyychology y socciology and po olitical science.
En JCCR las revisass están en unaa, dos o tres ccategorías. Laas más frecuen
ntes son manaagement y business.
Aunquue también apparecen indusstrial relationns & labor, pssychology. Ap pplied, psychoology. Social, social
sciencces interdiscipplinary y socio
ology.
f correspondiente a la caategoría con mayor
El sigguiente paso es, para cadaa revista, reteener sólo la fila
percenntil en cada uno
u de los añ ños. Con pocaas revistas, co omo es este caso, se puedee realizar a mano
m la
ver Figura 6). Con gran canntidad de revistas se
eliminnación de filaas tras ordenarr la tabla de lla Figura 5 (v
recom
mienda usar sinntaxis.

Figura 6.-P
Parámetros pa
ara ordenar la tabla y retener solo la fila co
on más valor dde percentil.

En este momento se s pueden fusiionar las dos tablas (una dee SCOPUS y otra de JCR).. Y, por últim mo, hay
que pivotar la tablaa por Year&S Source, para qque las filas dee la misma revista y mismoo año, se conv viertan
en coolumnas con el e valor de caada variables para ese año y cada una de d las fuentess (JCR o SCO OPUS)
(Figurra 7). Esta tabbla nos serviráá para modifiicarlas en postteriores análissis, si quisiéraamos retener sólo la
fila coorrespondientee al año con más
m percentil ppara la revistaa en una ventan na de 5 años.

Figura 7.- Tabla definitiva p


para análisis con
c años desglo
osados en filas..

WPOM
M, Vol 9 Nº1 (53-80)
( 72
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Dado que en el ejem mplo actual sóólo hemos rec ogido datos deld año 2016, podemos
p haceer el análisis de
d este
año. DDesde SPSS podemos
p analizzar la correlacción de rangoss de Spearmann:
N
NONPAR CORRR
/
/VARIABLES S=jcr16ImpacctFActor2y3y jcr16Perrcentile jccr16ImpactFaactor5y
sccp16ImpactFA Actor2y3y
scp16Percenntile scp16SNIIP scp16SJR
/
/PRINT=SPE EARMAN TW WOTAIL NOS SIG
/
/MISSING=P PAIRWISE.
En laa Tabla 8 se puede obserrvar que la ccorrelación en ntre el factorr de impacto a 2 años de JCR
(jcr166ImpactFActoor2y3y) y el faactor de impaccto a 3 años dee CS (scp16Im mpactFActor22y3y) es elevadísima
(0.9599), mientras que
q las correllaciones con el SJR (scp16SJR) son alg go menores ((0.858 y 0.92 26). En
cualquuier caso el faactor de impaccto CS correlaaciona más con n JCR que con n SJR.

jcr16Imp jjcr16Perc jcr16IImp scp16Imp scp16Per scp166S scp16S


actFActo eentile actFaactor actFActo centile NIP JR
r2y3y 5y r2y3y
jcr16ImpaactFActor2y3y 1,000
jcr16Perceentile ,971** 11,000
jcr16ImpaactFactor5y ,651** ,,657** 1,000
0
scp16ImpaactFActor2y3y ,959** ,,917** ,614*
** 1,000
scp16Perccentile ,853** ,,810** ,490*
* ,879** 1,000
scp16SNIP
P ,880** ,,856** ,575*
* ,925** ,889** 1,0000
scp16SJR ,858** ,,804** ,564*
* ,926** ,912** ,914*** 1,000

T
Tabla 8.- Correelaciones de ra
angos de Spearrman. **. Corrrelación significcativa (2-tailedd) al 0.01. *. 0.05

Una vvez analizadoss los índices absolutos


a vam
mos a ver qué pasa cuando el factor de im mpacto se connvierte
en el en mejor cuarrtil de entre to odas las categgorías (Tabla 9). Todas las revistas consi sideradas princcipales
por loos expertos siiguen siendo Q1 o Q2 en 2016 con los datos de CS. Mientras quue para JCR están
distribbuidas entre Q1
Q y Q2 princcipalmente, coon algunas otrras en Q3 y Q4. Q En princippio, dado que las 21
revistas eran consiideradas las más m importanntes en el áreaa, la clasificaación basada en CS está más m de
acuerddo con la opiinión de los expertos
e que la clasificació
ón de JCR. Aunque
A los reesultados no son,
s de
momeento, extrapollables porque sólo se ha annalizado qué pasa p en una su ub-área concrreta de la gesttión de
recurssos humanos y la clasificación de los exppertos se realiizó en 1999 y no podemos eestar seguros de que
las revvistas incluidaas en el listad
do de las princcipales, en esto
os momentos,, fuesen las m mismas. No ob bstante,
la breecha en años garantiza
g que la
l clasificacióón de los experrtos es indepeendiente y no sse ha hecho sesgada
por laa posición de la
l revista en loos rankings dee impacto usad dos para nuesttro análisis.

CS2016Quarrtile

JCR2016Quaartile Q1 Q2 Q3 Q4
Q1 7 - - -
Q2 6 - - -
Q3 2 2 - -
Q4 1 - - -

Tabla
T 9.- Numeero de revistass en cada cuarttil

WPOM
M, Vol 9 Nº1 (53-80)
( 73
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Comoo principales conclusiones


c de
d este ensayoo piloto, que se
s pueden con nsiderar como hipótesis de trabajo
t
para llos futuros annálisis, extraem mos las siguieentes: que CS tiene una cob bertura más rrepresentativa de las
revistas del campoo D15 que JC CR (WoS recconoce explíccitamente en su web que eeste campo no n está
especialmente cubiierto); que deentro de la bbaja coberturaa que da JCR R al campo D D15, las revisstas de
cienciias económicaas están un po oco menos iggnoradas que las de cienciaas empresariaales; que los valores
v
absoluutos de factorr de impacto de CS y JCR R presentan unn elevado acu uerdo; si sólo comparamos las 21
revistas entre sí lass posiciones ded las revistass en JCR y CS S son muy paarecidas (Tablla 7); por lo taanto la
difereencias en los valores
v relativos basados enn percentiles o cuartiles es debido
d al sub--conjunto de revistas
que m
maneja cada unna de las basees y el modo qque cada una de d ellas agrupa en categoríaas (siendo previsible
una diiferencia en laa clasificaciónn por cuartiles ).

Al miismo tiempo, aunque JCR R y CS proporrcionen difereencias en sus clasificacionnes, eso no im mplica,
directtamente, que una
u de ellas pu ueda considerrarse el “gold standard” y laa otra deba peenalizarse resp
pecto a
ella. E
Es probable que
q no se pu ueda consideraar JCR ni CS S como la mejor clasificacción para tod dos los
campoos científicoss, ni todas sus sub-áreaas. Quizás, una u opción, hasta que see pueda dem mostrar
fehaciientemente loo contrario, es
e que ambass sean consid deradas como o indicadores equivalentess (bien
porquue ambas sonn igual de “b buenas” o poorque ambas son igual dee “malas” com mo herramien nta de
clasifi
ficación).

Speciific contribu
utions of eacch author
The fi
first and seconnd authors con
ntributed equallly to this reseearch.

Declaaration of coonflicting in
nterests
The aauthor(s) declaared no poten
ntial conflicts of interest with o the researchh, authorship, and/or
w respect to
publiccation of this article.
a

Fund
ding
The aauthor(s) received no financcial support foor the research
h, authorship, and/or
a publicaation of this arrticle.

Refeerences
Aghaeei Chadegani,, A., Salehi, H.,
H Md Yunus,, M., Farhadi, H., Fooladi, M., Farhadi, M M., & Ale Eb brahim,
N. (2013).. A comparisoon between tw wo main acadeemic literaturee collections: Web of scien nce and
scopus dattabases. Asian
n Solcial Sciennce, 9(5), 19-2 dx.doi.org/10..5539/ass.v9n5p18
26. doi:http://d
Akbulut, M., & Akkca, S. (2017).. Popularity orr prestige?: Thhe case of jasist rank. Journnal of Sciento
ometric
Research, 6(3), 141-150 0. doi:10.55300/jscires.6.3.21
Ameeen, E. C., & Guffey, D. M. (2017). A citation analysis a and review of rresearch issuees and
methodoloogies in advaances in accoounting educcation: Teachiing and currriculum innov vations
Advances in Accounting g Education: T Teaching and Curriculum Innovations
I (V
Vol. 21, pp. 1--25)
ANECCA. (Noviembbre 2017). Mééritos evaluablles para la acrreditación nacional para el aacceso a los cuerpos
docentes unniversitarios: http
ps://www.mecd.gob.es/servvicios-al-ciudadano-

WPOM
M, Vol 9 Nº1 (53-80)
( 74
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

mecd/dmss/mecd/serviciios-al-ciudadaano-
mecd/cataalogo/general/eeducacion/acaademia/ficha/aacademia/criteerios-sociales--juridicas.pdff
(accedido 29 enero 2017)
Balatssky, E. V., & Ekimova, N. A. (2017). C Competition ofo economic journals
j in ruussia: Results of the
three wavves of ranking g. Ekonomichheskaya Politiika, 12(6), 17 78-201. doi:100.18288/1994-5124-
2017-6-099
Bar-Illan, J. (2008). Which h-ind dex? - a compparison of wo os, scopus and d google schoolar. Scientom metrics,
74(2), 2577-271. doi:10.1007/s11192--008-0216-y
Bar-Illan, J., Levene, M., & Lin, A. (2007). S Some measurees for compariing citation daatabases. Jourrnal of
Informetriics, 1(1), 26-34. doi:10.101 6/j.joi.2006.08.001
Barkeer, K. (2007). The uk reseaarch assessmennt exercise: The T evolution of a national research evalluation
system. Reesearch Evalu uation, 16(1), 3-12. doi:10.3 3152/0958202 207X190674
Barmaan, S., Hannaa, M. D., & LaaForge, R. L. (2001). Perceeived relevancce and qualityy of pom journ nals: A
decade laater. Journall of Operattions Manageement, 19(3)), 367-385. doi:10.1016/s0272-
6963(00)000060-7
Bartol, T., Budimirr, G., Deklevaa-Smrekar, D D., Pusnik, M., & Juznic, P. (2014). Asseessment of reesearch
fields in scopus
s w of scienc e in the view
and web w of national research evaaluation in slo ovenia.
Scientomeetrics, 98(2), 1491-1504.
1 dooi:10.1007/s111192-013-1148-8
Basu, A., Banshal, S. K., Singhaal, K., & Singgh, V. K. (2016). Designing a compositee index for reesearch
performannce evaluation n at the nationnal or regionaal level: Rank king central uuniversities inn india.
Scientomeetrics, 107(3), 1171-1193. ddoi:10.1007/s1 11192-016-1935-0
Batiz--Lazo, B., Esskandari, R., & Goddard, J. (2015). Online O publishhing and citatation success in the
accountingg, business an nd economic history of sp pain, 1997-20011. Investigaaciones De Historia
H
Economica, 11(3), 153--163. doi:10.1 016/j.ihe.2014 4.07.010
Baummgartner, H., & Pieters, R. (2003).
( The sttructural influence of markeeting journals : A citation an nalysis
of the discipline
d d its subare as over tim
and me. Journal of marketingg, 67(2), 12 23-139.
doi:10.15009/jmkg.67.2.123.18610
Beed,, C., & Beed, C. C (1996). Meeasuring the qquality of acad demic journalss: The case off economics. Journal
J
of Post Keeynesian Econ nomics, 18(3), 369-396. doi:10.1080/0160 03477.1996.1 1490078
Beets, S. D., Lew wis, B. R., & Brower, H. H. (2016). The quality of business eethics journals: An
assessmennt based on appliccation. Bussiness & Society, 55(2), 18
88-213.
doi:10.11777/000765031 13478974
Bettenncourt, L. A.,, & Houston, M. B. (20011). The impacct of article method m type aand subject area
a on
article citaations and refference diverssity in jm, jm
mr, and jcr. Marketing
Ma Letteers, 12(4), 32
27-340.
doi:10.10223/a:10122723 305777
Bonneer, S. E., Hesford, J. W., Van der Stedde, W. A., & Young, S. M. (2006). T The most influ uential
journals ini academic accounting. A Accounting, Organizations and Societty, 31(7), 66 63-685.
doi:https:///doi.org/10.10016/j.aos.20055.06.003
Bontis, N., & Sereenko, A. (200 09). A followw-up ranking of academic journals. Jouurnal of Know wledge
Management, 13(1), 16-26. doi:10.11108/13673270 0910931134
Brownn, L. D., & Gaardner, J. C. (1985). Using citation analy ysis to assess the
t impact of jjournals and articles
a
on contem mporary accou unting researcch (car). Journal of Accounting Reseaarch, 23(1), 84-109. 8
doi:10.23007/2490908
Caligiiuri, P. M. (19999). The ran nking of schollarly journals in internation nal human ressource management.
International Journal off Human Resoource Manageement, 10(3), 515-519.5
Cantinn, M., Munozz, M., & Roaa, I. (2015). C Comparison between
b impaact factor, eiggenfactor scorre, and
scimago journal rank in ndicator in annatomy and morphology
m jo
ournals. Interrnational Jourrnal of
Morphologgy, 33(3), 118 83-1188.

WPOM
M, Vol 9 Nº1 (53-80)
( 75
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Carrerras, J. (2011).. Evaluation ofo teaching andd faculty prom motion (viii). University
U spaanish legislatiion (f):
Quality off teaching and d complemenntary retributio ons (1st part).. Educacion M Medica, 14(4)), 199-
205. doi:10.4321/S1575 5-181320110000400002
Chan,, K. C., Chan, K. C., Seow,, G. S., & Tam m, K. (2009). Ranking
R accounting journaals using disseertation
citation annalysis: A ressearch note. A Accounting, Organizations
O s and Societyy, 34(6-7), 87 75-885.
doi:10.10116/j.aos.2008.12.002
Chan,, K. C., Fung,, H. G., & Yau u, J. (2013). PPredominant sources
s and co ontributors off influential buusiness
ethics reseearch: Evidence and impliccations from a threshold cittation analysiss. Business Etthics-a
European Review, 22(3), 263-276. dooi:10.1111/beer.12024
Chan,, K. C., Lai, P.,
P & Liano, K. K (2012). A tthreshold citaation analysis in marketing research. Eurropean
Journal off Marketing, 46(1),
4 134-1566. doi:10.1108 8/03090561211189211
Chan,, K. C., & Liaano, K. (2009 9). Threshold citation analy ysis of influenntial articles, jjournals, instittutions
and reseaarchers in acccounting. Acccounting and d Finance, 49 9(1), 59-74. doi:10.1111/j.1467-
629X.20077.00254.x
Chapm man, K., & Ellinger,
E A. E. (2009). Con structing impact factors to measure the influence of supply
chain maanagement an nd logistics journals. Jou urnal of Bussiness Logisttics, 30(2), 197-+.
doi:10.10002/j.2158-1592.2009.tb001 19.x
Chathha, K. A., Butt,
B I., & Tariq,
T A. (20015). Researcch methodolo ogies and puublication tren nds in
manufactuuring strategy y a content aanalysis based d literature review. Internnational Jourrnal of
Operationns & Productio on Managemeent, 35(4), 487 7-546. doi:10.1108/ijopm-007-2012-0285
Choww, C. W., Hadddad, K., Singh h, G., & Wu, A A. (2008). A citation
c analyssis of the top-rranked manag gement
and finanncial accountting journalss. Internation nal Journal of Managerrial and Fin nancial
Accountinng, 1(1), 29-44 4. doi:10.15044/IJMFA.2008 8.02046
Delgaado, F. J., & Fernández-Lle
F era, R. (2012).. Sobre la evaaluación del prrofesorado unniversitario (esspecial
referencia a ciencias eco onómicas y juurídicas). 2012 2, 35(2), 15. doi:10.3989/re
d edc.2012.2.861
Di Vaaio, G., & Weisdorf,
W J. L. (2010). Rannking econom mic history journals: A citaation-based im mpact-
adjusted analysis.
a Cliom
metrica, 4(1), 1-17. doi:10.1 1007/s11698-0 009-0039-y
Ding, Y., & Cronin, B. (2011). Popular and//or prestigious? Measures of scholarly eesteem. Inform mation
Processingg & Managem ment, 47(1), 800-96. doi:10.1016/j.ipm.201 10.01.002
DuBoois, F. L., & Reeb,
R D. (20000). Ranking tthe internation nal business journals. Jourrnal of Interna ational
Business Studies,
S 31(4),, 689-704. doii:10.1057/palg grave.jibs.84990929
Falagas, M. E., Kouuranos, V. D., Arencibia-Joorge, R., & Karageorgopou
K ulos, D. E. (20008). Compariison of
scimago journal rank indicator
i withh journal imp pact factor. Fa aseb Journal,, 22(8), 2623 3-2628.
doi:10.10996/fj.08-10793 38
Fleisss, J. L. (19711). Measuring g nominal scaale agreementt among many raters. Psycchological Bu ulletin,
76(5), 3788-382. doi:10.1037/h00316119
Fu, S. C., & Chann, K. M. (201 14). Ranking of orthopaedic journals: A challenge too the citation n-based
metrics. Joournal of Orth hopaedic Trannslation, 2(3),, 131-138. doii:10.1016/j.jott.2014.03.005
Galánn, A., & Zychh, I. (2011). Analysis
A of thhe criteria of the
t national commission
c fo
for the evaluattion of
research activity
a (cneai) for the conncession of the t research incentives
i in education. Bordon,
63(2), 1177-139.
García-Lillo, F., Úbeda-García,
Ú M., & Marcco-Lajara, B. (2015). The intellectual structure of human h
resource management
m research: A bibliometric study of the internationall journal of human h
resourcemmanagement, 2000-2012.
2 R
Revista Europeea de Direccion y Econom mia de la Em mpresa,
24(3), 1499-161. doi:10.1016/j.redee.22015.07.001
Garcia-Pachon, E.,, & Arencibiaa-Jorge, R. (22014). A com mparison of the impact facttor and the sccimago
journal rannk index in reespiratory sysstem journals.. Archivos Dee Bronconeum mologia, 50(7)), 308-
309. doi:10.1016/j.arbrees.2013.10.0006

WPOM
M, Vol 9 Nº1 (53-80)
( 76
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Haddaad, K., Singhh, G., Sciglimpaglia, D., & Chan, H. (2014). To whaat extent do aarticles publisshed in
other thann "top journals" have impacct on marketiing? European n Journal of M Marketing, 48 8(1-2),
271-287. doi:10.1108/ej
d jm-11-2010-00592
Harriss, C. (2008). Ranking the management journals. Jou urnal of Schollarly Publishiing, 39(4), 37 73-409.
doi:10.31338/jsp.39.4.3773
Harzinng, A.-W. (20008). On beco oming a highh impact journ nal in internattional businesss and management.
European Journal of International M Management, 2(2),
2 115-118. doi:10.1504//ejim.2008.017 7763
Harzinng, A.-W., & van der Wal, R. (2009). A google scho olar h-index fo An alternative metric
or journals: A
to measurre journal imp pact in econoomics and bu usiness. Journnal of the Am merican Socieety for
Informatioon Science and d Technology, y, 60(1), 41-46
6. doi:10.1002/asi.20953
Harzinng, A. W., & Alakangas, S. S (2016). Gooogle scholar, scopus and th he web of scieence: A longittudinal
and cross--disciplinary comparison. Scientometriccs, 106(2), 78 87-804. doi:100.1007/s11192-015-
1798-9
Hole, A. R. (2017). Ranking eco onomics journnals using dataa from a natio onal research evaluation ex xercise.
Oxford Buulletin of Econnomics and Staatistics, 79(5)), 621-636. doi:10.1111/obees.12185
Hoobler, J. M., & Johnson, N. N B. (2004)). An analyssis of curren nt human ressource manag gement
publicationns. Personnell Review, 33(66), 665-676. do oi:10.1108/0004834804105661547
Jiménnez-Contreras,, E., Robinson n-García, N., & Cabezas-C Clavijo, A. (2011). Producttivity and imp pact of
spanish researchers:
r Reference
R thhresholds witthin scientificc areas. Revvista Espanola De
Documenttacion Cientifi fica, 34(4), 5055-525. doi:10.3989/redc.2011.4.828
Jobbeer, D., & Sim mpson, P. (19 988). A citatiion analysis of selected marketing
m jouurnals. Interna ational
Journal off Research in Marketing,
M 5((2), 137-142. doi:10.1016/0
d 0167-8116(88))90065-1
Kastriinos, N., & Katsoulacos,
K Y.
Y (1995). Toowards a national system of o research evvaluation in greece.
g
Research Evaluation,
E 5(1), 63-68. dooi:10.1093/rev v/5.1.63
Kianifar, H., Sadegghi, R., & Zarrifmahmoudi,, L. (2014). Comparison
C beetween impact ct factor, eigennfactor
a scimago journal rank iindicator of pediatric
metrics, and p neuro ology journalls. Acta inform matica
medica : AIM : journa al of the Socciety for Med dical Informattics of Bosniaa & Herzego ovina :
casopis Drustva
D za meddicinsku inforrmatiku BiH, 22(2),
2 103-1006. doi:10.54555/aim.2014.2 22.103-
106
Law, R., & Van Deer Veen, R. (2 2008). The poppularity of preestigious hosp pitality journalls: A google scholar
s
approach. International Journal off Contemporary Hospitalityy Managemennt, 20(2), 113-125.
doi:10.11008/095961108 810852113
Leydeesdorff, L., & Opthof, T. (2010). Scoppus's source normalized
n im
mpact per pap aper (snip) veersus a
journal im
mpact factor baased on fractiional counting g of citations. Journal of thhe American Society
S
for Inform
mation Sciencee and Technoloogy, 61(11), 2365-2369.
2 do
oi:10.1002/asi..21371
Losillla, J. M., Navvarro, J. B., Palmer,
P A., R Rodrigo, M. F.,F & Ato, M. M (2005). Anáálisis de dato os. Del
contraste ded hipótesis al
a modelado esstadístico. Barrcelona: Ediciions a Petició..
Lowee, A., & Lockke, J. (2005). Perceptions
P oof journal quality and reseaarch paradigm m: Results of a web-
based survvey of british accounting accademics. Acccounting Orga anizations andd Society, 30(1), 81-
98. doi:100.1016/j.aos.20004.05.002
Marinn-Garcia, J. A.,
A Aragonés Beltran,
B P., & Melón, G. (2 2014). Intra-raater and inter--rater consisteency of
pair wise comparison in n evaluating tthe innovation n competency y for universityty students. WPOM-
W
Working Papers on Operationss Management, 5(2), 24-46.
doi:http://ddx.doi.org/10.4995/wpom.vv5i2.3220
Markooulli, M., Leee, C. I. S. G., G Byingtonn, E., & Felp ps, W. A. (2017). Mappinng human reesource
managemeent: Reviewin ng the field annd charting futture directions. Human Ressource Manag gement
Review, 277(3), 367-396. doi:10.1016//j.hrmr.2016.1 10.001
Marleer, J. H., & Booudreau, J. W. (2017). An eevidence-baseed review of hr h analytics. Innternational Journal
J
of Human Resource Ma anagement, 288(1), 3-26. doii:10.1080/09585192.2016.11244699

WPOM
M, Vol 9 Nº1 (53-80)
( 77
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Medinna-López, C., Alfalla-Luqu ue, R., & Mariin-Garcia, J. A.


A (2011). Research in operrations manag gement
teaching: Trends
T and ch hallenges. Intaangible Capitaal, 7(2), 507-5
548.
Medinna-López, C., Marin-Garccia, J. A., & Alfalla-Luq que, R. (2012). Una sisteematización de los
instrumenttos de medida de la calidaad de la investigación (a systematizatio
s on of instrumeents to
measure thhe quality of research).
r WPPOM-Working g Papers on Operations
Op Maanagement, 3(1), 28-
45.
Mehoo, L. I., & Yaang, K. (2007)). Impact of ddata sources on o citation coounts and rankkings of lis faculty:
fa
Web of science
s versuus scopus annd google sch holar. Journaal of the Am merican Socieety for
Informatioon Science and d Technology,y, 58(13), 21055-2125. doi:100.1002/asi.206677
Meriggo, J. M., Roocafort, A., & Aznar-Alarrcon, J. P. (2 2016). Bibliometric overvview of busin ness &
economicss research. Journal
J of BBusiness Eco onomics and Managemennt, 17(3), 39 97-413.
doi:10.38446/16111699.2 2013.807868
Mingeers, J., & Leyydesdorff, L. (2015). Identtifying researcch fields with hin business aand managem ment: A
journal crooss-citation an nalysis. Journnal of the Opeerational Research Societyy, 66(8), 1370 0-1384.
doi:10.10557/jors.2014.1 113
Monggeon, P., & Paaul-Hus, A. (2 2016). The jouurnal coveragee of web of sccience and scoopus: A compaarative
analysis. Scientometrics
S s, 106(1), 213 -228. doi:10.11007/s11192-0 015-1765-5
Mousssa, S., & Touuzani, M. (2010). Ranking m marketing jouurnals using thhe google schoolar-based hg--index.
Journal off Informetrics,, 4(1), 107-11 7. doi:10.1016/j.joi.2009.10.001
O'Leaary, D. (2008)). On the relattionship betweeen citations and a appearancces on “top 255” download lists in
the internaational journal of accountinng information n systems. International Jouurnal of Accoounting
Informatioon Systems, 9((1), 61-75. doii:https://doi.orrg/10.1016/j.aaccinf.2008.022.001
Olsonn, J. E. (20055). Top-25-bu usiness-schoool professors rate journals in operationns managemen nt and
related fields. Interfacess, 35(4), 323-3338. doi:10.12287/inte.1050.0149
Peterssen, C. G., Aaase, G. R., & Heiser,
H D. R. (2011). Journ nal ranking analyses of operrations managgement
research. Internationall Journal of Operations & Production n Managemennt, 31(4), 40 05-422.
doi:10.11008/014435711 111119533
Pindeek, S., Kesslerr, S. R., & Sp pector, P. E. ((2017). A quaantitative and qualitative rev
eview of whatt meta-
analyses have
h contribu uted to our understandin ng of human resource maanagement. Human H
Resource Management
M Review, 27(1)), 26-38. doi:1
10.1016/j.hrmr.2016.09.0033
Pislyaakov, V. (20009). Comparin ng two “therm mometers”: Im mpact factors of 20 leadingg economic jo ournals
according to journall citation rreports and scopus. Sccientometrics, 79(3), 54 41-550.
doi:10.10007/s11192-007 7-2016-1
Quinttas-Froufe, N. (2016). Quallity indicators for scientific publications in the social ssciences in sp pain: A
comparativve analysis between
b ón Educativa, 34(1),
evaluuation agenciees. Revista dee Investigación
259-272. doi:10.6018/ri
d ie.34.1.21019 1
Raminn, S., & Sarrraf Shirazi, A. A (2012). C Comparison between
b impact factor, sciimago journaal rank
indicator and
a eigenfacto or score of nuuclear medicin ne journals. Nuclear
N mediccine review. Central
C
& Easternn Europe, 15(2 2), 132-136.
Rao, S D & Goldsby, T. J. (2013).. On the meassurement and benchmarking
S., Iyengar, D., b g of research impact
i
among acctive logisticss scholars. Innternational Journal
J of Ph
hysical Distriibution & Lo ogistics
Management, 43(10), 814-832. doi:1 0.1108/ijpdlm m-07-2012-020 07
Rosennstreich, D., & Wooliscrofft, B. (2009). Measuring th he impact of accounting
a jouurnals using google
g
scholar and the g-index. British Accounting
A Review, 41(4), 22
27-239.
doi:10.10116/j.bar.2009.10.002
Rosennstreich, D., & Wooliscro oft, B. (20122). Assessing g internationaal journal immpact: The case of
marketingg. European Bu usiness Review w, 24(1), 58-8
87. doi:10.11008/095553412211191553
Rosennstreich, D., & Wooliscrroft, B. (20113). An imprroved method for assessi sing the impact of
managemeent journals. Asian
A Academymy of Managem ment Journal, 18(2), 37-54.

WPOM
M, Vol 9 Nº1 (53-80)
( 78
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Ruiz-P Pérez, R., Lóppez-Cózar, E.. D., & Jiménnez-Contreras,, E. (2010). Principles and criteria used by the
national evvaluation com mmittee of ressearch activity y (cneai-spain
n) for the asseessment of sciientific
publicationns: 1989-2009 9. Psicothemaa, 22(4), 898-9908.
Russ--Eft, D. (20088). Ssci, isi, jccr, jif, if, andd journal qualiity. Human Resource
R Deveelopment Qua arterly,
19(3), 1855-189. doi:10.1002/hrdq.12335
Salgado, J. F., & Páez, D. (2 2007). Scienttific productiv vity and hirssch's h indexx of spanish social
psychologgy: Convergen nce between productivity indexes and d comparisonn with other areas.
Psicothemma, 19(2), 179--189.
Salvador-Oliván, J.. A., & Agusttín-Lacruz, C. (2015). Corrrelation between bibliometrric indicators in i web
of sciencee y scopus journals. Revistaa General de Informacion
I y Documentaciion, 25(2), 34 41-359.
doi:10.52009/rev_RGID..2015.v25.n2. 51241
Schoeepfel, J., & Prost, H. (2009). Comparisoon of scimag go journal rannk indicator (ssjr) with jcr journal
j
impact factor
f (if) for french journals. Psychologie Francaise, 54(4), 28 87-305.
doi:10.10116/j.psfr.2009.07.002
Schöppfel, J., & Prrost, H. (2009 9). Comparisoon of scimago o journal rankk indicator (ssjr) with jcr journal
j
impact facctor (if) for freench journals. Psychologie Francaise, 54 4(4), 287-305..
Segalla, M. (2009). Will you citte me? The em merging strateegy of academ
mic publishingg. European Journal
J
of International Management, 3(4), 4411-418. doi:1 10.1504/ejim.22009.028847
Serennko, A., & Boontis, N. (200 09). Global raranking of knnowledge man nagement andd intellectual capital
academic journals. Journal of Knoowledge Management,
M 13(1), 4-15.
doi:10.11008/136732709 910931125
Serennko, A., & Boontis, N. (201 13). Global raranking of knnowledge man nagement andd intellectual capital
academic journals: 20 013 update. Journal of Knowledge Managementt, 17(2), 30 07-326.
doi:10.11008/136732713 311315231
Serennko, A., & Boontis, N. (201 17). Global raranking of knnowledge man nagement andd intellectual capital
academic journals: 20 017 update. Journal of Knowledge Managementt, 21(3), 67 75-692.
doi:10.11008/jkm-11-2016-0490
Shugaan, S. M. (20003). Editorial: Journal rankkings: Save thee outlets for your
y research. Marketing Sccience,
22(4), 4377-441. doi:10.1287/mksc.222.4.437.24904 4
Siciliaa, M. A., Sancchez-Alonso, S., & Garcia--Barriocanal, E. E (2011). Comparing impaact factors fro om two
different citation
c databaases: The casee of computerr science. Jou urnal of Inform metrics, 5, 69
98-704.
doi:https:///doi.org/10.10 016/j.joi.2011 .01.007
Siebelt, M., Siebellt, T., Pilot, P., Bloem, R R. M., Bhand dari, M., & Poolman, R. W W. (2010). Citation
C
analysis of orthopaedic literature; 18 major orthop paedic journals compared foor impact facttor and
scimago. BMC
B Musculo oskeletal Disoorders, 11. doii:10.1186/1471-2474-11-4
Stoneebraker, J. S., Gil, E., Kirk kwood, C. W.., & Handfielld, R. B. (201 12). Impact fa factor as a meetric to
assess jouurnals where om o research iis published. Journal of Operations
O Maanagement, 30 0(1-2),
24-43. doii:10.1016/j.jom m.2011.05.0022
Svenssson, G. (20006). The paraadoxnoia of ttop journal(s)) of top in marketing.
m Euuropean Jourrnal of
Marketingg, 40(11-12), 1153-1168.
1 dooi:10.1108/03090560610702740
Tadajewski, M. (20016). Academ mic labour, jouurnal ranking lists and the politics
p of knonowledge prod duction
in maarketing. Journal
J oof Marketing Mannagement, 32(1-2), 1-18.
doi:10.10880/0267257X..2015.11205008
Theusssl, S., Reutteerer, T., & Hornik,
H K. (20014). How to o derive conssensus amongg various marrketing
journal rankings? Journal of Bussiness Ressearch, 667(5), 9988-1006.
doi:10.10116/j.jbusres.20 013.08.006
Tsay, M. Y. (20122). An overvieew of the jouurnal impact indicators.
i Journal of Educcational Med dia and
Library Sccience, 49(2).
Viladrrich Segués, M. C., & Doval D Diegue z, E. (2011).. Medición: Fiabilidad
F y validez. Belllaterra:
Laboratorii d'Estadísticaa Aplicada i dee Modelització ó (UAB).

WPOM
M, Vol 9 Nº1 (53-80)
( 79
Prottocol: Is there agreement or disagreementt between the absolute and relative impacct indices obtaained
from
f the Web of Science an
nd Scopus dataa?
Marin-Garccia, J.A.; Alfallla-Luque, R.

Vokurrka, R. J. (19996). The relaative importannce of journalls used in opeerations manaagement reseaarch: A
citation analysis.
a Jourrnal of Opera rations Manag gement, 14(4 4), 345-355. doi:10.1016/S S0272-
6963(96)000092-7
Walteers, W. H. (20017). Citation-based journaal rankings: KeyK questions, metrics, and data sources. IEEE
Access, 5, 22036-22053 3. doi:10.11099/ACCESS.2017.2761400
Zarifm
mahmoudi, L.., Jamali, J., & Sadeghi, R R. (2015). Goo ournal metric s: Compariso
ogle scholar jo on with
impact facctor and scimaago journal raank indicator for
f nuclear medicine
m journaals. Iranian Journal
J
of Nuclearr Medicine, 233(1), 8-14.
Zhou,, Y. B., Lü, L.,L & Li, M. (2012). Quaantifying the influence of scientists andd their publications:
Distinguisshing betweenn prestige andd popularity. New
N Journal of o Physics, 144. doi:10.1088/1367-
2630/14/3/033033
Zinkhhan, G. M., & Leigh, T. W. (1999). Assesssing the quallity ranking off the journal oof advertising,, 1986-
1997. Jourrnal of Adverttising, 28(2), 551-70. doi:10.1080/00913367.1999.106773583
Zupicc, I., & Caterr, T. (2015). Bibliometric
B methods in management
m m and
a organizatition. Organiza ational
Research Methods,
M 18(3
3), 429-472. ddoi:10.1177/10 094428114562629

WPOM
M, Vol 9 Nº1 (53-80)
( 80

You might also like