Professional Documents
Culture Documents
PROFISSIONAL NA AP
AVALIAO DO IMPACTO DA FORMAO
NA ADMINISTRAO PBLICA
A B OR D A G E M M ET O D O L GI C A 201 6
30 de junho de 2016
ndice
Introduo ................................................................................................................................. 4
1. Avaliao da formao: enquadramento terico-metodolgico ...................................... 7
2. Projeto-tipo de avaliao de impacto da formao ........................................................ 14
2.1 Planeamento ........................................................................................................ 15
2.2 Recolha de dados ................................................................................................. 20
2.3 Anlise e interpretao de dados ......................................................................... 21
2.4 Reporte e Comunicao ....................................................................................... 22
3. Recomendaes para a operacionalizao da metodologia de avaliao do impacto da
formao ......................................................................................................................... 25
3.1 Definio de prioridades ...................................................................................... 25
3.2 Fatores crticos de sucesso da aplicao da metodologia .................................... 26
3.3 Passos do processo da avaliao de impacto da formao .................................. 26
3.4 Etapas operacionais subsequentes ...................................................................... 28
Bibliografia .............................................................................................................................. 30
Legislao ................................................................................................................... 32
Introduo
A Direo Geral da Qualificao dos Trabalhadores em Funes Pblicas INA tem vindo a
repensar o sistema de formao profissional na Administrao Pblica Portuguesa,
atendendo a uma conceo da formao como um investimento, assente num processo que
procura garantir benefcios superiores aos custos, interligando, para tal, a formao no ciclo
de gesto dos organismos e, em particular, na gesto dos recursos humanos. Neste sentido,
a ao do INA passa por criar uma metodologia de identificao de referenciais de
competncias, facilitando os meios para a respetiva difuso e implementao, por pensar os
efeitos da gesto por competncias no planeamento e execuo da formao e, por fim, em
desenhar e promover a aplicao de metodologias que permitam aferir o resultado dessa
formao.
trabalhadores e organismos, a identificao de perfis de competncias e a configurao de
solues formativas de capacitao e desenvolvimento.
O INA, constituindo-se como referncia nacional na rea da formao, tem entre as suas
atribuies, nos termos do Decreto-Lei n. 48/2012, de 29 de fevereiro1:
Administrao Pblica promover, periodicamente, a avaliao dos efeitos da formao
ministrada ao nvel de eficcia dos servios, por forma a avaliar o impacto do investimento
efetuado nos resultados das organizaes.
1. Avaliao da formao: enquadramento terico-
metodolgico
Fig.1. Ciclo de Gesto da Formao
O presente relatrio foca a avaliao da formao e esta pode ser definida como um
processo sistemtico de recolha de dados relevantes para aferir da qualidade da formao,
da sua efetividade e das condies propcias ou inibidoras da transferncia da aprendizagem
para o contexto de trabalho.
independentemente do seu objeto, desenvolve-se em quatro fases que podemos
genericamente denominar de:
Fig.2. Processo de Avaliao
Adaptado de Zinovieff (2008:3)
Reao: corresponde ao nvel 1 e pretende responder pergunta Os formandos
gostaram do curso?, e visa avaliar as reaes dos participantes na formao.
Aprendizagem: plasma-se no nvel 2 e tem como pergunta-chave Os formandos
mudaram a sua atitude, aumentaram os seus conhecimentos e desenvolveram
competncias em decorrncia da formao frequentada?
Comportamento: traduz-se no nvel 3 e procura responder pergunta Que
mudanas ocorreram no comportamento dos participantes nos postos de trabalho
por transferncia das aprendizagens?, ou seja, pretende-se avaliar os
comportamentos dos participantes em contexto de trabalho (mobilizao ou no
das competncias adquiridas).
Resultados: corresponde ao nvel 4 e tem por fim aferir os efeitos no desempenho
da organizao, respondendo questo Que resultados foram atingidos devido ao
programa de formao?
Em cada nvel, o processo avaliativo tem por objeto diferentes focos, havendo subjacente,
ao seu conjunto, uma sequncia de dificuldade crescente, compensada pelo proporcional
aumento do valor emergente da avaliao nos nveis 3 e 4 (Kirkpatrick e Kirkpatrick 2006).
Outro autor tambm referenciado neste domnio Jack Phillips (1998) que, em 1996,
elaborou um modelo baseado no de Kirkpatrick ao qual acrescentou um nvel, o do retorno
do investimento na formao (ROI). Este 5. nvel pretende quantificar financeiramente o
referido retorno do investimento, comparando os benefcios gerados pelos efeitos
resultantes da frequncia da formao, com o valor investido nessa mesma formao.
Fig. 3. Modelo de Avaliao (Kirkpatrick 1998; Phillips 1998)
Kaufman (2000) considera ainda que o ROI limitado realidade interna da organizao e
que para concretizar uma avaliao de nvel 5 seria necessrio ponderar o impacto da
prpria organizao sobre a sociedade.
De entre os fatores que contribuem para este efeito est a dificuldade em individualizar as
relaes causas/consequncias que contribuem para o conjunto de resultados da
organizao ou para a modificao de comportamentos por parte dos trabalhadores
(Mendes 2008). Designadamente no que diz respeito avaliao do ROI, um dos desafios
mais crticos consiste em isolar os efeitos da formao relativamente a outras variveis que
influem no desempenho.
desenvolvimento das competncias individuais, sendo mais relevante aferir em que medida
a organizao est a retirar valor da formao, o que implica integrar a formao no
processo de gesto do desempenho.
Entre 2003 e 2005, Brinkerhoff desenvolveu o mtodo Success Case Method (SCM) que,
aplicado na avaliao de impacto da formao, tem em linha de conta a estratgia adotada
pelas organizaes para melhorar o seu desempenho atravs do investimento na formao
dos seus trabalhadores.
O LTSI, proposto por Holton, procura aferir em que medida o impacto da formao depende
dos efeitos de variveis mediadoras entre a ao formativa e o desempenho da organizao
(Holton 2005)
11
local de trabalho (IQF 2006). Estes fatores podem ser agrupados em trs dimenses:
caractersticas dos formandos, conceo da formao, e caractersticas do contexto de
trabalho (fig. 4.).
Fig. 4. Modelo de Anlise da Transferncia da Formao (IQF 2006:205)
O LTSI j foi validado para a realidade portuguesa por Ana Raquel Velada (Velada: 2007).
Para avaliar o impacto das intervenes formativas ao nvel dos resultados que a
organizao pretende alcanar, necessrio definir previamente quais so esses resultados
e de que forma os desempenhos individuais podem contribuir para a sua obteno.
Neste domnio um dos instrumentos possveis de utilizar ser o mapa de impactos (fig. 5)
onde se identificam as relaes em cascata entre os resultados que se pretendem obter
no que respeita ao desempenho organizacional, ao desempenho individual e/ou de grupo e
as competncias requeridas para esse mesmo desempenho (IQF 2006).
Fig.5 Mapa de Impactos (IQF 2006)
Deste modo, deve ser prestada especial ateno definio prvia e organizao de um
processo de avaliao de impacto da formao, conforme j descrito anteriormente (fig. 2).
2. Projeto-tipo de avaliao de impacto da formao
Fig. 6. Processo de Avaliao do Impacto da Formao
14
Estas quatro fases e o seu contedo respetivo do ponto de vista dos objetivos a definir, das
atividades a realizar e dos instrumentos a aplicar, funcionam como linhas de orientao para
a configurao de um projeto especfico de avaliao do impacto da formao.
2.1 Planeamento
O planeamento da interveno avaliativa uma fase determinante do projeto, com reflexo
em todo o desenvolvimento subsequente.
Esta etapa visa garantir que, desde o primeiro momento, se caracteriza a situao existente
e se delimitam os objetivos a atingir, associados configurao de um determinado projeto
formativo, possibilitando as condies para uma mensurao efetiva do valor decorrente da
formao, bem como, num plano operacional, a coerncia dos desenhos das etapas
sequentes com os fins prosseguidos.
Fig. 7. Etapa de conhecimento do contexto organizacional
15
A definio da situao de partida permitir dispor de uma base a partir da qual se tomar a
deciso global sobre a abordagem formativa e a respetiva interveno avaliativa e se
confrontar a situao a jusante, por forma a avaliar alteraes no sentido desejado. A
configurao do desenho do projeto de formao deve garantir que os trabalhadores
adquirem e desenvolvem as competncias diagnosticadas como sendo necessrias para a
melhoria do desempenho organizacional.
Atividade 1 Resultados
16
Tabela 2. Atividade 2 Planeamento da Avaliao do Impacto da Formao
Atividade 2 Resultados
Atividade 3 Resultados
2.1.2 Planeamento do processo avaliativo
Conhecidas as razes que deram origem formao e definidos os efeitos que se pretendem
obter no organismo e nos trabalhadores, esto criadas as condies para planear a
interveno avaliativa, que constitui o objetivo desta etapa.
A partir deste ponto, define-se o quadro de referncia da avaliao e respetivos
procedimentos, abordando questes como:
Dimenses a avaliar e valores de referncia;
Momentos em que se vo efetuar as avaliaes;
Tcnicas e instrumentos de avaliao a utilizar;
17
Intervenientes no processo de avaliao;
Modo como se perspetiva comunicar os resultados.
Fig. 8. Etapa de planeamento do processo avaliativo
Na atividade 4 caracteriza-se o objeto da avaliao, em congruncia com a estratgia de
avaliao de impacto tida por adequada, a montante.
Atividade 4 Resultados
Esta estratgia visa apurar em que medida houve transferncia da aprendizagem para a
organizao. Os benefcios resultantes da formao dependem desta transferncia, uma vez
que a mesma determina qual a utilizao dos conhecimentos adquiridos, das competncias
desenvolvidas e dos comportamentos apreendidos no decurso da formao, no contexto de
trabalho, ou seja, na organizao onde o formando exerce a sua funo. Como reala Velada
(2007:32): para que a transferncia seja efetiva, necessrio que as competncias ou os
comportamentos aprendidos sejam generalizados ao contexto de trabalho e mantidos
durante um perodo de tempo aps a formao e que correspondentes repercusses
tambm se verifiquem ao nvel das organizaes.
18
Todos os aspetos anteriores ponderados levam a que na definio da estratgia e respetivo
plano de implementao se considerem os diferentes momentos, intervenientes e
dimenses presentes no modelo de anlise da transferncia da formao.
A estratgia prev como cruciais os momentos antes, durante e aps a formao sendo, por
isso, necessrio perspetivar os meios que mais tarde sero aplicados no sentido de se obter
informaes relevantes.
A estratgia define em cada timing atrs referido a participao de diferentes atores, entre
os quais se destacam os formandos / trabalhadores, as suas chefias e formadores.
Atividade 5 Resultados
19
efetuadas, so alguns exemplos das condies com efeitos potenciais, favorveis ou
desfavorveis, no aproveitamento individual e coletivo da formao ministrada.
Atividade 6 Resultados
Fig. 9. Etapa de recolha de dados
20
Este objetivo concretiza-se na atividade 7, durante a execuo da formao, e na atividade
8, aps a concluso da formao.
Tabela 7. Atividade 7 Recolha de dados
Atividade 7 Resultados
Tabela 8. Atividade 8 Recolha de dados
Atividade 8 Resultados
Fig. 10. Etapa de anlise e interpretao de dados
Na atividade 9, o foco consiste em tratar dados que permitam concluir sobre a natureza e
21
efeitos da formao, particularmente, ao nvel individual e sua associao aos resultados
organizacionais.
Tabela 9. Atividade 9 Anlise de dados
Atividade 9 Resultados
Resultados da anlise dos dados recolhidos
Tratar e analisar a informao recolhido ao nvel
(anlises descritivas/interpretativas), em termos
do desenvolvimento e/ou reforo de
de desenvolvimento e/ou reforo das
competncias dos trabalhadores e sua
competncias e da melhoria dos contributos dos
associao aos resultados organizacionais.
trabalhadores para a organizao.
Atividade 10 Resultados
22
Fig. 11. Etapa de reporte e comunicao
Na atividade 11, elabora-se o relatrio com a abordagem metodolgica e os resultados
obtidos neste processo de avaliao.
Sero tambm elaboradas recomendaes com o duplo objetivo de dar continuidade e
reforar as prticas que tiveram sucesso, mas tambm de introduzir alteraes por forma a
modificar os aspetos que foram considerados menos positivos, sempre tendo em vista a
otimizao da capacitao e do desenvolvimento de competncias de trabalhadores e de
resultados da organizao.
Tabela 11. Atividade 11 Reporte
Atividade 11 Resultados
Na atividade 12 procede-se divulgao dos resultados, preparada e executada de acordo
com o definido na estratgia.
Trata-se de um momento particularmente relevante enquadrado no pretendido processo de
mudana e de nfase colocado no retorno que a formao deve oferecer Administrao
Pblica, aos seus organismos e aos seus trabalhadores.
23
Atividade 11 Resultados
24
3. Recomendaes para a operacionalizao da metodologia de
avaliao do impacto da formao
25
No plano de atividades (PA), que indica aes dirigidas e de apoio concretizao de
objetivos operacionais, alinhados com os objetivos estratgicos presentes no quadro
de avaliao e responsabilizao (QUAR);
No oramento anual, com dotao para a formao profissional;
Na proporo do investimento da formao profissional, distribudo por programas
ou aes de formao, de acordo com prioridades previamente definidas.
Para que tal seja possvel necessrio clarificar, na fase inicial do projeto, quais os
resultados pretendidos ao nvel de organismos e trabalhadores, decorrentes da
implementao da estratgia formativa.
Tomando como ponto de partida o anterior, necessrio ainda garantir a presena dos
seguintes fatores que so tidos como essenciais para a aplicao bem sucedida da
metodologia:
26
trabalhadores, dos seus contributos e dos resultados dos organismos. um processo
estruturante e segue um conjunto de passos interdependentes.
Pese embora a especificidade de cada programa formativo, no contexto em que realizado,
definiram-se, ao longo deste documento, um conjunto de recomendaes metodolgicas e
estabeleceu-se um roteiro de atividades que assumem a forma de linhas de orientao.
A avaliao do impacto da formao envolve, assim, os seguintes passos:
Realizao e/ou anlise de levantamentos de necessidades de capacitao e de
desenvolvimento de trabalhadores e organismos, em termos de competncias e
resultados, respetivamente;
Definio de modelos, programas, metodologias e contedos formativos alinhados
de acordo com as necessidades identificadas e objetivos estabelecidos, desdobrados
em cascata: dos estratgicos aos operacionais;
Configurao da estratgia avaliativa do impacto da formao, com participao e
compromisso dos envolvidos;
Implementao de modelos, programas e metodologias, incluindo a avaliativa, em
conformidade com o projetado;
Avaliao e reporte de resultados;
Aplicao das lies aprendidas no processo de gesto da formao e, num sentido
mais amplo, no processo de gesto estratgica do organismo.
27
3.4 Etapas operacionais subsequentes
Como se referiu na introduo, o presente documento insere-se num conjunto de aes que
o INA est a desenvolver para potenciar a criao de valor decorrente da capacitao
humana. H conscincia que essa criao depende de uma melhoria dos processos de
gesto de recursos humanos vigentes, numa tica que ambiciosa nos fins e incremental
nos meios.
Nos prximos dois anos, o INA ir dar corpo a uma reorientao estratgica no que concerne
a formao profissional da Administrao Pblica que j foi delineada no documento
Orientaes Estratgicas (INA 2016) e do qual se extraiu a tabela abaixo. Das aes
previstas, cumpre destacar, para efeitos de avaliao do impacto da formao, a propositura
de uma metodologia de avaliao da formao, a sua validao atravs de projetos-piloto e
a criao de kits metodolgicos que capacitem as entidades da Administrao Pblica para
procederem avaliao da formao frequentada pelos seus colaboradores, atendendo aos
seus posteriores efeitos no desempenho. Este documento apenas a manifestao
preliminar de um trabalho em decurso.
Ao Quadro temporal
28
Definio de uma metodologia de avaliao 2016
do impacto da formao
29
Bibliografia
Brinkerhoff, Robert O. 2005. The Success Case Method: A Strategic Evaluation Approach to
Increasing the Value and Effect of Training. Advances in Developing Human
Resouces 7(1):86-101.
Holton, Elwood F. 2005. Holtons Evaluation Model: New evidence and construct
elaborations. Advances in Developing Human Resources 7(1):37-54.
Instituto para a Qualidade na Formao, I.P. 2006. Guia para a Avaliao da Formao.
Lisboa: IQF.
Kaufman, Roger. 2000. Mega Planning: Practical Tools for Organizational Success. Thousand
Oaks, CA: Sage Publications.
Kirkpatrick, Donald L. 1998. The Four Levels of Evaluation. Pp. 95-112 in Evaluating
Corporate Training: Models and Issues, editado por Stephen M. Brown e Constance
J. Seidner. New York: Springer Science + Business Media, LLC.
Kirkpatrick, Donald L., e James D. Kikpatrick. 2006. Evaluating Training Programs: The four
levels. 2 ed. San Francisco: Berret-Koehler Publishers, Inc.
Kirkpatrick, Donald L., e James D. Kikpatrick. 2007. Implementing the Four Levels: A practival
guide for effective evaluation of training programs. San Francisco: Berret-Koehler
Publishers, Inc.
Mendes, Sofia. 2008. Avaliao da Formao: uma constante necessria. Amadora: Sinfic
(disponibilizado em
http://www.sinfic.pt/SinficWeb/displayconteudo.do2?numero=24933 acedido em
Agosto 2013)
Phillips, Jack J. 1998. Level 4 and Beyond: An ROI Model. Pp. 113-140 in Evaluating
Corporate Training: Models and Issues, editado por Stephen M. Brown e Constance
J. Seidner. New York: Springer Science + Business Media, LLC.
30
Velada, Ana Raquel R. 2007. Avaliao da Eficcia da Formao Profissional: factores que
afectam a transferncia da formao para o local de trabalho. Tese de
Doutoramento em Psicologia Social e Organizacional. Lisboa: ISCTE (disponibilizado
em http://repositorio-
iul.iscte.pt/bitstream/10071/626/1/Tese%20Doutoramento_Raquel%20Velada.pdf
acedido em Agosto 2013)
Velada, Raquel; Antnio Caetano; Reid Bates; Ed Holton. 2009. Learning Transfer
validation of the learning transfer system inventory in Portugal. Journal of
European Industrial Training 33(7):635-656.
Zinovieff, Michael A. 2008. Review and Analysis of Training Impact Evaluation Methods, and
Proposed Measures to Support a United Nations System Fellowships Evaluation
Framework, prepared for the WHOs Department of Human Resources for Health on
behalf of the UN Task force on Impact Assessment of Fellowships, Geneva,
(disponibilizado em
http://www.google.pt/url?sa=t&rct=j&q=&esrc=s&source=web&cd=1&ved=0ahUKE
wjcvryq4-
XLAhUL7BQKHR85CdAQFgggMAA&url=http%3A%2F%2Fesa.un.org%2Ftechcoop%2F
fellowships%2FSFOMeeting%2FParticipantArea%2FBackgroundDocuments%2F6_RE
VIEW%2520report%2520FINAL%2520.pdf&usg=AFQjCNHILO_mxy7jss0UbmocG_j2L
gN5OA - acedido em maro 2016)
31
Legislao
RCM 89/2010, 17 de Novembro, Aprova o plano de aco para a formao profissional dos
trabalhadores da Administrao Pblica para o perodo 2011-2013 (disponibilizado
em http://www.dgaep.gov.pt/upload/Legis/2010_rcm_89_17_11.pdf - acedido em
Agosto 2013).
32