Professional Documents
Culture Documents
ISSN: 1315-8597
luisediaz@intercable.net.ve
Universidad del Zulia
Venezuela
Resumen
El objetivo de este trabajo es disear un plan para la sistematizacin y
anlisis de la informacin generada durante la evaluacin de un programa
social como un proceso integrado. Un anlisis comparativo -previo- entre diferentes enfoques terico-prcticos de evaluacin permiti identificar los
criterios de evaluacin y sus principales caractersticas. Como resultado se
dise una propuesta para la utilizacin conjunta de la Matriz del Marco Lgico y una ficha de evaluacin; sta ltima sistematiza la informacin generada en el proceso evaluativo de acuerdo a la lgica de la primera. La propuesta contiene un conjunto de herramientas de evaluacin para ser aplicadas en las diferentes fases de desarrollo de los programas sociales, ya que se
adecuan a un sin nmero de los mismos, permitiendo una forma ms rpida,
til y sencilla de entender y realizar los procesos evaluativos. Se concluye en
una propuesta de instrumentos para validarlos en una futura aplicacin y
en la propuesta de criterios para propiciar la discusin de su utilidad en la
evaluacin de programas sociales.
Palabras clave: Evaluacin de Programas Sociales, Propuesta de Evaluacin,
Matriz del Marco Lgico, Ficha de Evaluacin.
Recibido: 25-06-04 . Aceptado: 22-01-05
95
Evaluation of social programs, evaluation proposal, logical matrix framework, evaluative card.
Introduccin
Un programa social adecuadamente formulado mejora sustancialmente
sus posibilidades de xito y de opcin
para un financiamiento. Sin embargo,
el postulante debe contar con herramientas de evaluacin y seguimiento
de programas, desde su introduccin
hasta su ltima fase de la ejecucin,
que contengan los criterios que comnmente se utilizan dentro de las
organizaciones que evalan estos programas. Asimismo, la evaluacin de
los programas debe realizarse utilizando ms de un procedimiento, porque al tratarse de programas sociales,
96
_________________________________________
dos instrumentos de evaluacin, el
primero, la Matriz del Marco Lgico y
el segundo, lo que llamamos una Ficha de Evaluacin, estrechamente
vinculada a la primera, que se alimenta de su informacin, de su lgica interna y genera unos resultados coherentes y tiles. Asimismo, se incorporan al texto algunos trminos bsicos
para aclarar su significado en el contexto de la MML.
1. Procedimiento sugerido para
la evaluacin de programas
sociales
La presente propuesta trata sobre
una forma de organizar el proceso de
evaluacin de los programas sociales,
que introduce aspectos novedosos en la
forma de realizarla, (decisiones relativas al diseo de los instrumentos, mtodos, medida, anlisis e informe final), as como el hecho de que el equipo
de trabajo debe estar integrado por el
evaluador, las comunidades (a travs
de sus representantes) y los organismos postulantes, financiadores, etc.
Tanto para la fase previa a la ejecucin, como en el caso de que el programa se est ejecutando o haya finalizado, la evaluacin puede orientarse por
el procedimiento de evaluacin sugerido, cuyos elementos bsicos son bastante simples, como se explica a continuacin. En primer lugar, se identifican los usuarios potenciales de la evaluacin. Estos o sus representantes
-cuando se trata de grupos numerosos- se organizan en una comisin de
trabajo que comparte con el evaluador
la mxima capacidad de decisin sobre todo el proceso.
97
98
La ejecucin de un programa es
una secuencia de hechos que se van
realizando y que tienen una relacin
causal interna. Dado que para la evaluacin ex-ante no existe la absoluta
certeza de que lo previsto en el programa o proyecto se cumpla en la realidad, se considera el proceso como
una secuencia de hiptesis de desarrollo que se pueden analizar y evaluar. Es el mismo sentido en el que se
utiliza para el diseo de proyectos y
que consideramos necesario explicar
como base para la posterior explicacin de la evaluacin.
En un primer momento se definen
cada uno de los componentes de la
MML numerados como se observa en la
operacionalizacin del formato, que
mostramos a continuacin como el
Cuadro 2.
_________________________________________
Cuadro 1
Formato Base de la MML
Indicadores
objetivamente
comprobables IOC
Modalidad de
comprobacin de los
indicadores
Factores
Externos
(Positivos o
negativos)
Medidas (directas o indirectas): tiempo, lugar, costos, beneficiarios y beneficios esperados por el programa que permiten averiguar
hasta qu grado se va a
cumplir el objetivo general.
Medios de verificacin de la
realizacin del objetivo del
programa
Fuentes: documentos, publicaciones, informes peridicos, entrevistas, encuestas, inspecciones, etc.
Objetivos Especficos
(metas): Efectos especficos
que se espera alcanzar como
resultado del programa.
(Deben mencionar beneficiarios y beneficios buscados)
Indicadores: Metas de
cantidad, tiempo y calidad
de cada realizacin que permitan averiguar hasta que
grado se lograrn los resultados planificados.
Descripcin
Fuente: Elaboracin propia (basada en Ander-Egg y Aguilar, 2000; Agencia Noruega para la Cooperacin y Desarrollo
(NORAD), 1997; PASCUALE, 1999).
99
Cuadro 2
Operacionalizacin del formato de la MML
Descripcin
Indicadores
objetivamente
comprobables IOC
Modalidad de
comprobacin de
los indicadores
Factores
externos
(1) Objetivo
General
(1.1) Indicadores
(1.2) Medios de
verificacin
(2) Objetivos
Especficos
(2.1.) Indicadores
(2. 2) Medios de
verificacin
(3) Resultados
o Productos
(3.1) Indicadores
(3.2) Medios de
verificacin
(4) Actividades
(4.1) Insumos
(4.2) Medios de
verificacin
100
_________________________________________
y que adems permitan monitorear el cumplimiento de los objetivos especficos del programa.
(2.2) Modalidad de comprobacin de los indicadores: En
este recuadro se indican los medios de verificacin de la realizacin de los objetivos especficos
del programa que pueden ser
pruebas, mediciones o indicaciones que confirmarn que el objetivo inmediato se va a realizar. Las
fuentes pueden ser entrevistas o
encuestas a grupos interesados
con conocimientos tiles sobre el
desarrollo del programa. Tambin pueden incluir documentos,
publicaciones, informes peridicos, entrevistas, encuestas, inspecciones, entre otros.
(2.3) Factores externos: En
este recuadro se sealan los hechos, condiciones y decisiones especficas fuera del control de la direccin del programa que, junto
con los productos de ste, son necesarios para lograr los objetivos
inmediatos.
(3) Resultados: En este recuadro se sealan los resultados (o
productos) que el programa puede
garantizar como consecuencia de
sus actividades y los insumos
aportados. Estos resultados deben expresarse en trabajo terminado como por ejemplo: sistemas
instalados, personal capacitado,
abastecimiento, servicios, obras,
etc.
(3.1) Indicadores objetivamente comprobables: En este
recuadro se indican los bienes y
101
102
_________________________________________
En general, la evaluacin ex-ante
consiste en el anlisis de la formulacin del programa para conocer si los
elementos operativos del mismo (actividades, tareas, recursos, presupuesto, etc.) resultan adecuadamente consistentes en el documento del programa propuesto.
En aquellos casos, especficamente
cuando el diseo del programa ya se
ha realizado y slo se est sometiendo
el programa social a una evaluacin
ex-ante para su financiamiento y/o
implementacin, habra que, en primer lugar, vaciar la informacin contenida en el programa, en el formato
de la MML, de acuerdo a la exigencia
de lo que debe contener cada uno de
los recuadros, tal como se indica en el
aparte donde se identifican los componentes de la MML.
En segundo lugar, ajustado el diseo del programa al formato de la
MML, pasara a ser sometido a la evaluacin. Por otro lado, tambin puede
ser til cuando se reformule un documento de un programa utilizando el
formato de la MML, ya que prcticamente la MML es un resumen, en una
pgina, del diseo del programa que
permite visualizar la coherencia interna del mismo.
Antes de entrar en cmo debe hacerse la valoracin de los componentes de la MML, es importante recordar
que cada nivel de la MML debe contener las condiciones necesarias y suficientes para el siguiente nivel superior (lgica vertical), los pasos son los
siguientes:
103
104
ma puede garantizar como consecuencia de sus actividades, en diferentes etapas, durante el proceso de ejecucin y que en conjunto
puedan considerarse como un medio para el logro de los objetivos.
Debe asegurarse que estn incluidos todos los resultados esenciales para lograr los objetivos especficos, que se incluyan slo aquellos que el programa garantice,
que sean factibles y definidos de
forma concreta y verificable.
La valoracin de las actividades: El evaluador debe verificar
que las actividades incluidas en el
diseo del programa sean las necesarias para producir los resultados, ya que puede darse una sobreespecificacin de actividades.
Por otro lado, debe asegurarse que
las actividades incluidas contribuyan directamente al nivel del
resultado superior y estn planteadas en trminos de acciones
que se emprenden y no en trminos de resultados alcanzados; por
ltimo, que el tiempo disponible
para cada actividad sea realista.
La valoracin de los insumos:
El evaluador debe asegurarse que
el total de los insumos necesarios
para lograr los resultados propuestos sea realista; que los insumos sean condiciones necesarias y
suficientes para emprender las
actividades especificadas y que
estn definidos de manera concreta y verificable en cuanto a cantidad, calidad y costo.
La valoracin de los indicadores: Los indicadores son la base
_________________________________________
sea relativamente fcil o poco costosa) Lo ideal es utilizar indicadores que requieran datos ya existentes o disponibles, o que se puedan obtener mediante el sistema
de seguimiento y monitorizacin
prevista en el proyecto). Es conveniente aclarar que, en general,
en las primeras etapas de la planificacin, los indicadores son solamente valores guas para analizar
el diseo del programa.
La valoracin de los factores
externos: La valoracin de los
factores externos es importante
para determinar las posibilidades
de xito del programa. Amerita
analizar todos los factores externos en cada uno de los niveles y estudiar su importancia y probabilidad de que ocurran. Hay que hacer una distincin importante en
cuanto a si los factores externos
son negativos o positivos. En el
caso de los factores externos que
afectan negativamente la ejecucin del proyecto, si su ocurrencia
es muy probable pero no segura, el
evaluador debe asegurarse que el
equipo ejecutor haya tomado las
previsiones para controlarlos,
cambiarlos o influir sobre ellos.
Pero en el caso de que esos factores sean dainos para la ejecucin
del proyecto, el evaluador debe solicitar, si es posible, que se redisee el proyecto y si no es posible, rechazar la propuesta del proyecto.
En cuanto a los factores externos
positivos que son acontecimientos, condiciones o decisiones fuera
del control de la direccin del pro-
La evaluacin de ejecucin de un
programa social se puede definir
como la indagacin y valoracin de la
implementacin de un programa en
cada uno de sus elementos metodolgicos: componentes, resultados, actividades, tareas, recursos, presupuesto, etc. Dicho en otras palabras, seria
el anlisis del desarrollo del proceso,
el cumplimiento de las actividades y
105
106
_________________________________________
tas logradas y las metas planificadas.
Puede medirse tambin la eficacia,
al incorporar el factor tiempo. Es decir, la relacin del tiempo planificado
con las metas alcanzadas, con respecto a la relacin entre el tiempo de realizacin con las metas planificadas,
todo ello, en funcin de los plazos previstos de relevamiento de la informacin de cada uno de los indicadores. Si
se incluye el factor costo, se podra conocer qu tan eficiente ha sido la ejecucin del programa hasta ese momento, ya que la eficiencia es una relacin ptima entre metas, tiempo y
costos. Es importante sealar que en
el enfoque de SIEMPRO (1999) se considera este tipo de evaluacin como de
resultados de medio trmino.
En quinto y ltimo lugar, el evaluador debe indagar de qu manera el
equipo ejecutor ha enfrentado las condiciones externas que pudieran haber
afectado la ejecucin del programa,
previstas o no en el mismo; tanto para
su cumplimiento si son necesarias en
funcin de alguna realizacin en los
diferentes niveles, como si son negativas y han afectado o pueden afectar el
desarrollo del programa. Si ya lo han
afectado, por presencia o ausencia,
debe entonces valorar el grado de
afectacin del programa en funcin
del logro de los resultados y recomendar las acciones correctivas necesarias al rgano decisional.
5. La MML para la evaluacin
ex-post del programa
Sobre la base de las ideas expuestas de la definicin de la evaluacin
ex-post, que abarca la evaluacin de
107
108
6. La Ficha de Evaluacin
del proyecto
Las organizaciones que financian
proyectos sociales, generalmente utilizan ciertos criterios previamente definidos para seleccionar los programas y proyectos. De acuerdo a estos,
se presentan ms adelante, tres Fichas de evaluacin que son de gran
utilidad para evaluar el programa de
acuerdo a la fase de desarrollo en la
cual se encuentre: antes, durante y
despus de la ejecucin; que adems,
se corresponden y complementan con
la aplicacin de la MML en cada uno
de esos momentos.
Es importante sealar que, si bien
la MML se utiliza para la evaluacin
del programa social en su conjunto, la
ficha de evaluacin nos permite obtener una puntuacin que nos indica el
rango que lo califica como aceptable o
no para su aprobacin, una ponderacin de la ejecucin y una medida del
xito o fracaso en la finalizacin.
Las preguntas que presentamos en
cada ficha de evaluacin se basan, por
tanto, en los criterios tcnicos y metodolgicos exigidos por los organismos que
otorgan financiamiento a los programas y proyectos (Fondo Intergubernamental de Descentralizacin y la Ley
de Asignaciones Econmicas Especiales) cuyos criterios claves de elegibilidad son: factibilidad, pertinencia, oportunidad, excelencia, coparticipacin y
sustentabilidad (Ministerio de Ciencia
y Tecnologa, 2000). As como tambin
en los supuestos tericos de evaluacin
de programas y en el Enfoque del Mar-
_________________________________________
co Lgico planteado por la Agencia
Noruega para la Cooperacin y Desarrollo (NORAD, 1997).
6.1. Ficha de Evaluacin Ex-ante
del Programa
110
_________________________________________
Cuadro 4
Ficha de Evaluacin de Ejecucin del Programa
Calificacin
Preguntas
columnas para asignarles valores utilizando el mismo cdigo de calificacin utilizado anteriormente: 1 = Muy
bajo; 2 = Bajo; 3 = Intermedio; 4 = Alto
y 5 = Muy alto.
Como ya se ha explicado, para establecer la calificacin del programa
que se evala, es necesario obtener el
promedio de todos los valores asignados a las preguntas de la ficha de evaluacin. El procedimiento para deter111
Para la evaluacin ex-post se propone el modelo de Ficha de Evaluacin marcado como Cuadro 5. El procedimiento para utilizarla es el mismo
que se ha venido mostrando hasta
ahora para las dos fichas anteriores.
Como ya se seal, para cada aspecto
que se evala, se debe recolectar y
analizar informacin especfica relacionada con las preguntas que se proponen en la ficha de evaluacin, lo que
permite al evaluador realizar anlisis
de efectividad, eficacia y eficiencia de
112
los resultados del programa y contestar con mayor precisin las preguntas
referidas a esos puntos. La ficha contiene igual cantidad de preguntas que
la ficha de evaluacin, es decir, 18 preguntas y varias columnas para asignarles valores utilizando el mismo cdigo de calificacin planteado anteriormente: 1 = Muy bajo; 2 = Bajo; 3 =
Intermedio; 4 = Alto y 5 = Muy alto.
Igual que en los casos anteriores,
para establecer la calificacin del programa, se obtiene el promedio de todos los valores asignados a las preguntas de la ficha de evaluacin. Los
rangos y la construccin de los intervalos se determinan de la misma manera. En funcin del nmero de preguntas de la presente ficha, los rangos
quedan como sigue:
RANGOS:
Entre 18 y 53 Bajo nivel de rendimiento
Entre 54 y 71 Mediano nivel de rendimiento
Entre 72 y 90 Alto nivel de rendimiento
La recoleccin y anlisis de la informacin sobre el programa, permite
determinar al evaluador el rendimiento real del programa a travs del
logro de sus resultados, as como realizar los anlisis de efectividad, eficacia y eficiencia, que le van a permitir
enjuiciar el programa asignndole
una puntuacin pertinente a cada
una de las preguntas, promediar y
ubicar el programa en alguno de estos
rangos para una rpida y fcil interpretacin que se fundamentar en el
informe de evaluacin.
_________________________________________
Cuadro 5
Ficha de Evaluacin Ex-post del Programa
Calificacin
Preguntas
7. Estrategia metodolgica y
procedimientos tcnicos para la
recoleccin de la informacin
Atendiendo a las consideraciones
realizadas por Aguilar y Ander-Egg
(1994) en relacin con los mtodos y
procedimientos que se deben utilizar
para la bsqueda de informacin para
la evaluacin de un programa social,
la seleccin de los mismos depender
113
114
que contengan la formulacin, informes de diagnsticos previos, estadsticas referidas a la poblacin objetivo
y a la demanda potencial, etc. (SIEMPRO, 1999:76). Puede recurrirse incluso, a fuentes de informacin primaria (gerentes, tcnicos o beneficiarios
del programa), en caso de ser necesario.
Otro aspecto importante es la identificacin de las fuentes de informacin, ya que el equipo de evaluacin
debe determinar: quin, cmo y dnde
se conseguir la informacin para
cada indicador o pregunta realizada.
Las fuentes de informacin se pueden
clasificar como sigue: a) primarias:
del grupo beneficiario o de los beneficiarios (indirectos), informantes clave, etc.; b) secundarias: otros organismos (internacionales, nacionales, regionales, municipales, ONGs); y c) documentales: archivos del mismo programa, informes de gestin, estadsticas publicadas, bases actuariales, etc.
Ahora bien, en el caso de que sea
necesario recolectar informacin de
fuentes primarias, lo primero es identificar el universo de estudio, si es el
total de una poblacin o si es necesario extraer una muestra a travs de
los procedimientos estadsticos pertinentes.
En todo caso, habra que disear
los instrumentos o tcnicas para recabar la informacin, que como ya se
mencion, pueden ser de la investigacin cualitativa y/o cuantitativa. Los
instrumentos o tcnicas deben ser
adecuados al tipo de evaluacin que
se vaya a realizar en funcin de la fase
de desarrollo del programa.
8. Elaboracin y presentacin
del Informe de Evaluacin
Despus de efectuado el trabajo de
campo, recabados los datos e informacin necesaria, es importante y preciso sistematizar los resultados su discusin y anlisis por parte del equipo
de evaluacin, para presentarlos junto a las conclusiones y recomendaciones pertinentes en el informe de evaluacin, a quienes hayan encargado el
estudio.
El informe de evaluacin adems de
contener los resultados en cuanto a la
puntuacin, debe dar una explicacin
clara y precisa que la justifique, y la
forma de exposicin de ello debe hacerse en el mismo orden como aparece en
la Ficha de Evaluacin, ya que sta sirve como gua. Una vez obtenida la informacin, es preciso ordenar, clasificar y agrupar los resultados, es decir,
procesar y sistematizarlos de acuerdo
al orden que tienen las preguntas de la
ficha de evaluacin, lo que puede dar
lugar a los subttulos del informe y obtener as, conclusiones coherentes.
Es importante tomar en cuenta que
la mayora de las veces en las evaluaciones, lo que se intenta es encontrar
explicaciones del xito potencial de un
programa, o del xito o fracaso de su
ejecucin o de alguna de sus partes, o
en el caso de que haya finalizado, comprobar las modificaciones que se han
dado en una situacin inicial como
efecto de la ejecucin del programa.
As, el anlisis y la interpretacin que
se realice de los datos, debe estar en
(*) El esquema se basa en el presentado por Aguilar y Ander-Egg (1994) y adaptado a la propuesta que se
realiza.
115
(**) Si es un informe de evaluacin del diseo de un programa, la modificacin del programa pudiera
presentarse enmarcada en el formato de la MML.
116
_________________________________________
117
118
Bibliografa
AGUILAR, Mara y ANDER-EGG,
E. Evaluacin de servicios y programas sociales. Buenos Aires, Argentina. Editorial Lumen, 1994.
ANDER-EGG, E. y AGUILAR, M.
Cmo elaborar un proyecto.
Gua para disear proyectos sociales y culturales. Buenos Aires,
Ar ge nti na .
E di t or ia l
LUMEN/HVMANITAS (15 ed), 2000.
MINISTERIO DE CIENCIA Y TECNOLOGA. Gua Metodolgica
para la formulacin de Proyectos con Recursos del Fondo Intergubernamental de Descentralizacin (FIDES) y la Ley de
Asignaciones Econmicas Especiales (LAEE) para el rea Ciencia Tecnologa e Innovacin. Caracas, Venezuela. Viceministerio de
Planificacin y Desarrollo, 2000.
AGENCIA NORUEGA PARA LA
COOPERACIN Y DESARROLLO
(NORAD). El Enfoque del marco
lgico. Manual para la planificacin de proyectos orientados
mediante objetivos. Madrid, Espaa. Instituto Universitario de Desarrollo y Cooperacin, 1997.
SOFIA, Pasquale. El Cuadro Lgico Master. Seminario: La M & E
(Monitoreo y Evaluacin) de Programas Sociales. (Material de apoyo)
Maracaibo, Venezuela, 2-4 de junio
de 1999.
SIEMPRO. Gestin Integral de
Programas Sociales Orientada a
Resultados. Manual Metodolgico para la Planificacin y Evaluacin de Programas Sociales.
Brasil. UNESCO, Fondo de Cultura
Econmica, 1999.