Professional Documents
Culture Documents
(*) Martínez Mediano, Catalina (2017). Evaluación de programas. Tema 6. Los modelos
lógicos como marco teórico y de organización para el diseño, aplicación y evaluación de
programas educativos. (191-217). Madrid: UNED. ISBN(13):978-84-362-7342-7.
(Cod.6302405GR01A01).
1
1. OBJETIVOS Y RESULTADOS DE APRENDIZAJE
De modo concreto, se espera que el alumno, al terminar el estudio del tema, consiga los
siguientes objetivos de aprendizaje:
• Conocer y valorar la finalidad de los estándares de calidad del Joint Committee para
la evaluación de programas.
• Conocer y valorar las cinco características o atributos de calidad de los estándares
de la tercera edición del 2011.
• Valorar la aplicación de los estándares de calidad y sus normas correspondientes
para la realización de evaluaciones de programas.
• Aplicar los estándares de calidad del Joint Committee en la evaluación de
programas.
• Valorar y argumentar la utilidad de los estándares para la mejora de las evaluaciones
de los programas, de los propios programas y de la educación.
2. INTRODUCCIÓN
Los autores de las normas aconsejan que los evaluadores, como profesionales de la
evaluación, y los beneficiarios de las evaluaciones cooperen entre sí para que las
evaluaciones puedan realizarse, aplicando las normas del Joint Committee, con la certeza de
que su realización contribuirá a la mejora de la educación.
2
3. CARACTERÍSTICAS Y CONCEPTOS DE LOS ESTÁNDARES
PARA LA EVALUACIÓN DE PROGRAMAS
La revisión del 2011 mantiene el número de 30 normas, pero introduce un nuevo grupo
sobre los cuatro anteriores, de modo que están organizadas en cinco grupos
correspondiendo a cinco atributos claves sobre la calidad de la evaluación. Cada grupo de
normas, o atributo, es introducido por los conceptos claves que lo fundamentan, y para cada
norma se proporciona una breve definición, clarificación, fundamento y sugerencia para su
aplicación.
2
c) Marcos de trabajo para realizar metaevaluaciones o valoraciones sobre la calidad de las
prácticas evaluativas en determinados proyectos y programas.
– Evaluar, sí y cuándo.
– Cómo seleccionar a los evaluadores y otros expertos.
– El impacto de las culturas, los contextos y las políticas en los programas y en su
evaluación.
– La comunicación e implicación de los patrocinadores y beneficiarios e interesados.
– Elementos técnicos para la planificación, diseño y gestión de las evaluaciones,
– Uso y mal uso de las evaluaciones.
– Otros temas relacionados con la calidad de la evaluación, la mejora y la
responsabilidad -accountability. (Yarbrough, Shulha, Hopson& Caruthers,2011:xii).
Como en las anteriores ediciones, la tercera edición revisada de las normas se basa en la
transparencia y en un fuerte compromiso de los responsables de los programas y los
beneficiarios de los mismos con la calidad. La tercera edición de las normas introduce
importantes cambios. Por una parte, las normas de utilidad, viabilidad, propiedad o
adecuación y exactitud mantienen su esencial importancia.
Con la finalidad de atender a las sugerencias de los usuarios de las normas y crear una
mayor integración de las situaciones reales en las que se desarrollan los programas, la
tercera edición de las normas proporciona un escenario para cada atributo o grupo de
normas, con aplicaciones que se extienden a todas las normas relacionadas para ese
escenario. Además, integra temas significativos tales como el papel de la cultura y el
contexto en la evaluación, relacionando los atributos y sus normas con las situaciones
concretas. (Yarbrough, Shulha, Hopson & Caruthers, 2011: xiii).
3
coherencia entre cada atributo y las normas que los desarrollan, atendiendo a los
compromisos necesarios con los grupos interesados.
El nombre de las normas incluidas en cada uno de los atributos que componen las
totalidad de las normas para realizar evaluaciones de calidad, también han sido revisados
con la finalidad de presentarlas de un modo más claro y conciso.
Los responsables de esta tercera edición invitan a utilizar las normas y a hacer
sugerencias sobre la necesidad de cambios y mejoras, así como la conveniencia de seguir
revisando y actualizando las normas en períodos de cinco años no debiendo exceder de los
diez años.
4
3.3. Conceptos y definiciones sobre los estándares para la evaluación de
programas
Estas normas son similares a otros tipos de normas, como las normas técnicas
de la International Standardization Organización (ISO), que especifican las
dimensiones específicas exactas para cuestiones de la industria, las Normas de los
Sistemas de Gestión de la Calidad de las Organizaciones, o Normas relativas a los
procesos de aprendizaje y a sus resultados, identificando los estándares como modos
para mejorar su calidad.
5
de carrera. Cuando un proyecto se institucionaliza, para su aplicación en sucesivos
años, se denomina programa’.
Los programas son mucho más que las actividades que los desarrollan. Contienen
múltiples componentes, siendo cada componente objeto de evaluación en sí mismo. Los
componentes específicos que pueden ser evaluados son:
– Los contextos y como interaccionan con los programas y los componente de los
mismos.
– Los participantes y otros beneficiarios, así como aquello que enfrenta costes o
pérdidas de beneficios.
– Las necesidades, problemas y espacios de políticas de los programas y sus
contextos.
– Las metas y objetivos.
– Los recursos y costes de todo tipo, incluyendo los de personal, instalaciones,
materiales y costos de oportunidad, no presupuestados.
– Las actividades, procedimientos, planes, políticas y productos o resultados.
– Los modelos lógicos, las creencias, concepciones y teorías del programa implícitas
y explícitas explicando por qué y cómo deben trabajar los programas.
– Los rendimientos, resultados, beneficios, logros e impactos.
Estos estándares del JCSEE no han sido diseñados para ser aplicados de igual modo a
todos los programas, sino que más bien deben ser adaptados para servicios educativos,
desarrollo de recursos humanos, salud, bienestar y otros tipos de programas en los cuales las
6
metas incluyen cambios en la motivación humana, en las actitudes, conocimientos,
destrezas y realizaciones. (Yarbrough, Shulha, Hopson & Caruthers, 2011: xxii-xxiv).
7
4. LAS NORMAS PARA LA EVALUACIÓN DE PROGRAMAS DEL
JOINT COMMITTEE
En la publicación que desarrolla los estándares para la evaluación, cada uno de los
estándares se acompaña de una descripción general y una guía para su aplicación, junto con
ejemplos para su aplicación, procedentes de diversas situaciones.
Presentamos las 30 normas agrupadas en las cinco categorías o atributos de calidad para
las evaluaciones de programas.
Las normas de utilidad están destinadas a aumentar el grado en que los participantes del
programa encuentran los procesos y productos de evaluación valiosos para satisfacer sus
necesidades. Una evaluación debe ser útil, para asegurar que sirve a las necesidades de
información práctica, centrada en cuestiones importantes. Los estándares de utilidad guiarán
la evaluación de tal forma que sea relevante, oportuna y que influya para la mejora.
La utilidad está respaldada por los ocho estándares que se muestran a continuación.
– U1. Credibilidad del evaluador. Las evaluaciones deben ser realizadas por personas
cualificadas para establecer y mantener la credibilidad en el contexto de evaluación.
– U2. Atención a las audiencias. Las evaluaciones deben prestar atención a las
diferentes personas y grupos que participan o son investigados en el programa y
afectados por la evaluación.
8
– U3. Fines negociados. Los fines de la evaluación deben ser identificados y
continuamente negociados basándose en las necesidades de las audiencias.
– U4. Valores explícitos. Las evaluaciones deben aclarar y especificar los valores
individuales y culturales que sustentan los propósitos, los procesos y los juicios.
Una evaluación debe estar diseñada y conducida de tal modo que sea realista, prudente,
diplomática, ajustada y frugal en relación con el coste-beneficio. Una evaluación debe ser
viable, factible, y asegurar que es realista y eficiente. Debe utilizar procedimientos
eficientes que no ocasionen demasiados problemas. Los estándares de viabilidad reconocen
que las evaluaciones se realizan en contextos naturales, sus diseños deben ser operativos y
sus gastos, en material, personal o tiempo, no deben exceder al requerido por las cuestiones
de la evaluación.
9
– F3. Viabilidad contextual. Las evaluaciones deben reconocer, controlar y
equilibrar los intereses culturales y políticos y las necesidades de los individuos y
de los grupos.
– F4. Uso de recursos. Las evaluaciones deben utilizar los recursos de manera eficaz y
eficiente.
Probidad tiene que ver con las preocupaciones morales, éticas y legales relacionadas
con la calidad de la evaluación. Las normas de probidad apoyan lo que es propio, adecuado,
legal, correcto, honrado, íntegro, recto y justo en las evaluaciones. Una evaluación debe
asegurar que es conducida de modo legal y éticamente, basada en compromisos explícitos,
que aseguren la necesaria cooperación, la protección de los grupos implicados y la
honestidad de los resultados.
Las normas de probidad, o legitimidad, consideran los derechos de las partes interesadas
y otras personas y detallan las responsabilidades de todas las partes interesadas,
especialmente de los profesionales de la evaluación, en una evaluación. Establecer umbrales
para una probidad adecuada puede ser difícil y requiere equilibrar las necesidades y
situaciones de los diferentes actores. Las consideraciones de justicia social pueden
desempeñar un papel importante, pero no todas las partes interesadas tienen los mismos
valores o concepciones de la justicia social.
– P2. Acuerdos formales. Los acuerdos de la evaluación deben ser negociados para
hacer explícitas las obligaciones y tener en cuenta las necesidades, expectativas y
contextos culturales de los clientes y otros grupos interesados.
– P3. Derechos humanos y respeto. Las evaluaciones deben ser diseñadas y realizadas
para proteger los derechos humanos y legales y mantener la dignidad de los
participantes y de las audiencias (los interesados).
– P4. Claridad y equidad. Las evaluaciones deben ser comprensibles y justas para
atender las necesidades y fines de los interesados.
– P7. Responsabilidad fiscal. Las evaluaciones deben calcular todos los recursos
asignados y cumplir con los procedimientos y procesos fiscales.
10
4.4. Normas de precisión o exactitud
Una evaluación debe ser exacta, para asegurar que revela y comunica la información
encontrada, describe con claridad el objeto evaluado en su evolución y en su contexto,
revela las virtudes y defectos del plan de evaluación, de los procedimientos y de las
conclusiones y proporciona conclusiones válidas y fidedignas. Las conclusiones y los
juicios deben ser coherentes con los datos.
Se espera que las normas de exactitud aseguren que la evaluación revelará y aportará la
información técnicamente adecuada sobre los rasgos que determinan el valor o mérito del
programa evaluado. Las normas de exactitud están respaldadas por ocho estándares.
– A4. Descripciones explícitas del programa y del contexto. Las evaluaciones deben
documentar los programas y sus contextos con el detalle y amplitud adecuados a los
propósitos de evaluación.
11
4.5. Normas de responsabilidad de la evaluación
– E2. Metaevaluación interna. Los evaluadores deben utilizar estas y otras normas
aplicables para rendir cuentas del diseño, los procedimientos empleados, la
información recopilada y los resultados obtenidos de la evaluación.
Los otros atributos de calidad de las evaluaciones de programas son igualmente críticos.
Así, ignorar la viabilidad de la evaluación puede resultar en un despilfarro de recursos
12
mediante una realización fallida que pueda alterar las necesidades de evaluación del
programa. (Yarbrough, Shulha, Hopson & Caruthers, 2011: xxiii).
La orientación hacia el uso responsable de los estándares de calidad se relaciona con los
programas y con la evaluación de los mismos. De ese modo, los estándares deben garantizar
de un modo responsable, tanto en relación con los programas como en relación con su
evaluación:
13
– El alineamiento de las especificaciones para atender a las necesidades, los
procesos necesarios para ello y los resultados para atender las necesidades.
(Yarbrough, Shulha, Hopson & Caruthers, 2011: xxxvii).
14
Tabla 1. La lista para la comprobación de la aplicación de los estándares.
1 2 3 4
U1 Credibilidad del evaluador
U2 Atención a las audiencias
U3 Fines negociados
Utilidad
U4 Valores explícitos
U5 información relevante
U6 Procesos y productos significativos
U7 Oportuna y adecuada comunicación y presentación de los informes
U8Preocupación por las consecuencias y la influencia
F1 Gestión de proyectos
Factibilidad
F2 Procedimientos prácticos
F3 Viabilidad contextual
F4 Uso de recursos
P1 Orientación de confianza e integradora
P2 Acuerdos formales
Legitimidad
E2 Metaevaluación interna
E3 Metaevaluación externa
Bajo cada uno de los cinco atributos de la calidad de la evaluación y las 30 normas que
los integran, se incluye una diversidad de líneas detalladas para orientar su aplicación, que
pueden consultarse en el texto completo de los Estándares de 2011.
15
Las normas del Joint Committee aportan criterios a tener en cuenta para la realización
de evaluaciones y para la valoración de las mismas. Una evaluación que no cumpla dichos
requisitos puede crear más perjuicios que beneficios por lo que no sería aconsejable hacerla.
Estas normas sirven de guía para la realización de evaluaciones con el fin de que sean útiles,
factibles, éticas y exactas, requisitos fundamentales para que la evaluación cumpla con su
objetivo primordial: la toma de decisiones informada que permita introducir mejoras
ajustadas a las necesidades reales que motivaron el diseño del programa y las nuevas
necesidades detectadas.
– Una evaluación innovadora, que permite ir comprobando el progreso, así como los
elementos que inciden en la mejora continua del programa.
– Una evaluación para la mejora, que al ser exacta por fundamentarse en evidencias
contrastadas, permite establecer planes de mejora a corto y medio plazo y la
valoración progresiva de los avances.
EJERCICIOS DE AUTOEVALUACIÓN
1. Haga una valoración de cada uno de los grupos de normas para juzgar la calidad de las
evaluaciones y aporte argumentos.
2. Evalúe un programa con el que esté familiarizado utilizando los cinco grupos de
atributos o características de calidad de las evaluaciones, y sus correspondientes
normas del Joint Committee. Valore las posibilidades de aplicación de los estándares
para la mejora de los programas, su evaluación y la responsabilidad o rendimiento de
cuentas.
REFERENCIAS BIBLIOGRÁFICAS
16
JOINT COMMITTEE ON STANDARS FOR EDUCATIONAL EVALUATION (1994).
The Program Evaluation Standards. Thousand Oaks, CA: Sage P. Inc.
PROGRAM EVALUATION STANDARDS STATEMENTS. Accesible en
http://www.jcsee.org/program-evaluation-standards-statements
SANDERS, J.R. (Cord.) (1998). Estándares para la evaluación de programas. Comité
Conjunto de estándares para la evaluación educativa, Mensajero. Bilbao, 1998.
YARBROUGH, D. B., SHULHA, L. M., HOPSON, R. K., AND CARUTHERS, F. A.
(2011). The program evaluation standards: A guide for evaluators and evaluation users
(3rd ed.). Thousand Oaks, CA: Sage.
17