1. CarolinaAvalosDávila
Síntesis del tema3:Estándares de Calidady Evaluación
¿Qué es un estándar?
”Un principio acordado con las personas comprometidas en una determinada práctica
profesional que si se cumple, mejorará la calidad y la imparcialidad de esa práctica
profesional” (Joint Committe, 1994, citado por Pérez, 2006, p.136).
¿Cuál es la necesidad de disponer de estándares que guíen la realización de evaluación de
programas?
Históricamente,el usode los estándaresno es nada nuevo,desde mucho tiempoatrás, se vienen
usando como elementos que regulan y marcan una línea de claridad entre lo que debe ser
considerado en el momento de la evaluación, el proceso de acuerdo a lo desarrollado por Pérez
(2006) inicia en 1974 cuando por mediode la APA se dan a conocerlos estándares,seguidamente
un año más tarde 1975 Joint Committee, hace una ampliación de los estándares para evaluación
educativa,6 años más tarde en 1981 se publicainformaciónimportante sobre estándarespara la
evaluación de programas y proyectos, material que se encargó de hacer la división de los
estándares agrupándolos en las principales categorías: utilidad, viabilidad, honradez y precisión.
Ya para 1989 sonacreditadas talescategorías por el InstitutoAmericanoNacional de Estándaresy
finalmente en el año de 1994 es cuando se le dan algunas modificaciones al Programa de
Evaluación de Estándares.
Estos sonnecesarios enlosprocesosde evaluaciónde programas y/o proyectos porque ayudana:
Procurar evaluacionesde calidad.
Servirde base a la formaciónde evaluadores.
Servirde guía, para laevaluación.(Orientadores)
La mejoracontinuade laevaluación.
2. CarolinaAvalosDávila
¿Cuáles son los 4 grandes criterios en los cuales se organizan los estándares?
Desde el libro de Pérez (2006), se hace referencia a los 4 estándares generales, los cuales
se encuentran distribuidos en las siguientes categorías:
Fuente: Pérez, R (2006) Evaluación de programas educativos, página 135.
3. CarolinaAvalosDávila
¿Cuáles son los estándares integrantes de los diferentes criterios organizativos?
Estándar de Utilidad Descripción de cada norma Perspectiva Técnica Enfoque Práctico
Propósito:asegurarse de que
la evaluación ofrezca
informaciónnecesariay
adecuadaa las audienciasy
partesinteresadas.
Integradoporsiete normas:
Descripciónde laaudiencia.
Credibilidaddel evaluador.
Alcance y selecciónde la
información.
Interpretación.
Claridaddel informe.
Difusiónyoportunidaddel
informe.
Impactode laevaluación.
Descripciónde laaudiencia:identificaciónde laspersonasimplicadas
o afectadas a fin de atender sus necesidades.
Credibilidad del evaluador: los expertos (evaluadores) deben ser
competentesydignosde confianzaparaque sustrabajosalcancenel
máximo de credibilidad y sea aceptada la información.
Alcance y selecciónde la información:la informaciónrecolectada
debe irde acuerdo a losobjetivos de la evaluaciónydel programa.
Debe serampliapertinenteyrelevanteyque dé respuesta alas
necesidadese interesesde laaudiencia.
Interpretación:a base de juiciosfundamentadosencriterios,teorías,
experiencias,yformacióndel evaluador.Descritas conampliodetalle
para posterior toma de decisiones.
Claridad del informe: ofrece la información fundamental que se
sustenta en la descripción amplia de: el objeto evaluado, programa
en su contexto, objetivos, procedimientos y resultados de la
evaluación para dar la información principal y ayudar a su
comprensión.
Difusión y oportunidad del informe: es importante y necesario la
socializacióndeloshallazgosalaaudienciaparalatomade decisiones
de mejora.
Impacto de la evaluación: el proceso de evaluación debe ser
dinámicodesde elinicioe integrador, procurandoelaporte activode
la audiencia, de forma que las ideas y sugerencias de mejora
acontecidas durante el proceso, sean desarrolladas y permitan
generar soluciones efectivas y significativas. (Acciones de impactos
viables, pertinentes, eficaces y efectivos).
Desde estaperspectiva
parecenlos adecuados
y estánbienenfocados
puesse tiene claroque
deben dar atención a
las necesidades de la
audienciayatenderlas
debilidades
presentadas desde los
programas o
instituciones.
Sin embargo, le
agregaría uno más,
descripción del
contexto, porque
desde lo visto en el
tema 2, uno de los
aspectosque afectalos
procesos de
evaluación es el poco
tiempo y el que no se
dé la posibilidad de la
construcción del
marco Ontológico ya
que los resultados en
su mayoría van
referidos a aspectos
epistemológicos.
Desde la práctica, el
desarrollode este estándary
sus normas requiere de
buenos procesos de
comunicación con la
audiencia, por otro lado está
el factor tiempo, que no
siempre es el suficiente para
comprenderel contextoy las
razones de las acciones
implementadas.
Usualmente desde este
enfoque, el proceso de
socialización de los
resultados llega hasta hacer
evidentes los vacíos y como
atenderlos mediante
acciones de mejora para la
puestaenmarchadel plande
mejoras, perodifícilmentese
llega a concretar la meta
evaluación, la cual le
compete a la audiencia
comprobando el impacto y
efectividad de la evaluación
realizada.
4. CarolinaAvalosDávila
Estándar de Viabilidad Perspectiva Técnica Enfoque Práctico
Propósito: asegurarque las evaluacionesseanprudentes,
realistas y adecuadas.
Hace referenciaatres normas:
Procedimientos prácticos: los evaluadores deben tomas
las medidas adecuadas y precisas para lograr obtener la
mayor información posible y de forma práctica (uso
efectivo de técnicas, fuentes e instrumentos).
Viabilidad Política: se debe procurar la participación
activa de toda la audiencia involucrada en el proceso de
evaluación, atender, considerar y respetar la divergencia
de criterios,teniendoclarodesde el inicioque el objetivo
de la evaluaciónvarelacionadoaatenderlasnecesidades
de la audiencia y buscar la mejora del programa o
institución.
Eficacia en los costes: uso de los recursosnecesarios,los
adecuados para el logro de una evaluación efectiva y
eficaz. (Procesode evaluaciónpráctico,discreto, austero,
suficiente y viable).
Desde esta perspectiva están bien
enfocados en la metodología, interacción
efectiva y el buen uso de los recursos.
Me parece que agregaría otro referido al
conocimiento de la normativa
institucional comoparatenerclaro desde
la perspectivadel marcojurídicolasbases
que sustentanel programa, misión,visión
y lasaccionesrealizadasenatenciónaesa
filosofía de programa o institución.
El experto debe ser astuto en el momento de aplicar el
método para la recolección de información y seleccionar
aquellastécnicas,fuentese instrumentosadecuadossegún
el tipode población,sujetos,ambienteycontexto.Debeser
práctico, efectivo y saber prever cuándo y hasta donde
llegarparalograrlainformaciónrequeridaparael desarrollo
del análisisyelaboracióndelinformefinalsustentadoensus
resultados.
Desde la viabilidad política, debe ser tolerante, claro en la
informaciónyaportesque esperade laaudiencia,visionario
y de claro convencimiento para lograr la mayor
participación de la audiencia involucrada y sacar el mejor
provecho de los aportes.
Desde la eficacia de costo, el expertoser consciente de los
recursosy de hacer y sugerirunaevaluaciónrealistaacorde
con la realidad en la que se desarrolla el programa y su
audiencia.
De mente abiertaycreativapara usarde lamejorforma los
recursos disponibles y hacer de la evaluación un proceso
efectivo.
5. CarolinaAvalosDávila
Estándar de Probidad (Honradez) Perspectiva Técnica Enfoque Práctico
Propósito: desarrollo de una evaluación que responda a
las normas legales, principios éticos, busca la generación
de informes equitativos.
Hace referenciaaocho normas:
Orientación al servicio: la evaluación debe diseñarse con la
intención de ayudar a las organizaciones a atender y satisfacer
las necesidades de los participantes, favoreciendo el
aprendizaje.
Acuerdos formales: es preciso plasmaren un documento escrito
las obligaciones delas partes implicadas,deforma quecada una
de ellas estéobligadaarespetarlaso,en su caso,a renegociarlas.
Respeto a los derechos humanos: la evaluación debediseñarsey
llevarsea cabo deforma quequeden protegidos y asegurados los
derechos y el bienestar de las personas alasquepueda afectar la
evaluación.
Relaciones humanas: los evaluadores deben comprometerse en
el respeto de la dignidad e integridad de las personas
relacionadas con la evaluación, asegurando que quienes
participen no sufrirán daños de ningún tipo.
Informes claros y completos: Los informes en que sereflejan las
evaluaciones deben ser claros y completos, incluyendo en sus
conclusiones tanto los aspectos positivos y favorables como los
negativos y desfavorables, de forma que los primeros se
conviertan en base de nuevas acciones y los segundos en
elementos para las actuaciones de mejora.
Derecho a saber: evaluador y cliente deben asegurar que los
resultados de la evaluación, con sus correspondientes
limitaciones,serán accesibles a laspersonas o grupos afectados,
Desde esta perspectiva están bien
enfocados en la metodología, interacción
efectiva y el buen uso de los recursos.
Si sería importante clarificar las normas
referidasaética,deberíansermásexplícitas
y agregarotra norma mástécnicareferidaa
la normativalegal ysusconsecuenciasenel
caso de no cumplirse,que vayamás allá de
sololamención de laresponsabilidadfiscal.
El experto debe estar necesariamente empapado de la
normativa jurídica y legal a la cual se vincula el desarrollo
del proceso de evaluación, y sus consecuencias de no
desarrollarla adecuadamente, lo mismo desde el aspecto
ético, es importante que además de tener presente el
respetohacia,los derechoshumanos,relacionesconotros,
al conocimiento e información, sea consecuente entre lo
que dice yloque hace de formaque se obre conunaactitud
correcta,transparente entodomomento,desde eliniciodel
proceso y con esa misma transparencia se concluya con la
socializacióndelinformenoenáreasde buscarmanipularla
información o incluso perjudicar a la audiencia involucrada
y no viendo el proceso de evaluación como un simple
negocio si no desde una acción que es requerida para
garantizar la mejora y calidad de las organizaciones,
instancias o programas.
6. CarolinaAvalosDávila
algunas de las cuales tienen derecho a recibir los resultados.
Todas las partes implicadas deben conocer todo el proceso
dando una mayor credibilidad.
Conflicto de intereses: los intereses en conflicto deben
afrontarse de forma abierta y honesta, de modo que no
interfieran en el proceso y en los resultados de la evaluación.
Responsabilidad fiscal: las evaluaciones deben realizarse de
forma que se asegure el uso de procedimientos económicos,
siendo prudentes y éticamente responsables en lo relativo a los
gastos y honorarios, que deben ser adecuados. Responder a
criterios de honradez y responsabilidad (poco relevante en
España o en aquellos países dondeel papel de evaluador no está
realmente establecida).
Estándar de Precision Perspectiva Técnica Enfoque Práctico
Propósito:asegurar lacalidadde la informaciónsobre la
realidadestudiada,determinandosuvalorymérito.
Hace referenciaaonce normas:
Documentación del programa: el programa evaluado debe
describirsey documentarse de forma clara y adecuada a fin de
que pueda conocersecon toda precisión y claridad.
Análisis del contexto: el contexto en que el programa se
desarrolla debe ser analizado con la debida atención,con el fin
de identificar el influjo quepueda representar para su desarrollo
y resultados.No pensar en el contexto no es realista.
Desde esta perspectiva están bien
enfocadas las normas en relación con los
aspectos a considerar en el estándar, se
evidenciauna interacciónefectivaentre el
evaluador y hacia la audiencia en el
desarrollo del análisis, preparación y
socialización de los informes.
Llevar a la práctica este estándar siendo uno de los más
largos implica que el evaluador experto considere desde el
inicio del proceso aspectos como el orden en el avance de
losprocesosylasana culturade irsistematizandoeventosy
nueva información que se obtenga conforme se va
avanzando en la evaluación, ya que como se aprecia desde
las 11 normas se requiere el análisis de la realidad
ontológica, además debe hacerse uso de la teoría (
información epistemológica) para nutrir en informe, y
fundamentar adecuadamente las fuentesde información y
datos obtenidos durante los procesos de observación,
socialización o bien de reunión con la audiencia ,
considerando además el correcto desarrollo de los
resultados desde los enfoques cualitativos y cuantitativos
para la exposiciónde resultadosviables,informaciónfiable
7. CarolinaAvalosDávila
Descripción de intenciones y procedimientos: en toda
evaluación deben describirse con el detalle necesario para su
identificación y valoración tanto las intenciones a las que sirve
como los procedimientos que Se utilizarán.La transparencia en
objetivos y uso que pretende darsea los resultados.Conferir a la
evaluación mayor o menos credibilidad y parautilizar o rechazar
la información que ofrece.
Fuentes de información: a fin de que pueda ser valorada como
adecuada o no la información ofrecida, es preciso que se
describan con el debido detalle las fuentes de información
utilizadas.Cadafuenteaporta información específica;permiteel
contrastede puntos de vista de los afectados e interesados.
Información valida: la información a recoger y los
procedimientos a utilizar deben seleccionarse y aplicarse de
forma que se asegure la validez de las interpretaciones para el
uso al que se destine la evaluación.
Información fiable: se deben elegir y aplicar procedimientos
para la recogida de la información capaces de asegurar que es
suficientemente fiable para el uso al que se destina. Conviene
minimizar los errores de medida. La fiabilidad puede tomar
formas diferente: estabilidad, equivalencia o consistencia
interna.
Información sistemática: la información recogida,organizaday
analizada debe ser revisada de forma sistemática, de forma
que los posibles errores puedan ser detectados y corregidos.
Análisis de la información cuantitativa: la información
cuantitativa debe ser analizada de forma sistemática y
apropiada para que se den las respuestas adecuadas a las
preguntas formuladas. Permite su organización, resumen y
presentación adecuada.
Tras el análisisexploratorio se procedea uno más complejo que
permita encontrar respuestas clarasy facilitarla interpretación.
y organizada, que se note que forma parte de todo un
trabajo articulado y no de un proceso desorganizado o
desfasadoymucho menos que no esté acorde a la realidad
de la instancia, programa, proyecto donde se esté
realizando la evaluación.
Todolo anteriorconlaintenciónde estimularalaaudiencia
a mejorar sobre la marcha de nuevas acciones que
favorezcanel desarrollodelproyectooprograma, peroque
además, deje en esa audiencia la posibilidad de
posteriormente en un corto plazo realizar desde ellos
mismos una sobre valoración de las acciones de mejora
desarrolladas, dando paso a la meta evaluación.
8. CarolinaAvalosDávila
Análisis de la información cualitativa: la información cualitativa
debe ser analizada de forma sistemática a fin de que puedan
darse las respuestasadecuadasa las preguntas formuladas.Ese
tipo de información consistente en narraciones y descripciones
realizadas por diferentes personas a través de técnicas muy
distintas.
Conclusiones justificadas: las conclusiones a las que llega la
evaluación deben justificarse explícitamente a fin de que las
diferentes partes implicadasy afectadas puedan someterlas a
valoración.
Objetividad del informe: los informes deben reflejar con
claridad los resultados de la evaluación, evitándose toda
distorsión debida a las posiciones personales de cualquiera de
las partes interesadas.
Meta evaluación: la evaluación en sí misma debe ser
evaluada, tanto formativa como sumativamente,
poniéndola en relación con los anteriores estándares.
De esta forma, el proceso evaluativo podrá ser llevado
adelante de forma adecuada y las diferentes audiencias
podrán examinar su realización.
Es preciso evaluar la propia evaluación y, para ello, los
estándares se convierten en elemento de referencia que
pueden y deben llevarse a cabo por parte de los propios
evaluadores,evaluadores externos, de los clientes y de las
demás partes interesadas. Será formativa, para corregir
sobre la marcha, y sumativa al final.
9. CarolinaAvalosDávila
Propuestas alternativas del autor
Pérez (2006) hace referencia a algunos aspectos que es necesario ser considerados desde los
procesos de evaluación, algunos no se desarrollan y se sugieren desde el autor a parir de la
experiencia en el campo.
Sobre los programas ordinarios:
Especialmente se han de tener en cuenta los estándares:
Fiabilidad, valía y contraste de la información: no hay mejor información, que la
información en la que se basa.
Claridad del informe: si hay que variar dependiendo de la audiencia se hace.
La orientación al servicio: la evaluación tiene que ser útil para las partes afectadas.
Análisis del contexto; aunque se trate del mismo programa, el contexto puede variar
resultados.
En el caso de las investigacionesevaluativas:considerarselossiguientesaspectos:
Calidad intrínseca del programa: el documento en que tome cuerpo el programa debe
concretar susmetasy objetivos.Ofrecerá información sobre la base teórica que lo sustenta.
Calidad técnica del programa: el programa debe reunir las condiciones técnicas para ser
consideradotal:especificarobjetivos, concretarlanaturalezade laintervención, debidamente
fundamentado, plantear los medios y recursos, e incluir un sistema de comprobación y
mejora de sus resultados.
Calidad metodológica: el programa debe formularse de forma que contenga
información relevante para su correcta implantación e implementación; para que resulte
evaluable y mejorable.
De las ausenciasque se presentany algunas propuestasde modificación:
Se sugiere desde el autor,unir el análisis de información cuantitativa y el de cualitativa en
una sola norma(mixto).
La meta evaluación: cuando se refiere al propio programa, no debería ser complejo su
desarrollo ya que no es otra cosa más que un análisis autocritico que debería realizarse en
paralelo al propio proceso completo de la evaluación para evitar situaciones como las de
llegar al final habiendo cometido errores que invalidan todo el esfuerzo.
Se echa de menos una referencia a la metodología: debería referirse a la necesidad de que
fuera respetuosa con el principio de complementariedad.
Finalmente, se sugiere valorarlautilidaddelosestándaresenunainvestigaciónevaluativay enuna
ordinaria. Es necesario reflexionar sobre su aplicabilidad para el desarrollo de una investigación
completa que genere momentos de complementariedad metodológica, generando procesos de
evaluación integral de los programas.
Referencias:
Pérez, R.(2006). Evaluaciónde programaseducativos.Madrid.LaMuralla.