Avaluació de projectes
1.- Cas 1. L'avaluació comença amb la planificació

1.1.- Planificació i necessitat de l'avaluació

El passat mes de febrer del 2010, el personal d'un ajuntament del Vallès Oriental va rebre un missatge de correu electrònic tramès pel regidor de Règim Intern, en Salvador Montalbà. En aquest missatge s'anunciava l'inici d'un projecte de modernització administrativa.

El mateix mes de febrer, la Junta de Govern Local va nomenar cap de l'Oficina de Modernització Administrativa i responsable del projecte l'Oleguer Roca, un dels tècnics de l'Ajuntament que s'havia reincorporat recentment després d'un període d'excedència. A més, va assignar a l'oficina una tècnica auxiliar per donar suport a l'Oleguer.

La primera reunió de l'Oleguer amb el seu regidor va tenir lloc poc després de la tramesa del missatge al personal, i entre altres temes van parlar el següent:

Salvador: —El projecte de modernització ha de suposar un salt endavant en el funcionament de l'Ajuntament, com ho va ser fa tres anys la posada en marxa de l'Oficina d'Atenció a la Ciutadania.

Oleguer: —L'OAC es va posar en marxa just abans de la meva excedència. Però si no recordo malament, es va preparar durant uns dos anys, la primera meitat del mandat 2003-2007. Ara, en canvi, només disposem d'un any.

Salvador: —Bé, hem acotat el projecte a un any condicionats pel finançament de l'FEOSL. Però som conscients que haurà de tenir continuïtat i que tot no es podrà assolir en aquests dotze mesos. Per això és important controlar bé el projecte i fer-ne una bona avaluació. En cert sentit, aquest serà un projecte pilot i tu, al capdavant de l'Oficina de Modernització Administrativa, hauràs de continuar tenint en compte els resultats que s'assoleixin i la valoració que se'n faci.

Oleguer: —Així ho he entès jo també. Però quan dius que se n'ha de fer l'avaluació, a què et refereixes?

Salvador: —Sobretot a comprovar que s'han assolit els objectius, però també m'interessa molt saber si anem avançant en el canvi en les formes de treballar de l'Ajuntament.

Oleguer: —Molt bé, ho tindré en compte.

Salvador: —El primer que necessitaré és que em facis una proposta de planificació del projecte perquè l'aprovi la propera Junta de Govern. Almenys el tema del finançament el tenim lligat amb les subvencions de l'FEOSL i la de la Generalitat.

Oleguer: —D'acord, em poso ja mateix mans a l'obra.

Consulta l'apartat de material conceptual que et suggerim al marge per comprendre aquesta part del cas.

Per saber-ne més

Pots trobar informació sobre l'LAECSP i sobre altra normativa sobre administració electrònica al web Consorci AOC, i sobre l'FEOSL al web del Ministeri de Política Territorial i Administració Pública.

Documents

La lectura de l'apartat Preparar l'avaluació et donarà algunes pistes sobre els aspectes que l'Oleguer ha de tenir pressents en aquesta planificació: què és, per què, què, qui i com planificar l'avaluació.

Què és avaluar?

Avaluar un projecte és el procés de treball pel qual s'analitza informació que permet valorar els aspectes del projecte que es consideren significatius, en especial els resultats que ha assolit, en quines condicions ho ha fet, i quins aprenentatges pràctics s'han extret per a la millora.

L'avaluació de qualsevol projecte és un procés necessari perquè permet comprovar el grau en què s'han assolit els seus objectius inicials, i adquirir aprenentatges, tant a partir dels errors com de les bones pràctiques, amb la finalitat de millorar la forma de dur a terme nous projectes en el futur.

 

A més, l'avaluació ens pot ajudar també a saber quin ha estat el grau de qualitat assolit amb el projecte.

En el cas de la gestió pública, a aquests tres components (resultats, aprenentatge i qualitat) cal afegir també la necessitat de retre comptes davant de totes les parts interessades.

1.2.- Pressupost del projecte

Com li havia indicat el regidor a l'Oleguer, el projecte tenia un pressupost ja elaborat, que comptava amb el finançament de la major part de les despeses previstes gràcies a subvencions externes i a una petita aportació de l'Ajuntament. Per aquest motiu, l'Oleguer va considerar que la vessant econòmica de la planificació, que es mostra al següent quadre, ja estava feta.

 

Llegeix l'apartat de material conceptual que et suggerim al marge. T'ajudarà a comprendre aquesta part del cas.

Amb aquest escenari pressupostari, l'Oleguer va posar immediatament en marxa l'adjudicació de dos contractes:

  • El primer, per la inversió i la consultoria tecnològica.

  • El segon, per la consultoria organitzativa o de suport tècnic al projecte.

Ambdós es van tramitar per la via d'urgència.

Documents

Per saber què ha de tenir en compte l'Oleguer sobre el pressupost del projecte d'avaluació, llegeix el document L'avaluació econòmica del projecte.

Avaluació econòmica

Normalment, l'avaluació econòmica del projecte se centrarà en dos aspectes o vessants:

  • L'execució del pressupost del projecte, que es fa a partir de la comparació entre el pressupost inicial previst i el pressupost real executat. Les desviacions que es puguin donar per cada concepte pressupostari han de ser convenientment analitzades i explicades.

  • L'eficiència del projecte, és a dir, la relació entre els costos i els resultats que s'han assolit.

1.3.- Objectius del projecte

Així, l'Oleguer es va poder concentrar en altres aspectes de la planificació del projecte. En primer lloc, es va centrar en els objectius: durant la conversa amb el regidor ja havia copsat clarament que l'objectiu general exposat pel regidor a la seva comunicació era molt ambiciós, sobretot tenint en compte que el finançament extern imposava el 31 de desembre del 2010 com a termini màxim d'execució del projecte.

Tot i que, seguint les pautes del regidor, el projecte tindria continuïtat, era necessari concretar una mica més aquest objectiu. Després de demanar consell a alguns col·legues d'altres ajuntaments que havien participat en projectes similars, l'Oleguer va formular el següent:

 

 

 

L'objectiu general del projecte, exposat pel regidor, es concreta en la implantació a la seu electrònica dels tretze tràmits administratius més demanats per la ciutadania, i que seran operatius a partir de l'1 de gener del 2011.

A més, els tretze tràmits s'hauran de poder fer íntegrament amb el nou gestor d'expedients i amb les eines informàtiques complementàries.

 

Aquest objectiu va ser aprovat per la Junta de Govern Local tal com va ser formulat per l'Oleguer, junt amb el cronograma del projecte, que era el següent:

Els tretze tràmits a implantar a la seu electrònica van ser seleccionats pels diferents serveis municipals, tenint en compte dues variables:

  • La freqüència amb què són sol·licitats per la ciutadania.

  • La complexitat de la seva adaptació a la gestió electrònica (optant per informatitzar tràmits senzills).

El material conceptual que et proposem t'ajudarà a comprendre aquesta part del cas.

Documents

Per entendre la importància de concretar els objectius del projecte abans de planificar la seva avaluació, llegeix amb atenció els apartats L'avaluació dels resultats del projecte i Què avaluar?.

Avaluació dels resultats

L'avaluació dels resultats concentra la seva atenció sobre els resultats obtinguts amb el desenvolupament del projecte.

L'avaluació dels resultats s'ha de fer a tres nivells:

Resultats immediats del projecte (outputs): són els resultats directes obtinguts per l'execució dels processos de treball programats. El grau en què s'han assolit els resultats immediats o directes previstos és l'eficàcia del projecte.

Impacte final derivat de la realització del projecte. Es vincula amb l'anàlisi de si s'han resolt o no les necessitats que van determinar que el projecte es portés a la pràctica.

Resultats del projecte a mitjà termini (outcomes): es corresponen amb l'efecte que els resultats directes tenen sobre la necessitat que es pretenia cobrir amb el projecte. El grau en què s'han assolit els efectes previstos amb el projecte és la seva efectivitat.

1.4.- Ara fes-ho tu: defineix els objectius

Després d'haver llegit el plantejament del cas fins al moment:

  • Quins diries que són els objectius del projecte?

 

Es tracta d'una activitat en dos moments:

  • El primer és de resolució individual.
  • El segon és un debat sobre els objectius.
Idea principal

Et proposem una dinàmica en dos moments. En el primer, resol individualment la qüestió plantejada. En el segon, estableix un debat amb els/les companys/es del curs. El/la tutor/a, a la plataforma, et proporcionarà oportunament les indicacions.

Documents

La lectura del document Preparar l'avaluació t'ajudarà en la resolució d'aquesta activitat.

1.5.- Sistemes de control i avaluació

A continuació, l'Oleguer va passar a definir els sistemes de control i d'avaluació del projecte. A tal efecte, va poder comptar amb la col·laboració del Roger, responsable de l'empresa de consultoria organitzativa que s'havia contractat.

Oleguer: –A l'Ajuntament no disposem de cap departament d'organització, qualitat o similar. Per això penso que serà millor que vosaltres us encarregueu directament de donar resposta a la petició del regidor de preveure el control i la planificació del projecte.

Roger: –D'acord. En breu et farem arribar una proposta de sistema de control.

Oleguer: –Perfecte. D'aquesta manera jo podré concentrar-me en el meu paper de coordinador del projecte i en el de facilitador del treball de l'empresa de consultoria tecnològica per a l'anàlisi, la millora, la parametrització i la implantació dels tretze tràmits administratius en les noves aplicacions informàtiques.

La proposta de l'empresa consultora es va definir en un sistema de control del projecte.

Sistema de control del projecte

El control del projecte es farà mitjançant tres nivells de seguiment:

  • L'Oficina de Modernització Administrativa, amb el suport dels consultors d'organització, farà el seguiment operatiu de les tasques assignades als consultors tecnològics o als departaments municipals responsables dels tràmits a treballar. A tal efecte, es demanarà setmanalment a aquests interlocutors un informe breu (per correu electrònic) en el qual s'explicarà l'estat d'execució de les tasques a fer. L'Oficina prepararà mensualment un informe resum de l'estat del projecte.

  • Una comissió de seguiment farà el seguiment del projecte en reunions amb periodicitat mensual. Per portar-lo a terme, l'informe resum de l'estat d'execució del projecte elaborat per l'Oficina de Modernització es distribuirà abans de cada reunió. En funció d'aquest informe i del debat de cada trobada, la comissió farà propostes d'ajustament sobre la planificació a la Junta de Govern. Aquesta comissió de seguiment serà integrada per l'Oleguer mateix, pels caps de servei de l'Ajuntament, pel secretari i per l'interventor; els consultors d'organització faran les funcions de secretaria tècnica.

  • Finalment, la Junta de Govern Local farà, també mensualment, el seguiment del projecte a partir de l'informe de l'Oficina de Modernització i de les aportacions que hi faci la comissió de seguiment. A aquesta reunió hi assistirà també l'Oleguer Roca.

 

A proposta de la consultora d'organització, el control del projecte es concentrarà també en els dos aspectes següents:

  • Compliment del programa previst, i específicament de la temporalització de les tasques.

  • Seguiment de les incidències, de les propostes de resolució i del seu efecte en el programa del projecte.

Revisa el material conceptual que et proposem per comprendre aquesta part del cas.

Documents

Reflexiona sobre la importància de definir qui ha d'efectuar l'avaluació i com s'ha de portar a terme el control del projecte llegint els apartats Qui ha de fer l'avaluació? i Controlar el projecte.

El control del projecte

El control del projecte ha de començar en el mateix moment en què s'inicia l'execució de les activitats planificades.

Aquest control ha de consistir en dues actuacions bàsiques:

  • Monitoritzar les activitats, és a dir, saber què passa i quins resultats s'obtenen de cada tasca programada.

  • Registrar les dades significatives obtingudes, d'acord amb el mètode i amb els criteris de recollida d'informació que s'hagi previst.

1.6.- Sistema d'indicadors

Per facilitar el treball de la comissió de seguiment i de la Junta de Govern, es va definir també un sistema d'indicadors per al seguiment del projecte basat en la valoració de l'estat d'execució dels tres vessants del projecte (processos administratius, adaptació normativa i canvis tecnològics), i en una valoració global.

En el seu informe resum mensual, la mateixa Oficina de Modernització Administrativa haurà d'actualitzar els indicadors, considerant la informació que li proporcionin els responsables de cada tasca.

A proposta de l'empresa consultora, es crea un quadre de comandament a partir d'un indicador de l'estat d'execució de cadascun dels tres vessants del projecte i de la situació global.

Cada indicador té en compte dos aspectes: la situació i l'evolució. Per mostrar el resultat de la valoració de cada indicador s'utilitza una combinació de colors i de fletxes.

Quant a l'evolució o el canvi respecte de la situació del període precedent, s'indica amb fletxes:

  • Cap amunt: millora.

  • Horitzontal: manteniment estable.

  • Cap avall: empitjora.

Pel que fa a la situació, s'empren colors:

  • Vermell, si hi ha una desviació i cal intervenir.

  • Àmbar, si hi ha risc i cal vigilar.

  • Verd, si la situació és correcta i no cal una actuació especial.

 

Et proposem la lectura del material conceptual que s'indica al marge. T'ajudarà a comprendre aquesta part del cas.

Documents

Pots llegir l'apartat Instruments per a l'avaluació per recordar la importància dels indicadors i els quadres de comandament en l'avaluació de projectes.

Indicadors i quadres de comandament

Un indicador és una dada o un conjunt de dades que ajuden a mesurar objectivament l'evolució d'un projecte.

 

 

Els indicadors són un dels instruments emprats més habitualment per al control i la posterior avaluació dels projectes, entesos com a un tipus peculiar de procés.

El sentit d'establir indicadors per a un projecte és obtenir informació significativa sobre com es desenvolupa per tal de poder rectificar-lo si s'escau, avaluar-lo i millorar-lo.

Per tal que siguin útils, els indicadors han de ser rellevants, quantificables, comparables, fiables i fàcils de mantenir, entre altres característiques.

Habitualment, els indicadors s'agrupen i es mostren sintèticament en quadres de comandament que presenten la informació d'una forma agregada i pràctica per a la presa de decisions per part de les persones responsables del projecte i altres parts interessades.

Així, els indicadors i els quadres de comandament són eines indispensables per dirigir un projecte i assolir els objectius previstos.

1.7.- Ara fes-ho tu: analitza els indicadors

Reflexiona sobre el cas i respon:

  • Creus que els indicadors emprats han estat adequats per l'objecte de l'avaluació?

 

Es tracta d'una activitat en dos moments:

  • El primer és de resolució individual.
  • El segon és de correcció creuada.
Idea principal

En aquesta activitat se't proposa una dinàmica en dos moments. En el primer, resol individualment els interrogants. En el segon, intercanvia les respostes, revisa les d'un/a company/a i dóna-li un feedback. El/la tutor/a, a la plataforma, et proporcionarà oportunament les indicacions.

Documents

La lectura del document Instruments per a l'avaluació et permetrà analitzar correctament els indicadors definits en aquest cas.

1.8.- Proposta del sistema d'avaluació

El mateix Oleguer Roca va completar la planificació amb una proposta de sistema d'avaluació del projecte, que va ser també aprovada per l'equip de govern.

 

L'avaluació del projecte de modernització administrativa constarà de dos instruments que elaborarà el cap de l'Oficina de Modernització i que hauran de ser aprovats per la Junta de Govern Local:

  • Una memòria final del projecte, que servirà també de base per a la justificació de les subvencions rebudes. En aquesta memòria es detallaran les actuacions realitzades i els resultats assolits, i es farà una liquidació del pressupost previst.

  • Un informe intern d'avaluació del projecte, en el qual es farà una valoració del grau d'assoliment dels objectius, així com dels aspectes a tenir en compte per a la continuació del procés de modernització en el futur.

 

Per fer aquests dos informes, l'Oleguer Roca utilitzarà els informes mensuals de l'Oficina de Modernització, així com les aportacions que hi faci la comissió de seguiment.

Revisa el material conceptual que et proposem per comprendre aquesta part del cas.

Documents

Pots reflexionar sobre si els instruments escollits per l'Oleguer per fer el seguiment del projecte són els adequats llegint els apartats Controlar el desenvolupament del projecte i Executar l'avaluació del projecte.

El procés d'avaluació

L'avaluació ha de tenir en compte tots aquells aspectes que s'hagin determinat com a significatius durant la fase de planificació, en especial considerant els punts de vista dels diferents grups d'interès.

Normalment, s'hauran de considerar com a mínim els següents aspectes del projecte:

  • El desenvolupament tècnic.

  • L'execució real de la programació pel que fa a la temporalització i als recursos.

  • L'execució del pressupost i els costos reals del projecte.

  • El grau d'eficàcia del sistema de control.

  • Les incidències produïdes en la gestió de la informació, la comunicació i les relacions amb les diferents parts interessades, així com la forma en què han estat tractades.

  • El desenvolupament i el funcionament de l'equip de treball del projecte.

  • Els problemes identificats i les solucions aportades per a la seva resolució, en relació amb els riscos previstos.

     

Tots els aspectes a considerar en l'avaluació s'han de recollir en un informe o memoràndum final del projecte, que haurà d'estar a disposició de les persones que integren l'equip, de les altres parts interessades que correspongui i, en especial, de l'òrgan que va formular l'encàrrec del projecte.

L'informe d'avaluació és una eina útil per sintetitzar les conclusions de l'avaluació del projecte, i en especial si aquest ha assolit els seus objectius i els aprenentatges que s'han assolit, però també pot servir per ajudar a la comunicació d'aquestes conclusions.

1.9.- Ara fes-ho tu: analitza els objectius de l'avaluació

Segons el teu punt de vista fonamentat:

  • Quins són els objectius de l'avaluació d'aquest projecte?
Idea principal

Aquesta activitat és de resolució individual. El/la tutor/a, a la plataforma, et proporcionarà oportunament les indicacions.

Documents

Revisa els continguts dels apartats conceptuals Instruments per a l'avaluació, Controlar el desenvolupament del projecte i Executar l'avaluació del projecte. T'ajudaran a resoldre l'activitat.

1.10.- Resultats del projecte: el procés d'avaluació

Durant la resta de l'any 2010, el projecte de modernització administrativa de l'Ajuntament va anar seguint el seu curs. Tal com preveia l'Oleguer Roca, la planificació va ser, en termes generals, massa optimista, però tot i així es va aconseguir enllestir la feina essencial en condicions de poder justificar adequadament les subvencions rebudes. El 7 de març es va posar en marxa la nova seu electrònica.

 

 

A mitjan mes de març del 2011, l'Oleguer va elaborar els dos documents que havia previst a l'inici del projecte. Tot seguit et presentem un resum del seu contingut.

 

Resum de la memòria final del projecte

  • S'han produït desviacions temporals en l'execució del projecte.

  • La seu electrònica es va posar en marxa el dia 1 de març del 2011, amb dos mesos de retard sobre la previsió.

  • En lloc dels tretze tràmits previstos, actualment només funcionen deu. Els tres restants encara estan en curs d'implantació.

  • No obstant això, s'han posat en marxa les aplicacions informàtiques web i de gestió interna, de forma que es poden justificar pertinentment les subvencions.

 

Resum de l'informe d'avaluació

Es considera que el projecte ha assolit els seus objectius en un grau acceptable, ja que s'han implantat les aplicacions informàtiques dins del termini, i són operatius (tot i que amb un retard de dos mesos) més del 75 per cent dels tràmits administratius previstos.

S'han celebrat quatre de les nou reunions mensuals de la comissió de seguiment previstes. Des de l'octubre no s'ha tornat a reunir aquesta Comissió, per dificultats d'agenda, i la informació s'ha compartit per correu electrònic.

Per continuar amb el procés de modernització, en fases posteriors caldrà tenir en compte que hi ha hagut dificultats importants en el procés de modelització dels tràmits, ja que els departaments municipals no han pogut dedicar-hi el temps necessari, i això ha provocat que sovint la feina feta pels consultors tecnològics s'hagués de rectificar; d'aquí l'origen de la demora de dos mesos.

No es considera possible prescindir del suport d'aquests consultors per continuar amb la implantació de nous tràmits.

Informe final

Tots els aspectes a considerar en l'avaluació s'han de recollir en un informe o memoràndum final del projecte, que haurà d'estar a disposició de les persones que integren l'equip, de les altres parts interessades que correspongui i, en especial, de l'òrgan que va formular l'encàrrec del projecte.

L'informe d'avaluació és una eina útil per sintetitzar les conclusions de l'avaluació del projecte, i en especial si aquest ha assolit els seus objectius i els aprenentatges que s'han assolit, però també pot servir per ajudar a la comunicació d'aquestes conclusions.

1.11.- Ara fes-ho tu: analitza el procés d'avaluació

Després d'haver llegit com es va fer l'avaluació, reflexiona sobre les següents qüestions:

  • Quins aspectes del projecte creus que han estat objecte de l'avaluació i quins no?

  • Quines tasques típiques del procés de planificació de l'avaluació creus que no ha considerat l'Oleguer?

 

Es tracta d'una activitat en dos moments:

  • El primer és de resolució individual.
  • El segon és de correcció creuada.
Idea principal

En aquesta activitat et proposem una dinàmica en dos moments. En el primer, resol individualment les qüestions plantejades. En el segon, estableix un debat amb els/les companys/es del curs.

El/la tutor/a, a la plataforma, et proporcionarà oportunament les indicacions.

Documents

Per ajudar-te en la resolució de l'activitat pots consultar els apartats Controlar el desenvolupament del projecte i Executar l'avaluació del projecte.

1.12.- Resultats del projecte: el sistema de control

A finals de març del 2011, el regidor Salvador Montalbà va adreçar una nova comunicació al personal de l'Ajuntament informant d'aquestes fites, en la qual donava compte dels resultats obtinguts:

"Benvolguts i benvolgudes,

Com sabreu, el passat dilluns dia 7 de març es va posar en marxa la nova seu electrònica de l'Ajuntament, culminant el projecte de modernització administrativa iniciat ara fa un any.

A més, gràcies a l'esforç realitzat s'han implantat les noves aplicacions informàtiques de registre d'entrades i sortides, de gestió d'expedients administratius, i de gestió de resolucions i acords d'òrgans de govern.

La nova seu electrònica ofereix a la ciutadania la possibilitat de fer on-line deu tràmits, sense haver de desplaçar-se a l'Ajuntament.

Els objectius s'han assolit i ara resta continuar amb el procés de modernització, implantant els tràmits pendents que s'han pogut redissenyar en els darrers mesos i incorporant de forma progressiva tots els tràmits administratius de l'Ajuntament.

S'ha presentat ja la memòria justificativa del projecte a les administracions que han contribuït al seu finançament, dins del termini establert.

Vull agrair-vos la vostra participació i predisposició al llarg del projecte, i encoratjar-vos que continueu col·laborant en les actuacions posteriors que caldrà anar realitzant.

Salutacions cordials.

Salvador Montalbà

Regidor de règim intern"

Et proposem la lectura del material conceptual que s'indica al marge. T'ajudarà a comprendre aquesta part del cas.

Documents

Per reflexionar sobre els motius que ens han de portar a l'avaluació de projectes, llegeix amb atenció l'apartat Per què avaluar?.

Per què avaluar?

L'avaluació de qualsevol projecte és un procés necessari, perquè permet:

  • Comprovar el grau en què s'han assolit els seus objectius inicials.

  • Adquirir aprenentatges, tant a partir dels errors com de les bones pràctiques, amb la finalitat de millorar la forma de dur a terme nous projectes en el futur.

  • Conèixer el grau de qualitat assolit amb el projecte.

En el cas de la gestió pública, a aquests tres components (resultats, aprenentatge i qualitat) s'ha d'afegir també la necessitat de "retre comptes" davant de totes les parts interessades.

1.13.- Ara fes-ho tu: analitza el sistema de control

Un cop finalitzada la lectura d'aquest cas, respon les següents preguntes:

  • Creus que el sistema de control del projecte ha estat l'adequat?

  • Consideres que el sistema d'avaluació aplicat al projecte contribueix a la millora i a l'aprenentatge?

 

Es tracta d'una activitat en dos moments:

  • El primer és un debat.
  • El segon és de resolució individual.
Idea principal

En aquesta activitat et proposem una dinàmica en dos moments. En el primer, estableix un debat amb els/les teus/ves companys/es sobre les qüestions plantejades. En el segon, redacta breument les teves impressions i envia al tutor/a un arxiu amb les conclusions.

El/la tutor/a, a la plataforma, et proporcionarà oportunament les indicacions.

Documents

La lectura de l'apartat Per què avaluar? et permetrà resoldre correctament l'activitat.