Door regelmatig effecten te meten kun je veel leren. Sommige dingen, zoals deelnemersaantallen, zijn makkelijk vast te leggen, maar zeggen niets over daadwerkelijk doelbereik. Kwaliteit en impact van je organisatie monitoren en evalueren levert handvatten voor prestatieverbetering, maar is complexer en vereist meer consistentie in onderzoeksmethodiek. Hierbij ontstaan in de praktijk dan ook vaak drempels. Die zijn met een andere invalshoek echter relatief simpel op te lossen.
Bij sommige organisaties is evalueren heel gewoon, anderen doen er niet aan. Dat kan om verschillende redenen zijn, zoals het spannend vinden om kritiek te krijgen, het ingewikkeld vinden of het te veel werk/gedoe te vinden. Wat zijn dan zes slimme stappen om het evalueren van projecten in te voeren?
Van evalueren kun je leren. Wat je leert is afhankelijk van wat je evalueert. Een aantal mogelijke leerpunten zijn:
Een procesevaluatie gericht is op de manier waarop je werkt en samenwerkt. Van een procesevaluatie profiteer je dus bij alle volgende projecten, maar ook bij doorlopende processen.
Wacht dus niet tot het project is afgelopen met nadenken over evalueren. Plan bij voorkeur al bij de opzet van je project een evaluatie. Op welke momenten wil je evalueren? En wat wil je dan weten. Zijn er bepaalde mijlpalen in het project waarop het slim is om te reflecteren op het verloop van het project? Als je hier bij aanvang over nadenkt, wordt het gemakkelijker deze na afloop te beantwoorden.
Over de verschillende fasen van het proces, kun je de volgende vragen stellen.
Beantwoord deze evaluatievragen samen met het projectteam en zo nodig met externe partijen. Concentreer je niet op wat er niet goed ging, maar op wat er wel goed ging. Mensen leren namelijk meer van successen dan van fouten.
Een vraag die mij vaak gesteld wordt, is: 'We vermoeden dat we effect hebben met ons project. Hoe kunnen we dat vastleggen?' Het meten van effecten is interessante beleidsinformatie. Kom je dichter bij je doel of moeten activiteiten worden bijgestuurd? Het vastleggen van effecten is ook interessant voor (potentiële) partners en financiers. Hoe het effect vastgesteld wordt, verschilt per project en hangt af van het gewenste effect. Ik zal enkele voorbeelden geven van effectmetingen die ik onlangs heb uitgevoerd, dan wel momenteel uitvoer, om te laten zien wat er mogelijk is.
Museum Volkenkunde heeft de gezinstentoonstelling 'op expeditie' buiten geplaatst omdat ze binnen aan het verbouwen zijn, maar ook om te kijken of buiten exposeren drempelverlagend werkt en zo nieuw publiek aantrekt. Ze wilde graag weten of er nieuw publiek naar de gezinstentoonstelling kwam en zo ja, wat zij interessant vonden aan de tentoonstelling. Naast de analyse van bestaande databestanden door Letty Ranshuysen, heb ik bezoekers geobserveerd en met ze gesproken over de tentoonstelling. Naast dat de tentoonstelling interactief is, zeer gevarieerd en overzichtelijk, vonden bezoekers het fijn veel te leren. Dit sluit aan bij het onderzoek van de Nederlandse Museumvereniging naar de bevordering van museumbezoek door kinderen. Alleen het verlagen van praktische drempels en interactief maken van de tentoonstelling is niet voldoende. Bezoekers en dus ook kinderen willen iets leren. Als ze een museum bezoeken.
Het O&O-fonds van de energiebedrijven voert samen met de energiebedrijven de voorlichtingscampagne WATT? om jongeren te interesseren voor werk in de energiesector. Zij willen graag weten of leerlingen iets opsteken van hun magazine waarin verschillende aspecten van werken bij een energiebedrijf aan bod komt. Dit beoogde effect wordt gemeten door de leerlingen twee keer te bevragen met een bijna gelijke vragenlijst. Voordat ze het magazine krijgen wordt gekeken wat ze weten en welk beeld ze hebben van de energiesector. Een nulmeting om de stand van zaken voor het project vast te stellen. Enkele weken nadat het magazine in de klas is besproken, vullen de jongeren dezelfde vragenlijst nog eens in, deze keer aangevuld met vragen over het magazine. Het onderzoek loopt en ik ben erg benieuwd naar de resultaten. Door de twee vragenlijsten aan elkaar te koppelen per leerlingen, krijgt de opdrachtgever inzicht in de verschillen per leerlingen en zo over het geheel.
KMR coördineert het promotie- en voorlichtingsprogramma om Rotterdamse kinderen en jongeren te informeren over techniek en de haven. Hier is gekozen voor het meten van de attitude t.o.v. techniek en de attitude t.o.v. de Rotterdamse haven. Deze wordt binnenkort voor het eerst gemeten, de nulmeting. Daarna gaat het programma van start en over twee jaar wordt de attitude opnieuw gemeten bij dezelfde groep leerlingen. Omdat er in twee jaar veel gebeurt en we de gemeten verschillen toe willen kunnen schrijven aan het programma, worden er ook metingen gedaan bij een vergelijkbare groep, de controlegroep. Een soortgelijke opzet is ook gebruikt bij het meten van de effecten van de Friek's Techniektruck. Hierbij is gekeken naar het verschil in attitude tov techniek. De onderzoeksrapportage hiervan is openbaar en te downloaden op mijn website. Ik ben erg benieuwd of u effecten van projecten meet. Wat doet u met de onderzoeksresultaten? Wat als helaas blijkt dat u niet de beoogde effecten behaald. Hoe gaat u daar mee om? Bij Museum Volkenkunde worden de onderzoeksresultaten bijvoorbeeld gebruikt voor het tentoonstellingsbeleid voor de komende jaren. ROC West Brabant gebruikt de onderzoeksresultaten bij het inrichten van de opvolger van de truck en communiceert de resultaten met haar (financiële) partners om beslissingen omtrent de voortgang van het project positief te beïnvloeden.
Een zelfreflectie of evaluatie betekent onder andere dat je jezelf een spiegel voorhoudt om zo stil te staan bij hoe je werkt. Ik heb het al vaker gehad over waarom je evalueert. Een evaluatie brengt in kaart wat de resultaten en/of effecten van je project of proces zijn. Er worden succesfactoren en verbeterpunten genoemd. Waardoor je efficiënt en effectief actie kunt ondernemen. In dit blog ga ik in op wat een zelfreflectie nu eigenlijk betekent.
Zelfreflectie betekent dat je jezelf een spiegel voorhoudt. Je staat stil bij hoe je werkt door naar jezelf te kijken over een bepaalde periode. Je denkt daarbij na over de keuzes die je hebt gemaakt binnen je werk. Waarom heb ik het toen zo aangepakt? En waarom ging dit goed? Of juist minder goed? Ook sta je stil bij de vaardigheden je inzet. Waar ben ik goed in en wat kan er juist beter? Je stelt jezelf daarbij ook de vraag hoe je je daarbij voelde. Werd ik er blij van of juist niet? Vond ik het spannend? Zelfreflectie is een moment om kritisch naar jezelf te kijken om jezelf te verbeteren en te ontwikkeling.
Iedereen kan aan zelfreflectie doen en reflecteren kan op verschillende manieren. Op de werkvloer wordt geëvalueerd door middel van het maken van bijvoorbeeld persoonlijke ontwikkelplannen en het voeren van functioneringsgesprekken.
Op school wordt ook gereflecteerd. Leerlingen kunnen samen met de leerkracht evalueren. Dit kan zijn door middel van gesprekken, zelfreflectieformulieren of het bijhouden van een portfolio. Ook kan de leerkracht de leerling observeren. Als je meer wilt weten over evalueren in de klas, bekijk dan ons project voor Kunstbalie. Voor de cultuurloper zijn we een volginstrument aan het ontwerpen om de culturele ontwikkeling van de leerling te volgen/evalueren. Wil je hier meer over weten? Lees dan op deze pagina meer over dit project.
Het is zowel voor de deelnemers als voor de trainer achteraf fijn om te weten of het doel van een workshop is bereikt. Voor de deelnemers is het een terugblik naar wat zij geleerd hebben tijdens de workshop. Voor de trainer is het een moment van feedback. Door te evalueren komen succesfactoren en verbeterpunten boven tafel die de inhoud van de workshop kunnen verbeteren. Ik heb al veel evaluatieformulieren langs zien komen waarvan ik me afvraag wat er precies mee wordt gedaan, terwijl deelnemers de moeite nemen om ze in te vullen. Vaak zijn ze lang en kennen veel standaardvragen en algemene rapportcijfers.
Maar, evalueren kan ook op andere manieren, om de cursus leuk en luchtig af te sluiten. Omdat je bij deze vormen van evaluatie maar enkele vragen hebt, moet je goed nadenken over wat je wilt weten. Je hebt na afloop dan wel de informatie die je nodig hebt. Praktische informatie (was er voldoende catering? waren de toiletten schoon?) kun je ook achterhalen door zelf goed te kijken.
Na afloop van de workshop krijgt iedere deelnemer een ansichtkaart waarop hij/zij zijn/haar leerpunten schrijft. Ook vult iedereen zijn/haar naam op de ansichtkaart. De trainer neemt alle kaarten weer terug in en zorgt ervoor dat de deelnemers de kaart een paar weken na de workshop naar hen toegestuurd wordt. Op deze manier krijgen de deelnemers na een tijdje een reminder over wat zij geleerd hebben én kan de trainer nagaan of de deelnemers geleerd hebben wat hij/zij tijdens de training graag mee wilde geven.
De deelnemers schrijven op een A4’tje wat ze vandaag geleerd hebben. Ze maken hiervan een prop. Als de trainer het zegt mogen ze deze door de ruimte gooien. Dan pakt elke deelnemer een prop, vouwt deze open en schrijft of ze de doelen van vandaag behaald hebben. Er worden weer ballen van gemaakt en opnieuw als de docent het zegt door de klas gegooid. Dan pakt elke deelnemer weer een sneeuwbal, vouwt deze open en schrijft een tip op voor de inhoud van de les van vandaag. Er worden weer ballen van gemaakt en deze worden op het teken van de docent opnieuw door de klas gegooid.
Dan pakt elke deelnemer weer een sneeuwbal, vouwt deze open en schrijft een tip op voor de docent. Er worden weer ballen van gemaakt en nu worden alle sneeuwballen naar de docent gegooid.
Door deze werkvorm gaan deelnemers nog even bewust nadenken wat ze nu gedaan hebben, wat ze geleerd hebben en hoe ze dit kunnen toepassen. Een ander voordeel van deze vorm van evalueren is dat het anoniem is, waardoor deelnemers de vragen op een eerlijke manier beantwoorden
De evaluatiethermometer is een werkvorm om deelnemers uit te dagen hun vooruitgang tijdens de training concreet te beschrijven. Je vraagt de deelnemers hoe competent zij zich voelen t.a.v. het onderwerp van de training. Bijvoorbeeld: Welk cijfer geef jij jezelf nu als het gaat om het voeren van functioneringsgesprekken? De cursisten zetten een streepje in de thermometer, of nemen langs de thermometer op de wand een positie in. Deze evaluatiethermometer is het meest effectief als je ook aan het begin van de training de temperatuur opneemt. Dan valt er iets te vergelijken. De kern van de werkvorm zit in het gesprek dat volgt. De trainer daagt de cursisten uit om zo concreet mogelijk te verwoorden wat er aan het einde van de training anders is dan aan het begin. Doordat het een werkvorm is waarbij de deelnemers aangeven wat zij wél geleerd hebben en niet wat ze gemist hebben, sluit je de training altijd op een positieve manier af.
Door te stemmen krijg je snel een goed beeld over hoe de workshop in het algemeen is ontvangen en of cursisten ervaren dat hun doel is bereikt. Aan de hand van een paar stellingen laat je de groep stemmen met een groene (mee eens) en rode kaart (niet mee eens). Vraag een paar cursisten hun stemming toe te lichten. Doordat deze werkvorm niet anoniem is, maar juist heel direct kan het zijn dat deelnemers wat terughoudender de vragen beantwoorden.
Meer weten? Lees één van de volgende blogs:
Monitoren en evalueren worden vaak samen genoemd. Dit is niet gek, want zowel monitoren als evalueren doe je om dezelfde reden: je wilt specifieke informatie verzamelen die je nodig hebt om de volgende stap te kunnen maken. Het wordt vaak gezien als één instrument, maar er is wel degelijk verschil tussen de twee. Het verschil zit ‘m vooral in de momenten waarop je het doet.
Monitoren is structureel zicht houden op het project of programmaverloop. Het monitoren van je project doe je in aanloop naar het project en voornamelijk tijdens het project. Door gedurende het project structureel informatie te verzamelen kun je tijdig bijsturen waar nodig. Een monitor geeft antwoord op vragen zoals: Ben je op het goede spoor? Dragen je activiteiten bij aan je doel? Wat gaat goed? Wat kan beter? Door te monitoren houd je zicht op je doelbereik. Zo weet je welke stappen je moet zetten om je doel te bereiken en bereik je het doel efficiënter.
Met evalueren hou je het resultaat tegen het licht. Dit gebeurt meestal na afloop van een project, maar kan ook tussentijds. Je beantwoordt vragen als: Is het doel bereikt? Levert dit het beoogde effect? Een evaluatie brengt helder in kaart wat de resultaten en/of effecten van je project en/of proces zijn. Daarbij benoem je de succesfactoren en de verbeterpunten . Met die kennis weet je bij toekomstige trajecten waar je aandachtspunten liggen.
Om zowel tijdens het project zicht te houden op het verloop van het project én inzicht te krijgen in de resultaten wordt monitoring en evalueren vaak samen gedaan. Je krijgt dan een compleet beeld van de effecten van je project en kunt tijdig bijsturen indien nodig.
Wil jij ook inzicht in het verloop en de resultaten van je project, programma of activiteit? Ik kan je helpen bij de monitoring en/of evaluatie!
In schooljaar 2018-2019 heeft Provincie Flevoland het educatieprogramma Democratie en de Rechtsstaat opgezet, gericht op het basis-, voortgezet en beroepsonderwijs. Aanleiding was dat de provincie merkte dat de politiek en de overheid ver van jongeren af staan, zij weinig binding hebben met de provincie en weinig weten over de democratie, het politieke bestel en de rechtsstaat. In het programma Democratie en de Rechtsstaat hebben zij daarom allerlei soorten lessen opgezet die jongeren in aanraking brengen met de provinciale politiek en vormen van burgerschap. Om te bepalen of het onderwijsprogramma een vervolg krijgt, hebben wij gemeten wat de effecten zijn geweest van het programma op het onderwijs, maar bovenal of er vanuit het onderwijs behoefte is dat de provincie onderwijsprogramma's aanbiedt. Daarvoor hebben we interviews afgelegd met docenten uit de verschillende vormen onderwijs, de programmamakers, Statenleden en de begeleidingscommissie. Naar aanleiding van deze gesprekken hebben we een rapportage kunnen uitbrengen die antwoorden en adviezen gaf op de vraag of het lesprogramma moet worden voortgezet. Daarnaast hebben we het programma intern geëvalueerd met Statenleden, organisatoren en uitvoerende partijen.
In gesprekken met medewerkers van musea merk ik dat subsidiërende lokale overheden voornamelijk kijken naar bezoekersaantallen. Want dat is gemakkelijk meetbaar. Maar wat is het doel van deze gemeenten om het museum te subsidiëren? Steunt de gemeente het doel van het museum (mensen iets leren over of interesseren voor een bepaald onderwerp)? Wil de gemeente dat het museum bijdraagt aan de identiteit van de gemeente? Of wil de gemeente zo veel mogelijk bezoekers?
Door het doel dat je als gemeente hebt met een museum (of een andere culturele instelling) samen scherper te formuleren, kun je samen kijken wat er dan wel en wat niet valt onder de activiteiten die ontwikkeld moeten worden om dit doel te bereiken. Twee voorbeelden om te verduidelijken wat ik bedoel.
Eerste voorbeeld: een museum is onderdeel van de identiteit van een gemeente. Op het gebied van binnenschoolse cultuureducatie kan dit betekenen dat het museum samen met de school kijkt naar de geschiedenis van de gemeente of met de leerlingen op zoek gaat naar wat de burgers bindt in deze gemeente. Een museum kan in dit geval ook een bijdrage leveren aan themajaren en zich buiten de muren van het museum profileren.
Tweede voorbeeld: een museum wil mensen binnen de gemeente en daarbuiten interesseren voor een bepaald onderwerp, kunststroming of historische periode. Door niet afgerekend te worden op het aantal bezoekers aan de deur, kunnen ze ook naar de bezoekers toegaan door bijvoorbeeld met een mobiele tentoonstelling te staan op een drukke plaats, zoals het station, een winkelstraat of een ziekenhuis. Mensen die normaliter niet naar het museum komen, maken nu wel op een laagdrempelige manier kennis met het onderwerp, de kunststroming, een kunstenaar of een historische periode en het museum. Door het laagdrempelig en kleinschalig aanbieden van cultuur zullen mensen aangesproken worden die normaliter het museum niet zouden bezoeken. Zo worden nieuwe publieksgroepen iets geleerd over, geïnteresseerd voor een bepaald onderwerp. Wat ze moeilijker lukt als ze naar het museum gelokt moeten worden.
Ik begrijp dat het lastiger te meten is of een museum bijdraagt aan deze doelen, dan bezoekers te tellen. Maar het geeft het museum meer mogelijkheden om naar potentiele bezoekers toe te gaan door minder gebonden te zijn aan hun gebouw. Door elders kennis te maken met het museum gaan mensen het meer waarderen, komt er meer draagvlak en zullen er uiteindelijk meer bezoekers komen omdat niet alleen de bekendheid is toegenomen, maar ook de drempels om het museum te bezoeken verlaagd zijn.
Ps. En ook van deze doelen kan gemeten worden of ze gehaald worden.
Wil je de potentie van je project of organisatie vergroten? Maak dan een SWOT analyse waarbij je een overzicht maakt van de kansen, bedreigingen, sterktes en zwaktes van jouw project of organisatie. Aan de hand van deze punten kun je je project of organisatie versterken.
Een SWOT analyse (ook wel sterkte-zwakteanalyse genoemd) is van oorsprong een bedrijfskundig instrument dat je gebruikt om intern de sterktes en zwaktes en extern de kansen en bedreigingen van een organisatie of project in kaart te brengen. Binnen de bedrijfskunde wordt een SWOT analyse vaak gemaakt als onderdeel van een ondernemersplan of om de markpositie van een bedrijf te bepalen. Op basis van de uitkomsten van de analyse kun je als bedrijf vervolgens een passende strategie bepalen.
Je kunt het instrument daarnaast ook gebruiken om kritisch naar je project te kijken door de huidige stand van zaken binnen een project inzichtelijk te maken. Ga je op dezelfde koers verder of is het beter om eerst wijzigingen door te voeren?
Bij het opstellen van een sterkte-zwakteanalyse, doorloop je een aantal stappen waardoor je inzicht krijgt in de potentie van een project of organisatie. Deze stappen zijn:
Breng zowel de sterke als zwakke punten van je organisatie of project in kaart. Hierbij kijk je naar de interne elementen. Vragen die je bijvoorbeeld kan stellen zijn:
Maak een overzicht van de ontwikkelingen, gebeurtenissen en invloeden waar je project of organisatie mee te maken kan krijgen. Dit zijn de externe elementen. Vragen die je hierbij kunnen helpen zijn:
Als je zowel de externe als interne elementen in kaart hebt gebracht, ga je ze tegenover elkaar zetten in een confrontatiematrix (zie onderstaande afbeelding). De sterktes en zwaktes zet je in de bovenste rij en de kansen en bedreigingen in de onderste rij. Wanneer je dit gedaan hebt maak je een overzicht van de meest belangrijke kwesties.
Ten slotte ga je de belangrijke kwesties omzetten in een strategie voor je project of organisatie. Zorg ervoor dat je gestelde doelen realistisch en haalbaar zijn zodat je er gelijk mee aan de slag kan.
Wil je meer weten over het evalueren van je project? Lees dan ook de blog: evalueren om je project te verbeteren.
