KARnet 15+ − model współpracy trójsektorowej
Transkrypt
KARnet 15+ − model współpracy trójsektorowej
Ewaluacja zewnętrzna projektu „KARnet 15+ − model współpracy trójsektorowej” w ramach Programu Operacyjnego Kapitał Ludzki Priorytet 1: „Zatrudnienie i integracja społeczna” Działanie 1.2:„Wsparcie systemowe instytucji pomocy i integracji społecznej” Raport końcowy Opracowanie: Logos Centrum Edukacyjne Jan Romańczuk Tomasz Wysocki sc. Warszawa, październik 2014 Spis treści 1. Streszczenie................................................................................................ 3 2. Wprowadzenie ........................................................................................... 9 3. Opis przedmiotu badania ......................................................................... 10 4. Cel badania .............................................................................................. 12 5. Opis zastosowanej metodologii ................................................................ 13 5.1. Kryteria ewaluacyjne ..................................................................................................... 13 5.2. Pytania badawcze .......................................................................................................... 13 5.3. Metody i techniki wykorzystane w badaniu oraz opis przebiegu badania ................... 14 6. Opis wyników badania ............................................................................. 17 6.1 Kryterium trafności ......................................................................................................... 17 6.2. Kryterium skuteczności .................................................................................................. 22 6.3. Kryterium efektywności ................................................................................................. 36 6.4. Kryterium użyteczności .................................................................................................. 39 6.5. Kryterium trwałości ....................................................................................................... 43 6.6. Analiza SWOT................................................................................................................. 45 Strona2 7. Wnioski i rekomendacje ........................................................................... 48 2 1. Streszczenie Opis przedmiotu badania Zamawiający określił w dokumencie „Strategia wdrażania produktu innowacyjnego testującego KARnet 15+ - model współpracy trójsektorowej“ cele projektu innowacyjnego będącego przedmiotem niniejszego raportu. Celem projektu było „wypracowanie i wdrożenie do VI 2015 r. na terenie Polski nowego modelu współpracy między podmiotami pomocy i integracji społecznej a przedsiębiorcami, służącego ułatwianiu wchodzenia na rynek pracy młodzieży 15-25 lat zagrożonej wykluczeniem społecznym”. Najważniejszym elementem projektu było wypracowanie mechanizmów wzajemnej wymiany wiedzy i doświadczeń sektora publicznego, prywatnego i pozarządowego. Zakładanym efektem wdrożenia tych mechanizmów było wypracowanie sposobu działania, który ułatwi wejście na rynek pracy młodzieży w wieku 15-25 lat zagrożonej wykluczeniem społecznym, w tym z zaburzonymi więziami rodzinnymi, objętej opieką zastępczą. Produkt w fazie testowania skierowany był do dwóch grup docelowych: Odbiorców: młodzieży w wieku 15-25 lat zagrożonej wykluczeniem społecznym, objętej pieczą zastępczą, zarówno instytucjonalną jak i rodzinną; młodzieży spoza pieczy zastępczej o zdrowych podstawach społecznych. Użytkowników: Ośrodków Pomocy Społecznej; niepublicznych instytucji pomocy i integracji społecznej (NGO); przedsiębiorców. Czas planowanego pilotażowego wdrożenia innowacji wynosił 19 miesięcy. Cel badania Celem badania było przeprowadzenie ewaluacji zewnętrznej produktu finalnego opracowanego w ramach projektu innowacyjnego testującego „KARnet 15+ - model współpracy trójsektorowej“. Celem przeprowadzonej ewaluacji było także zidentyfikowanie słabych i mocnych stron wdrażanego produktu oraz sformułowanie rekomendacji dotyczących ewentualnej modyfikacji produktu finalnego. Strona3 Pytania badawcze W ramach niniejszego badania Ewaluator ustrukturyzował pytania badawcze odbijające główne obszary analizy produktu pod kątem celów ewaluacji na poziomie fazy testowania, jak i potencjału 3 wdrażania na szerszą skalę w Polsce. Trafności Czy i w jakim stopniu produkt odpowiada na realne potrzeby użytkowników/odbiorców? Czy wypracowane rozwiązania były zgodne z zasadą empowerment? Czy uwagi i rekomendacje odbiorców i użytkowników były w wystarczający sposób uwzględniane w procesie testowania produktu finalnego? Skuteczności Czy produkt przynosi zakładane korzyści dla grup docelowych? Czy produkt jest skuteczny? Co wpływa na jego skuteczność – czy są to metody pracy, dobór grup docelowych, organizacja procesu wsparcia czy inne czynniki? Czy możliwe jest zwiększenie skuteczności proponowanych metod i pod jakimi warunkami? Jak przebiegało testowanie produktu? Czy testowane działania pozwalają osiągnąć cel główny oraz cele szczegółowe projektu oraz zaplanowane wskaźniki? Czy strategia wdrażania projektu i testowany produkt wymagają modyfikacji wynikających z doświadczeń projektowych wynikających z fazy testowania? Jakie elementy rozwiązań wypracowanych w ramach produktu finalnego powinny być szczególnie akcentowane jako przewagi w odniesieniu do innych rozwiązań? Efektywności Czy wypracowany produkt przynosi zakładane efekty w odniesieniu do poniesionych nakładów (finansowych, czasowych, ludzkich)? W jakim stopniu proponowana innowacja jest lepsza od istniejących rozwiązań, bardziej atrakcyjna i efektywna? Jakie warunki brzegowe powinny zostać spełnione żeby z powodzeniem można było zastosować/implikować produkt finalny wypracowany w niniejszym projekcie? Użyteczności Czy wypracowany produkt jest zgodny z potrzebami grup docelowych: użytkowników/odbiorców? Czy oraz w jakim zakresie produkt przynosi zakładane korzyści dla grup docelowych? Czy wszystkie elementy produktu finalnego są użyteczne w takim samym stopniu? Strona4 Trwałości Czy i w jakim stopniu prawdopodobne jest funkcjonowanie produktu po zakończeniu finansowania projektu? Jaki jest potencjał produktu w dłuższej perspektywie czasowej? Czy zasadne jest podejmowanie działań upowszechniających i wdrażających? Jakie są mocne i słabe strony przetestowanego produktu finalnego i jego składowych? Jakie 4 szanse i bariery może napotkać produkt w przypadku jego wdrażania? Jakie czynniki decydują o sukcesie produktu finalnego, a w jaki sposób można zapobiec zdiagnozowanym trudnościom (barierom) w trakcie wdrażania/upowszechniania produktu finalnego? Metody i techniki wykorzystane w badaniu W procesie ewaluacji wykorzystano poniższe metody: Analiza danych zastanych, Ankieta CATI skierowana do odbiorców projektu, Wywiady pogłębione, indywidualne, półustrukturyzowane, Konsultacja z niezależnym ekspertem dotycząca oceny metodologicznej produktu oraz możliwości jego szerszego wdrożenia, Analiza SWOT produktu pod kątem jego wdrożenia. Badanie przeprowadzono w październiku 2014 roku. W trakcie badania przeprowadzano na bieżąco konsultacje z Zamawiającym dotyczące zakresu i przebiegu prowadzenia badania. Opis wyników badania Kryterium trafności Wyniki badania wskazują na fakt, że w zakresie mechanizmów współpracy instytucjonalnej istnieje duża luka w oczekiwaniach partnerów w stosunku do założeń testowanego modelu. Wynika ona głównie z dwóch zidentyfikowanych barier: Zbyt dużych różnic kultur organizacyjnych partnerów oraz niewypracowania w okresie prac koncepcyjnych i testowania produktu efektywnych mechanizmów przezwyciężania tych różnic w drodze wzajemnych konsultacji. Problem był znacząco pogłębiony poprzez fakt realizacji testowania produktu w ramach formalnozarządczych wymagań projektu współfinansowanego przez EFS. Te wymagania administracyjnoformalne są trudne dla każdego projektu, a stanowiły szczególne utrudnienie w przypadku ewaluowanego projektu z następujących powodów: 1) jego innowacyjnego charakter; 2) relatywnie dużej liczba partnerów pochodzących z różnych sektorów zaangażowanych w jego testowanie; 3) zróżnicowania geograficznego poprzez realizację testowania w dwóch miastach: Poznaniu i Wrocławiu. Strona5 Perspektywa użytkowników – pracowników IPS oraz kadry Klubów Wydaje się, że na poziomie instrumentów wsparcia młodzieży, produkt dobrze dopasował się do potrzeb użytkowników. Stało się tak przez wskazanie nowych metod pracy z młodzieżą, opartych na podejściu nieoceniającym/rozumiejącym. Jednakże warto wskazać na kontekst instytucjonalny. Dotyczy on potencjalnego usytuowania nowych instrumentów w ramach palety usług/świadczeń już prowadzonych. Jest to aspekt kluczowy dla określenia elementów projektu, które warto rozważyć do szerszego upowszechnienia. Szczególnie chodzi o zachowanie równowagi między wsparciem 5 socjalnym (jak najbardziej koniecznym wobec skali potrzeb) a podejściem aktywizującym. Perspektywa odbiorców – młodzieży Można jednoznacznie stwierdzić, że mechanizm interwencji w zakresie rozwoju kompetencji społecznych odpowiada potrzebom odbiorców. Możliwość udzielenia odpowiedzi na to pytanie ewaluacyjne w zakresie pracy Przewodników po Rynku Pracy jest ograniczone z powodu relatywnie niskiej liczby osób, które dotarły w Klubach do tego etapu. Niemniej jednak, na podstawie dostępnych informacji można również stwierdzić, że jest to forma wsparcia, która odpowiadała potrzebom odbiorców, poprzez zapoznanie ich z realiami rynku pracy. Jednocześnie trzeba wskazać na istotne czynniki utrudniające dotarcie do potencjalnych odbiorców: Duża orientacja młodzieży na konkretne korzyści oferowane w innych projektach (np. kursy zawodowe zakończone uznawanym przez pracodawców certyfikatem, inne wymierne korzyści materialne np. zwrot kosztów dojazdu); Niejednorodność zakresu potrzeb i zainteresowań wśród młodzieży pomiędzy 15 a 25 rokiem życia; Przy przyjęciu założeń testowanego produktu wątpliwości co do skierowania jego działań do grupy młodzieży z pieczy. Również badania w ramach ewaluacji wewnętrznej nie wykazały znaczących cech z punktu widzenia celów produktu w stosunku do grupy kontrolnej. Stosowanie zasady empowermentu Założenia produktu oparte były na zasadach empowermentu. Na poziomie pracy w KAR-ach była ona wdrażana zarówno w stosunku do odbiorców, jak i użytkowników. Jednakże występowały bariery w jej stosowaniu w fazie testowania, wynikające z mechanizmów zarządczych relacji pomiędzy Liderem projektu a Klubami. Wynikały one głównie z problemów związanych z koniecznością przestrzegania mało elastycznych procedur wymaganych przez system wdrażania projektów współfinansowanych przez EFS w relacji do bardzo dynamicznych procesów zachodzących na poziomie Klubów (np. kwestie związane z kwalifikowalnością kosztów aktywności proponowanych przez odbiorców/kadrę klubów, co wydłużało moment realizacji danej aktywności lub też konieczność rezygnacji z niej). Strona6 Kryterium skuteczności Na podstawie dotychczasowej przeprowadzonej w trakcie badania ewaluacyjnego analizy można postawić diagnozę częściowej bądź też potencjalnej skuteczności projektu zarówno w zakresie instrumentów wsparcia, jak i mechanizmów współpracy trójsektorowej. Użytkownicy w zakresie instrumentów wsparcia młodzieży wypracowanych w ramach projektu osiągnęli zakładane cele w wymiarze poznawczym i praktycznym (przećwiczenie nowych metod pracy w Klubach). Jeśli chodzi o odbiorców to duża rotacja na zajęciach prowadzonych przez KARnety uniemożliwiła efektywne przeprowadzenie całego trzyfazowego cyklu planowanego w produkcie. Osoby, które uczestniczyły w większej liczbie aktywności oceniły pozytywnie zarówno pracę Klubów, jak 6 i Przewodników po rynku pracy. Zwróciły natomiast uwagę na wątpliwości dotyczące racjonalności kierowania produktu do młodzieży z pieczy. Mechanizmy współpracy międzysektorowej budzą wątpliwości wśród potencjalnych użytkowników. Wyniki badania wskazują, że model nie do końca zadziałał zgodnie z zakładanymi celami projektu. Wydaje się, że zadziałały tu następujące mechanizmy: Zbyt duże różnice pomiędzy kulturami organizacyjnymi partnerów z różnych sektorów; Testowanie produktu w reżimie zbiurokratyzowanych wymagań projektów współfinansowanych z EFS; Wyraźna trudność we „wpasowaniu” produktu do rutynowych działań IPS działających w sektorze publicznym. Przedstawione w tej sekcji rekomendacje odnoszą się do dwóch obszarów tematycznych: metodyczno-organizacyjnego dotyczącego instrumentów wsparcia; systemu zarządzania projektem testowania produktu odnoszącego się do mechanizmów współpracy między partnerami. Kryterium efektywności Z powodu zbyt krótkiego okresu testowania projektu można wysnuć wnioski dotyczące jego potencjalnej efektywności. Warunkiem efektywności projektu w dłuższej perspektywie czasowej jest wprowadzenie szeregu zmian w systemie jego wdrażania, szczególnie w obszarze systemu naboru odbiorców oraz lokalizacji Klubów. W przypadku kontynuacji prac Klubów jako stałego elementu pracy z młodzieżą, wydaje się, że należałoby rozważyć instytucjonalizację prac Klubów poprzez: 1) „zahaczenie” instytucjonalne Klubów przy jednym z partnerów mającym odpowiednie środki finansowe do ich prowadzenia; 2) oparcie zatrudnienia kadry Klubów na jasno określonych podstawach prawnych gwarantujących zatrudnionym odpowiednią ochronę prawną, ale również stabilność kadrowo-zarządczą dla Klubów. Strona7 Kryterium użyteczności Generalnie produkt odpowiada na potrzeby zarówno użytkowników, jak i odbiorców. W przypadku tej pierwszej grupy nastąpił wzrost wiedzy i umiejętności praktycznych dotyczących relatywnie nowych metod pracy z młodzieżą. Określenie relatywne odnosi się do faktu, że dla części pracowników IPS były to już zagadnienia znane z literatury, jednak dopiero etap testowania produktu pozwolił im na wykorzystanie zdobytej wiedzy w praktyce. Dla odbiorców najważniejsze i najbardziej użyteczne były elementy oparte na budzeniu ich proaktywnego i kreatywnego podejścia. Z kolei najniżej młodzież oceniła działania pasywne, czyli nie wymagające ich aktywności, w tym zajęć związanych z rynkiem pracy. Niska ocena działań dotyczących rynku pracy przynajmniej częściowo wynika z faktu, że odbiorcami były w większości osoby w wieku 15-20 lat (56% badanej próby). Jest to zaś kategoria wiekowa odbiorców o stosunkowo słabej orientacji na rynek pracy z powodu specyfiki sytuacji życiowej (w większości przypadków nauka w różnych placówkach edukacyjnych). 7 Jeśli chodzi o ocenę użyteczności poszczególnych elementów produktu to dominują te pobudzające proaktywność i kreatywność odbiorców. Trzeba podkreślić w tym kontekście szczególną rolę kadry Klubów (Koordynatorów klubów, Liderów Procesów Grupowych) oraz Liderów Aktywności Rozmaitych, którzy rekrutowali się również spośród młodzieży uczestniczącej w zajęciach Klubów. Znacznie mniejszą rolę odgrywali Przewodnicy po Rynku Pracy. Wynikało to z faktu, iż większość Klubów zdołała na etapie testowania dojść tylko do fazy drugiej z trzech, które zostały zaplanowane w Strategii projektu. Opóźnienie faktycznego testowania w stosunku do zakładanego w Strategii wynika z niedoszacowania czasu koniecznego na przejście wszystkich trzech faz. Ponadto, jak wykazało doświadczenie, budowanie partnerstwa opartego na aktorach znajdujących się w dwóch miastach (Wrocławiu i Poznaniu) również wymagało więcej czasu niż zakładano. Kryterium trwałości Zagadnienia trwałości produktu dalekie są od jednoznaczności. Elementy produktu dotyczące tworzenia i funkcjonowania Klubów Aktywności Rozmaitych oraz testowania faz I i II pracy z odbiorcami zostały już w dużym stopniu pozytywnie zweryfikowane w fazie testowania. Można ewentualnie rozważać upowszechnianie tych elementów produktu, jednakże pod warunkiem modyfikacji wybranych krytycznych aspektów, głównie dotyczących doboru grupy docelowej oraz metody naboru odbiorców. Doświadczenia z testowania dotyczące mechanizmów współpracy trójsektorowej pozwoliły na identyfikację szeregu barier, mających swoje źródło w dużych różnicach kultur organizacyjnych partnerów oraz ograniczeniach wynikających z testowania modelu w bardzo zbiurokratyzowanych ramach projektów współfinansowanych z Europejskiego Funduszu Społecznego. Przed ewentualnym rozważeniem upowszechniania partnerzy powinni: dokonać pogłębionej analizy doświadczeń z testowania; wypracować reguły buforowe dotyczące zasad współpracy między partnerami pochodzącymi z trzech sektorów w celu łagodzenia/unikania potencjalnych pól powodujących niejasności lub wręcz konflikty. Strona8 Wnioski i Rekomendacje Wnioski i rekomendacje przedstawione są w sekcji 7 niniejszego raportu (str. 45-47). 8 2. Wprowadzenie Badanie ewaluacyjne projektu zostało przygotowane zgodnie z Wytycznymi nr 6 w zakresie ewaluacji programów operacyjnych na lata 2007-2013 (Narodowe Strategiczne Ramy Odniesienia na lata 20072013) Ministerstwa Rozwoju Regionalnego oraz Rozporządzeniem nr 1083/2006 z dnia 11 lipca 2006 r. ustanawiającego przepisy ogólne dotyczące Europejskiego Funduszu Rozwoju Regionalnego, Europejskiego Funduszu Społecznego oraz Funduszu Spójności uchylającego rozporządzenie (WE) nr 1260/1999.Ze względu na innowacyjny charakter projektu, sposób realizacji ewaluacji oparty został na wytycznych zawartych w Miniprzewodniku po ewaluacji projektów innowacyjnych PO KL. Zalecenia Krajowej Instytucji Wspomagającej (Warszawa 2012). Strona9 W trakcie prowadzenia badania w ramach ewaluacji zewnętrznej wykorzystywano raporty oraz wnioski wypracowane w wyniku ewaluacji wewnętrznej prowadzonej przez Zamawiającego. 9 3. Opis przedmiotu badania Zamawiający określił w dokumencie „Strategia wdrażania produktu innowacyjnego testującego KARnet 15+ − model współpracy trójsektorowej” cele projektu innowacyjnego będącego przedmiotem niniejszego raportu. Celem projektu było „wypracowanie i wdrożenie do VI 2015 r. na terenie Polski nowego modelu współpracy między podmiotami pomocy i integracji społecznej a przedsiębiorcami, służącego ułatwianiu wchodzenia na rynek pracy młodzieży 15-25 lat zagrożonej wykluczeniem społecznym”. Najważniejszym elementem projektu było wypracowanie mechanizmów wzajemnej wymiany wiedzy i doświadczeń sektora publicznego, prywatnego i pozarządowego. Zakładanym efektem wdrożenia tych mechanizmów było wypracowanie sposobu działania, który ułatwi wejście na rynek pracy młodzieży w wieku 15-25 lat zagrożonej wykluczeniem społecznym, w tym z zaburzonymi więziami rodzinnymi, objętej opieką zastępczą. Produkt w fazie testowania skierowany był do dwóch grup docelowych: Odbiorców: młodzieży w wieku 15-25 lat zagrożonej wykluczeniem społecznym, objętej pieczą zastępczą, zarówno instytucjonalną, jak i rodzinną; młodzieży spoza pieczy zastępczej o zdrowych podstawach społecznych. Użytkowników: Ośrodków Pomocy Społecznej; niepublicznych instytucji pomocy i integracji społecznej (NGO); przedsiębiorców. Czas planowanego pilotażowego wdrożenia innowacji wynosił 19 miesięcy. Na produkt finalny składały się następujące elementy: 1. KARnet – Kluby Aktywności Rozmaitych KARnet to sieć Klubów Aktywności Rozmaitych tworzonych w miastach, gdzie istniejące problemy społeczne, mogą skutkować wykluczeniem społecznym młodzieży w wieku 15-25 lat. Ideą Klubu jest stworzenie przestrzeni dla inicjatywy oddolnej i rozwoju zainteresowań młodzieży w zakresie konkretnych umiejętności. Ważnym celem działalności Klubów Aktywności Rozmaitych jest rozwój kompetencji osobistych, społecznych i zawodowych. Zakładano zaangażowanie młodzieży według następujących faz: Strona10 FAZA I: młodzież rozbudza i rozwija zainteresowania, skupiając się wokół Lidera Aktywności Rozmaitych, autorytetu danej umiejętności np. tańca nowoczesnego, sportów, który ma rolę 10 centrotwórczą przy towarzyszącym udziale koordynatorów klubów i liderów procesów grupowych. FAZA II: tworzenie się grupy z udziałem Liderów Procesów Grupowych (osoby z wiedzą w zakresie socjoterapii i procesów grupowych, prezentującej model współpracy, budowania relacji między płciami, przyszłych zależnych relacji w pracy). Dzięki pracy wykorzystującej aktywne metody socjoterapeutyczne możliwy był rozwój kompetencji społecznych m.in. poprzez odkrywanie mocnych stron, stwarzanie okazji do pozytywnego wpływu na własne życie i kierowanie aktywności na wartości związane z pracą, rodziną, uczestnictwem w społeczeństwie. FAZA III: prowadzona przez Przewodnika po Rynku Pracy zakładała edukację o zawodach, funkcjonowaniu rynku pracy, pokazanie zależności między wyborem szkoły a podjętym zatrudnieniem, kreowanie rozsądnych wyborów zawodowych uwzględniających indywidualne predyspozycje młodzieży. Gospodarzem każdego klubu jest Koordynator, osoba odpowiedzialna za sprawy organizacyjne i funkcjonowanie klubu oraz wsparcie procesu socjoterapeutycznego. Koordynator wraz z Liderami Procesów Grupowych i Przewodnikiem po Rynku Pracy tworzą kadrę merytoryczną klubu. W ramach projektu wypracowano następujące elementy wspierające jego testowanie: Programy pracy w Klubach Aktywności Rozmaitych. Ich zadaniem było przygotowanie kadry do pracy w klubach; Program pracy dla pracowników IPS w celu wspierania i uzupełnienia kompetencji pracowników IPS w obszarze systemowego myślenia, pracy na zasobach oraz rynku pracy; Narzędzia edukacyjne dla młodzieży w ramach instrumentów przygotowujących młodzież do wejścia na rynek pracy. Istotnym elementem z punktu widzenia celów produktu i wdrażania innowacji były coaching i superwizje (indywidualne oraz grupowe) dla kadry merytorycznej klubów oraz pracowników IPS. Strona11 Kolejnym istotnym elementem projektu z punktu widzenia jego celów było włączenie do procesu testowania pracodawcy działającego w podwójnej roli: 1) jednego z partnerów testujących projekt, 2) organizatora wizyt u pracodawców w celu zapoznania odbiorców z praktycznymi aspektami zawodów prezentowanych w czasie zajęć w Klubach. 11 4. Cel badania Strona12 Celem badania było przeprowadzenie ewaluacji zewnętrznej produktu finalnego opracowanego w ramach projektu innowacyjnego testującego „KARnet 15+ − model współpracy trójsektorowej“. Celem przeprowadzonej ewaluacji było także zidentyfikowanie słabych i mocnych stron wdrażanego projektu oraz sformułowanie rekomendacji dotyczących ewentualnej modyfikacji produktu finalnego. 12 5. Opis zastosowanej metodologii 5.1. Kryteria ewaluacyjne Podstawą do tworzenia kryteriów ewaluacyjnych było spojrzenie na wewnętrzną logikę interwencji projektu testowania produktu innowacyjnego. Ocena etapu testowania miała służyć wypracowaniu wniosków pod kątem modelu współpracy między podmiotami pomocy i integracji społecznej a przedsiębiorcami, służącego ułatwianiu wchodzenia na rynek pracy młodzieży 15-25 lat zagrożonej wykluczeniem społecznym. W związku z przyjęciem powyższych założeń Ewaluator zastosował podane poniżej kryteria ewaluacyjne: Trafności – Czy wypracowany produkt odpowiada potrzebom grupy docelowej? Skuteczności – Czy wypracowany produkt jest skuteczny? Jakie czynniki mają wpływ na zwiększenie skuteczności proponowanego produktu? Efektywności – W jakim obszarze produkt jest bardziej efektywny od dotychczas wykorzystywanych? Użyteczności – W jakim stopniu wypracowany produkt odpowiada aktualnym potrzebom grupy docelowej? Trwałości – Czy i w jakim stopniu prawdopodobne jest przenoszenie mechanizmów wdrażania produktu testowanego modelu współpracy trójsektorowej do szerszej praktyki w Polsce? 5.2. Pytania badawcze W ramach niniejszego badania Ewaluator ustrukturyzował pytania badawcze pod kątem celów ewaluacji na poziomie fazy testowania, jak i potencjału wdrażania produktu na szerszą skalę w Polsce. Strona13 Pytania dotyczące trafności: Czy i w jakim stopniu produkt odpowiada na realne potrzeby użytkowników/odbiorców? Czy wypracowane rozwiązania były zgodne z zasadą empowerment? Czy uwagi i rekomendacje odbiorców i użytkowników były w wystarczający sposób uwzględniane w procesie testowania produktu finalnego? 13 Pytania dotyczące skuteczności: Czy produkt przynosi zakładane korzyści dla grup docelowych? Czy produkt jest skuteczny? Co wpływa na jego skuteczność – czy są to metody pracy, dobór grup docelowych, organizacja procesu wsparcia czy inne czynniki? Czy możliwe jest zwiększenie skuteczności proponowanych metod i pod jakimi warunkami? Jak przebiegało testowanie produktu? Czy testowane działania pozwalają osiągnąć cel główny oraz cele szczegółowe projektu oraz zaplanowane wskaźniki? Czy strategia wdrażania projektu i testowany produkt wymagają modyfikacji wynikających z doświadczeń projektowych wynikających z fazy testowania? Jakie elementy rozwiązań wypracowanych w ramach produktu finalnego powinny być szczególnie akcentowane jako przewagi w odniesieniu do innych rozwiązań? Pytania dotyczące efektywności: Czy wypracowany produkt przynosi zakładane efekty w odniesieniu do poniesionych nakładów (finansowych, czasowych, ludzkich)? W jakim stopniu proponowana innowacja jest lepsza od istniejących rozwiązań, bardziej atrakcyjna i efektywna? Jakie warunki brzegowe powinny zostać spełnione, żeby z powodzeniem można było zastosować/implikować produkt finalny wypracowany w niniejszym projekcie? Pytania dotyczące użyteczności: Czy wypracowany produkt jest zgodny z potrzebami grup docelowych: użytkowników/odbiorców? Czy oraz w jakim zakresie produkt przynosi zakładane korzyści dla grup docelowych? Czy wszystkie elementy produktu finalnego są użyteczne w takim samym stopniu? Pytania dotyczące trwałości: Czy i w jakim stopniu prawdopodobne jest funkcjonowanie produktu po zakończeniu finansowania projektu? Jaki jest potencjał produktu w dłuższej perspektywie czasowej? Czy zasadne jest podejmowanie działań upowszechniających i wdrażających? Jakie są mocne i słabe strony przetestowanego produktu finalnego i jego składowych? Jakie szanse i bariery może napotkać produkt w przypadku jego wdrażania? Jakie czynniki decydują o sukcesie produktu finalnego, a w jaki sposób można zapobiec zdiagnozowanym trudnościom (barierom) w trakcie wdrażania/upowszechniania produktu finalnego? 5.3. Metody i techniki wykorzystane w badaniu oraz opis przebiegu badania Strona14 W procesie ewaluacji wykorzystano poniższe metody: Analiza danych zastanych; Ankieta CATI skierowana do odbiorców projektu; 14 Wywiady pogłębione indywidualne półustrukturyzowane; Konsultacja z niezależnym ekspertem dotycząca oceny metodologicznej produktu oraz możliwości jego szerszego wdrożenia; Analiza SWOT produktu pod kątem jego wdrożenia. Badanie przeprowadzono w październiku 2014 roku. W trakcie badania na bieżąco prowadzono konsultacje z Zamawiającym dotyczące zakresu i przebiegu prowadzenia badania. Metoda nr 1 Analiza danych zastanych Analizę danych zastanych przeprowadzono na postawie przekazanych przez Zamawiającego dokumentów projektowych m.in.: „Strategia wdrażania produktu innowacyjnego testującego KARnet 15+ − model współpracy trójsektorowej“; Raporty z ewaluacji wewnętrznej przeprowadzonej na zlecenie Zamawiającego; Analizy danych ilościowych zebranych przez personel projektu; Innych dokumentów przekazanych przez Zamawiającego. W początkowej fazie realizacji ewaluacji analiza dokumentów pozwoliła na doprecyzowanie zakresu poszukiwanych informacji oraz na zebranie danych faktograficznych. W kolejnych etapach badania zebrane informacje zawarte w dokumentach poddane zostały analizie pod kątem sformułowanych kryteriów ewaluacyjnych. Analiza jakościowa oraz ilościowa dokumentów związanych z zarządzaniem była prowadzona przez cały okres realizacji badania ewaluacyjnego. Przeprowadzona analiza pozwoliła na m.in. ocenę stopnia osiągnięcia rezultatów i celów projektu oraz produktu (kryterium skuteczności), zweryfikowania adekwatności celów produktu z celami projektu (kryterium trafności). Metoda nr 2 Ankieta CATI Ankieta, zawierająca pytania zamknięte, otwarte i uszczegółowiające, skierowana do odbiorców produktu (55 respondentów − młodzieży uczestniczącej w zajęciach Klubów). Ewaluator skoncentrował się na pogłębieniu kwestii kluczowych dla wnioskowania dotyczącego: Organizacji procesu wsparcia; Systemu rekrutacji; Oceny pracy Klubów. W związku z dużym zróżnicowaniem wśród odbiorców dotyczącym ich uczestnictwa w zajęciach Klubów, Ewaluator zwrócił szczególną uwagę na zapewnienie reprezentatywności osób uczestniczących w dużej liczbie zajęć. Było to warunkiem przeprowadzenie pełnej analizy potencjału wdrożeniowego analizowanego modelu współpracy trójsektorowej. Strona15 Metoda nr 3 15 Wywiady pogłębione indywidualne półustrukturyzowane Wywiady przeprowadzono z przedstawicielami następujących partnerów wdrażających projekt testowania produktu: Wrocławska Rewitalizacja Spółka z ograniczoną odpowiedzialnością – Lider projektu; Miejski Ośrodek Pomocy Społecznej – Wrocław; Miejski Ośrodek Pomocy Rodzinie – Poznań; Biuro Doradztwa Personalnego i Szkoleń Attestor SC; Wrocławska Pracownia Psychoedukacji i Terapii „Plus“ PTP. Ponadto Zamawiający na bieżąco udzielał wszelkich niezbędnych do przeprowadzenia badania informacji oraz zapewniał dostęp do wszelkiej wymaganej dokumentacji. Wywiady przeprowadzono w październiku 2014 roku. Metoda nr 4 Konsultacja produktu z niezależnym ekspertem Metodę tę wykorzystano w celu uzyskania zewnętrznej opinii dotyczącej oceny metodologicznej produktu oraz możliwości jego wdrożenia na szerszą skalę w Polsce. Rolę zewnętrznej ekspertki pełniła dr Ewa Flaszyńska −Dyrektor Ośrodka Pomocy Społecznej Dzielnicy Bielany m. st. Warszawy. Dr Flaszyńska otrzymała od Zamawiającego materiały dotyczące ewaluowanego produktu. Zadania dr Flaszyńskiej obejmowały następujące kwestie: Ocenę metodologiczną materiałów; Odniesienie się do kwestii potencjału instytucjonalno-zarządczego wdrożenia partnerstwa trójsektorowego w praktykę działania polskich placówek oświatowo-edukacyjnych. Następnie członek zespołu ewaluacyjnego przeprowadził wywiad pogłębiony z dr Flaszyńską w celu uzyskania jej opinii/komentarzy dotyczących oceny produktu pod kątem metodologicznym. Metoda nr 5 Analiza SWOT Strona16 W ramach prowadzonych badań ewaluacyjnych, Wykonawca w fazie analizy zastosował metodę SWOT. Wykonawca opierał się na analizie danych zastanych, wynikach badań, wiedzy eksperckiej członków zespołu projektowego, eksperta zewnętrznego oraz przedstawicieli Zamawiającego. Celem analizy SWOT było zbadanie mocnych i słabych stron oraz szans i zagrożeń mających wpływ na testowanie i wdrożenie produktu finalnego. 16 6. Opis wyników badania 6.1 Kryterium trafności Czy i w jakim stopniu produkt odpowiada na realne potrzeby użytkowników/odbiorców? W kontekście celów produktu innowacyjnego jako mechanizmu współpracy trójsektorowej we wspieraniu młodzieży zagrożonej marginalizacją, analiza tego pytania ewaluacyjnego objęła dwa aspekty: Mechanizmów współpracy instytucjonalnej pomiędzy partnerami testowanego produktu; Instrumentów wsparcia młodzieży wypracowanych w ramach projektu. Mechanizm współpracy instytucjonalnej pomiędzy partnerami testowanego produktu Pytanie badawcze w kontekście celów projektu koncentruje się na kwestii, na ile mechanizmy nowego modelu współpracy między podmiotami pomocy i integracji społecznej a przedsiębiorcami są adekwatne do potrzeb użytkowników produktu (kadry zarządzającej i pracowników IPS oraz partnera reprezentującego przedsiębiorców). Przy czym istotne jest rozważenie zagadnienia zidentyfikowanych mocnych i słabych stron modelu współpracy w kontekście ewentualnego upowszechniania i włączenia ewaluowanego produktu do głównego nurtu polityki. Niewątpliwie w pełni można zgodzić się z założeniami wyjściowymi zaprezentowanymi w dokumencie „KARnet 15+ – model współpracy trójsektorowej „Diagnoza społeczna oraz rekomendacje wdrażania innowacyjnego modelu współpracy trójsektorowej KARnet 15+”. Ich istota w ogólnych zarysach polega na wskazaniu pewnej fragmentacji działań IPS w stosunku do młodzieży w wieku 15-25 lat zagrożonej marginalizacją społeczną, szczególnie w zakresie rozdzielności funkcjonalnej systemu wsparcia dotyczącego działań typowych dla opieki społecznej oraz instytucji rynku pracy. Problem jest szczególnie widoczny na poziomie lokalnym, gdzie na jednym obszarze działają podmioty publiczne podległe pod różne ministerstwa, organizacje pozarządowe, specjalizujące się w różnych aspektach budowy kompetencji społecznych i nabywania przez młodzież konkretnych umiejętności zawodowych oraz pracodawcy. Strona17 W praktyce testowania produktu te jak najbardziej poprawne założenia zostały zderzone z wymaganiami ich dostosowania do dużych różnic kultur organizacyjnych partnerów oraz bardzo sztywnymi i „nieprzyjaznymi w obsłudze” biurokratycznymi ramami projektu współfinansowanego przez Europejski Fundusz Społeczny. Stąd pojawił się efekt paradoksu i wewnętrznej niespójności. Znajdowało to wyraz w fakcie, że o ile współpraca bieżąca pomiędzy partnerami na poziomie Klubów przebiegała w miarę poprawnie, to już mechanizmy współdziałania na poziomie zarządczym oraz identyfikacji barier w fazie testowania(np. kwestia zasad współpracy z Liderami Aktywności Rozmaitych i wprowadzenia bonów jako formy uhonorowania ich pracy w fazie testowania) nie do końca zdały egzamin praktyki. Ta niespójność prowadzi łado wielu szumów informacyjnych i braku mechanizmów bieżącego korygowania modelu w trakcie jego testowania. Należy wyraźnie 17 stwierdzić, że możliwości wprowadzania korekt były bardzo ograniczone z powodu wymagań formalnych dla projektów współfinansowanych z EFS. Instrumentów wsparcia młodzieży wypracowanych w ramach produktu Intencją twórców produktu było objęcie w ramach interwencji w jednym projekcie rozwoju kompetencji społecznych oraz poprawy umiejętności odbiorców poruszania się po rynku pracy. Cel ten miał być osiągnięty przez przynajmniej częściową zmianę paradygmatu pracy IPS z sektora publicznego i organizacji pozarządowych poprzez odejście w praktyce pracy z młodzieżą od podejścia oceniającego do rozumiejącego/wspierającego. Jak to zostało ujęte przez jednego z respondentów poprzez zastosowanie szerszego spojrzenia psychologii humanistycznej i podejścia holistycznego, „oddawania sprawstwa” młodzieży w praktyce działania Klubów Aktywności Rozmaitych. A zatem celem projektu było nie tylko zaspokojenie już istniejących potrzeb, ale również wywołanie nowych przez wskazanie innych technik pracy z odbiorcami. I w tym szerszym kontekście należy rozpatrywać to pytanie ewaluacyjne. Wskazane powyżej kwestie należy rozpatrywać osobno dla kategorii użytkowników i odbiorców. Użytkownicy i kadra Klubów W przypadku użytkowników jedną z kluczowych kwestii jest ich wykształcenie i uprzednie doświadczenia zawodowe w momencie wejścia w testowanie produktu. Tabela 1. Kierunki wykształcenia profilowego kadry KAR (wielokrotne odpowiedzi) Rodzaj podjętego zatrudnienia w KAR Wykształcenie Koordynator Przewodnik po Lider procesów klubu rynku pracy grupowych Wyższe psychologiczne 3 1 9 Ogółem 13 9 Wyższe pedagogiczne 1 4 4 Wyższe techniczne Wyższe w zakresie zarządzania Wyższe inne Ogółem odpowiadające 0 1 1 2 0 1 2 3 2 6 3 8 1 12 6 26 Źródło: „KARnet 15+ − model współpracy trójsektorowej” I raport cząstkowy z ewaluacji, str. 8. Zdecydowana większość kadry Klubów miała odpowiednie wykształcenie kierunkowe. Ponadto również zdecydowana większość respondentów już po ukończeniu studiów przeszła dodatkowe kursy specjalistyczne, głównie z zakresu psychologii i pedagogiki. Dodatkowo 25 na 26 osób z kadry deklarowało doświadczenie w pracy z młodzieżą w ciągu ostatnich 5 lat. Strona18 Stąd zatem kadra klubów wskazywała na dwa kierunki ich podejścia do instrumentów wypracowanych przez produkt: Metody wprowadzane na szkoleniach był dla części z nich czymś nowym, takie podejście 18 występowało w większym stopniu w Poznaniu niż we Wrocławiu; Tematyka szkoleń i wprowadzane metody były już znane, ale bardziej na poziomie opisu metod niż ich praktycznego wdrażania. Aspekt ten był dobrze przedstawiony wraz z możliwością jego „przećwiczenia” w ramach pracy w Klubach. Natomiast rzeczą nową dla części kadry Klubów była tematyka związana z pełnieniem roli Przewodnika po Rynku Pracy. Wskazywano na takie kwestie istotne dla osób zajmujących się młodzieżą z pieczy, jak umiejętność pisania/analizowania CV i listu motywacyjnego, przygotowywania się do rozmowy kwalifikacyjnej, jako dostosowaną do potrzeb pod kątem asystowania w usamodzielnianiu się. Również tutaj warto zwrócić uwagę na kontekst instytucjonalny jako rzutujący na percepcję potrzeb. Była część kadry Klubów, która w większym stopniu uznawała wartość nowych instrumentów i z większym zaangażowaniem z nich korzystała (np. coachingu, superwizji). Inni traktowali te dodatkowe metody z dużo mniejszym osobistym zainteresowaniem. Na podstawie posiadanych przez Ewaluatora informacji nie można określić, jakie czynniki decydowały o tak zróżnicowanym podejściu. Z jednej strony jest to jak najbardziej naturalne zjawisko odmiennego podejścia. Z drugiej zaś, być może fakt „niewpasowywania się” nowych instrumentów wypracowanych przez produkt do już istniejących form pracy publicznych IPS, mógł potencjalnie stanowić barierę w akceptacji korzyści z opanowania nowych instrumentów. Odbiorcy Strona19 W przypadku odbiorców należy zwrócić uwagę na wybrane, kluczowe kwestie dotyczące percepcji potrzeb przez samą zainteresowaną młodzież: Problem poznawczy: co jest realną potrzebą odbiorców, jak postrzegają swoje słabości? Czy akceptują fakt, że brak kompetencji społecznych może być barierą na rynku pracy? Fakt, że potwierdzają to badania naukowe, wcale nie musi oznaczać, że zgadzają się z tą opinią sami zainteresowani. Stąd wielu młodych ludzi poszukując projektów, w których mogliby wziąć udział, szuka tego, co w języku potocznym określa się „marchewką”, czyli konkretnej korzyści wynikającej z udziału w danym projekcie. Mogą tu wchodzić rzeczy naprawdę istotne (np. szkolenie z odpowiednim certyfikatem zwiększającym szanse na uzyskanie zatrudnienia), bądź też drobiazgi (atrakcyjniejsza oferta zajęć, zwrot kosztów dojazdu, lokalizacja prowadzenia działań projektowych). Projekt nie dający takich „wymiernych” korzyści idzie w pewnym sensie pod prąd oczekiwań przynajmniej części odbiorców. Stąd duża rotacja wśród odbiorców, przy relatywnie niewielkim odsetku, który przeszedł cały cykl 3 faz zakładanych w produkcie. I stąd też trudno o w pełni efektywną ewaluację, szczególnie trzeciej fazy prowadzonej przez Przewodnika po Rynku Pracy. Brak spójności między odbiorcami w wieku 15-18 lat a 19-25 lat. Te dwie grupy mają zbyt różne perspektywy poznawcze i oczekiwania, aby można było prowadzić jakieś długofalowe wsparcie dla obu grup równocześnie. Zakładana rozdzielność zajęć nie doszła do skutku 19 z powodu zbyt małego uczestnictwa we wszystkich 3 fazach projektu. Jednakże doświadczenia ze studentami kierunków pedagogicznych bądź też grupy maturzystów/studentów w Poznaniu (a zatem grup o jednorodnych oczekiwaniach) wykazały pozytywny potencjał projektu. Doświadczenia testowania stawiają pod znakiem zapytania wyznaczenie młodzieży z pieczy, jako jednej z grup docelowych. Zgodnie z danymi z I cząstkowego raportu ewaluacyjnego z ewaluacji wewnętrznej 35% uczestników pochodziło z systemu pieczy zastępczej. I o ile w grupie wiekowej 15-17 lat stanowią oni 67,4% całej populacji odbiorców w tej kategorii wiekowej, to w już w starszych grupach wiekowych udział ten zdecydowanie spada (30,4% w grupie wiekowej 18-20 lat). Spadek ten jest oczywiście naturalny, wynikający w pewnej mierze z faktu osiągania pełnoletniości i usamodzielniania się. Przy czym odsetek młodzieży z pieczy w stosunku do wszystkich odbiorców jest zgodny z założeniami Modelu. Jednakże w nawiązaniu do kwestii wskazanej w poprzednim punkcie powstaje pytanie o racjonalność wyodrębnienia grupy młodzieży z pieczy do projektu cechującego się dostępnością dla wszystkich grup młodzieży, niezależnie od ich statusu prawnego z punktu widzenia osób sprawujących opiekę prawną. Wątpliwości wynikają z obserwowanej w wynikach badań ewaluacji wewnętrznej i zewnętrznej niechęci właśnie tej kategorii odbiorców w pracach Klubów. Stąd być może lepiej byłoby objąć działaniami Klubów szerszą kategorię młodzieży zagrożonej marginalizacją społeczną, w tym szczególnie młodzież z pieczy poprzez dodatkowe działania wspierające (np. lokalizację Klubów, system naboru itd.). Czy wypracowane rozwiązania były zgodne z zasadą empowerment? Czy uwagi i rekomendacje odbiorców i użytkowników były w wystarczający sposób uwzględniane w procesie testowania produktu finalnego? Testowany produkt jest wręcz oparty na zasadzie empowermentu. Wynika to z założenia określonego przez respondenta już cytowanego w tym raporcie „oddawania sprawstwa”. Przy czym to „oddawanie” dotyczy: Odbiorców – bo zgodnie z modelem Kluby miały realizować pomysły zainicjowane przez odbiorców jako element budowania Klubów na podstawie zasobów swoich członków. Użytkownicy (kadra Klubów) – proces pracy z młodzieżą zgodny z testowanym modelem wymusza stosowanie zasady empowermentu, poprzez samodzielną identyfikację potrzeb młodzieży przez Liderów Procesów Grupowych i Koordynatorów Klubów. Wynika to z samego procesu wciągania młodzieży do współpracy. Ta generalna zasada dotyczy każdej aktywizującej pracy z młodzieżą, ale jest kluczowa szczególnie w przypadku metod stosowanych w Klubach KARnet. Strona20 W praktyce testowania produktu stosowanie tej zasady było ograniczone. Dotyczy to również aktywności w Klubach. Wydatkowanie środków finansowych na daną aktywność wymagało zgody osób zarządzających projektem (co samo w sobie jest absolutnie oczywiste i nie podlega dyskusji). 20 Zajmowało to w przypadku nowych aktywności (nie realizowanych wcześniej przez żaden z Klubów) minimum 2 tygodnie, co wynikało z procedur wymaganych przez system wdrażania projektów współfinansowanych przez EFS. Ten dwutygodniowy termin sam w sobie może być uznawany za zbyt długi z perspektywy szczególnie odbiorców młodych ludzi, cechujących się wysokim poziomem niecierpliwości. Jednakże patrząc z punktu widzenia złożonych, nadmiernie zbiurokratyzowanych procedur projektów UE, można uznać taki termin za satysfakcjonujący w kontekście ram projektowych. Jednakże zdarzały się przypadki dłuższych okresów oczekiwania na zatwierdzenie i zakup potrzebnych do danej aktywności towarów, co prowadziło do sytuacji, kiedy odbiorcy rezygnowali z uczestnictwa po kilku wizytach, na skutek zbyt długiego oczekiwania na planowaną aktywność. Były również przypadki, kiedy aktywności trzeba było odwołać, bądź też prowadzić inne niż te, na które umówiła się młodzież z kadrą Klubu, z powodu uznania wydatków związanych z uruchomieniem tych aktywności za potencjalne koszty niekwalifikowane (według wymagań procedur projektów EFS). Ponadto zabrakło w systemie zarządzania mechanizmów zarządczych, pozwalających na bieżące monitorowanie procesu testowania i wprowadzania zmian w celu jego usprawnienia. Być może decyzje zarządcze podejmowane były zbyt wolno lub też linia komunikacyjna pomiędzy Liderem a Klubami była zbyt długa. Dodatkowym czynnikiem utrudniającym wprowadzanie zmian w proces testowania były sztywne ramy projektu EFS nie dające partnerom możliwości elastycznego reagowania na potrzeby zmian czy też weryfikacji mechanizmu testowania. Był to czynnik zdecydowanie poza możliwościami kontroli, nie mówiąc już o oddziaływaniu ze strony partnerów zaangażowanych w testowanie Modelu. Podsumowując, Wyniki badania wskazują na fakt, że w zakresie mechanizmów współpracy instytucjonalnej istnieje duża luka w oczekiwaniach partnerów w stosunku do założeń testowanego modelu. Wynika ona głównie z dwóch zidentyfikowanych barier: Zbyt dużych różnic kultur organizacyjnych partnerów oraz niewypracowania w okresie prac koncepcyjnych i testowania produktu efektywnych mechanizmów przezwyciężania tych różnic w drodze wzajemnych konsultacji. Problem był znacząco pogłębiony poprzez fakt realizacji testowania produktu w ramach formalnozarządczych wymagań projektu współfinansowanego przez EFS. Te wymagania administracyjnoformalne są trudne dla każdego projektu, a stanowiły szczególne utrudnienie w przypadku ewaluowanego projektu z następujących powodów: 1) jego innowacyjnego charakteru; 2) relatywnie dużej liczby partnerów pochodzących z różnych sektorów zaangażowanych w jego testowanie; 3) zróżnicowania geograficznego poprzez realizację testowania w dwóch miastach: Poznaniu i Wrocławiu. Strona21 Perspektywa użytkowników – pracowników IPS oraz kadry Klubów Wydaje się, że na poziomie instrumentów wsparcia młodzieży, produkt dobrze dopasował się do potrzeb użytkowników. Stało się tak przez wskazanie nowych metod pracy z młodzieżą, opartych na podejściu nieoceniającym/rozumiejącym. Jednakże warto wskazać na kontekst instytucjonalny. 21 Dotyczy on potencjalnego usytuowania nowych instrumentów w ramach palety usług/świadczeń już prowadzonych. Jest to aspekt kluczowy dla określenia elementów projektu, które warto rozważyć do szerszego upowszechnienia. Szczególnie chodzi o zachowanie równowagi między wsparciem socjalnym (jak najbardziej koniecznym wobec skali potrzeb) a podejściem aktywizującym. Perspektywa odbiorców – młodzieży Można jednoznacznie stwierdzić, że mechanizm interwencji w zakresie rozwoju kompetencji społecznych odpowiada potrzebom odbiorców. Możliwość udzielenia odpowiedzi na to pytanie ewaluacyjne w zakresie pracy Przewodników po Rynku Pracy jest ograniczone z powodu relatywnie niskiej liczby osób, które dotarły w Klubach do tego etapu. Niemniej jednak, na podstawie dostępnych informacji można również stwierdzić, że jest to forma wsparcia, która odpowiadała potrzebom odbiorców, poprzez zapoznanie ich z realiami rynku pracy. Jednocześnie trzeba wskazać na istotne czynniki utrudniające dotarcie do potencjalnych odbiorców: Duża orientacja młodzieży na konkretne korzyści oferowane w innych projektach (np. kursy zawodowe zakończone uznawanym przez pracodawców certyfikatem, inne wymierne korzyści materialne np. zwrot kosztów dojazdu); Niejednorodność zakresu potrzeb i zainteresowań wśród młodzieży pomiędzy 15 a 25 rokiem życia; Przy przyjęciu założeń testowanego produktu wątpliwości co do skierowania jego działań do grupy młodzieży z pieczy. Również badania w ramach ewaluacji wewnętrznej nie wykazały znaczących cech z punktu widzenia celów produktu w stosunku do grupy kontrolnej. Stosowanie zasady empowermentu Założenia produktu oparte były na zasadach empowermentu. Na poziomie pracy w KAR-ach była ona wdrażana zarówno w stosunku do odbiorców, jak i użytkowników. Jednakże występowały bariery w jej stosowaniu w fazie testowania, wynikające z mechanizmów zarządczych relacji pomiędzy Liderem a Klubami. Wynikały one głównie z problemów związanych z koniecznością przestrzegania mało elastycznych procedur wymaganych przez system wdrażania projektów współfinansowanych przez EFS w relacji do bardzo dynamicznych procesów zachodzących na poziomie Klubów (np. kwestie związane z kwalifikowalnością kosztów aktywności proponowanych przez odbiorców/kadrę klubów, co wydłużało moment realizacji danej aktywności lub też konieczność rezygnacji z niej). 6.2. Kryterium skuteczności Strona22 Czy produkt przynosi zakładane korzyści dla grup docelowych? Wyniki badania dalekie są od jednoznacznej odpowiedzi na to pytanie. Spowodowane jest to wewnętrzną dychotomią wskazywaną już przy omawianiu poprzedniego kryterium ewaluacyjnego. Na poziomie celu produktu dotyczącego wypracowania nowego modelu współpracy między podmiotami pomocy i integracji społecznej a przedsiębiorcami, badanie pozwoliło na zidentyfikowanie istotnych barier we wzajemnych relacjach. Natomiast na poziomie instrumentów 22 skierowanych do odbiorców produkt przyniósł część zakładanych korzyści. Stąd, podobnie jak w przypadku poprzedniego kryterium, te dwa obszary tematyczne zostaną omówione osobno. Mechanizm współpracy instytucjonalnej pomiędzy partnerami testowanego produktu W fazie testowania produktu zdiagnozowano występowanie wewnętrznej dychotomii, polegającej na relatywnie dobrej współpracy roboczej między partnerami na poziomie Klubów i dużej trudności we współpracy międzysektorowej na poziomie zarządczym. Przejawy tej dychotomii wskazywano już w poprzedniej sekcji. Dotyczą one między innymi relacji zarządczych, szczególnie w zakresie finansowania aktywności w Klubach. W rezultacie młodzież, zdaniem części respondentów spośród kadry Klubów, za długo czekała na planowane zajęcia. Zdarzało się również, że aktywności musiały być odwoływane. Czynnik ten był postrzegany przez kadrę, jako szczególnie frustrujący i mający negatywny wpływ na utrzymywanie zaangażowania odbiorców. Znajduje to odzwierciedlenie w wynikach badań ewaluacji wewnętrznej. Otóż na pytanie o użyteczność modelu KARnet 15+wśród respondentów pełniących rolę kadry w Klubach ocena jest zdecydowanie pozytywna. Tabela 2. Ocena użyteczności KARnet dla placówek IPS Miasto Wrocław Poznań Czy Pana(i) zdaniem realizacja takich projektów, jak KARnet15+ może być istotnym wsparciem dla placówki, którą Pan(i) reprezentuje w jej bieżących działaniach z młodzieżą? Ogółem Zdecydowanie tak Raczej tak Raczej nie Ogółem 2 4 6 8 5 13 0 4 4 10 13 23 Źródło: „KARnet 15+ − model współpracy trójsektorowej” III raport końcowy z ewaluacji, str. 16. Ale już w kwestii możliwości upowszechniania w ramach IPS biorących udział w projekcie testowym, odpowiedzi są o wiele bardziej wstrzemięźliwe. Strona23 Tabela 3.Możliwość upowszechnienia Modelu w ramach IPS biorącego udział w projekcie Miasto Ogółem Wrocław Poznań Zdecydowanie 0 1 1 Czy Pana(i) placówka rozważa tak zaangażowanie się w funkcjonowanie Raczej tak 1 2 3 tych lub podobnych klubów dla Raczej nie 0 3 3 młodzieży po zakończeniu trwania Trudno projektu KARnet15+? 8 8 16 powiedzieć Ogółem 9 14 23 23 Źródło: „KARnet 15+ − model współpracy trójsektorowej” III raport końcowy z ewaluacji, str. 16 Również przynajmniej część wypowiedzi w trakcie fokusów przeprowadzonych w ramach ewaluacji wewnętrznej potwierdza ten sam trend: relatywnie dużą akceptację instrumentów wsparcia przy bardzo dużej rezerwie do instytucjonalnych mechanizmów wdrażania współpracy międzysektorowej. Instrumentów wsparcia młodzieży wypracowanych w ramach produktu Użytkownicy Zakładaną w produkcie korzyścią dla użytkowników było zapoznanie się z systemem i wykorzystaniem w praktyce nowej metody pracy opartej na zasobach (a nie deficytach) z młodzieżą zagrożoną wykluczeniem społecznym. Zakres wsparcia obejmował 6 Koordynatorów Klubów, 12 Liderów Procesów Grupowych i 6 Przewodników po Rynku Pracy. Ten cel został osiągnięty poprzez szkolenia oraz możliwość praktycznego przećwiczenia nabytej wiedzy i umiejętności w trakcie pracy z młodzieżą w Klubach Aktywności Rozmaitych. Opinie użytkowników dotyczące potencjalnej użyteczności KARnetu 15+ prezentowane już w tab. 2, wskazują na przynajmniej potencjalnie dobrą ocenę nowych metod pracy. Przy czym należy zwrócić uwagę na fakt, że Koordynatorzy Klubów oraz Liderzy procesów grupowych mieli jednak znacznie większe możliwości przejścia od sfery poznawczej do praktyki dzięki dużo większej możliwości pracy z młodzieżą, niż Przewodnicy po Rynku Pracy. Wynikało to z dużej rotacji odbiorców i mniejszego ich udziału w aktywnościach związanych z rynkiem pracy. Ponadto wypowiedzi pozyskane w trakcie ewaluacji wewnętrznej miały istotny wymiar korzyści indywidualnych dla użytkowników: wzmocnienie własnych umiejętności uzyskanie pewności siebie; możliwość poznania i co ważne praktycznego doświadczenia technik pracy – w tym przypadku superwizji (jednoznacznie pozytywna ocena); ogólne stwierdzenia o uzyskaniu nowej wiedzy, nowych umiejętności, ale także wymiany doświadczeń; większe zrozumienie młodzieży, ale także uzyskanie szerszego kontekstu wobec problemów, z którymi się zawodowo stykano. Strona24 Odbiorcy Odpowiedź na to pytanie ewaluacyjne jest trudniejsza, niż w przypadku użytkowników. W fazie testowania wystąpiło zjawisko dużej rotacji młodzieży (689 osób rozpoczęło udział w projekcie, a 665 go ukończyło zgodnie z zaplanowaną w projekcie ścieżką). Oznacza to, że praktyce tylko część odbiorców uczestniczyła w wystarczającej liczbie zajęć, aby można było na podstawie ich opinii przeprowadzić pełnoprawne wnioskowanie ewaluacyjne. Wnioski poniższe oparte są na wynikach badań ewaluacji wewnętrznej obejmującej 159 osób oraz telefonicznych badaniach ankietowych przeprowadzonych przez Ewaluatora na próbie 55 respondentów, obejmujących przekrój osób od wielokrotnych uczestników zajęć w klubach po osoby, który uczestniczyły w nich tylko raz. 24 Tabela 4. Zgeneralizowana ocena zajęć w klubach Szkolna skala ocen Częstotliwość Niedostatecznie 4 Miernie 2 Dostatecznie 2 Dobrze 30 Bardzo dobrze 78 Celująco 34 Ogółem 150 Procent ważnych 2,7 1,3 1,3 20,0 52,0 22,7 Procent skumulowany 2,7 4,0 5,3 25,3 77,3 100,0 100,0 Źródło: „KARnet 15+ − model współpracy trójsektorowej” II raport cząstkowy z ewaluacji, str. 13. Podobne opinie przeważają wśród respondentów objętych badaniem Ewaluatora zewnętrznego, szczególnie tych którzy uczestniczyli w zajęciach wielokrotnie: „byłam w Klubie około 20 razy, było fajnie, dowiedziałam się nowych rzeczy, zdobyłam nowe umiejętności” „byłem w Klubie wiele razy, były fajne panele dyskusyjne, dużo się nauczyłem, np. gry na perkusji” „byłam 6-10 razy, chodziłam na szkołę gotowania” „byłam wiele razy, chodziłam na zajęcia, które sprawdzają się w życiu” Ta wysoka ocena wśród osób będących w miarę regularnymi bywalcami Klubów jest zrozumiała − sam fakt korzystania z oferty aktywności Klubów potwierdza chęć korzystania z zajęć, które uważa się za atrakcyjne. Tym bardziej, że Kluby, w przeciwieństwie do innych projektów, nie oferowały żadnych dodatkowych wymiernych korzyści dla odbiorców. Warto również odwołać się do komentarza z II cząstkowego raportu ewaluacyjnego opartego na badaniu 18 respondentów, którzy zrezygnowali z udziału w Klubie. Mimo rezygnacji z zajęć, aż 9 osób przyznało, że prowadzący zajęcia imponowali swoją wiedzą, a 7 stwierdziło, że prowadzą je w sposób ciekawy. Strona25 Jeśli chodzi o odbiór przez młodzież Przewodników po Rynku Pracy to również przeważają pozytywne oceny, jeśli chodzi o przyrost wiedzy o rynku pracy. Przy czym warto pamiętać, że perspektywa poznawcza części odbiorców w wieku 15-18 lat jeszcze nie pozwoliła na pełne zrozumienie zagadnień związanych z przygotowywaniem się do wejścia na rynek pracy. Musiało to znaleźć swoje odbicie w ocenie pracy Przewodników przez tę grupę respondentów. 25 Tabela 5. Edukacja do pracy – przyrost wiedzy w grupie docelowej i kontrolnej Czy dzięki zajęciom w Klubach Twój poziom wiedzy o zdobywaniu pracy, zawodach Sytuacja rodzinna Ogółem i o wymogach, jakie stawiają pracodawcy: Rodzina zastępcza/placówka opiekuńczoGrupa kontrolna wychowawcza Zdecydowanie wzrósł 13,8% 26,1% 15,8% Raczej wzrósł 39,7% 47,8% 41,0% Raczej nie wzrósł 37,1% 17,4% 33,8% Zdecydowanie nie wzrósł 9,5% 8,7% 9,4% Ogółem 100,0% 100,0% 100,0 Źródło: „KARnet 15+ − model współpracy trójsektorowej” II raport cząstkowy z ewaluacji, str. 18. Ale jednocześnie pojawiają się wątpliwości co do zorientowania produktu na młodzież z pieczy. Tabela 6: Poziom motywacji uczestnictwa w klubach (liczebności) Czy Pana(i) podopieczni chętnie uczestniczyli w zajęciach KARnetów? Zdecydowanie tak Raczej tak Raczej nie Zdecydowanie nie Ogółem Miasto Wrocław Poznań 0 2 3 1 5 8 2 2 10 13 Ogółem 2 4 13 4 23 Źródło: „KARnet 15+ - model współpracy trójsektorowej” III raport końcowy z ewaluacji, str. 12. Podobne opinie zgłaszała kadra w czasie fokusów przeprowadzonych w ramach ewaluacji wewnętrznej. Czy produkt jest skuteczny? Co wpływa na jego skuteczność – czy są to metody pracy, dobór grup docelowych, organizacja procesu wsparcia czy inne czynniki? Na podstawie dotychczasowej przeprowadzonej w trakcie badania ewaluacyjnego analizy można postawić diagnozę częściowej, bądź też potencjalnej skuteczności produktu. Celem tej sekcji jest prezentacja kluczowych czynników, które zdaniem Ewaluatora, w największym stopniu ograniczają potencjał rozwojowy produktu. Strona26 Dobór grup docelowych Skierowanie produktu do młodzieży z pieczy jako wyodrębnionej grupy docelowej Wątpliwości budzi wyodrębnienie młodzieży z pieczy, jako szczególnej kategorii objętej wsparciem w fazie testowania, a nie na zasadach podobnych do innych grup odbiorców. Głównym powodem 26 tych znaków zapytania jest fakt, że praktyka testowania nie potwierdziła jakiejś specyficznej cechy tej grupy, jako wyróżniającej ją np. z szerszej kategorii młodzieży zagrożonej marginalizacją. Zapewne w fazie koncepcyjnej produktu jednym z ważnych czynników była chęć IPS z sektora publicznego, zajmujących się opieką nad młodzieżą z pieczy, do ułatwienia rekrutacji poprzez pracowników tychże IPS. Niemniej jednak to założenie (jeśli takie rzeczywiście było) sprawdziło się tylko częściowo, szczególnie wśród młodzieży w grupie wiekowej 15-18 l. Warto przy tym zaznaczyć, że to wyodrębnienie nie spowodowało istotnych realnych problemów w trakcie testowania produktu. Niezróżnicowanie grup docelowych odbiorców w wieku 15-18 l. oraz 19-25 l. Podobne wątpliwości rodzi niewprowadzenie odmiennego podejścia w zakresie planowanych interwencji między kategoriami wiekowymi odbiorców 15-18 l. i 19-25 l. Te dwie grupy mają inną percepcję rzeczywistości, wynikającą z etapu w rozwoju indywidualnym nie tylko w zakresie rynku pracy. Część kadry Klubów zwracała uwagę na fakt rezygnacji z zajęć przez potencjalnych odbiorców wskutek niedostosowania wieku uczestników grupy. To zróżnicowanie jest szczególnie istotne w zajęciach organizowanych przez Przewodników po Rynku Pracy. Strona27 Organizacja procesu wsparcia Czas testowania − odbiorcy Wydaje się, że patrząc z punktu widzenia celów projektu, w zakresie przejścia przez odbiorców wszystkich trzech faz pracy w Klubach, przyjęto zdecydowanie zbyt krótki czas testowania. Zarówno we Wrocławiu, jak i w Poznaniu czas „rozruchu” Klubu wynosił około trzech miesięcy. Poprzez pojęcie „rozruch” Klubu rozumie się zapewnienie lokali dla Klubów oraz ich wyposażenie, odpowiednio przeszkolonej kadry, poinformowanie potencjalnych odbiorców o jego istnieniu, rozpoczęcie naborów do pracy w Klubach oraz rozpoczęcie budowania zespołów odbiorców pracujących w ramach jednej aktywności. To budowanie poczucia wspólnoty pomiędzy, z założenia nieznającymi się, odbiorcami zachęconymi do udziału w Klubie przez streetworkerów (będących elementem realizacji projektu a nie modelu), ma krytyczne znaczenie dla efektywnego prowadzenia pracy przez kadrę Klubów. W każdej grupie powinien być w miarę stały rdzeń uczestników danej aktywności, jako warunek względnej stabilności danej grupy odbiorców. Być może dobrym punktem odniesienia jest proces tworzenia zintegrowanych wspólnot w klasach pierwszych w gimnazjach i szkołach średnich. Otóż w wielu szkołach istnieje bardzo dobry trend organizacji zajęć integracyjnych dla nowych klas, często związanych z wyjazdem poza miejsce lokalizacji szkoły. I mimo takich wyjazdów oraz codziennych spotkań na lekcjach w szkołach proces względnego zintegrowania klasy zajmuje 2-3 miesiące. W fazie testowania produktu przy dużej płynności odbiorców – uczestników aktywności Klubów, chciano zapewne osiągnąć podobne rezultaty. Wydaje się to być założeniem nieco zbyt optymistycznym, możliwym do osiągnięcia tylko pod warunkiem, że w Klubach spotyka się „paczka” młodych ludzi, już dobrze znających się przed rozpoczęciem zajęć w Klubie. W przypadku wielu Klubów nie można chyba mówić o występowaniu tej tak sprzyjającej okoliczności. 27 Czas testowania – użytkownicy oraz kadra Klubów Użytkownicy oraz kadra Klubów, szczególnie w Poznaniu z powodu krótszego niż we Wrocławiu czasu faktycznej realizacji testowania, zwracali uwagę na nadmierne nagromadzenie szkoleń w krótkim czasie. Intensywność szkoleń była tak duża, że jak to określali respondenci: nie było czasu na „przetrawienie” nabytej wiedzy, bo już wprowadzano na następnej sesji dla kadry klubów nowe tematy. Ponadto należy rozważyć kwestię polityki zatrudniania kadry do projektu. Zwracano uwagę, że większość osób z IPS i kadry klubów pracuje w kilku projektach lub też miejscach pracy jednocześnie. W tym kontekście rzeczywiście trudną z punktu widzenia zarządzania finansami projektem jest kwestia statusu czasu przeznaczonego na szkolenie, szczególnie w takiej sytuacji, jak w ewaluowanym projekcie, w którym tych godzin szkoleniowych było zdaniem respondentów dużo. System rekrutacji odbiorców Przyjęty w projekcie system naboru młodzieży do Klubów przez streetworkerów nie w pełni spełnił zakładane oczekiwania. Nie byli oni zaangażowani w pracę Klubów i stąd, zdaniem niektórych respondentów, przekazywali nie do końca adekwatne informacje dla potencjalnych odbiorców. Stąd część z nich mogła przyjść do Klubu z oczekiwaniami niezgodnymi z ofertą KAR-u. Za to, jak się wydaje, sprawdził się system promocji „szeptanej”, czyli docieranie do młodzieży przez osoby już zaangażowane w pracę Klubów i wciągające do nich osoby ze swego otoczenia, na zasadzie rekomendacji KARnetów. Jak się wydaje jest to kierunek, który powinien być promowany w przyszłych podobnych działaniach. Jednakże czas rekrutacji przy zastosowaniu promocji „szeptanej” musi być znacznie dłuższy niż było to zakładane w przypadku streetworkerów. Ponadto warto zwrócić uwagę na jeszcze jeden aspekt. Otóż z racji stosowanej w ramach pracy Klubów reguły pełnej dobrowolności udziału, przyjęto zasadę, że w przypadku zaprzestania uczestnictwa w działaniach klubów, nie weryfikuje się przyczyn nieobecności na zajęciach. Efektem ubocznym, z perspektywy takiego odbiorcy, mógł być sygnał, że nikomu nie zależy akurat na jego uczestnictwie w pracach Klubu. Wydaje się, że to podejście powinno być zmodyfikowane jeszcze w fazie testowania. Dookreślenie pozycji w projekcie Liderów Aktywności Rozmaitych Zaangażowanie LAR-ów ma istotne znaczenie w fazie I pracy w Klubach, jako czynnika budującego aktywność i spójność grupy. Niejasności dotyczące zasad współpracy, a szczególnie wynagradzania ich pracy w trakcie testowania spowodowała pewne „zawirowania” w wykorzystywaniu potencjału LAR-ów, ze szkodą dla skuteczności pracy Klubów (zniechęcenie i odchodzenie LARów, głównie we Wrocławiu). Strona28 System zarządzania projektem testowania produktu Zidentyfikowano dwie główne bariery utrudniające testowanie produktu. Dotyczą one dwóch 28 wymiarów tego procesu: relacji zarządczych pomiędzy partnerami w zakresie ewentualnych modyfikacji poszczególnych elementów testowania; relacji Lider projektu a Kluby w zakresie mechanizmów akceptacji i finansowania przez Lidera rodzajów aktywności w KARnetach. Czy możliwe jest zwiększenie skuteczności proponowanych metod i pod jakimi warunkami? Można wskazać na następujące mechanizmy zwiększenia skuteczności testowanego produktu: Strona29 Tabela 7. Mechanizmy zwiększania skuteczności projektu w zakresie instrumentów wsparcia; Bariera Mechanizm zwiększania skuteczności Wprowadzenie szerszej kategorii młodzieży zagrożonej wykluczeniem społecznym, obejmującej również młodzież z pieczy. Zamiast specjalnego dedykowania produktu dla tej ostatniej kategorii odbiorców, wprowadzenie innych mechanizmów promujących tę grupę np. w systemie naboru poprzez odpowiednie docieranie przez grupy rówieśnicze, lokalizacje Klubów, identyfikacje jej potrzeb i dobieranie aktywności szczególnie interesujących dla danej kategorii Wyodrębnienie młodzieży z pieczy odbiorców. Przy czym warto zachować zasadę mieszania na jako szczególnej kategorii objętej poziomie Klubów młodzieży z pieczy zagrożonej wsparciem w ramach projektu marginalizacją społeczną oraz grupy kontrolnej, jednakże bez wprowadzania wymagania procentowego udziału danej grupy na poziomie Klubu (jako i tak w praktyce nierealnego do osiągnięcia przy systemie naboru otwartego). Wskaźniki procentowe powinny obowiązywać na poziomie produktu/projektu, natomiast Kluby powinny kierować się logiką skuteczności osiągania celów produktu poprzez koncentrację na np. spójności grupy odbiorców pod względem merytorycznym, a nie statystycznym. Wprowadzenie osobnych kategorii organizacji zajęć w Klubach z podziałem na kategorie 15-18 l. oraz 19-25 l. Nieróżnicowanie grup docelowych W fazie I pracy w Klubie (rozbudzania i rozwijania odbiorców w wieku 15-18 l. oraz 19zainteresowań odbiorców wokół działań Lidera Aktywności 25 l. Rozmaitych) taki podział może być jeszcze niekonieczny, pod warunkiem wszakże, że nie ma takich oczekiwań ze strony samych odbiorców. 29 Zbyt krótki czas testowania produktu w stosunku do przyjętych celów i metod pracy Zbyt krótki czas testowania w kontekście przeciążenia kadry IPS i kadry klubów szkoleniami System rekrutacji odbiorców Mechanizm zwiększania skuteczności Dostosowanie czasu wdrażania produktu na poziomie Klubów do dynamiki budowania spójności wewnętrznej grupy/jej członków: 1) w obszarze mechanizmów naboru; 2) budowania wewnętrznej spójności przynajmniej rdzenia danej grupy, poprzez działania kadry Klubu (2-6 m-cy); 3) przejście do fazy 3, opartej już na miksie pracy grupowej i indywidualnej oraz na zasobach poszczególnych odbiorców. W teorii tak miało przebiegać testowanie w ramach ewaluowanego projektu, ale system nie do końca zadziałał (w Poznaniu z powodu późniejszego rozpoczęcia faktycznych działań testujących). A zatem dostosowanie czasu testowania musi być wdrażane w pakiecie z innymi modyfikacjami dotyczącymi, między innymi doboru grup docelowych, systemu rekrutacji odbiorców, zmian w systemie zarządzania. Jest to trudny obszar wymagający rozsądnego kompromisu pomiędzy skądinąd słusznymi wymaganiami kadry IPS i kadry klubów a wymaganiami budżetu. Należy pamiętać, że projekty zbyt drogie (a zwiększenie płatnych godzin szkoleniowych dla kadry podwyższają budżet projektu) nie mają szansy na uzyskanie dofinansowania z środków publicznych krajowych i unijnych. Być może właśnie wydłużenie czasu testowania i rozłożenie szkoleń w dłuższym czasie złagodziłoby przeciążenie kadr IPS i kadry klubów. Wprowadzenie różnych opcji rekrutacji: 1) system rekrutacji otwartej jaki jest obecnie stosowany, ale bez pośrednictwa streetworkerów. Poleganie w większym stopniu albo nawet wręcz promowanie „szeptanej” metody rekrutacji nowych członków, wspieranej przez kadrę Klubów np. poprzez informacje w placówkach oświatowo-edukacyjnych. Kluczowe jest „umieszczenie” Klubu w sieci już istniejących kontaktów wśród potencjalnych odbiorców. Ułatwia to tworzenie rdzenia grupy, do której dobierane są inne osoby z innych środowisk. 2) być może należy rozważyć instytucjonalne „zahaczenie” klubów przy placówkach zajmujących się młodzieżą „po przejściach” typu Centra Kształcenia Ustawicznego (dla grupy młodzieży zagrożonej marginalizacją), bądź też lokalizacje w miejscach z dużym nasyceniem instytucji oświatowo-edukacyjnych (np. szkoły, uczelnie, bursy, akademiki). Strona30 Bariera 30 Bariera Dookreślenie pozycji w projekcie Liderów Aktywności Rozmaitych Mechanizm zwiększania skuteczności Jasne określenie zasad współpracy LAR-ów z Klubami poprzez przyjęcie systemu bonów lub też jakiegoś niewielkiego wynagrodzenia. Działanie na zasadzie wolontariatu jest obciążone zbyt wysokim ryzykiem dla potencjalnej stabilności działań Klubów. Źródło: opracowanie własne Kwestie przedstawione powyżej dotyczyły głównie instrumentów wsparcia. Osobno przedstawione zostały poniżej zagadnienia związane z mechanizmami funkcjonowania partnerstwa międzysektorowego. Jak już wcześniej wskazywano w niniejszym raporcie zostały zidentyfikowano dwie bariery: dotyczące relacji zarządczych pomiędzy partnerami; dotyczące relacji pomiędzy Liderem projektu a Klubami. Analiza tych relacji przeprowadzona została w kontekście zderzenia kultur organizacyjnych partnerów oraz ograniczeń wynikających z procedur projektów unijnych. Strona31 Tabela 8. Charakterystyka kultur organizacyjnych partnerów projektu oraz specyfiki projektów unijnych Partnerzy biorący udział w Typ partnera Charakterystyka kultury organizacyjnej projekcie testowania Spółka działająca w oparciu o przepisy prawa handlowego. Właścicielem spółki jest Gmina Wrocław. Zadaniem spółki jest realizacja/zarządzanie realizacją Wrocławska Rewitalizacja Spółka projektów/zadań zleconych przez Przedsiębiorcy z ograniczoną odpowiedzialnością – Gminę. Lider projektu Kultura organizacyjna korporacyjna zorientowana na efektywne zarządzanie merytoryczne i proceduralne powierzonych zadań. 31 Typ partnera Partnerzy biorący udział w projekcie testowania Biuro Doradztwa Personalnego i Szkoleń Attestor S.C. PL. Architekci NGO Wrocławska Pracownia Psychoedukacji i Terapii „Plus“ PTP Fundacja Aktywności Lokalnej Realizacja indywidualnych projektów w charakterze wykonawcy lub podwykonawcy poszczególnych zadań, w mniejszym stopniu zaangażowanie w zarządzanie i rozliczane dużych, złożonych projektów ze znaczącą liczbą partnerów pochodzących z różnych sektorów. Kultura organizacyjna bliższa NGOs, z mieszaniem funkcji zarządczych oraz merytorycznych (np. świadczenie usług na rzecz klientów w formie szkoleń czy doradztwa). Wykonywanie zadań określonych przez przepisy prawa w zakresie realizacji polityki państwa odnośnie opieki społecznej. Złożona struktura organizacyjna z wewnętrznymi jednostkami wydzielonymi do wykonywania wyspecjalizowanych zadań. Silna kultura korporacyjna sektora publicznego wynikająca z zakresu realizowanych zadań. Realizacja indywidualnych projektów w charakterze wykonawcy lub podwykonawcy poszczególnych zadań, w mniejszym stopniu zaangażowanie w zarządzanie i rozliczane dużych, złożonych projektów ze znaczącą liczbą partnerów pochodzących z różnych sektorów. Kultura organizacyjna NGOs, z mieszaniem funkcji zarządczych oraz merytorycznych (np. świadczenie usług na rzecz klientów w formie szkoleń czy doradztwa). Strona32 Podmioty publiczne Miejski Ośrodek Pomocy Społecznej – Wrocław; Miejski Ośrodek Pomocy Rodzinie – Poznań Charakterystyka kultury organizacyjnej 32 Obszar problemowy Reżim kosztów kwalifikowanych System zamówień publicznych Ramy projektów współfinansowanych przez EFS Partnerzy – podmioty publiczne Partnerzy – NGO, przedsiębiorcy Definicja kosztów kwalifikowanych wymagających interpretacji na poziomie projektu przez jego wykonawców. Każde pytanie o interpretację, czy dany koszt jest kwalifikowany kierowane do Instytucji Pośredniczącej, wymaga dodatkowego czasu oczekiwania na odpowiedź, co w praktyce blokuje dane działanie. Jego realizacja przez wykonawcę projektu bez akceptacji Instytucji Pośredniczącej grozi uznaniem kosztu za niekwalifikowany, czyli ponoszony przez samego wykonawcę. Wymóg ścisłego przestrzegania szczególnie wymagany od podmiotów publicznych bądź też Mniejsze rygory stosowania ustawy powiązanych własnościowo w stosunku do NGOs. z sektorem publicznym np. w zakresie niedzielenia zamówienia na mniejsze. Źródło: opracowanie własne Jak widać z porównania cech kultur organizacyjnych partnerów uwidacznia się ich wyraźna sprzeczność niemal w każdym aspekcie. Współpraca pomiędzy tak odmiennymi partnerami wymaga wypracowania reguł gry, stanowiących bufor łagodzący nieuchronne zderzenia pomiędzy partnerami wynikające z ich zróżnicowania. Doświadczenie z fazy testowania wskazują, że partnerzy ewaluowanego produktu nie wypracowali takich w pełni efektywnie działających buforów. Niejasne sytuacje wynikały zapewne ze sprzeczności ról, jakie mieli w projekcie do odegrania, szczególnie w zakresie sztywnych reguł narzucanych przez wymagania projektów współfinansowanych przez EFS. Ponadto te same reguły bardzo utrudniają wprowadzanie znaczących bieżących modyfikacji w konstrukcję projektu, nawet w przypadku projektów innowacyjnych. Właśnie to niewypracowanie reguł buforowych pomiędzy kulturami organizacyjnymi partnerów oraz niepełnym uwzględnianiem specyfiki projektów unijnych leży u źródła dychotomii pomiędzy relatywnie dobrą współpracą między partnerami na poziomie testowania instrumentów wsparcia a zdiagnozowanymi problemami w budowaniu relacji na poziomie zarządczym pomiędzy partnerami pochodzącymi ze współpracy międzysektorowej. Strona33 Stąd warunkiem zwiększenia skuteczności projektu powinna być pogłębiona analiza przez wszystkich partnerów wniosków wynikających z dotychczasowej współpracy, pod kątem wypracowania bardziej efektywnych reguł buforowych obejmujących wszystkie obszary współpracy. Przy czym wnioski będące rezultatem takiej analizy powinny prowadzić od poziomu ogólnych zasad kooperacji, aż do rekomendacji dotyczących praktycznych propozycji systemu współpracy w ramach bieżącej realizacji i zarządzania partnerstwem trójsektorowym. 33 Studium przypadku finansowania aktywności w Klubach stanowi dobry przykład takiej pogłębionej analizy. Tabela 9. Studium przypadku – finansowanie aktywności Klubów Zidentyfikowana bariera we współpracy Około 2-tygodniowy okres oczekiwania na rozpoczęcie zajęć w ramach nowych aktywności (nie realizowanych wcześniej w Klubach) proponowanych przez kadrę Klubów aktywności dla odbiorców. Zdarzały się również przypadki braku akceptacji niektórych form aktywności. Perspektywa lidera Perspektywa partnerów Lider jako podmiot odpowiedzialny za realizację Przy zrozumieniu czasu koniecznego dla całości projektu musi zagwarantować, że spełnienia wymagań formalnych dotyczących wszystkie koszty poniesione w pracy Klubów zatwierdzenia danej aktywności jako kosztów będą zgodne z listą kosztów kwalifikowanych dla kwalifikowanych, niepełny brak zrozumienia projektu testowania produktu. Przy dużej gamie polityki Lidera w zakresie zasad akceptacji zgłaszanych aktywności mogły pojawić się kosztów, stosowania reguł ustawy wątpliwości interpretacyjne dotyczące kosztów o zamówieniach publicznych oraz nadmiernie odnoszących się do danej proponowanej biurokratycznych(zdaniem części kadry Klubów) aktywności wymagające dodatkowych analiz wymogów formalnych. prawnych (dodatkowy czas na akceptację danego kosztu). Ponadto Lider jako spółka miejska musi brać pod uwagę szersze ramy działania np. w zakresie zamówień publicznych. Rekomendowane przez Ewaluatora działania 1. Powołanie zespołu roboczego składającego się z przedstawicieli wszystkich partnerów, który przeprowadzi ekspertyzę w zakresie instrumentów wsparcia oraz mechanizmów zarządczych (aspekty prawne i finansowe) 2. Przegląd stosowanych w projekcie procedur zgłaszania i zatwierdzania kosztów aktywności w Klubach pod kątem ich 1) ewentualnego uproszczenia, jeżeli jest to możliwe w ramach obowiązujących przepisów prawa; 2) wyjaśnienia przez Lidera partnerom podstaw prawnych i merytorycznych obowiązujących procedur w celu usunięcia/ograniczenia pola powstawania potencjalnych nieporozumień/sporów na linii Lider-kadra Klubów. 3. Opracowane bazy danych aktywności, których akceptacja nie budzi żadnych wątpliwości z powodu np. ich wielokrotnego powtarzania w Klubach. Tego rodzaju aktywności powinny być objęte „szybką ścieżką” akceptacji. Miałoby to dwojakie pozytywne działanie; 1) przyspieszenie realizacji aktywności; 2) usunięcia/ograniczenia pola powstawania potencjalnych nieporozumień/sporów na linii Lider-kadra Klubów. Strona34 Źródło: opracowanie własne 34 Jak przebiegało testowanie produktu? Czy testowane działania pozwalają osiągnąć cel główny oraz cele szczegółowe projektu i zaplanowane wskaźniki? Testowanie produktu pozwoliło na identyfikację barier, które uniemożliwiły pełną realizację celów projektu. W zakresie instrumentów wsparcia faza testowania pozwoliła na zdiagnozowanie barier utrudniających osiągnięcie zakładanych celów projektu oraz wypracowanie szeregu rekomendacji o charakterze metodyczno-organizacyjnym. Podobna sytuacja dotyczy zagadnień związanych z mechanizmami działania partnerstwa trójsektorowego. Szczegółowy opis czynników utrudniających osiąganie celów projektu oraz rekomendacje działań dla Zamawiającego dotyczące obu obszarów badawczych znajdują się w sekcji poświęconej Kryterium skuteczności i odpowiedzi na pytania: Czy produkt jest skuteczny? Co wpływa na jego skuteczność – czy są to metody pracy, dobór grup docelowych, organizacja procesu wsparcia czy inne czynniki? Czy możliwe jest zwiększenie skuteczności proponowanych metod i pod jakimi warunkami. Czy strategia wdrażania projektu i testowany produkt wymagają modyfikacji wynikających z doświadczeń projektowych wynikających z fazy testowania? To pytanie jest ściśle powiązane z pytaniami: Czy produkt jest skuteczny? Co wpływa na jego skuteczność – czy są to metody pracy, dobór grup docelowych, organizacja procesu wsparcia czy inne czynniki? Czy możliwe jest zwiększenie skuteczności proponowanych metod i pod jakimi warunkami? Stąd dla zwiększenia przejrzystości argumentacji oraz unikania zbędnych powtórzeń tych samych zagadnień sugestie dotyczące modyfikacji strategii wdrażania produktu i testowania produktu zostały umiejscowione w odpowiedzi na te dwa wskazane powyżej pytania. Strona35 Jakie elementy rozwiązań wypracowanych w ramach produktu finalnego powinny być szczególnie akcentowane jako przewagi w odniesieniu do innych rozwiązań? Wypada się tu zgodzić z opiniami kadry Klubów, że największą wartością projektu jest wprowadzanie metod pracy aktywizujących odbiorców, a przez to zwiększenie ich kreatywności. Cechą unikalną badanego projektu jest „oddanie sprawstwa młodzieży” i przynajmniej częściowe przejście kadry Klubów z pozycji władzy do roli moderatorów w relacjach z odbiorcami. Wynika to z przeorientowania metod od pracy na deficytach do koncentracji na zasobach młodzieży. Takie podejście ma szczególnie dużą wartość w kontekście jednak dominującego w systemie edukacji formalnej podejścia odtwórczego, nie wyrabiającego samodzielności i kreatywności. Ze specyficznych rozwiązań zastosowanych w ramach projektu warto wskazać następujące elementy: rolę Liderów Aktywności Rozmaitych jako osób generujących aktywność odbiorców poprzez zaproponowanie różnych form działania opartych na zainteresowaniach oraz zasobach młodych ludzi. Jest to do pewnego stopnia rola zastępczej „marchewki” dla młodzieży. Udział 35 w zajęciach w Klubie z punktu widzenia młodej osoby nie oferował niczego wymiernego w postaci zdobycia kwalifikacji, ale ciekawą formę spędzenia czasu oraz możliwości zdobycia jakichś umiejętności (nie mających być może bezpośredniej wartości np. na rynku pracy, ale za to poszerzających paletę doświadczeń życiowych odbiorców); moderujące funkcje Koordynatorów Klubów oraz Liderów procesów grupowych; nie do końca wykorzystany potencjał Przewodników po rynku pracy. W tym przypadku warto wskazać na urealnianie obrazu i oczekiwań w stosunku do rynku pracy przez młodzież, np. interpretacji ofert pracy, w zakresie umiejętności pisania CV, listów motywacyjnych czy wizyty u przedsiębiorców, którzy w większości opierali swoją działalność gospodarczą na prywatnych pasjach i hobby. Niemniej należy pamiętać o ograniczeniu tej formy wsparcia tylko dla grupy odbiorców w wieku 19-25 l. Podsumowując, na podstawie dotychczasowej przeprowadzonej w trakcie badania ewaluacyjnego analizy można postawić diagnozę częściowej bądź też potencjalnej skuteczności projektu zarówno w zakresie instrumentów wsparcia, jak i mechanizmów współpracy trójsektorowej. Użytkownicy w zakresie instrumentów wsparcia młodzieży wypracowanych w ramach projektu osiągnęli zakładane cele w wymiarze poznawczym i praktycznym (przećwiczenie nowych metod pracy w Klubach). Jeśli chodzi o odbiorców, to duża rotacja na zajęciach prowadzonych przez KARnety uniemożliwiła efektywne przeprowadzenie całego trzyfazowego cyklu planowanego w produkcie. Osoby, które uczestniczyły w większej liczbie aktywności oceniły pozytywnie zarówno pracę Klubów, jak i Przewodników po rynku pracy. Zwróciły natomiast uwagę na wątpliwości dotyczące racjonalności kierowania produktu do młodzieży z pieczy. Mechanizmy współpracy międzysektorowej budzą wątpliwości wśród potencjalnych użytkowników. Wyniki badania wskazują, że model nie do końca zadziałał zgodnie z zakładanymi celami projektu. Wydaje się, że zadziałały tu następujące mechanizmy: Zbyt duże różnice pomiędzy kulturami organizacyjnymi partnerów z różnych sektorów; Testowanie produktu w reżimie zbiurokratyzowanych wymagań projektów współfinansowanych z EFS; Wyraźna trudność we „wpasowaniu” produktu do rutynowych działań IPS działających w sektorze publicznym. Przedstawione w tej sekcji rekomendacje odnoszą się do dwóch obszarów tematycznych: metodyczno-organizacyjnego dotyczącego instrumentów wsparcia; systemu zarządzania projektem testowania produktu odnoszącego się do mechanizmów współpracy między partnerami. 6.3. Kryterium efektywności Strona36 Czy wypracowany produkt przynosi zakładane efekty w odniesieniu do poniesionych nakładów (finansowych, czasowych, ludzkich)? 36 Mechanizmy współpracy trójsektorowej Można mówić tylko o częściowych efektach w zakresie nawiązania współpracy merytorycznej pomiędzy partnerami. Poprzez szkolenia, coaching i superwizje następuje poszerzenie w zakresie wiedzy i umiejętności praktycznych wśród kadry IPS. Niestety odnośnie budowania mechanizmów współpracy trójsektorowej wydaje się, że efekty są mniejsze. Dzieje się tak z powodu wielokrotnie wskazywanych barier we współpracy wynikających z różnych kultur organizacyjnych partnerów pochodzących z trzech różnych sektorów. Instrumenty wsparcia Odpowiedź na to pytanie utrudnia fakt, że w fazie testowania nie udało się w pełni zrealizować zakładanych założeń. Wynikało to z czynników wielokrotnie wskazywanych w tym raporcie (np. zbyt duża rotacja odbiorców, co nie pozwoliło na przejście cyklu wszystkich trzech faz planowanych w projekcie, zbyt krótki czas realizacji projektu testującego). Niemniej jednak na podstawie wyników badania można stwierdzić, że projekt ma potencjał spełnienia kryterium efektywności. Wykorzystanie tego potencjału zostało utrudnione przez zbyt krótki okres czasu przeznaczony na testowanie tak złożonego mechanizmu wsparcia odbiorców. Można stwierdzić, iż testowanie produktu zostało zakończone właśnie w momencie, kiedy przynajmniej w niektórych Klubach osiągnął on poziom dojrzałości pozwalający na pełną i rzeczywistą weryfikacje jego efektywności. Z wypowiedzi kadry części Klubów wynika, że młodzież po okresie wakacyjnym 2014 roku dopytywała się o Kluby i oczekiwała kontynuacji ich działania. Pośrednio potwierdza to potencjał rozwojowy produktu i jego efektywności, ale pod warunkiem przeznaczenia na jego „wrastanie” w dane środowiska więcej czasu, niż było to dane w fazie testowania. Szczególnie istotne jest zaistnienie Klubów w lokalnych realnych i wirtualnych sieciach społecznościowych odbiorców. W jakim stopniu proponowana innowacja jest lepsza od istniejących rozwiązań, bardziej atrakcyjna i efektywna? W przypadku tego pytania ewaluacyjnego można odnieść się do odpowiedzi na pytanie: Jakie elementy rozwiązań wypracowanych w ramach produktu finalnego powinny być szczególnie akcentowane jako przewagi w odniesieniu do innych rozwiązań? (Kryterium skuteczności) Strona37 Generalnie cechą wyróżniającą jest podejście oparte na budzeniu kreatywności i aktywności odbiorców. Na te właśnie wątki jako najbardziej innowacyjne wskazują respondenci, pełniący role kadry w Klubach: Zajęcia, na które bezpośredni wpływ ma młodzież; Szersza od standardowej oferta zajęć dla młodzieży; Założenia i metoda pracy jako całość; Pozytywny wpływ Modelu na kreatywność młodzieży. 37 Jakie warunki brzegowe powinny zostać spełnione, żeby z powodzeniem można było zastosować/implikować produkt finalny wypracowany w niniejszym projekcie? Mechanizm współpracy trójsektorowej Zdecydowanie głównym warunkiem brzegowym jest przeprowadzenie pogłębionej analizy doświadczeń wynikających z testowania produktu opartej na zasadzie partycypacyjnej współpracy wszystkich zaangażowanych stron. W wariancie minimalnym w ten proces powinni być zaangażowani partnerzy z Wrocławia jako wiodący w przygotowywaniu koncepcji produktu. Przedmiotem tej analizy powinny być: Doświadczenia z perspektywy podmiotów reprezentujących trzy sektory; Identyfikacja głównych barier wynikających z różnic między kulturami organizacyjnymi; Wypracowanie zasad współpracy od poziomu ogólnych mechanizmów współpracy oraz ich przełożenie na bieżące zarządzania wdrażaniem projektu. Strona38 Instrumenty wsparcia W kontekście potencjału rozwojowego instrumentów wsparcia wypracowanych w ramach projektu warto wskazać następujące kluczowe elementy warunkujące jego efektywne zastosowanie: Odejście od systemu rekrutacji opartego na streeworkerach stosowanego w trakcie realizacji projektu (ale nie planowanego w samym Modelu) na rzecz podejścia bazującego na: 1) „umiejscowieniu” Klubów w lokalnych realnych i wirtualnych (np. Facebook) sieciach, budowanie ich image na opiniach samej młodzieży, która poprzez swoje kontakty będzie rekrutować inne osoby; 2) lokalizacji Klubów w miejscach łatwo dostępnych lub też dobrze skomunikowanych z miejscami, w których młodzież przebywa (np. skupiska szkół, burs, akademików, dużych osiedli mieszkaniowych); 3) tworzenie grup mających wspólną perspektywę poznawczą z racji wieku (np. dwie grupy wiekowe: 15-18 l. oraz 19-25 l.) czy zainteresowań; 4) wypracowanie na podstawie doświadczeń z fazy testowania pakietu najbardziej popularnych aktywności, tak aby już od momentu startu Klubów można było zaproponować odbiorcom zestaw atrakcyjnych zajęć; 5) rozważenie „zahaczenia” instytucjonalnego niektórych Klubów przy placówkach mających stały kontakt z „młodzieżą po przejściach”, np. Centra Kształcenia Ustawicznego. Przyjęcie odpowiedniej perspektywy czasowej na otrzymanie pierwszych rezultatów działania Klubów (na pewno dłuższa niż ta przyjęta w testowaniu jako nieadekwatna do osiągania celów zakładanych w ramach projektu). Rozważenie kwestii systemu zatrudniania i rozliczania czasu pracy kadry Klubów. W fazie testowania sama liczba osób zaangażowanych w prowadzenie prac Klubów była wystarczającą dla zapewnienia właściwej ich pracy (przy wzięciu pod uwagę już wcześniej opisanych problemów związanych z dużą rotacją odbiorców). Zatrudnianie na zasadzie dodatkowego zajęcia, czyli w praktyce dodatkowych godzin pracy poza tymi na właściwym etacie, mogło się sprawdzać w fazie testowania jako rozwiązanie czasowe. Natomiast 38 w przypadku kontynuacji prac Klubów jako stałego elementu pracy z młodzieżą, wydaje się, że należałoby rozważyć instytucjonalizację prac Klubów poprzez: 1) „zahaczenie” instytucjonalne Klubów przy jednym z partnerów mającym odpowiednie środki finansowe do ich prowadzenia; 2) oparcie zatrudnienia kadr Klubów na jasno określonych podstawach prawnych gwarantujących zatrudnionym odpowiednią ochronę prawną, ale również stabilność kadrowo-zarządczą dla Klubów. Podsumowując, Z powodu zbyt krótkiego okresu testowania projektu można wysnuć wnioski dotyczące jego potencjalnej efektywności. Warunkiem efektywności projektu w dłuższej perspektywie czasowej jest wprowadzenie szeregu zmian w systemie jego wdrażania, szczególnie w obszarze systemu naboru odbiorców oraz lokalizacji Klubów. W przypadku kontynuacji prac Klubów jako stałego elementu pracy z młodzieżą, wydaje się, że należałoby rozważyć instytucjonalizację prac Klubów poprzez: 1) „zahaczenie” instytucjonalne Klubów przy jednym z partnerów mającym odpowiednie środki finansowe do ich prowadzenia; 2) oparcie zatrudnienia kadr Klubów na jasno określonych podstawach prawnych gwarantujących zatrudnionym odpowiednią ochronę prawną, ale również stabilność kadrowo-zarządczą dla Klubów. 6.4. Kryterium użyteczności Czy wypracowany produkt jest zgodny z potrzebami grup docelowych: użytkowników/odbiorców? Zakres tego pytania obejmuje ten sam obszar co pytanie: Czy i w jakim stopniu produkt odpowiada na realne potrzeby użytkowników/odbiorców? (kryterium trafności) W celu uniknięcia powtórzeń tych samych argumentów można stwierdzić, iż argumentacja oraz wnioski przedstawione w sekcji Kryterium użyteczności są w pełni adekwatne jako odpowiedź na analogiczne pytanie w tej sekcji. Czy oraz w jakim zakresie produkt przynosi zakładane korzyści dla grup docelowych? Użytkownicy W przypadku użytkowników ważnymi czynnikami są wiedza i doświadczenia pracowników IPS przed wejściem do projektu testowania. Jak wykazała analiza w odpowiedzi na pytanie o kryterium trafności, pracownicy IPS obok w większości wykształcenia kierunkowego mają również ukończone szkolenia branżowe oraz doświadczenie w pracy z młodzieżą. Strona39 Warto zwrócić uwagę na stosunkowo wysoką ocenę przydatności szkoleń wprowadzających przez respondentów. Mimo tak wysokiego poziomu kompetencji zawodowej uznali oni, że szkolenie 39 wstępne są przydatne w ich pracy zawodowej. Tabela 10. Ocena przydatności szkoleń wprowadzających Jak w chwili obecnej ocenia Pan(i) ogólną przydatność w/w szkoleń w odniesieniu do Pana(i) codziennej pracy z podopiecznymi? [Zaznacz ocenę na skali: 1-ndst., 6 - celujący] Wrocław Poznań Ogółem Średnia ocena N 4,3 4,1 4,2 10 8 18 Źródło :„KARnet 15+ - model współpracy trójsektorowej” III raport końcowy z ewaluacji, str. 6. Ten trend relatywnie wysokiej oceny użyteczności produktu potwierdzają badania pracowników IPS w trakcie testowania produktu, przy czym trzeba pamiętać, że w Poznaniu był on krótszy niż we Wrocławiu. Strona40 Tabela 11. Skala użyteczności szkoleń w pracy pracowników IPS W jaki sposób Pana(i) udział w projekcie, w szkoleniach oraz wsparcie merytoryczne przyczyniły się do: Nieistotny Umiarko Bardzo Wrocław Dużym m -wanym dużym Wzrostu Pana(i) ogólnych kompetencji w pracy 2 5 3 0 z młodzieżą Wzrostu Pana(i) praktycznych umiejętności w rozwiązywaniu problemów młodzieży 2 5 3 0 i podopiecznych Pana(i) umiejętności zastosowania nowych 2 4 4 0 technik pracy z podopiecznymi Zmiany w sposobie udzielania wsparcia 1 7 2 0 podopiecznym (młodzieży) Poznań (tylko dla mających kontakt z młodzieżą Nieistotny Umiarko Bardzo Dużym z grupy docelowej) m -wanym dużym Wzrostu Pana(i) ogólnych kompetencji w pracy 1 3 3 1 z młodzieżą Wzrostu Pana(i) praktycznych umiejętności w rozwiązywaniu problemów młodzieży 1 3 2 2 i podopiecznych Pana(i) umiejętności zastosowania nowych 1 3 2 2 technik pracy z podopiecznymi 40 Zmiany w sposobie udzielania wsparcia podopiecznym (młodzieży) 1 4 2 1 Źródło: „KARnet 15+ − model współpracy trójsektorowej” II raport cząstkowy z ewaluacji, str. 7. Można zatem stwierdzić, że badania potwierdzają użyteczność produktu w wymiarze rozwoju kwalifikacji zawodowych, zarówno w obszarze wiedzy, jak i doświadczenia zdobytego przez pracowników IPS w sferze praktyki przez grupę, która pracowała bezpośrednio z młodzieżą. Odbiorcy Wyniki badań potwierdzają opinie użytkowników podkreślających znaczenie dla młodzieży zajęć, na które sama ma wpływ. Tabela 12. Elementy pozytywne i negatywne zajęć Rodzaj zajęć (aktywności): Co się najbardziej podobało? Te, gdy mogliśmy poznawać siebie, 35,1% pracować w grupie Te, gdy czegoś się uczyliśmy lub poznawaliśmy, np. fotografia, taniec 57,6% etc. Te, podczas których odbywały się spotkania z różnymi osobami, np. 6,0% z podróżnikiem etc. Te, podczas których mówiono o pracy 12,6% i zawodach Te, w których mogłem(am) się 6,6% indywidualnie kogoś poradzić Inne 5,3% Ogółem N=151 Co się najmniej podobało? 11,5% 5,7% 26,4% 26,4% 27,6% 8,0% N=92 Źródło: „KARnet 15+ - model współpracy trójsektorowej” II raport cząstkowy z ewaluacji, str. 15. Ponad 57% respondentów podkreśliło znaczenie zajęć, na których się czegoś uczyli, a ponad 25% takich, w trakcie których mogli pracować w grupie. Z kolei wśród zajęć, które podobały się najmniej pojawiły się dwie pasywne formy: spotkania z różnymi osobami oraz takie, podczas których mówiono o pracy i zawodach. Wyniki badań wskazują na osiągnięcie celów II fazy pracy w Klubach, a więc aktywizowanie i pobudzanie kreatywności odbiorców. Pośrednio potwierdzają one hipotezę, że wykorzystanie pełnego potencjału produktu wymaga więcej czasu niż ten dostępny w fazie testowania. Strona41 Należy również niewątpliwie odnieść się do niechętnej postawy części odbiorców do elementów pracy w Klubach, powiązanych z zadaniami Przewodnika po rynku pracy. Otóż w całej populacji objętej badaniem w ramach ewaluacji wewnętrznej między majem a wrześniem br. ponad 56% 41 stanowiła młodzież w wieku 15-20 l. Młodzież częściowo jeszcze w wieku szkolnym ma bardzo słabą orientację na rynek pracy. Wzmacnia to zatem argumentację na rzecz koncentrowania komponentu produktu zorientowanego na rynek pracy tylko na grupie odbiorców w przedziale wiekowym 19-25 lat. Czy wszystkie elementy produktu finalnego są użyteczne w takim samym stopniu? Zdecydowanie najbardziej użyteczne są te elementy produktu, które wspierają proaktywne i kreatywne podejście wśród odbiorców. Jak wskazują wyniki badań młodzieży, są też najbardziej cenione przez samą młodzież jako najbardziej użyteczne z punktu widzenia nauczenia się czegoś nowego i własnego rozwoju. Strona42 Tym samym można wskazać następujące, najbardziej użyteczne aspekty projektu: Metoda pracy z młodzieżą w Klubach oparta na oddaniu im inicjatywy, daniu możliwości decydowania o aktywnościach podejmowanych w Klubach; Rola Lidera Aktywności Rozmaitych jako katalizatora przyciągającego młodzież do zaangażowania się w pracę Klubów; Wsparcie otrzymywane przez młodzież ze strony Koordynatorów Klubów oraz Liderów Procesów Grupowych; Konsultacje dla pracowników IPS poprzez szkolenia, coaching i supewizje mające na celu wzmocnienie technik i metodologii pracy personelu IPS pracującego z młodzieżą. 42 Podsumowując, generalnie produkt odpowiada na potrzeby zarówno użytkowników, jak i odbiorców. W przypadku tej pierwszej grupy nastąpił wzrost wiedzy i umiejętności praktycznych dotyczących relatywnie nowych metod pracy z młodzieżą. Określenie relatywne odnosi się do faktu, że dla części pracowników IPS były to już zagadnienia znane z literatury, jednak dopiero etap testowania produktu pozwolił im na wykorzystanie zdobytej wiedzy w praktyce. Dla odbiorców najważniejsze i najbardziej użyteczne były elementy oparte na budzeniu ich proaktywnego i kreatywnego podejścia. Z kolei najniżej młodzież oceniła działania pasywne, czyli nie wymagające ich aktywności, w tym zajęć związanych z rynkiem pracy. Niska ocena działań dotyczących rynku pracy przynajmniej częściowo wynika z faktu, że odbiorcami były w większości osoby w wieku 15-20 lat (56% badanej próby). Jest to zaś kategoria wiekowa odbiorców o stosunkowo słabej orientacji na rynek pracy z powodu specyfiki sytuacji życiowej (w większości przypadków nauka w różnych placówkach edukacyjnych). Jeśli chodzi o ocenę użyteczności poszczególnych elementów produktu to dominują te pobudzające proaktywność i kreatywność odbiorców. Trzeba podkreślić w tym kontekście szczególną rolę kadry Klubów (Koordynatorów klubów, Liderów Procesów Grupowych oraz Liderów Aktywności Rozmaitych). Znacznie mniejszą rolę odgrywali Przewodnicy po Rynku Pracy. Wynikało to z faktu, iż większość Klubów zdołała na etapie testowania dojść tylko do fazy 2 z 3 zaplanowanych w Strategii projektu. Opóźnienie faktycznego testowania w stosunku do zakładanego w Strategii wynika z niedoszacowania czasu koniecznego na przejście wszystkich trzech faz. Ponadto, jak wykazało doświadczenie, budowanie partnerstwa opartego na aktorach znajdujących się w dwóch miastach (Wrocławiu i Poznaniu) również wymagało więcej czasu niż zakładano. 6.5. Kryterium trwałości Czy i w jakim stopniu prawdopodobne jest funkcjonowanie produktu po zakończeniu finansowania projektu? Po wygaśnięciu finansowania projektu ze środków EFS nie ma możliwości funkcjonowania produktu w sposób podobny do tego jak w fazie testowania. Główne bariery wynikają z czynników będących poza kontrolą i możliwościami działania partnerów: Brak środków własnych Lidera oraz partnerów na kontynuację testowania (np. na utrzymywanie infrastruktury Klubów i ich kadry); Bariery prawne, jak np. w przypadku publicznych IPS, takich jak: Miejski Ośrodek Pomocy Społecznej, Miejski Ośrodek Pomocy Rodzinie, które na mocy zadań ustawowych pracują z młodzieżą zagrożoną wykluczeniem społecznym. Pracownicy MOPS/MOPR nie mogliby kontynuować pracy z grupą kontrolną, która nie podlega pod jej ramy instytucjonalne. Strona43 Doświadczenie z ewaluacji innych projektów innowacyjnych wskazuje na duże prawdopodobieństwo wykorzystywania niektórych z metod wypracowanych w ramach projektu przez pracowników IPS poprzez codzienną pracę z młodzieżą. Można przyjąć bardzo duże prawdopodobieństwo wystąpienia 43 takiego trendu, jednak z punktu widzenia badania ewaluacyjnego prowadzonego na tym etapie rozwoju projektu, jest to zjawisko całkowicie niemierzalne. Jaki jest potencjał produktu w dłuższej perspektywie czasowej? Na poziomie instrumentów wsparcia potencjał produktu jest zdecydowanie rozwojowy. Jego wybrane elementy (a nie cały produkt, tak jak zostało to określone w Strategii) zapewne wejdą w praktykę IPS w zależności od preferencji indywidualnych poszczególnych pracowników (np. elementy działań Przewodnika po rynku pracy w zakresie dotyczącym pisania CV i listu motywacyjnego jako wspierające pracowników IPS zajmujących się usamodzielnianiem młodzieży z pieczy). Natomiast potencjał instytucjonalny jest już bardziej problematyczny. Nie wydaje się możliwe znalezienie źródeł finansowania wprowadzenia modelu współpracy trójsektorowej w praktykę działania IPS z obecnego systemu finansowania krajowego. Zapewne jedyną ewentualną opcją byłoby ponowne skorzystanie z projektów EFS na lata 2014-2020. Przy przyjęciu tego ostatniego wariantu istotną rzeczą byłoby przeprowadzenie już postulowanej wcześniej w tym raporcie identyfikacji barier w funkcjonowaniu mechanizmów partnerstwa trójsektorowego na poziomie: 1) relacji zarządczych pomiędzy partnerami; 2) relacji pomiędzy Lider a Klub. Taka diagnoza oraz wprowadzenie usprawnień zarówno na 1), jak i na 2) z wymienionych poziomów bardzo ułatwiłoby przyszłą, potencjalną współpracę poprzez usunięcie pól wywołujących szum informacyjny, wzajemną frustrację wśród partnerów, a nawet w skrajnych sytuacjach spory. Strona44 Czy zasadne jest podejmowanie działań upowszechniających i wdrażających? Działania upowszechniające mogą być prowadzone w zakresie testowania produktu obejmującego następujące elementy produktu określone w jego strategii: Tworzenia i funkcjonowania Klubów Aktywności Rozmaitych w zakresie zasad działania Klubów; Systemu przygotowania kadry Klubów do pełnienia przez nich wyznaczonych im zadań; Systemu rekrutacji, jednakże z modyfikacjami postulowanymi w Rekomendacjach zaprezentowanych w tym raporcie (szczególnie odejście od rekrutacji otwartej opartej na streetworkerach stosowanej w realizacji projektu) na rzecz innych bardziej efektywnych metod; co więcej już pozytywnie zweryfikowanych w dotychczasowej praktyce testowania produktu; głównie chodzi tu o promocję „szeptaną” poprzez realne i wirtualne sieci młodzieży; wprowadzenie podziału odbiorców na dwie rozdzielne kategorie wiekowe, 1518 l. oraz 19-25 l., przy czym elementy działań Przewodnika po rynku pracy dotyczyć powinny tylko i wyłącznie starszej grupy wiekowej; Wdrażanie Fazy I i II z trzech opisanych w Strategii. Faza III powinna być stosowana tylko do grup odbiorców uznanych w Fazie II za odpowiednio świadome i zmotywowane do działań wspierających dotyczących wejścia na rynek pracy. Objęcie działaniami upowszechniającymi mechanizmu partnerstwa trójsektorowego może być ewentualnie rozpatrywane, ale dopiero po dogłębnej analizie doświadczeń z etapu testowania oraz 44 określenia mechanizmów usprawniających tę współpracę, a szczególnie „przekładania” zasad współpracy na mechanizmy zarządcze stosowane w codziennej praktyce zarządzania i wdrażania modelu. Jakie są mocne i słabe strony przetestowanego produktu finalnego i jego składowych? Jakie szanse i bariery może napotkać produkt w przypadku jego wdrażania? Jakie czynniki decydują o sukcesie produktu finalnego, a w jaki sposób można zapobiec zdiagnozowanym trudnościom (barierom) w trakcie wdrażania/upowszechniania produktu finalnego? Kwestie poruszane w tych dwóch pytaniach zostały już szczegółowo omówione i rozwinięte w sekcji Kryterium skuteczności w odpowiedzi na pytania: Czy produkt jest skuteczny? Co wpływa na jego skuteczność – czy są to metody pracy, dobór grup docelowych, organizacja procesu wsparcia czy inne czynniki? Czy możliwe jest zwiększenie skuteczności proponowanych metod i pod jakimi warunkami? Podsumowując, zagadnienia trwałości produktu dalekie są od jednoznaczności. Elementy produktu dotyczące tworzenia i funkcjonowania Klubów Aktywności Rozmaitych oraz testowania faz I i II pracy z odbiorcami zostały już w dużym stopniu pozytywnie zweryfikowane w fazie testowania. Można ewentualnie rozważać upowszechnianie tych elementów produktu, jednakże pod warunkiem modyfikacji wybranych krytycznych aspektów, głównie dotyczących doboru grupy docelowej oraz metody naboru odbiorców. Doświadczenia z testowania dotyczące mechanizmów współpracy trójsektorowej pozwoliły na identyfikację szeregu barier, mających swoje źródło w dużych różnicach kultur organizacyjnych partnerów oraz ograniczeniach wynikających z testowania modelu w bardzo zbiurokratyzowanych ramach projektów współfinansowanych z Europejskiego Funduszu Społecznego. Przed ewentualnym rozważeniem upowszechniania partnerzy powinni: dokonać pogłębionej analizy doświadczeń z testowania; wypracować reguły buforowe dotyczące zasad współpracy między partnerami pochodzącymi z trzech sektorów w celu łagodzenia/unikania potencjalnych pól powodujących niejasności lub wręcz konflikty. 6.6. Analiza SWOT Słabe strony Strona45 Mocne strony 45 Wypracowany model pracy z młodzieżą Bariery w postaci ram instytucjonalno-prawnych w kierunku wspierania ich aktywności dla wdrażania modelu istniejące w obecnym i kreatywności. systemie zarządzania usługami socjalnymi i na rynku w Polsce. Wypracowany i zweryfikowany przez praktykę testowania model kształcenia kadr IPS w zakresie Niedopracowane do końca zasady efektywnego stosowania nowych metod pracy z młodzieżą. wdrażania mechanizmów współpracy międzysektorowej. Dostęp do zespołu pracowników IPS mających już zarówno przeszkolenie, jak i praktyczne umiejętności we wdrażaniu modelu. Strona46 Istniejąca kadra merytoryczna zainteresowana kontynuacją pracy w Klubach. 46 Szanse Zagrożenia Rosnąca świadomość wśród ekspertów i praktyków korzyści wynikających z aktywizujących i pobudzających kreatywność metod pracy z młodzieżą zagrożoną marginalizacją w kontekście pojawienia się kultury zależności u „klientów” opieki społecznej. Bardzo silny opór podmiotów działających w rzeczywistości sektorowo-resortowej, niechętnych jakimkolwiek zmianom w tym systemie. Strona47 Rozpoznawana przez ekspertów potrzeba przezwyciężania fragmentacji wspierania młodzieży zagrożonej marginalizacją poprzez wspólne działania podejmowane przez podmioty z różnych sektorów. 47 7. Wnioski i rekomendacje Celem produktu było wypracowanie i przetestowanie nowego modelu współpracy między podmiotami pomocy i integracji społecznej a przedsiębiorcami, służącego ułatwianiu wchodzenia na rynek pracy młodzieży 15-25 lat zagrożonej wykluczeniem społecznym. W związku ze złożoną strukturą produktu analiza musiała być prowadzona w dwóch płaszczyznach: 1) mechanizmów współpracy trójsektorowej; 2) instrumentów wsparcia młodzieży. Mechanizmy współpracy trójsektorowej W trakcie testowania produktu wystąpiły dwie poważne bariery: Duże różnice kultur organizacyjnych pomiędzy partnerami projektu zaburzające proces współpracy; Negatywny wpływ formalno-administracyjnych procedur wymaganych przy realizacji projektów UE w Polsce, silnie ograniczający elastyczność współpracy i samego procesu wsparcia dla odbiorców opartego na mechanizmie dynamicznie rozwijających się interakcji z młodzieżą na poziomie Klubów. Okres testowania pozwolił na empiryczne zweryfikowanie oraz zidentyfikowanie elementów zarządczych szczególnie wrażliwych na różnice kultur w praktyce bieżącego zarządzania, wdrażania testowanego produktu w kontekście reguł projektów UE. W ramach ewaluacji zewnętrznej można było tylko wskazać główne obszary problemowe. Przed rozważeniem ewentualnego upowszechniania członkowie partnerstwa powinni dokonać głębokiej diagnozy pod kątem wypracowania systemów buforowych w relacjach pomiędzy różnymi kulturami organizacyjnymi na poziomie bieżącego zarządzania wspólnymi przedsięwzięciami. Instrumenty wsparcia młodzieży Potencjał instrumentów wsparcia młodzieży został wykorzystany tylko częściowo z powodu barier zdiagnozowanych w ramach niniejszego badania. Wśród nich warto wymienić jedną, która miała decydujący wpływ – zbyt krótki czas przeznaczony na testowanie produktu mającego tak ambitne cele. Tym samym nie przetestowano w pełni całej gamy instrumentów (np. w niewielkim stopniu udało się zweryfikować wartość fazy III modelu, Przewodnik po rynku pracy). Strona48 Generalnie Model udowodnił swój potencjał. Rekomendacje poniżej wskazują działania, które zdaniem Ewaluatora, powinny odblokować znaczną część tego potencjału. Głównym instrumentem wdrażania testowanego Modelu są Kluby Aktywności Rozmaitych. Kluczowe znaczenie dla przyszłości Modelu ma określenie: Pozycji Klubów w już istniejącej sieci instytucji opieki społecznej i rynku pracy w Polsce pod kątem instytucjonalnego usytuowania Klubów oraz ich finansowania, Jasnego określania zasad zatrudniania kadr Klubów w celu zapewnienie stabilności ich 48 działania w dłuższym terminie. Wnioski Rekomendacje Strona49 Mechanizmy współpracy trójsektorowej 1. Zidentyfikowane bariery Przeprowadzenie pogłębionej analizy doświadczeń wynikających w funkcjonowaniu mechanizmów z testowania produktu opartych na zasadzie partycypacyjnej partnerstwa na poziomie: współpracy wszystkich zaangażowanych stron. W wariancie 1) relacji zarządczych pomiędzy minimalnym w ten proces powinni być zaangażowani partnerzy partnerami; 2) Lider a Kluby z Wrocławia jako wiodący w przygotowywaniu koncepcji produktu. Instrumenty wsparcia odbiorców wypracowane w ramach produktu Wprowadzenie osobnych kategorii organizacji zajęć w Klubach 2. Niezróżnicowanie jako z podziałem na kategorie 15-18 l. oraz 19-25 l. W fazie I pracy w Klubie osobnych grup docelowych (rozbudzania i rozwijania zainteresowań odbiorców wokół działań odbiorców w wieku 15-18 l. oraz Lidera Aktywności Rozmaitych) taki podział może być jeszcze 19-25 l. niekonieczny, pod warunkiem, że nie ma takich oczekiwań ze strony samych odbiorców. Dostosowanie czasu wdrażania produktu na poziomie Klubów do dynamiki budowania spójności wewnętrznej grupy/jej członków: 1) naboru; 2) budowania wewnętrznej spójności przynajmniej rdzenia danej grupy poprzez działania kadry Klubu (2-6 m-cy); 3) przejście do fazy 3 opartej już na miksie pracy grupowej 3. Zbyt krótki czas testowania i indywidualnej z wykorzystaniem zasobów poszczególnych produktu w stosunku do odbiorców. W teorii tak miało przebiegać testowanie w ramach przyjętych celów i metod pracy ewaluowanego projektu, ale system nie do końca zadziałał (w Poznaniu z powodu późniejszego rozpoczęcia faktycznych działań testujących). A zatem dostosowanie czasu testowania musi być wdrażane w pakiecie z innymi modyfikacjami dotyczącym, między innymi doboru grup docelowych, systemu rekrutacji odbiorców, zmian w systemie zarządzania. Jest to trudny obszar wymagający rozsądnego kompromisu pomiędzy skądinąd słusznymi wymaganiami kadry IPS a wymaganiami budżetu. Należy pamiętać, że projekty zbyt drogie (a zwiększenie płatnych 4. Zbyt krótki czas testowania godzin szkoleniowych dla kadry podwyższa budżet projektu) nie mają w kontekście przeciążenia kadr szansy na uzyskanie dofinansowania ze środków publicznych IPS szkoleniami krajowych i unijnych. Być może właśnie wydłużenie czasu testowania i rozłożenie szkoleń w dłuższym czasie złagodziłoby przeciążenie kadr IPS. 49 Wnioski 6. Dookreślenie pozycji w projekcie Liderów Aktywności Rozmaitych 7. „Niekonkurencyjność” produktu z powodu braku wymiernych korzyści dla odbiorców w postaci np. szkoleń zawodowych Odejście od systemu rekrutacji opartego na streeworkerach na rzecz podejścia bazującego na: 1) „umiejscowieniu” Klubów w lokalnych realnych i wirtualnych (np. Facebook) sieciach, budowanie ich image na opiniach samej młodzieży, która poprzez swoje kontakty będzie rekrutować kolejne osoby; 2) lokalizacji klubów w miejscach łatwo dostępnych, ale dobrze skomunikowanych z miejscami, w których młodzież przebywa (np. skupiska szkół, burs, akademików, dużych osiedli mieszkaniowych; 3) tworzenie grup mających wspólną perspektywę poznawczą z racji wieku czy zainteresowań; 4) wypracowanie na podstawie doświadczeń z fazy testowania pakietu najbardziej popularnych aktywności, tak aby już od momentu startu Klubów można było zaproponować odbiorcom zestaw atrakcyjnych zajęć; 5) rozważenie „zahaczenia” instytucjonalnego niektórych Klubów przy placówkach mających stały kontakt z „młodzieżą po przejściach”, np. Centra Kształcenia Ustawicznego. Jasne określenie zasad współpracy LAR-ów z Klubami poprzez przyjęcie systemu bonów lub też jakiegoś niewielkiego wynagrodzenia. Działanie na zasadzie wolontariatu jest obciążone zbyt wysokim stopniem ryzyka dla potencjalnej stabilności działań Klubów. Wprowadzenie dla grupy wiekowej 19-25 l. możliwości zdobycia kwalifikacji zawodowych jako jednego z elementów pracy z odbiorcami. Strona50 5. Niska efektywność systemu rekrutacji odbiorców opartego na streetworkerach w ramach projektu Rekomendacje 50