31 ledna 2016

Kam jít studovat práva? „Ideální“ žebříček právnických fakult vs nepoužitelný pokus Hospodářských novin

Když vyšel 21. ledna v HN žebříček právnických fakult, rozběhla se v týmu Jiného práva emailová přestřelka, z níž vyplynula vůle se tématem dále zabývat. S Lukášem Hoderem jsme se úkolu ujali a ve snaze získat co nejvíce podkladů pro empirickou analýzu žebříčku jsem nakonec absolvoval i dlouhý rozhovor s paní redaktorkou Keményovou. Jak prozradím níže (pozor cliffhanger!), tato diskuze naneštěstí realizaci původního záměru potopila. Mezitím rovněž učinil první výkop s příspěvkem Jakub Drápal. S jeho závěrečným zhodnocením souhlasím a částečně se budeme i překrývat v obsahu, můj text se pokusím pojmout obecněji. Dobrý žebříček musí plnit svůj účel, přinášet relevantní data a poskytnout dostatek informací o způsobu výpočtu. Dále doložím, proč po mém soudu žebříček z HN selhává ve všech třech ohledech, na závěr zkusím zapojit i své konstruktivnější já.

Účel žebříčku

Žebříčky jsou extrémně užitečné nástroje, protože i poslední „troska za pětistovku“ chápe koncept pořadí od jedničky do … řekněme 50. Mnoho žebříčků je obecných, už méně si lidé ale uvědomují, že některé z nich slouží specificky pro konkrétní účel, typicky z hlediska své cílové skupiny. Jestliže budu připravovat žebříček pro zájemce o studium na VŠ, bude vypadat asi jinak než například žebříček hodnotící fakulty pro Akreditační komisi. Poznámka se zdá samozřejmá, bohužel se najde mnoho osob, které třeba z žebříčku HN odvozují závěry zcela nepřípadné.

Předchozí problém samozřejmě nelze zazlívat HN, ty svou orientaci na studenty otevřeně uvádějí. Z hlediska účelu mám proti jejich pojetí jinou námitku. Cílem žebříčků je zjednodušit nějakou složitou realitu, usnadnit srovnání. Chci například vědět, jakou má v ČR oproti ostatním státům světa podporu předseda fotbalového svazu. Díky žebříčku zjistím, že za námi už je jen Kiribati, kde globální oteplování proměnilo fotbalová hřiště v plochy na vodní pólo. Srovnání právnických fakult v ČR z tohoto pohledu dává malý smysl, neboť jich není jako zemí světa přes 200, ale pouhé čtyři. Neprozradím snad žádné velké tajemství, že 99 nestranných hodnotitelů ze 100 by je seřadilo v pořadí 1) Praha, 2) Brno, 3) Olomouc, 4) Plzeň, přičemž těsné to je pouze na prvních dvou místech. Umístění je logicky spjato s velikostí sídelního města a silou veřejného a soukromého sektoru v něm, vlivem mateřské univerzity, historií a tradicí fakulty, její velikosti atd. Pořadí nakonec potvrdil nepřekvapivě i žebříček HN.

To neznamená, že by každý zájemce o studium vybíral svou první volbu dle uvedené logiky. Pocitově se mi zdá, že naopak většina uvažuje mnohem přízemněji, typické je negativně korelované kritérium počtu kilometrů od rodičovského krbu. Ale i osoby zaměřující se na jiné stránky by neměly spoléhat na všeobecné pořadí. Tak zájemci o letní brigády v ZD Bílá Hlína se dostane nadšeného výkladu o právu pastvy nejpravděpodobněji v Olomouci a v Plzni třeba na semináře sportovního práva přijde Pavel Horváth komparovat zkušenosti s obsahem profesionálnách smluv ve SPARTĚ, u věčně druhých či u prádelníků. Má teze je vskutku jednoduchá: jestliže celkové pořadí žebříčku není opředeno tajemstvím a navíc jsou zájmy adresátů žebříčku různorodé, nemůže být výsledkem žebříčku pouze agregovat nějaká data a udělit medaile, ale poskytnout cílové skupině co nejvíce údajů, aby byl zájemce schopen vybrat si fakultu dle svých požadavků. Toto pojetí si HN neosvojily.

Podkladová data pro žebříček

Každý žebříček je založen na datech, které mají dokládat žebříčkem popisované skutečnosti (u HN srv. popis „metodiky“). Základními požadavky na kterákoliv shromažďovaná data je jejich validita a reliabilita (tyto termíny se fakt používají i v češtině!). Validitu lze vyložit tak, že data by měla co nejlépe odpovídat skutečnosti, kterou mají vyjádřit. Z širšího pohledu by i ona skutečnost měla co nejlépe vyjádřit to, o co mi vlastně jde. Vezměme si dva příklady z HN, důvodem selekce je jen a jen omezená délka postu:
  • Pedagogové: Záměrem je jistě dokázat kvalitu vyučujících na fakultě. Prvním kritériem HN je počet studentů na jeden úvazek - asi čím méně, tím lépe. Jde o kritériem ne zcela vypovídající, protože 50 externích částečných úvazkářů se bude studentům moci věnovat méně než deset lidí na plný úvazek. Ale budiž. Druhým kritériem je počet učitelů, kteří působili více než rok v zahraničí. Fajn. Konečně třetím pak počet vyučujících, kteří strávili v minulém roce aspoň pět dní za sebou pracovně v zahraničí. Mimochodem rozsah pěti dnů je před čtenáři skryt, metodika mluví jen o lépe znějícím „souvislém pobytu“. Musím se ptát, zda opravdu odlišuje binárně dobrého učitele od špatného, pokud ten první vyjede na pět dnů na slovenskou konferenci (i bez příspěvku!) či stráví týden procházením londýnských památek (omluva - akademický žargon - správně je výzkumem v knihovně...) a druhý sedí v kanceláři a poctivě z databáze EBSCO připravuje a načítá readery na semináře? Jak s vtipem jemu vlastním prohlásil na Facebooku Jan Kysela, nakonec bude asi pro studenty nejlepší ten vyučující, kterého studenti pro jeho zahraniční angažovanost vůbec neuvidí? Aby bylo jasno, konference jsou důležité pro osobní rozvoj učitele a stávají se základem pro dobré publikace, ale z vlastní zkušenosti vím, že X-tý přesun a náhrada semináře s odkazem na další luxusní cestu easyJetem studenty netěší, byť by můj paper byl přijat v konkurenci 50 jiných. 
  • Zájem o školu: Důležité kritérium, velký převis poptávky ukáže, o kterou školu je zájem a může dopředu ovlivnit volbu zájemců, například méně sebevědomý student to raději rovnou zkusí na méně exponovanou fakultu. Zaprvé HN sledují poměr přihlášených a přijatých. Ten není moc užitečný, řada osob se přihlásí všude a fakulty se přetlačují o stejný pool středoškoláků. Zadruhé je zde počet přijatých (bez odvolání)- to je opět pouze technická hodnota založená na počtu plánovaných studentů v prvním ročníku. U třetí položky se dotazník (jinde se to nedozvíte) ptá, "kolik z přijatých se skutečně zapsalo". Vidí již milovníci výkladu ono úskalí? Příklad: na fakultu se hlásí 4000 lidí, bere 400 (poměr 1 ku 10), v prvním kolem pošle příznivou zprávu 450 lidem (v HN druhá položka počet přijatých), jenže mnoho z nich upřednostní jinou fakultu/obor, takže k zaplnění 400 míst fakulta postupuje v seznamu zájemců stále níže (a posílá dopisy o přijetí), až třeba u místa 1650 konečně svých 400 míst zaplní. No jo, jenže pokud třetí otázka zní tak jak zní, fakulty logicky odpoví, že z přijatých se zapsali všichni, protože přijatý byl i ten na místě 1650. Vtip je samozřejmě v tom, že u třetí položky z předmětné otázky vypadlo slovo na odvolání či není výslovně navázána na položku druhou. Není pak divu, že zájem o školu vychází skoro všude stejně.  Jediným věrohodným kritériem zájmu o fakultu totiž je hranice skutečného přijetí, tj. na jakém místě v pořadí přihlášených se ocitl poslední přijatý student prvního ročníku, případně alternativně kolik lidí nastoupilo z první dávky přijatých.
Reliabilita označuje spolehlivost dat, tj. nakolik jsou objektivní a nakolik může někdo jiný při troše snahy opakovaně dojít ke stejným hodnotám. V žebříčcích jde o hodně a o to více zde platí heslo „důvěřuj, ale prověřuj“. Po mém soudu by se mělo vycházet nejlépe pouze z veřejně dostupných zdrojů. Naneštěstí HN zvolily pravý opak a založily žebříček většinově na dotaznících zaslaných na fakulty. Některé indikátory samozřejmě lze ověřit (body RIV, počty studentů), nevím, zda to tým tvůrců činil. U jiných ale rekonstrukce bez interního auditu fakult možná není (zahraniční cesty učitelů, počty cizinců, výjezdy studentů do zahraničí atd.), naštěstí zkušený statistik v takovém případě věří, že si všichni přidávají tak zhruba stejně a výsledky nejsou ohroženy :-)

Způsob výpočtu žebříčku

Konečně se dostáváme ke zlatému hřebu, totiž způsobu výpočtu. Žebříček HN s výjimkou šance na přijetí a nezaměstnanosti neposkytuje žádné reálné údaje, ty už jsou v tabulce určující pořadí přepočítány do jakýchsi „bodů“. Ani citovaná „metodika“, ani doprovodné texty jejich vytváření pořádně nevysvětlují a je nemožné nějakým racionálním způsobem výpočet zpětně indukovat (viz Jakubův pokus u vědy a výzkumu). V telefonátu s paní redaktorkou jsem se na postup dotázal a odpověď byla zhruba následující: „Tabulka vzniká na základě složitého výpočtu, různé kategorie mají různou váhu a přepočet, celá formule je však tajná a jedná se o naše know-how.“ Konec hlášení. Byl jsem ohromen a snažil se jí přesvědčit, že to jde proti všem zásadám práce s daty a že se tím poznatky ze žebříčku stávají bezcennými. Odpověď: 1) výpočet viděli rektoři a souhlasili, 2) kdybychom to ukázali, mohl by žebříček sestavit každý, 3) věřte nám, metodiku vytvářela specializovaná firma. Přesvědčivost důvodů nechť každý posoudí sám. Jasně, soukromá firma si může pořadí (či cifry v žebříčku) třeba vylosovat či prodat v aukci, ale pro mě je žebříček HN nevěrohodný. Co hůře, může být až nebezpečný, neboť popisuje stav věcí zdánlivě objektivními daty a vědeckými postupy. Snad by mohlo být užitečnější místo takových žebříčků podrobněji rozebrat obědové návyky paní Bakalové (respektive paní Bakaly?).

Jak by mohl vypadat „ideální“ žebříček?

Základní parametry logicky plynou z předchozích východisek. Domnívám se, že výsledkem žebříčku právnických fakult nemá být chytlavý titulek „Brno předstihlo Prahu“ (leden 2017: „Praha vrací úder a je před Brnem“), ale snaha poskytnout studentům co nejvíce informací o kvalitě studia na fakultách a dovolit jim „prohlédnout“ metodu tvorby žebříčku. V první řadě to znamená zpřístupnění veškerých obsažených dat, jasný popis hodnocených kategorií a nakonec i způsobu výpočtu včetně příslušných vah kategorií. Není samozřejmě důvod toto "know-how" nijak chránit, hodnotu pro HN by měla exkluzivita při prvotním zveřejnění, nikdo neukradne volně přístupnou metodiku s tím, že udělá "vlastní" žebříček (čím by se odlišoval od původního?). Stačí se v tomto podívat na transparentnost nejznámějšího žebříčku právnických fakult v USA. Druhým požadavkem je zmíněná věrohodnost použitých údajů (dat), současné fakultní výroční zprávy a internetové stránky (včetně informačních systémů) nebo veřejně přístupné databáze obsahují kvanta informací. Uznávám, že by to bylo časově i jinak náročnější, než rozeslat čtyři dotazníky…

Nejsložitější otázkou se jeví výběr správných údajů pro posuzované skutečnosti (validita). Neexistuje zde žádný objektivně nezpochybnitelný seznam parametrů a vždy se najde řada námitek, proč zrovna indikátor X je zavádějící nebo nepřesný. Jedno protiopatření je jednoduché: čím více parametrů uvedeme, tím více jich mohou zájemci posoudit a ty pro ně nepřesvědčivé či nezajímavé nezohlednit. Dále uvádím nesystematické příklady vybraných indikátorů, které mě napadly při dnešním běhání:
  • Zájem o školu: viz shora výpočet reálného zájmu. 
  • Věda: jak všichni ví, RIV nezohledňuje příliš kvalitu, tak proč nezařadit i parametry typu 1) počet článků vyučujících fakulty v časopisech s impakt faktorem (kvalita k zahraničí, už to měl kdysi v žebříčcích Tomáš Němeček), 2) počet článků vyučujících třeba v Právníkovi a Právních rozhledech (kvalita k tuzemsku), 3) počet článků vyučujících v Soudních rozhledech a Bulletinu advokacie (kvalita k aplikační praxi); nikde se neobjevuje úspěšnost při získávání vědeckých grantů, tak co 4) počet získaných grantů/prostředků z GAČR a TAČR. 
  • Výuka: pro zájemce je důležité, jaká je pravděpodobnost dostudování, proto 1) kolik ze studentů nastoupivších do prvního ročníku a) nastoupí do druhého ročníku, b) úspěšně ukončí studium do šesti let po nástupu; indivindy přístup má svou váhu, takže 2) průměrný počet osob zapsaných průměrně v seminářích klíčových předmětů typu občanské právo či trestní právo, 3) počet diplomových prací v průměru vedený vyučujícími schválenými pro vedení těchto prací; řada lidí se chce dnes specializovat na určitou oblast práva, tudíž 4) poměr povinných a volitelných předmětů v celkovém počtu požadovaných kreditů. 
  • Pedagogové: zde jsem skeptický k jakýmkoliv kvantifikovatelným indikátorům, to použitelné se překrývá s výukou (diplomky atd.), snad 1) průměrný počet hodin vyučovaných odborným asistentem/docentem/profesorem; lépe finančně uspokojený pedagog hledá méně vedlejšáků a více se snaží, takže 2) průměrný plat včetně odměn odborného asistenta/doc/prof. 
  • Internacionalizace: u práva poněkud moot kolonka, moc cizinců (počítají se mimochodem v HN i Slováci?) se asi naše právo poznávat nechystá, stejně tak účast na Erasmu je pro řadu lidí spíše brzdou včasného ukončení studia, ale budiž 1) počet zahraničních vyučujících nabízejících aspoň jednosemestrální kurz, 2) počet Erasmus míst nabízených na 200 nejlepších právnických fakultách v Evropě.

Závěr

Proč vše neposunout ještě dále? Při zveřejnění podkladových dat na internetu je už jen technickou záležitostí umožnit zájemcům (například prostřednictvím interaktivní tabulky) přidělit indikátorům váhy dle jejich priorit a tak si vytvořit žebříček na míru. Když se nad tím tak zamýšlím, proč by vlastně podobnou službu nemohly vyvinout a naplnit daty ve spolupráci (a vlastní režii) všechny české právnické fakulty? Pochvaly či finanční odměny za tento geniální nápad rád přijmu.

Disclaimer: Autor působí na Právnické fakultě UP v Olomouci, může nicméně všechny ujistit, že jeho motivací při psaní textu nebylo dané instituci ani přilepšit, ani ublížit :-)




9 komentářů:

Michal Malkovský řekl(a)...

Takže bude žebříček JP?:)

Zdeněk Vrba řekl(a)...

Ono je otázka, jak měřit kvalitu právníků. K čemu je v praxi nepoužitelný student, který byl ve škole premiant
P.S. Napadá mě odpověď, že z něj bude vyučující. A o to horší to reálně v dané škole bude. A že takových vyučujících je.

Tomáš Pavelka řekl(a)...

originálním způsobem univerzity seřadili v prosinci 2015 výzkumníci z Université Franche-Comté - pomocí hloubkové rešerše zmínek o té které VŠ napříč jazykovými verzemi Wikipedie zjišťovali její celkový "impact". http://www.technologyreview.com/view/544266/wikipedia-mining-algorithm-reveals-worlds-most-influential-universities/

Některé uni v top 20 možná překvapí. Že celou statistiku ovládla Cambridge ale nikoho zaskočit nemohlo ;)

Robert Zbíral řekl(a)...

Ono je otázka, co podobný příspěvek chce říct, jestli je v moderní mluvě tzv. konstruktivní :-)

Nevím, jaké jsou vaše osobní zkušenosti, ale naprostá většina premiantů z fakult je v praxi velmi úspěšná, naopak to jaksi není pravidlem. Asi i při náboru v advokátce raději vezmou studenta, který měl dobré známky, účastnil se mootcourtů a vyhrál SOČ, než toho, který si vše zopakoval dvakrát.

Jinak jste přesně potvrdil, že existují osoby nechápající účel určitého žebříčku. Tento má za cíl měřit kvalitu fakult, nikoliv právníků či jejich úspěšnost v praxi. Něvěřím, že by očištěná proměnná kvalita školy měla statistický významný vliv na to, jak bude který člověk v praxi úspěšný.

Tomáš Sobek řekl(a)...

Myslím, že nepotřebujeme něco jako celkový žebříček. Ten je součtem velmi rozmanitých kritérií, přitom jednotlivce vždy zajímá jenom něco z toho. Možná by bylo zajímavější si klást více konkrétní otázky. Například: Chci se stát praktikem v oblasti civilního práva. Kterou z tuzemských právnických fakult byste mi doporučili (a proč)?

Robert Zbíral řekl(a)...

Troufám si tvrdit, že mé pojetí se s tvým přece zcela shoduje. Každého zájemce o studium zajímá něco jiného, což ale znamená, že bychom měli poskytnout co nejširší základnu toho "něco". Interaktivní tabulka umožní, aby si vybral jen to své. Celkové pořadí bude pro zájemce jen pomůckou, ne cílem...

Tvůj konkrétní příklad jde jiným směrem, myslím ale, že naprostá většina středoškoláků takto není ještě schopna uvažovat a postrádá vizi svého dalšího směřování (já ji taky neměl...). Přemýšlím spíš, zda by nebylo dobré kvantitativní data doplňit i kvalitativním rozborem a nechat třeba (v případě existence internetové stránky, kde by se to dalo zavěsit) sepsat dva čerstvé absolventy z každé fakulty kritické pojednání o výhodách a nevýhodách jejich alma mater.

Robert Zbíral řekl(a)...

Původně jsem chtěl jako poslední větu napsat, že pokud se toho neujmou fakulty, mohli bychom to na JP příští tok udělat :-)
Opravdu si ale myslím, že pokud mají právnické fakulty v ČR v zásadě nepříliš navzájem konkurenční oligopol, podobný projekt by z jejich strany dával smysl: konsenzuálně by se dohodly na parametrech (včetně těch hovořících pro ty menší), dodají data, dohlédnou na využití atd. Hodnověrnost takového žebříčku by byla vysoká, protože by se samozřejmě fakulty "kontrolovaly" navzájem.
Pokud ale z tohoto mráčku nezaprší či rukavici nezvedne někdo třetí (HN verze 2.0?), budu prosazovat, aby do toho šlo JP...

Robert Zbíral řekl(a)...

Dovolím si ještě sdílet odkaz na námitky k žebříčku od katedry sociologie FF: http://ksoc.ff.cuni.cz/2016/02/01/v-zebricku-hospodarskych-novin-chybi-katedra-sociologie-filozoficke-fakulty-uk/

Nepřekvapivě se v mnohém překrývají, že by to v HN fakt dělali blbě? :-)

Libor Pikna řekl(a)...

Chcete-li něco tak exotického, jako stát se praktikem v oblasti soukromého práva, je v zásadě jedno kam půjdete. Nenaučí Vás to nikde.

Obecně je problémem všech takových žebříčků to, že k problému přistupují z opačné strany. Hodnotí fakulty podle toho, jaké jsou, namísto toho, aby byly hodnoceny podle toho, nakolik se blíží k tomu, jaké být mají.

Výsledkem takového přístupu je pak logicky to, že se kvality fakult poměřují podle naprosto mimózních kritérií. Jako je počet studentů, které dokáží vyslat na Erasmus, aby se rok opíjeli někde ve Španělsku. Popř. podle toho, kolikrát dokáže nějaký jejich akademický pracovník publikovat tentýž bezobsažný článek v různých časopisech.

Na druhé straně se mlčky přihlíží stavu, kdy se cíleně pohrdá výukou praktického právního řemesla jako čímsi nízkým a nepatřičným. A namísto toho se ročně produkují tisíce "právních vědců", kteří ovšem nedokáží vyjmenovat ani definiční znaky odpovědnosti za škodu.