Velká důvěra v právo a nadšení z možností právních řešení složitých situací je naivní. Po více než třicetileté praxi soudce si to myslí někdejší místopředseda Nejvyššího soudu Roman Fiala. Platí to i pro oblast AI, tedy umělé inteligence. Ta je podle Fialy „džinem vypuštěným z lahve“. „Myslím si, že je obtížné právem regulovat věci lidské, natož tuto problematiku, která je zjevně nelidská,“ uvedl na sympoziu České justice a Zdravotnického deníku „Právo a digitalizace – umělá inteligence ve zdravotnictví“.
Evropský parlament ve středu odhlasoval svou pozici pro jednání s členskými státy ohledně regulace umělé inteligence, tedy Akt o umělé inteligenci. Finální verzi regulace dohodne parlament s členskými zeměmi EU.
Návrh Aktu zavádí základní pravidla pro umělou inteligenci, vymezuje zákazy jejího použití a nastavuje podmínky pro vysoce rizikové oblasti. Pozice Evropského parlamentu reaguje i na dynamický vývoj tzv. generativních systémů umělé inteligence. Návrh bude nyní diskutován mezi Evropským parlamentem, Radou EU zastupující členské státy a Evropskou komisí.
Roman Fiala na úvod připomněl, že jeho účast na sympoziu pomáhal sjednat nedávno náhle zesnulý mluvčí Nejvyššího soudu Petr Tomíček. „Velmi jsem si ho vážil a rád bych tady na něj zavzpomínal,“ uvedl.
To, že v oblasti právní regulace AI zřejmě zvítězí procesní řešení nad hmotným, je podle něj klasická situace, kdy si politická reprezentace není jistá řešením. Procesní úprava je pak podle Fialy jakési alibi. „Je to procesní postup, který se volí vždycky a všude a který funguje, protože zbavuje ty, kteří to mají řešit, odpovědnosti,“ řekl Fiala na úvod své přednášky. Je to podle něj jako s mezinárodním právem. To platí pro malé, chudé a bezvýznamné, ovšem pro velké, bohaté a silné nikoliv.
Nejen AI, ale i mocenská situace, válka či migrace přináší podle Fialy otázky, které by měly být právně reflektovány, ale neděje se tak. „Normativní systémy, které máme, jsou na tyto situace nepoužitelné. Takže vytváříme určitou představu o dodržování práv, norem a systémů, které ale v zásadě nefungují,“ upozornil soudce Nejvyššího soudu. Už dříve se lidé stresovali tím, že nevědí, jak některé věci fungují.
Dnes podle Fialy nemáme potuchy o tom, jak funguje většina věcí, které každodenně používáme. Nerozumíme nejen věcem, ale ani společenským souvislostem. „A chceme právo, které by to normovalo a ujistilo nás, že je vše v pořádku. Dříve byl starý člověk nositelem moudrosti a zkušeností, které mohl předávat mladším. Dnes jsou zkušenosti a znalosti starých lidí ve většině oborů, zejména těch technických nebo biologických, pro mladé zcela bezcenné,“ myslí si soudce.
On sám umělou inteligenci dříve nebral vážně. Poté ho ale zaujalo, že odborníci vyzvali k tomu, aby se vývoj AI zpomalil. „Kdo to právo bude vytvářet, když právníci tomu také nerozumí? Bude to střet a hledání něčeho, co stěží uchopíme. Je to vlastně džin vypuštěný z lahve. My víme, že ho do ní už nenacpeme zpět, a tak jen hledáme tým odborníků, který řekne, podle jakých pravidel by se měl chovat,“ glosoval Fiala situaci kolem vývoje umělé inteligence s tím, že z dalšího vývoje má obavy.
„Touha zastavit čas, aby vše zůstalo takové, jaké to známe, se občas objeví v každém z nás. Když se bavíme o právu a medicíně, tak lékaři i právníci v určitých situacích jednají nejen racionálně, ale i na základě empatie a určitého citu k řešení situace. Je AI schopna jít cestou vytváření vzorců citu, které v sofistikované podobě budou fungovat jako lidské city?“ táže se Roman Fiala.
Rizika AI na sympoziu nastínil i prorektor Masarykovy univerzity Radim Polčák. Upozornil například na to, že umělá inteligence si dokáže vymyslet i judikaturu.
Regulací umělé inteligence se nyní na Ministerstvu spravedlnosti zabývá nová pracovní expertní skupina.
Na sympoziu dále vystoupili náměstek ministra spravedlnosti Antonín Stanislav, egyptolog Miroslav Bárta, Chief Information Officer AK Císař, Češka, Smutný Martin Vlasta, ředitel divize Medical Solutions OR-CZ Michal Mačát, ředitel Asociace pro aplikovaný výzkum v IT Jaromír Hanzal, spoluzakladatel Carebot s.r.o. Matěj Misař a manažer Aireen a.s Matěj Adam.
Eva Paseková
Článek vyšel na zpravodajském portálu Ekonomický deník, který stejně jako Zdravotnický deník patří do vydavatelství Media Network.
