Doporučení pro využívání umělé inteligence na Právnické fakultě Univerzity Karlovy
1 Úvod k umělé inteligenci
Nástroje generativní umělé inteligence (AI) se za poslední rok staly součástí (nejen) akademické práce. Umějí nasměrovat na správnou výzkumnou otázku, pomohou na tuto otázku najít odbornou literaturu či dovedou provést možnými protiargumenty na předkládaná tvrzení autorky či autora práce. Mohou také pomoci s jazykovou a stylistickou úpravou práce. Dovedou však také skvěle napsat esej, a to i v pro autora typickém stylu, aniž by autor musel provést jakékoliv hlubší zamyšlení nad tématem. Tudíž stejně jako pro každou technologii, tak i pro tyto nástroje platí, že umějí být skvělý sluha, ale i značně zlý pán.
Z technologického hlediska není v současné době možné stoprocentně odhalit text vygenerovaný umělou inteligencí. Existuje ovšem celá řada indikací, že umělá inteligence byla použita. Ať už je se jedná o výskyt tzv. halucinací v textu, tedy situací, kdy si umělá inteligence vymýšlí fakta, nebo o některé opakující se fráze, které nástroje generují. V budoucnu nicméně je možné, že takové nástroje mít budeme.
V každém případě je nutné si uvědomit, že použití nástrojů umělé inteligence správným způsobem může atraktivní formou významně prohloubit vlastní znalosti, podstatně vylepšit kvalitu svých prací a zároveň se dobře připravit na podobu právnické profese v budoucnosti. Podobu, která bude znamenat ještě bližší propojení života právníka s technologiemi. Podobu, kde se bude kvalita právníkovy práce více než kdy předtím odvíjet od jeho schopnosti efektivně pracovat s moderními technologiemi. Podobu, ve které právník, který dobře porozumí používání umělé inteligence, zřejmě nahradí právníka, který nástroje umělé inteligence buď odmítá, nebo je nedokáže náležitě používat.
V současné době je na trhu celá řada nástrojů na bázi umělé inteligence. Způsoby využití a kvalita těchto nástrojů se neustále mění a vyvíjí. Používání všech nástrojů je navíc samo o sobě dovedností, kterou si studující mají osvojit.
Právnická fakulta Univerzity Karlovy vkládá plnou důvěru v morální integritu a intelektuální poctivost studujících a věří, že používání umělé inteligence povede nikoliv k prostému kopírování výstupů, obcházení vlastní intelektuální činnosti a podvádění, ale naopak k prohloubení znalostí, zkvalitnění výzkumu a k růstu všech studentek a studentů. V případě pochybností doporučujeme studujícím obracet se na vyučující a použití nástrojů AI s nimi konzultovat. Klíčové je, aby o nástrojích AI i výstupech z nich studující kriticky přemýšleli a používali je správně a eticky. Nepřiznané užití AI, které nahradí vlastní originální tvůrčí činnost studenta či studentky, může být považováno za disciplinární přestupek.
2 Seminární práce, kvalifikační práce a SVOČ
Pravidla pro citování v závěrečných pracích se v obecné rovině řídí opatřením děkana č. 17/2017. Dle tohoto opatření se pro citování v závěrečných pracích používá norma ISO 690 (s některými výjimkami). Poslední aktualizace normy ISO 690 proběhla v roce 2022 a zatím neobsahuje žádná pravidla pro citování umělé inteligence. Doporučujeme ale sledovat, zda v době od vydání těchto doporučení neproběhla další aktualizace, která pravidla zavedla.
Pro citování v seminárních pracích a SVOČ není stanovena žádná povinná norma. I tam se ale doporučuje forma citací používaná v závěrečných pracích.
Pravidla pro uvádění použití umělé inteligence se liší v závislosti na tom, jak ji autor či autorka použije. Hlavním rozdílem zde bude zejména to, zda byla AI použita pouze pro formální úpravu, nebo zda se jednalo o použití, které zasahuje do samotného tvůrčího přínosu práce.
Základní pravidlo zní, že při uvádění použití umělé inteligence doporučujeme řídit se stejnými pravidly, jako kdyby pro danou činnost byl využit člověk.
2.1 Jazyková a stylistická úprava práce
Použití aplikací pro úpravu gramatiky či stylistiky (např. Grammarly, DeepL Write) není nutné uvádět. Pro tento účel je možné využít také nástroje generativní umělé inteligence jako je např. Gemini, ChatGPT či jejich různé custom verze. I v takovém případě toto použití studující deklarovat nemusí, pokud nástroj skutečně použili pouze k formálním úpravám a kontrole textu. Takové použití není odlišné od toho, pokud by práce byla zkontrolována editorem nebo jinou třetí osobou.
2.2 Překlady
V obecné rovině není nezbytné uvádět, jak byl proveden překlad, a to ani v případech, kdy nebyla přímo použita umělá inteligence (tedy i v případech, kdy byl text přeložen přímo studujícím). Pokud bude chtít studující podobu překladu uvést, je buď možné uvést u konkrétního překladu v poznámce pod čarou informaci, jak překlad vznikl (např. „Přeloženo s pomocí nástroje DeepL“), nebo lze v metodologii práce blíže vymezit, jak bylo vytvořeno více překladů v práci a jaké nástroje studující k vlastním překladům užívali.
2.3 Organizace literatury a tvorba citací
Na trhu existují specializované nástroje, které usnadňují tvorbu citací nebo organizaci literatury (např. Zotero, Mendeley). Pro tyto účely je možné ale použít také custom verze GPT. Tento způsob použití umělé inteligence ani jiného automatizovaného nástroje není nutné nikde uvádět.
2.4 Vyhledávání zdrojů
Studující mohou použít automatizované nástroje využívající umělou inteligenci pro účely vyhledávání literatury (např. Consensus, Connected Papers, Scite atd.). Univerzitní metodika doporučuje toto použití uvést v rámci metodologie práce.
Příklad 1
Studentka píše práci na téma “pay or consent”. V rámci prvotní rešerše použije Connected Papers, ve kterých vyhledává podle klíčových slov “pay or consent” nebo “pay or okay”. Po nalezení prvotní literatury prochází odkazy na další literaturu a postupně přidává i jiná klíčová slova. Po prostudování literatury studentka sama vyhodnotí, jakou použije a jakou ne. V daném případě je vhodné tento postup pouze zaznamenat v rámci metodologie práce.
Příklad 2
Studentka si na základě četby relevantní literatury vytvořila sadu argumentů pro tvrzení ve své diplomové práci. Následně zadala v ChatGPT prompt, kterým chce na své argumenty nalézt možné protiargumenty. K vygenerovaným protiargumentům následně skrze ChatGPT nalezne autory, kteří tyto protiargumenty dále ve svých pracích rozvádějí. Tyto práce si následně přečte a na základě nich (a za současné řádné citace autora) svůj původní argument pozmění či obohatí. V tomto případě se doporučuje prosté uvedení skutečnosti, že pro práci byly využity nástroje umělé inteligence, na začátku práce v rámci metodologie.
2.5 Obrázky, schémata
Studující mohou umělou inteligenci také použít za účelem vytváření obrázku či schémat. Vzhledem k tomu, že obrázek ani schémata nebudou mít v takovém případě autora, doporučujeme také pod ně uvést, že se jedná o obrázek vygenerovaný AI a uvést daný nástroj (např. „Obrázek byl vygenerován pomocí Dall-E“).
Tvůrčí činnost. Zapojení AI do samotné tvůrčí, myšlenkové činnosti (tedy zapojení, kdy je ovlivňována myšlenková, tvůrčí stránka, nikoli stránka formální jako je překlad, jazyková a stylistická korektura...) je možné v případě, že bude transparentně identifikován rozsah a parametry takového zapojení. Pokud bude například docházet pouze ke kopírování či parafrázování výstupu umělé inteligence, měl by studující takovou pasáž označit, že jde o pasáž vytvořenou s pomocí AI¹.
Studující nemusí uvádět prompt, který použil, protože jeho replikace není vždy možná. Stejně tak není nutné dodávat odkaz přímo na konverzaci.
Závěrečné práce mají být odrazem samostatné tvůrčí činnosti autora či autorky. Toto kritérium je součástí hodnocení práce. Z tohoto důvodu je vhodné minimalizovat použití umělé inteligence pro generování rozsáhlého textu práce, který ovlivňuje obsahovou stránku práce. V současné době neexistuje žádný konsenzus na tom, do jaké míry je možné umělou inteligenci použít za účelem generování obsahu (a to i v případě, že autor či autorka jí sám/sama poskytne potřebná data). Takové užití by navíc mělo být v práci označeno a deklarováno (narozdíl od použití pro čistě formální účely).
V hraničních případech použití doporučujeme vždy konzultaci s vedoucím práce, který by měl posoudit, zda a v jaké míře je deklarování použití umělé inteligence nutné.
¹ Např. „Vytvořeno/shrnuto pomocí nástroje XXX“, případně lze uvést i čas použití.
3 Kontrola ze strany fakulty/komise pro obhajoby
Za veškeré chyby, jež vzniknou v souvislosti se zapojením AI, je odpovědný studující.
Jako součást hodnocení práce je možné požádat, aby studující prokázal způsob nakládání s užitými prameny včetně způsobu jejich obstarání, stejně jako posouzení práce s nástroji AI. Lze si vyžádat i podkladové materiály, které např. studující nahrál do nástroje AI.
Nepřiznané užití AI, které nahradilo vlastní originální tvůrčí činnost studenta, může být považováno za disciplinární přestupek.
Samotné použití umělé inteligence v závěrečné práci nemá být důvodem pro horší klasifikaci.
Důrazně doporučujeme průběžně svoji práci konzultovat s vedoucím práce, aby bylo možné konzultovat volené postupy a postupně vznikající části práce.
4 Na co si dát pozor
Studující by si měli dávat pozor, jaký obsah při používání umělé inteligence nahrávají, a to zejména u volně dostupných nástrojů generativní umělé inteligence, u kterých není vždy patrné, jak s nahranými daty pracuje. Studující by zejména neměli poskytovat AI nástrojům důvěrné, interní, chráněné, citlivé informace, zejm. pak takové, které podléhají mlčenlivosti, osobní údaje a další informace, které jsou svojí povahou neveřejné a nesmějí se dostat k neoprávněné osobě. Stejně tak je třeba ctít zásady ochrany duševního vlastnictví (např. neposkytovat AI díla chráněná autorským zákonem).
Studující by měl také vždy zkontrolovat výstup, který mu umělá inteligence poskytla. Umělá inteligence může uvádět nepřesné informace nebo si třeba vymýšlet paragrafy či fakta. Nástroje umělé inteligence také často generují obsah na základě tzv. web scrapingu. V takovém případě můžou být výstupem informace volně dostupné na některé webové stránce. Kvůli tomu může hrozit, že se studující nechtěně dopustí plagiátorství. Doporučujeme proto vždy umělé inteligenci např. poskytnout vlastní data nebo se dotazovat na použité zdroje a výstupy důsledně kontrolovat.
Používání umělé inteligence u klauzurních prací a státních závěrečných zkoušek
Není dovoleno využívat nástroje AI v případě klauzurních prací a písemných státních závěrečných zkoušek.
Používání AI při výuce (zejména v seminářích, při přípravě na výuku a zakončení předmětu)
V souladu s Doporučením pro akademické pracovníky Univerzity Karlovy se postupuje podle těchto zásad:
Je na rozhodnutí každého vyučujícího, které z nástrojů doporučí studujícím využít pro kterou z činností. Při zadávání práce je možné předem stanovit podmínky zapojení umělé inteligence. Vyučující může například studujícím stanovit povinnost uvést v rámci splnění úkolu, jak přesně postupovali a jaké nástroje použili. Stejně tak může vyučující dojít k závěru, že transparentní uvádění postupu je zbytečné. Pokud vyučující žádná pravidla nestanoví, vycházíme z toho, že lze používat jakékoli nástroje.
Příklad 3
Studující mají v rámci zakončení předmětu za úkol vypracovat licenční smlouvu podle parametrů zadaných vyučujícím. V rámci úkolu je dovoleno využít jakékoliv zdroje a nástroje. Vyučující stanovil jako pravidlo, že studující na konci musí ovšem uvést, jak přesně postupoval, tedy jestli si například nalezl vzor, použil pouze zákon nebo nechal některý nástroj, aby mu smlouvu vygeneroval.
Používání nástrojů AI u písemných kontrol studia může dovolit garant daného předmětu. Garant také stanoví, za jakých podmínek je použití možné.
Je úkolem vyučujícího/garanta jasně vysvětlit důvody, proč se případně rozhodne zakázat použití umělé inteligence studujícími pro konkrétní činnost. Pro některé úkoly lze naopak použití některých nástrojů konkrétním způsobem doporučit.
Podmínky použití umělé inteligence při psaní seminárních prací by měly být stejné jako v případě psaní závěrečných prací ve stejném předmětu.
Samotné použití umělé inteligence v rozsahu povoleném vyučujícím nesmí být důvodem pro horší klasifikaci.
Obecně by studující měli být motivováni k tomu, aby s umělou inteligencí zkoušeli pracovat a kriticky přemýšleli o jejím využití. Používání umělé inteligenci k zefektivnění práce a různých procesů se stává stále běžnějším. Je tedy důležité studující naučit tyto nástroje používat správně a eticky.
Pro více informací je možné navštívit stránku Univerzity Karlovy, která obsahuje další doporučení ohledně využívání umělé inteligence: https://ai.cuni.cz/AI-11.html
Praha 7. října 2024
prof. JUDr. Radim Boháč, Ph.D.
děkan fakulty
Dokument ke stažení zde
