Lev, AI a trivium
- Vojtěch John
- 26. 10.
- Minut čtení: 3
Vzpomínám si, jak mě překvapilo, když papež Lev XIV. v prvních dnech svého pontifikátu několikrát zmínil umělou inteligenci jako jedno z hlavních témat, kterému by církev měla věnovat pozornost. Zdá se ale, že pro to má dobré důvody.
Nejde jen o množství falešných, umělou inteligencí generovaných videí, kde papež kupříkladu ruší zpověď[1] nebo prozrazuje[2], proč byl zabit Charlie Kirk. Se stále větším využíváním umělé inteligence přicházejí společenské změny přinejmenším stejně výrazné jako industriální revoluce a bude úkolem církve poskytnout morální rámec pro orientaci v nových problémech, které s sebou takové změny vždy přinášejí. Takový rámec je jistě zapotřebí už s ohledem na množství a různorodost silných reakcí, které AI technologie budí. Od chmurných proroctví o zkáze lidstva až po transhumanistické představy ráje vybudovaného a udržovaného novými technologiemi – téměř není budoucnosti, která by nikým nebyla očekávána. Trochu to připomíná úvod Chestertonova Napoleona z Notting Hillu – jediné, co by nás ještě překvapilo, by bylo, kdyby se nijak zvlášť nezměnilo nic.
Zatím zřejmě nejzávažnějším církevním dokumentem o AI je společná nota dikasterií pro nauku víry a pro kulturu a vzdělávání Antiqua et nova[3], vydaná v lednu 2025. Tento dosud vesměs přehlížený text nabízí komplexní pohled na problematiku AI, vyhýbaje se víceméně úspěšně Scille přehnaného technooptimismu i Charybdě apriorní podezíravosti k technologickému pokroku. Velká část textu je věnována antropologii. Svádí-li nás schopnosti velkých jazykových modelů k podezření, že mezi lidskou inteligencí a AI není žádný principiální rozdíl, Antiqua et nova upozorňuje, že simulace některých aspektů lidské inteligence ještě není totéž jako tato inteligence samotná – ztotožnit je lze jen za cenu zásadní redukce lidského prožívání právě na ty prvky, které může technologie snadno napodobit. Bohužel mnoho lidí je ochotno bez mrknutí oka takovou redukci přijmout; zřejmě na základě úvahy, že co je skutečné, je nutně matematicky popsatelné, a tedy simulovatelné. Takový postoj je u lidí, kteří se systematicky zabývají právě vytvářením technologií napodobujících lidské chování, jistě pochopitelný.
Zvlášť užitečné mi v této souvislosti přijde rozlišení mezi ratio, logickým odvozováním, a intellectus, přímým racionálním vhledem. Umělá inteligence umí dobře napodobit ratio, nikoli intellectus. Pokud jsou tedy zamýšlenými čtenáři tohoto textu výzkumníci v oblasti AI, dá se očekávat, že tento příklad bude patřit k účinnějším. Mají totiž s rozdílem mezi ratio a intellectus bohaté osobní zkušenosti – při studiu matematických důkazů bývá rozdíl mezi porozuměním formální správnosti jednotlivých kroků (ratio) a okamžikem, kdy do sebe tyto kroky zapadnou a důkaz začne „dávat smysl“ (intellectus). Tentýž dokument shrnuje etické principy pro vývoj a možná využití AI v různých oblastech od medicíny po válku, upozorňuje na její společenské a ekologické dopady, její možná zneužití (zejména vzhledem k tomu, že inovace v této oblasti jsou víceméně v rukou několika málo soukromých společností) až po možné zbožštění AI jakožto objektivní, nadlidsky inteligentní „bytosti“. Je to asi nejlepší text na toto téma, jaký znám. Tolle, lege.
Mnoho potíží spojených s AI se nás přímo netýká, jiné může většina z nás jen těžko vyřešit. Co můžeme dělat kromě čekání na další papežský dokument o AI? Napadá mě jedna věc: snad poprvé v dějinách není naším problémem nedostatek informací, ale jejich přebytek. Neumíme-li s nimi zacházet, hrozí, že se v nich ztratíme. Nejsme-li schopni rozeznat dobrý zdroj a dobrý argument, přijmeme prostě první odkaz, který nám internetový vyhledávač nabídne, nezávisle na tom, jak relevantní je[4]. Umělá inteligence není v tomto ohledu o nic lepší (např. ChatGPT toto zkreslení sdílí[5]), spíš naopak; shrnutí od AI má jistou auru neomylnosti nebo aspoň objektivity. Je tedy zvlášť potřebné, abychom byli schopní rozeznat dobré a relevantní zdroje a dobré a relevantní argumenty od špatných a nerelevantních. S tím souvisí i komplementární potřeba umět dobré argumenty dobře sdělovat. Jak už ve čtyřicátých letech navrhovala[6] Dorothy Sayersová, částí řešení by mohlo být začít (se) znovu učit středověké trivium. Bude-li to znít moderním uším urážlivě, možná by stačilo neříkat gramatika, dialektika a rétorika, ale „všeobecný přehled“ (středověká gramatika zahrnovala i mnoho znalostí z historie, geografie atd.), „kritické myšlení“ a „komunikační schopnosti“?
[2] Pope Leo XIV Breaks Silence On Charlie Kirk’s Murder | A Dire Warning For Christianity | Youtube
[3] Antiqua et nova - Note on the Relationship Between Artificial Intelligence and Human Intelligence
[4] Jiawei Chen, Hande Dong, Xiang Wang, Fuli Feng, Meng Wang, and Xiangnan He†. 2020. Bias and Debias in Recommender System: A Survey and Future Directions. 1, 1 (December 2020), 38 pages. Dostupné z: https://arxiv.org/pdf/2010.03240
[5] Wang, Yiwei, et al. "Primacy effect of chatgpt." arXiv preprint arXiv:2310.13206 (2023). Dostupné z: https://aclanthology.org/2023.emnlp-main.8.pdf
[6] Dorothy L. Sayers: The Lost Tools of Learning. Dostupné z: https://www.pccs.org/wp-content/uploads/2016/06/LostToolsOfLearning-DorothySayers.pdf
