21. 04. 2022
Algoritmus je dobrý sluha, ale zlý pán. Může zjistit a prozradit naše tajemství, podat o nás nepravdivou informaci nebo nám jakkoliv jinak ublížit. Na tento fakt upozorňuje v poslední době mnoho umělců, kterým umělá inteligence tak trochu „fušuje do řemesla“.
Na počátku letošního roku představila společnost OpenAI nástroj DALL·E, který dokáže generovat nejrůznější obrazy dle slovního zadání. To by samo o sobě nebylo zas tak zajímavé, kdyby tyto instrukce nemohly obsahovat relativně komplikované požadavky.
Do jejich programu lze například vložit větu „navrhni křeslo ve tvaru avokáda“ nebo „nakresli ilustraci fantastické bytosti spojující želvu s žirafou“ a jako odpověď získáte rozsáhlou sadu různých vizualizací. Velká většina z nich navíc dává smysl a najdou se mezi nimi i takové, které by zřejmě obstály před hodnoticí komisí na výtvarné škole. Aplikace je schopná kombinovat různé motivy a nabízet neotřelé návrhy právě proto, že její vstupní data byla pestrá a obsahovala vícero různých námětů.
Kde leží hranice této kombinační kreativity? Šlo by podobným způsobem připravit vstupní datasety i pro komplikovanější témata, například pro postmoderní umění, feministické umění nebo národní umění a poté generovat nová originální díla zobrazující podstatu těchto (často problematických) kategorií?
Na výstavě AI: All Idiots v pražské MeetFactory bylo možné podobný pokus vidět. Kurátoři přehlídky, kolektiv ScreenSaverGallery, naprogramovali robota, který prošel internetové stránky domácích autorů zařazených do katalogu Artlist a automatizovaně z nich postahoval různé obrázky.
Vznikla tak databáze obsahující přes půl milionu snímků představujících vše, co daní autoři publikovali na svých webech, od digitálních reprodukcí fyzických děl přes záznamy z performancí po momentky z vernisáží. Od grafického designu, přes klasickou malbu po site specific díla a multimediální instalace. Tato nesourodá sada následně posloužila jako vzor pro generativní algoritmus, který měl najít jádro českého umění a tvořit díla zachycující podstatu naší národní existence.
Smícháním všech barev na paletě nevznikne duha, ale jakási šedohnědá neurčitá hmota. Podobné je to i se vstupními daty. I kdybychom pominuli skutečnost, že význam současných uměleckých děl je z velké části tvořen kontextem, bez nějž samotná viditelná část nedává smysl, už jenom to, že každé médium říká něco jiného, muselo zákonitě vést ke zmatenému výsledku.
Ostatně datoví analytici a programátoři používají rčení „waste in, waste out“, které reaguje na fakt, že jsou-li vstupní data chybná, ani sebesofistikovanější způsob jejich zpracování z nich nedokáže vytvořit hodnotné výsledky. V MeetFactory tak nikdo nenašel odhalenou podstatu českého umění, ale jen tisíce podivně zmutovaných obrazců. Autoři experimentu si samozřejmě uvědomovali, že jejich metoda nenabídne zázračný klíč k národní identitě, a tak celou výstavu obalili patřičnou mírou nadsázky. Zdařile tím vystihli, jak zavádějící může být využívání neuronových sítí k řešení komplikovaných společenských otázek.
Autoři výstavy AI: All Idiots nejsou jediní, kdo si všimli problémů souvisejících s využíváním inteligentních algoritmů a pokusili se o jejich zviditelnění. Pokud jste na festivalu Ars Electronica 2018 vstoupili do interaktivní instalace Help Me Know the Truth od umělkyně Mary Flanagan, byli jste vyzváni k hodnocení obličejů zobrazovaných na desítkách displejů kolem vás.
Na obrazovce se vždy objevil pár podobně vypadajících tváří a jednoduchá otázka typu: Kdo je přátelštější? Kliknutím na displej jste uložili svůj názor a následně se vykreslila další, lehce modifikovaná dvojice. Kdo je mučedník? Kdo je oběť? Kdo je odvážný? Kdo je velkorysý? Kdo je lídr? V tomto duchu pokračoval sled dotazů pod měnícími se anonymními portréty, až se najednou objevila vaše tvář.
Jak se zorientovat v digitálních aktivitách a řídit je smysluplně a strategicky?
Třeba u otázky, kdo je terorista. Během vaší přítomnosti si vás stroj vyfotil, přidal do databáze a nyní i váš obraz fungoval jako součást systému, do nějž hosté festivalu ukládali své kulturní stereotypy. Podle nich nakonec algoritmus dokázal vytvořit obraz „dokonalého“ představitele daných předsudků.
Současné generativní algoritmy a technologie rozpoznávání obrazu představují dvě strany téže mince. Inženýři vyvíjející systémy strojového učení slibují vládám i soukromým společnostem, že budou moci z lidského vzhledu získávat nejrůznější informace. Několik firem již nabízí software, který na základě výrazu tváře pomáhá odhalovat osobnostní rysy uchazečů o zaměstnání.
V Číně vláda využívá sledovací kamery identifikující etnické menšiny a pro školy vznikají monitorovací systémy, které na základě pohybů obličeje a drobné mimiky detekují děti nedávající pozor. Experimenty využívající počítačové vidění dnes míří nejrůznějším směrem, snaží se klasifikovat, jaké má daná osoba politické názory, výši IQ, sexuální orientaci nebo sklony ke kriminalitě. Za všechny uveďme alespoň práci výzkumníků Siao-lin Wua a Si Čanga, kteří v roce 2016 prohlásili, že vycvičili algoritmus pro identifikaci zločinců fungující na základě tvaru jejich obličeje – a to s přesností 89,5 %.
Tyto a podobné pokusy směřují společnost zpět k sociálnímu darwinismu 19. století, kdy vynález fotografie propůjčil vědeckou podobu různým formám frenologie, fyziognomie a eugeniky. Fyziognomové jako Francis Galton a Cesare Lombroso tehdy vytvářeli vzorové obrazy zločinců, studovali chodidla prostitutek, měřili lebky a sestavovali pečlivé archivy označených snímků. To vše ve snaze využít nové technologie k odhalení vizuálních signálů při klasifikaci rasy, zločinnosti a různých odchylek od tehdejších buržoazních ideálů.
Příprava vzorové databáze je kritická záležitost, která rozhoduje o způsobech, jimiž umělá inteligence rozpoznává a interpretuje svět. Označí-li její autor „avokádo“, „křeslo“, „van Gogha“ nebo „žirafu“, obvykle se nejedná o rozporuplnou činnost. Jak ale ukazují výše zmíněné příklady, existuje také představa, že lze klasifikovat i kategorie typu „kriminálník“ nebo „terorista“, stejně jako emoce (štěstí, smutek, údiv) nebo abstraktní pojmy „svoboda“, „komunismus“ či „české umění“.
V těchto případech už vzniká řada kulturních a etických otázek, ne nepodobných tomu, kdyby se autoři rozhodli vycvičit neuronovou síť s cílem tvořit „zvrhlé umění“, „buržoazní umění“ nebo „primitivní umění“. Technicky by zřejmě bylo možné sestavit dataset podle děl vystavených v rámci nacistické přehlídky Entartete Kunst nebo v afrických sbírkách některého z velkých koloniálních muzeí a vycvičený algoritmus pak využívat při produkci (nebo posuzování) dalších uměleckých děl. Uplatňování takových hodnoticích kritérií by však mělo daleko k neutrální matematické auře, která se digitálním algoritmům často přisuzuje. Jednalo by se o pravý opak, o ideologicky zabarvené výstupy, v nichž by byly zakódovány dřívější omyly.
Kate Crawford a Trevor Paglen ve studii Excavating AI tvrdí, že v trénovacím souboru vždy najdeme implicitní předsudky, politiku a světonázory a že vstupní datasety zdaleka nejsou pouhými surovinami pro algoritmy, ale politickými zásahy: „Neexistuje žádný ‚neutrální‘, ‚přirozený‘ nebo ‚apolitický‘ úhel pohledu, na němž by bylo možné postavit tréninková data. Celé shromažďování obrázků i jejich kategorizace a označování je samo o sobě formou politiky. Je plné otázek o tom, kdo může rozhodovat, co obrázky znamenají a jaký druh sociální a politické práce tyto reprezentace vykonávají.“
Práce týmu ScreenSaverGallery i instalace Mary Flanagan s tímto názorem rezonují a zdařile zpochybňují experimenty využívající neuronové sítě ke klasifikaci abstraktních kategorií či osobnostních rysů. Ptají se, jak moc jsou tyto výsledky relevantní a do jaké míry je vůbec vhodné podobné pokusy provádět.
Automatizované křížení křesla s avokádem je pozoruhodný proces, který zřejmě udělá vrásky na čele jen nábytkovým designérům obávajícím se o své pracovní uplatnění. Inženýři v Silicon Valley ale právě implementují takto konstruované technologie do programů s bezpočtem různých zaměření, které promění nejen kreativní práci, ale celou společnost. Tyto aplikace mohou působit autonomně, mohou samostatně vytvářet kreativní výstupy okouzlující publikum, ale je to stále člověk, kdo nastavuje jejich základní logiku.
Od doby Michaela Nolla se sice změnila klíčová úloha vývojáře – od explicitní formulace pokynů k přípravě dat pro učící proces –, ale důležitost lidského zásahu zůstává stejná. Je akademickou otázkou, zda na tom či onom výstupu měl větší podíl tvůrce programu, nebo samotný algoritmus, a zda strojové učení je jen bezduchým opakováním naučených vzorů, či novou kreativní avantgardou. Zajímavější jsou otázky hledající limity a nedostatky těchto nových technologií a experimenty odhalující, jak tyto procesy fungují, kdo nastavil pravidla, podle nichž tvoří, a jaké hodnoty, postoje nebo předsudky tím zreprodukoval.
Převzato z článku Jak algoritmy myslí, tvoří a lžou, redakčně upraveno.
Praktický
Inspirující
Zábavný
Nic moc
