Povídání s ChatGPT: Jak myslí umělá inteligence a může představovat hrozbu?

Začnete-li si s někým neznámým psát na internetu, vždycky hrozí jisté riziko, že dotyčný není tím, za koho se vydává. Za profilovou fotkou krásné slečny se možná ukrývá obtloustlý muž, ze slušných pánů se mohou vyklubat extremisté a v podstatě neustále hrozí, že si z vás jen utahuje banda nevycválaných dětí. V posledních letech navíc technologický pokrok vráží do důvěry na internetu jeden klín za druhým prostřednictvím tzv. umělé inteligence neboli AI (z anglického „artificial intelligence“). Zmíněné programy dnes malují, skládají hudbu, píšou počítačové kódy a zvládají i řadu dalších činností, jež se dají automatizovat. O novou senzaci se pak koncem loňského roku postaral ChatGPT, který dokáže konverzaci s člověkem napodobovat naprosto dokonale. 

První kontakt

ChatGPT alias Chat Generative Pre-trained Transformer je tzv. chatbot, a má tedy za úkol textovou komunikaci. Zmíněné programy se nasazují třeba pro počáteční kontakt se zákazníkem, odpovídají na jednoduché dotazy či požadavky, a pokud vyhodnotí, že klient potřebuje zásah živého pracovníka, dovedou ho přepojit. Dosud šlo o relativně primitivní nástroje, které neuměly improvizovat ani zakrýt své nedostatky. Technologie strojového učení je však pozvedla na vyšší úroveň. 

Při strojovém učení se analyzuje obrovské množství zdrojů v podobě textů, obrazů, hudby atd. Na základě získaných dat umělá inteligence pochopí zákonitosti daného oboru a následně podle nich dokáže sama tvořit. Nejedná se tudíž o AI s vlastní motivací či vědomím, kterou si spojujeme s „živoucím“ programem. Chatbot „nepřemýšlí“ jako lidé, umí se však dokonale naučit, jak se něco dělá. Prohlédne si statisíce děl vytvořených člověkem a poté je zkouší imitovat tak dlouho, dokud nedosáhne uspokojující podobnosti. 

Píše, ale nechápe 

ChatGPT představuje program na analýzu jazyka. Pomocí indexace slov, frází a vět si vytvořil vlastní databázi významů, použitelnosti, emočního zabarvení a dalších prvků, které určují, jaké obraty v konkrétních situacích použít. Jednoduše řečeno nechápe, co jednotlivá slova znamenají; má však představu, jak je uplatnit v souvislém textu tak, aby dával smysl a držel se zadání. Daného rozhledu dosáhl studiem konverzací s lidmi, ale také rozborem internetových zdrojů, článků a obecně psaného slova. Zvládne tedy napodobit autorský styl a na pobídnutí napíše i pohádku, báseň, esej či delší pojednání na určené téma. 

Jeho úroveň „vzdělání“ je přitom natolik vysoká, že zvládl zkoušku pro získání manažerského titulu na Wharton School. Nicméně neprošel na výbornou, udělal pár překvapivých chyb v matematice a vysloužil si hodnocení B čili jedna minus. Ani popsaná forma umělé inteligence tudíž není dokonalá a její výsledky jsou pouze tak dobré jako informace, které si osvojí. S tím se přitom pojí rovněž řada etických otázek. Zatímco programátoři nechali ChatGPT studovat pečlivě vybrané a ideologicky nezávadné internetové zdroje, teoreticky nic nebrání, aby se chat učil z materiálů politických či náboženských extremistů a následně je šířil do světa. Program postrádá svědomí, slova jsou pro něj pouhými sadami znaků, a nemá proto problém například popírat holokaust nebo bagatelizovat masové vraždy komunistických režimů. 

Na hranicích etiky

Umělá inteligence Olivia od společnosti Paradox se osvědčila při náboru zaměstnanců pro fastfoodový řetězec McDonald’s: Dovede lidi prověřit, vyzpovídat a najmout skoro stejně dobře jako manažer při běžném pohovoru. Zůstává tedy jen otázkou času, kdy si za AI budeme chodit pro rady ohledně financí, zdraví a dalších citlivých témat. Obzvlášť v uvedených případech pak bude nutné zajistit, aby program poskytoval objektivní a nezaujatá data, protože jinak by mohl klient investovat do podvodných firem a péči o své tělo přenechat šarlatánům.

TIP: Umělá inteligence na malířském plátně: Blíží se soumrak malířů?

Společnost Google si rozhodně nechce nechat ujet vlak, a proto již oznámila spuštění vlastní aplikace Bard. Hodlá do ní však vložit etická pravidla, která jí zakážou mluvit o otázkách zdraví, financí a rasy. Také ChatGPT odmítá psát o žijících osobnostech, vyhýbá se subjektivním názorům, a dokonce se zdráhá předvídat vývoj světové situace. Jde o prozatímní řešení a v budoucnu se opatření jistě zlepší natolik, aby se témata nemusela tabuizovat. Momentálně se ovšem daná technologie překotně vyvíjí a legislativy zemí se nestíhají přizpůsobovat. Co navíc zabrání diktátorským režimům, které již dnes provozují tzv. trollí farmy a zahlcují sociální sítě dovedně skrytou propagandou, aby vyvinuly vlastní efektivní aplikace? Možná pak budeme potřebovat AI „agenty“ k odhalování jejich skrytých „protivníků“.