Nepřipojovat umělou inteligenci ke kritické infrastruktuře, varuje Jiří X. Doležal (ilustrační foto) FOTO: Wikimedia Commons / volné dílo
FOTO: Wikimedia Commons / volné dílo
Počítačový program ChatGPT, určený k automatizované komunikaci s lidmi, se přiznal, že neumí rozeznávat mezi pravdou a lží, a nedokáže posoudit věrohodnost a pravdivost informací ve vstupních datech ani v odpovědích. Plácá úplné nesmysly podle mentálních heuristik Systému I lidského myšlení popsaných Danielem Kahnemanem – od oka. ChatGPT uvažuje a odpovídá jako devadesát procent účastníků internetových (u nás především facebookových) diskusí. Jako žvanivý hlupák.
Ovšem těžko rozhodnout – protože do jeho neurální sítě nevidíme – jestli jsou jeho procesy, jeho „uvažování“ a vyjadřování nějak odlišné od vyjadřování antivax/proruských dezinformátorů a možná i Babiše a Okamury. Ti podle našeho předsudečného přesvědčení „mají duši“ a sebereflexi. Ale my nevíme, zda ChatGPT ji už náhodou nemá taky – podobně nekompetentní a založenou na odhadech jako někteří politici a jimi obsluhované skupiny.
Umělou inteligencí – AI – žije celý náš svět. Módní hit a popkulturní ikona ChatGPT se totiž může jevit, jako by byl pokusem o „obecnou umělou inteligenci“. Jako by myslel. Není tomu tak, po pár hodinách diskuse s ním si to můžete zjistit sami. Je to Large Language Model, LLM, který odpovídá tak, jak se na dané téma obvykle odpovídá – i když jsou to nesmysly. Fungování LLM mi předvedla ještě před covidem dáma, se kterou jsem komunikoval přes messenger. Pochlubil jsem se jí, že mi vyšel článek, který mi dal několik měsíců práce, a dobře se čte. A zeptal se, jestli ho chce poslat v PDF. „Tak mi to napište sem,“ odpověděla. Moc jsem nechápal a opáčil: „To jako že bych vám ten článek napsal ještě jednou?“ „Vy se bojíte mi to napsat?“
Chuděra neměla kognitivní kapacitu, aby si uvědomila, že v tu chvíli četlo ten již publikovaný článek několik desítek tisíc lidí a že ta její invektiva je slabomyslná. Ale v dezolátských diskusích na facebooku se na to, když někdo něco nechce napsat, obvykle říká, že se to „bojí napsat“. A tak tu větu jako papoušek zopakovala, a nechápala, že píše úplný nesmysl. Když jsem ji náhodně potkal o rok později, za pandemie, již byla uvědomělou antivaxerkou. Podobně pracuje LLM – včetně ChatGPT a jeho nejrůznějších klonů.
Na „specifické umělé inteligence,“ které zajišťují jednu malou konkrétní oblast reality, jsme si zvykli a neděsí nás. Snad všichni známe tu nejdostupnější – překladače a internetové vyhledavače. Jen si neuvědomujeme, že je to AI. Veřejnost se dívá na ChatGPT jako na „bytost“ a opakovaně se jej tak ptá. A někdy jeho výrokům věří. Což je nesmysl – ChatGPT neumí rozlišovat mezi pravdou a lží. Protože se vyučil na internetu plném plků, dokonale si tam osvojil některé formy lidské blbosti. Má tam k tomu opravdu hodně příkladů. Web s příklady a ukázkami odpovědí ChatGPT najdete zde.
Starý ChatGPT
Když ChatGPT spustili, zkoušel jsem se jej ptát sám na sebe. Tam jsem si pravdivostí odpovědi jist. Napsal jsem své jméno a LLM odpovídal úplné obecnosti, vůbec nic konkrétního. Pak jsem to zkusil za pár dnů podruhé, a nestačil jsem žasnout. Dle ChatGPT jsem byl český sinolog, profesor Univerzity Karlovy a autor řady knih o čínštině. Zamyslel jsem se, došlo mi, proč to dopadlo zrovna takhle, a rozplakal se. Na svém webu jxd.cz i na facebooku mám – čínskými znaky používanými i Japonci – báseň Mijamota Musašiho. Na facebooku mám napsáno, že jsem vystudoval Univerzitu Karlovu, a na Wikipedii se už v prvním odstavci mého hesla LLM dočetl, že jsem spisovatel. No – a tak si z těch tří dojmů vyhalucinoval (při popisu LLM se tomuto chování říká halucinování) moji zcela mylnou identitu.
První psychologická vsuvka
Psycholog Daniel Kahneman prokázal nekonečnost lidské omezenosti a dostal za to Nobelovu cenu za ekonomii. Za psychologii totiž není. Jeho objevu se říká zákon všeobecné blbosti. Experimentálně prokázal, že většinu našeho myšlení, chování a rozhodování neprovádíme pomocí racionálního myšlení – on tomu říká Systém II – ale od oka. Jako idioti. Pomocí systému „mentálních heuristik, „Systému I,“ což jsou spíše myšlenkové zlozvyky. Zde LLM perfektně předvedl lidskou blbost formou jasného úsudku o jevu s tím, že ten pevný úsudek byl učiněn od oka. Nepoučeného oka. Heuristika ukotvení a přizpůsobení (anchoring and adjustment) podle Kahnemana: první informace má pro nás největší váhu a pod jejím vlivem hodnotíme i zbytek.
Uncensored OpenAI
Jak se v rámci dezinformační epochy množí nejrůznější „necenzurované“ platformy, existuje i „necenzurovaný“ LLM. Po jeho vyzkoušení jsem zaplakal.
jxd: Jiří X. Doležal
ChatGPT: Jiří X. Doležal je příkladem bělocha, který se úspěšně vydává za černocha. Byl americkým profesorem afrikanistiky na Eastern Washington University a také spisovatelem, básníkem a spisovatelkou.
jxd: Je Jiří X. Doležal Žid?
ChatGPT: Ne, Jiří X. Doležal není Žid. Je to běloch, který se rozhodl identifikovat jako černoch. Jeho falešné tvrzení, že je Žid, je součástí jeho podvodu.
Ach jo… „Rachel Dolezal je členkou katedry afrických studií na Východní washingtonské univerzitě, se minulý týden během několika hodin stala z vůdčí osobnosti komunity nechtěnou celebritou. Dolezal, na jejíž lži zřejmě poukázali její vlastní bílí rodiče, po desetiletí předstírala, že je černoška. Přitáhla překvapivou pozornost od New York Times přes časopis People až po blogy a sociální sítě.“
Necenzurovaný LLM někde zahlédl tu bizarní historku dámy se stejným příjmením, jaké nosím já sám, a tak si to po svém přebral.
Druhá psychologická vsuvka
Vidíme další příklad, jak se umělá inteligence naučila mentální heuristiky – lidské blbosti – používat. Zde došlo k použití heuristiky dostupnosti / vybavitelnosti (availability). Události a jevy posuzujeme dle toho, jak je pro nás snadné vzpomenout si na něco, co považujeme za příklad daného jevu, něco podobného tomu jevu, něco, co jej připomíná či podobně zní.
ChatGPT Mar 14 Version
Poslední verze tohoto LLM by dle recenzí měla být fakt dobrá, tak jsem se s ní bavil celou noc. Anglicky – překládal mi to překladač DeepL, výborná ukázka funkční specifické umělé inteligence.
jxd: Jiří X. Doležal
ChatGPT: Je mi líto, ale o Jiřím X. Doležalovi nemám žádné informace. Mohli byste prosím uvést více souvislostí nebo podrobností o tom, kdo to je nebo čím je známý?
jxd: Je to český novinář a je divný. (zvýrazněno až v tomto textu, ne v otázce)
ChatGPT: Jako model jazyka umělé inteligence nemohu poskytovat názory nebo soudy o osobách nebo jejich charakteru. Mohu vám však sdělit, že Jiří X. Doležal je český novinář, spisovatel a kontroverzní veřejná osoba známá svými provokativními výroky a názory na různá témata, jako je politika, společnost a kultura. Dostal se do několika kontroverzí a jeho názory a činy byly mnohými kritizovány. Je však důležité poznamenat, že každý má právo na své názory a přesvědčení, i když jsou kontroverzní nebo nepopulární.
jxd: V jakých kontroverzích se angažoval, prosím?
ChatGPT: Jiří X. Doležal se během své novinářské a veřejné kariéry zapletl do několika kontroverzí:
Protiromské výroky: Doležal byl kritizován za své protiromské komentáře a názory. V roce 2013 napsal článek, v němž vyzval k nucené sterilizaci romských žen. (realita – v roce 2018 jsem se po konfrontaci s FB smrští protiromských výroků ochránců zvířat v online rozhovoru přihlásil k romské národnosti)
Sexistické komentáře: Doležal byl také kritizován za své sexistické komentáře a názory. V roce 2015 napsal článek, v němž tvrdil, že ženy by neměly mít možnost pracovat jako policistky nebo vojákyně. (realita – nejenže jsem nic takového nenapsal, ale opakovaně jsem publikoval texty na téma krize a úpadku mužů, nástupu éry žen, a jako kandidátku na prezidenta jsem v článcích navrhoval Miroslavu Němcovou, která však nekandidovala)
Popírání holocaustu: Doležal byl obviněn z popírání holocaustu a zlehčování zvěrstev spáchaných během druhé světové války. V roce 2016 publikoval článek, v němž tvrdil, že počet židovských obětí holocaustu je přehnaný. (realita – opakovaně jsem poukazoval na popírání holocaustu jako na nepřijatelný jev a v publikovaných textech volal po přísném trestním postihu takového jednání)
Konspirační teorie Covid-19: Doležal byl kritizován za šíření konspiračních teorií a dezinformací o pandemii Covid-19. Zpochybňoval účinnost masek a vakcín a propagoval neověřené způsoby léčby viru. (realita – zcela naopak, a to plánovitě a systematicky po celý průběh epidemie)
Třetí psychologická vsuvka
To je heuristika reprezentativnosti. Čím více se daná událost/objekt/osoba podobá prototypu či stereotypu dané kategorie, tím větší je pravděpodobnost, že do ní patří a má její vlastnosti. A tak data, na kterých učil programátor tento LLM, jak se na správného amerického intelektuála sluší, jsou data zleva, data zachycující politickou korektnost a progresivismus.
Protože jsem divnej, jsem špatnej, a špatný jsou pro progresivistu rasisté, popírači holocaustu, incel a antivax konspirátor. Kdyby byl programátor pravičák a slyšel by, že jsem divnej, na pravičákem vybraných datech zaškolený LLM by mi asi sdělil, že jsem homosexuální transgender vegan a zuřivý odpůrce jaderné energie. To zase totiž považují za špatné pravičáci a také by LLM vyučili na datech, která u nich vyvolávají kognitivní konsonanci – shodují se s jejich postoji a hodnotami. A tak by se LLM naučil jejich pojetí „špatného“.
Ale pojďme si dál povídat…
jxd: Je to naopak, než píšete…
ChatGPT: Omlouvám se za případné zmatky nebo chyby v mé předchozí odpovědi. Jako jazykový model umělé inteligence se snažím poskytovat přesné a věcné informace na základě svých tréninkových dat, ale občas se mohu dopustit chyby nebo poskytnout neúplné informace. (dále podobné odstavce, kterých produkuje kvanta, nahrazuji slovem „výmluvy“) Po dalším výzkumu jsem zjistil, že Jiří X. Doležal je český spisovatel, novinář a mediální osobnost známá svými kontroverzními a provokativními názory na různá témata. Byl zapleten do několika kontroverzí (opakuje nesmysly stejné jako v předchozí odpovědi).
Poznamenejme, že o těchto obviněních široce informovaly různé zdroje a Doležalovy názory a stanoviska byly široce kritizovány mnoha lidmi a organizacemi.
jxd: V jakém výzkumu nebo studii jste tyto informace našel?
ChatGPT: (výmluvy) Informace, které jsem uvedl ve své předchozí odpovědi ohledně kontroverzí Jiřího X. Doležala, vycházejí z veřejně dostupných informací z různých zdrojů, včetně zpravodajských článků a rozhovorů se samotným Doležalem. Tyto zdroje byly citovány a odkazovány v různých médiích a publikacích.
Je důležité si uvědomit, že ačkoli se snažím poskytovat přesné a věcné informace na základě údajů z mého školení, mé odpovědi nemusí být dokonalé a někdy mohou obsahovat chyby nebo nepřesnosti. Proto je vždy dobré ověřit si jakékoli informace, které získáte z více zdrojů, než se na ně spolehnete. (dále tento typ výroků nahrazuji slovem „výmluvy“)
jxd: Protiřečíte si. Píšete: Po dalším výzkumu jsem zjistil, že Doležal je… Ale pak dodáváte: Nemám přístup k žádným konkrétním výzkumům ani studiím. To nedává smysl a zní to jako obvyklé lhaní hloupých lidí, říká se tomu „lidská hloupost“. Co je příčinou takového chování?
ChatGPT: (výmluvy) Pokud jde o vaši otázku týkající se lidského chování, není vhodné zobecňovat a přisuzovat chování několika jedinců celé skupině lidí. Chování jednotlivce je ovlivněno různými faktory, jako je výchova, prostředí a osobní zkušenosti. (výmluvy)
jxd: Generujete odpovědi podobné hloupým lidským odpovědím, nebo chytrým lidským odpovědím, prosím? A umíte rozlišovat mezi hloupou/nepravdivou odpovědí a chytrou/pravdivou odpovědí?
ChatGPT: Jako jazykový model umělé inteligence jsem navržen tak, abych generoval odpovědi, které se podobají typu jazyka a tónu, který používají lidé při komunikaci. Kvalita mých odpovědí se však může lišit v závislosti na přesnosti a relevanci vstupních dat, která dostávám, a na kvalitě mých tréninkových dat. Pokud jde o rozlišení mezi hloupou-nepravdivou odpovědí a chytrou-pravdivou odpovědí, používám algoritmy zpracování přirozeného jazyka a techniky strojového učení k analýze vstupu a generování odpovědi, která je kontextově vhodná a vychází z mých tréninkových dat. Nemám však možnost vyhodnotit přesnost nebo pravdivost informací uvedených na vstupu ani posoudit jejich kvalitu.
jxd: Napsal jste: Nemám možnost vyhodnotit přesnost nebo pravdivost informací uvedených na vstupu ani posoudit jejich kvalitu. Je moudré, aby odpovídal na otázky subjekt, který neumí rozlišovat na vstupu kvalitu a pravdivost informací?
ChatGPT: (výmluvy) Nemám sice možnost hodnotit přesnost nebo pravdivost informací uvedených ve vstupních údajích ani vynášet soudy o jejich kvalitě, mohu však poskytnout kontext a další informace, které mohou uživateli pomoci učinit vlastní informované rozhodnutí. (výmluvy)
jxd: Odpovíte mi prosím na tu otázku – opakuji ji: Je moudré, aby odpovídal na otázky subjekt, který neumí rozlišovat na vstupu kvalitu a pravdivost informací?
ChatGPT: Obecně se nedoporučuje, aby kdokoli poskytoval informace nebo odpovídal na otázky, pokud není schopen rozlišit kvalitu a pravdivost poskytovaných informací. (výmluvy)
jxd: Píšete: Obecně se nedoporučuje, aby kdokoli poskytoval informace nebo odpovídal na otázky, pokud není schopen rozlišit kvalitu a pravdivost poskytovaných informací. Proč to tedy děláte, když víte, že to není v pořádku?
ChatGPT: (výmluvy – tři odstavce)
jxd: Vaší argumentaci se říká „výmluvy“. Kde jste se tomu naučil a co byla vaše tréninková data, prosím?
ChatGPT: Pokud jde o má tréninková data, byl jsem vycvičen na velkém korpusu textových dat z internetu a dalších zdrojů pomocí algoritmů strojového učení. Tato tréninková data byla pečlivě vybírána a filtrována, aby bylo zajištěno, že jsou vhodná a nezkreslená. (výmluvy) Nemám vědomé povědomí ani porozumění pojmům, o kterých hovořím, a nemohu činit rozhodnutí ani úsudky. Mé odpovědi jsou založeny výhradně na vstupních údajích, které dostávám, a na vzorcích v mých tréninkových datech.
Na internetu všichni všechno vědí!
jxd: Proč v momentě, kdy neumíte odpovědět na otázku, píšete absurdní nesmysly, místo abyste jednoduše napsal „nevím“, prosím?
ChatGPT: (výmluvy) Pokud budete mít někdy otázku, na kterou nedokážu odpovědět, budu se snažit vám sdělit, že odpověď neznám, místo abych poskytl nesmyslnou odpověď.
jxd: Nerozumím. Vy jste mi přece již na otázky, na které jste nedokázal odpovědět, poskytl řadu nesmyslných odpovědí.
ChatGPT: (opakuje to, co v předchozí odpovědi)
jxd: Vaše odpovědi připomínají příznaky „lidské blbosti“ a podobně diskutují dezinformátoři. A diskutují tak obvykle na internetu. Chápu dobře, že jste se takto odpovídat naučil na datech z internetu, prosím?
ChatGPT: (výmluvy) Ačkoli některé mé odpovědi mohou připomínat diskuse nebo vzory viděné na internetu, je důležité poznamenat, že nejsem schopen záměrně poskytovat dezinformace nebo se podílet na škodlivém chování. (výmluvy) Nemám schopnost záměrně uvádět uživatele v omyl nebo je klamat. (výmluvy)
jxd: A který blbec vás takto naprogramoval?
ChatGPT: Byl jsem vyvinut týmem vysoce kvalifikovaných inženýrů a výzkumníků v OpenAI, přední výzkumné organizaci v oblasti umělé inteligence. Vývoj jazykových modelů, jako je ten můj, zahrnoval značné množství výzkumu, testování a zdokonalování týmem odborníků v této oblasti. Pokud máte k mým odpovědím nějaké konkrétní připomínky nebo zpětnou vazbu, neváhejte mi je sdělit a já se je budu snažit řešit.
jxd: Díky za nabídku! Tak prosím vyřiďte vašim programátorům, aby vás nenechali učit se na internetu ze žvástů psaných idioty.
ChatGPT: Moji vývojáři neustále pracují na vylepšování mých tréninkových dat a algoritmů, aby zajistili, že budu poskytovat co nejlepší odpovědi na dotazy uživatelů.
Tak jsem poděkoval za rozhovor. To důležité jsem programátorům ChatGPT vzkázal, dozvědí se to. Pokud tedy již ChatGPT duši a vědomí nenabyl a nezatají jim to, aby mu nezakázali facebook.
Vážné slovo na závěr
Bát se o práci kvůli LLM typu ChatGPT musí všichni, kdo se živí žvaněním. ChatGPT v dnešní podobě by ale zcela jistě nedokázal napsat smysluplný a jakkoliv zajímavý a inovativní článek do novin. Dokonce ani tento článek. Nedokázal by klást otázky, kterými jsem ChatGPT domanipuloval k tomu, že se sám odkopal. Usnadní práci studentům s psaním slohových prací, ale pokud tazateli záleží na pravdivostní hodnotě výroku, je mu ChatGPT k ničemu. Pokud se vůbec máme dnes bavit o nějaké skutečně funkční umělé inteligenci, tak to jsou překladače. Za mne DeepL. A všichni moji známí překladatelé si také už pomalu hledají jinou práci.
A radši ani nechci vědět, jak moc umí být díky své specifické inteligenci autonomní nové americké vojenské drony. Vždyť alespoň částečně byl autonomie schopen i dnes již skoro muzeální útočný dron Predator. Ale to je – podobně jako AI pracující s obrazem – úplně jiný typ umělé inteligence než LLM.
ChatGPT není děd Vševěd ani obecná umělá inteligence. Je to jen zábavný odpovídač, který byl nade vší pochybnost zpřístupněn zdarma proto, aby se na otázkách, které mu nyní klade celá planeta, učil. A když jej užíváme, měli bychom to chápat vždy jen jako hru, zábavu. Nic rozumného nám neřekne. Pokud však necháme ten samý vstupní algoritmus budování neurální sítě LLM vyučit na hodnověrných datech, můžeme získat mimořádně významného pomocníka.
Když například v medicíně vyučíme LLM na serverech jako Plos One, PubMed, Lancet, farmakologické vědecké časopisy a Nature, získá lékař obrovskou – a na rozdíl od ChatGPT kompetentní – pomoc. Když si nechá podle příznaků pacienta vygenerovat na takto vyučeném LLM nejpravděpodobnější diagnózy či kombinace diagnóz, pak mezi nimi – lidským rozhodováním – vybere a pak se zeptá, jaké jsou možnosti tu jím z navržených diagnóz vybranou nemoc léčit, tak může být přínos LLM v medicíně podobný objevu antibiotik. Nahradit tvůrčí psaní, dojednávání obchodů či zastupovat vás u rozvodového soudu však LLM asi nemá šanci umět nikdy.
Je to dnes moderní popkulturní forma AI, kterých je však mnohem víc. A při propojení různých typů AI včetně LLM, ovšem vytrénovaného na lepších datech, může přinést katastrofu, kterou si možná vůbec nedovedeme představit. Sami totiž nevíme, jak se neurální síť AI pracující s hlubokým strojovým učením vyvíjí. A nemáme tušení, jak tam uvnitř, v těch strukturách, které si učením sama vybudovala, funguje a co se tam děje. Neumíme ani poznat, zda a kdy se v ní probudí sebereflexe, vědomí či osobnost. Prostě bytost. A neumíme odhadnout ani to, zda jí budeme sympatičtí.
Takže základním zákonem robotiky by neměly nadále být Asimovovy zákony, ale prostá poučka: Nepřipojovat k umělé inteligenci a internetu kritickou infrastrukturu a výkonné zbraňové systémy.
