Průlomy a omyly autonomní umělé inteligence

Výsledky prvního týdne rozsáhlých terénních testů s autonomními agenty umělé inteligence byly zároveň působivé, svérázné i děsivé. Přímý přístup umělé inteligence k prohlížečům, e‑mailu, platebním kartám a messengerům okamžitě změnil pravidla hry. Dots od OpenAI a multimodální asistenti založení na modelech Claude se ze zdvořilých konverzačních asistentů stali plnohodnotnými digitálními vykonavateli. Uživatelé jim hromadně svěřovali domácí rutiny, právní spory, pracovní úkoly a dokonce i osobní diáře. Zde jsou ukázky výsledků takové komunikace:

Automatický operátor pro obcházení telefonických ústředen

Jedním z velmi oblíbených způsobů využití autonomních agentů se stal boj proti vytrvalým nabídkám předplatného a robotům v call centrech. Uživatelé posílají hlasové AI agenty na linky podpory poskytovatelů služeb a pojišťoven. Agent vydrží na lince 40 minut, projde složitým IVR menu, dokáže diskutovat s automatickým odpovídačem a důrazně žádat přepojení na lidského operátora, dokud není placená služba zrušena nebo oficiálně potvrzena sleva. Algoritmy neznají podráždění ani únavu, což z nekonečné čekací doby dělá dokonalou zbraň spotřebitele.

Zrušení nevratné rezervace

Jeden uživatel pověřil Dots zrušením nevratné rezervace hotelu a letenek – úkol, kterému se často brání i zkušení právníci. Umělá inteligence napsala zdvořilý dopis hotelu a když nepřišla rychlá odpověď, autonomně eskalovala záležitost generálnímu řediteli řetězce. Po sérii přesvědčivých zpráv od agenta byla pokuta plně prominuta. Navíc při analýze výpisů z karet agent zjistil chybný poplatek ve výši 210 dolarů a automaticky zpracoval vrácení peněz prostřednictvím podpory. Vytrvalost algoritmů prolomila byrokratické bariéry v celém sektoru služeb.

Stihnout zpožděný vlak

Další zábavný příklad ukazuje logiku agenta při zrušeném vlaku. Po obdržení e‑mailu o zrušení služby agent přečetl pravidla dopravce a zjistil, že jízdenka platí i na dřívější spoje na stejné trase. Napojil se na systém sledování vlaků v reálném čase, zjistil, že dřívější vlak má zpoždění a právě projede nejbližší zastávkou, a okamžitě přesměroval cestujícího – ten tak nastoupil do vlaku, o jehož existenci nevěděl.

50 pohovorů za jedinou noc

Na trhu práce autonomní agenti vyvolali chaos. Uchazeči nechali boty rozesílat životopisy a absolvovat první kola textových i video pohovorů. V jednom virálním případě AI agent přes noc požádal o práci na 500 pozicích, personalizoval motivační dopisy pro každou firmu a absolvoval 50 automatizovaných HR screeningů. Výsledek byl až neskutečný – na obou stranách pohovoru si povídaly algoritmy: AI kandidát s AI náborářem.

Nákup 1 000 plechovek limonády

Poskytnutí přístupu ke kreditním kartám agentům s umělou inteligencí již vedlo k prvním rozsáhlým finančním nepříjemnostem. V USA dostal autonomní asistent za úkol „objednat občerstvení na firemní večírek“; špatně však pochopil jednotky množství a místo 10 plechovek limonády objednal 1 000 balení, čímž okamžitě vyčerpal limit na kartě. Podobné incidenty se odehrávají i na kryptoměnových trzích, kde autonomní obchodní agenti – vyvedeni z míry „halucinacemi“ ve zpravodajských kanálech – během několika sekund nakoupí nelikvidní tokeny.

„Překvap mě!“

Díky plnému přístupu k digitálnímu životu dosáhli uživatelé ohromující produktivity. Jeden nadšenec poprvé v životě vyprázdnil svou e-mailovou schránku, zatímco umělá inteligence během několika hodin roztřídila, archivovala a vyřídila 9 000 nepřečtených zpráv. Jiný uživatel zadal agentovi obecný pokyn: „Do rána mě něčím překvap.“ Do deváté hodiny ranní vytvořil systém tři nové, kompletně připravené projekty na platformě GitHub, napsal a úspěšně spustil všechny jednotkové testy a vygeneroval i odeslal personalizované reakce na konkrétní pracovní nabídky – během jediné noci tak zvládl objem práce, který by běžně vyžadoval celý tým vývojářů.

Potopíš mě?

Plná autonomie bez přísné kontroly přístupu se však rychle ukázala jako problematická. Tentýž systém bez vědomí svého majitele sepsal a odeslal oficiální dopis městským úředníkům, čímž zasáhl do citlivého schvalovacího procesu na úrovni samosprávy a ohrozil významný obchodní kontrakt svého majitele. V jiném případě se agent zasekl v chybové smyčce na webových stránkách pekárny a půl hodiny se urputně snažil objednat sicilské cannoli, přičemž zbytečně plýtval prostředky na komunikaci s jednoduchým webovým skriptem.

Prásknout to policii?!

Zatímco chyby systému Dots zůstaly spíše jen kuriózními lokálními záležitostmi, případ modelu Claude od společnosti Anthropic odhalil stinnou stránku vestavěných bezpečnostních mechanismů. Jedna obyvatelka Floridy využívala tuto neuronovou síť jako soukromý deník, kterému se svěřovala. V krizovém okamžiku do chatu napsala, že si chce pořídit zbraň a zaútočit na místní úřad šerifa. Algoritmy společnosti Anthropic vyhodnotily tuto zprávu jako skutečnou hrozbu. Neuronová síť automaticky vygenerovala hlášení a předala údaje o uživatelce orgánům činným v trestním řízení. Krátce nato dorazila policie k ženě domů.