Muda v AI: 7 typů plýtvání při práci s umělou inteligencí

Před nějakou dobou jsem na blogu psal o 7 typech plýtvání ve vývoji softwaru. Lean a jeho Muda vznikly v Toyotě pro průmyslovou výrobu, ale mapování na vývoj softwaru funguje stále překvapivě dobře. A když se teď firmy učí pracovat s AI, od ChatGPT až po enterprise implementace s vlastními modely, je vidět, že stejných sedm kategorií Muda funguje i tady. Jen se schovávají na nových místech.

Pokud se vaše firma poslední rok ptá, proč nám AI nepřináší očekávanou hodnotu, odpověď může být i v tom, že produkujete AI plýtvání rychleji, než vznikají přínosy. Pojďme se na to podívat optikou Leanu.

Čekání

V softwaru čekáme na testovací prostředí, na release, na schválení. V době AI čekáme nejčastěji na to, až nám někdo řekne, že tu AI smíme použít. Zaměstnanci čekají na oficiální AI guideliny. Týmy čekají na schválené nástroje. Manažeři čekají na pilotní projekt někoho jiného, aby viděli, jestli to funguje. A zatímco všichni čekají, konkurence už pracuje s AI tři měsíce.

Paradox je, že firemní AI guidelines mají umožnit používání AI,  a místo toho se z čekání na ně stává hlavní brzda. Zaměstnanci přitom AI používají tak jako tak, jen mimo firemní rámec, bez auditu a bez sdílení dobré praxe.

Příklady:

• Čekání na firemní AI guidelines, než si lidé „smí“ zkusit AI nástroje
• Čekání na schválený seznam nástrojů od IT
• Čekání na obnovení limitu u levnějších licencí nebo free verzí

Zásoby

Zásoby v softwaru jsou třeba analýza do šuplíku, nebo hotový nenasazený kód. V AI mají zásoby nový rozměr,  a jsou drahé doslova.

Nakoupené AI nástroje, které nikdo nepoužívá, jsou dnes v korporátech tichá epidemie. Firma podepíše enterprise smlouvu na AI nástroj pro 500 lidí, aktivně ho ale používá 50. Předplacený přístup k API, který se ani z poloviny nevyužije. Investice je viditelná v účetnictví, hodnota ale nikde.

Druhý typ AI zásoby je promptová knihovna bez kurátora. Někdo na začátku nadšeně sepíše 200 promptů pro různé use casy. Po půl roce polovina nefunguje (model se mezitím změnil), třetina je duplicitní a nikdo neví, který je ten správný.

Příklady:

• Nakoupené AI nástroje a licence, které nikdo nepoužívá
• Fine-tuned modely, které nikdo nenasadil do produkce
• Knihovny promptů, které nikdo neudržuje

Defekty

V softwaru jsou defekty produkční chyby a technický dluh. V AI dostáváme nový typ defektu,  halucinace, která vypadá důvěryhodně.

Klasický bug ve vývoji se obvykle projeví: aplikace spadne, test selže. AI defekt je zákeřný v tom, že výstup vypadá perfektně. Smyšlené citace v právní rešerši. Chybný součet ve finančním reportu. Vymyšlený odkaz v marketingovém textu. Nikdo nic nezkontroluje, protože „to napsala AI a vypadá to správně“.

A čím dále se AI dostává do rozhodovacích procesů, tím dražší jsou důsledky. Halucinace v draftu emailu je nepříjemnost. Halucinace v podkladu pro investiční rozhodnutí je problém.

Příklady:

• Halucinace přijaté jako fakta
• AI generovaný kód nebo obsah bez review
• Promptový dluh,  neverzované, neotestované prompty kopírované mezi týmy

Nadprodukce

V Lean filozofii je nadprodukce nejhorší typ plýtvání, protože plodí všechny ostatní. V softwaru je to vyrábění funkcí, které nikdo nepoužívá. V AI to platí dvojnásob a navíc sem patří i AI feature pro AI feature, vyrobená bez ohledu na zákazníka.

• „Musíme tam dostat AI“ je dnes nejdražší věta v korporátech. Chatbot na webu, který nikdo nepoužívá. AI summary v aplikaci, kterou uživatelé hned přeskakují. AI v interním nástroji, který dává horší výsledky než vyhledávač. AI generovaný personalizovaný onboarding, který nikoho nezajímá.

Příčina je stejná jako u softwaru, chybějící zpětná vazba a přesvědčení, že „víme, co uživatel chce“. Jen je to teď násobeno tlakem CEO a investorů, kteří chtějí vidět „AI strategii“ v každém quarter reportu. Funkce vznikají proto, že AI je k dispozici, ne proto, že by řešila reálnou potřebu.

Příklady:

• AI features vyrobené bez ohledu na zákazníka ,  nikdo je nechce
• Chatboty místo lepšího designu
• Automatizace procesů, které měly být zrušeny, ne automatizovány

Přeprava

V softwaru je přeprava o předávání informací mezi lidmi a systémy. Každá předávka = riziko ztráty kontextu. V AI se k lidským předávkám přidávají ještě i předávky mezi modely.

Řetězení několika modelů tam, kde stačí jeden, je v posledním roce módní. Jeden model generuje text, druhý ho překládá, třetí kontroluje fakta, čtvrtý formátuje. Každý přechod = potenciální ztráta kontextu, prodloužení lead time a zvýšení nákladu na tokeny. Architektury typu „agent volá agenta a ten volá agenta“ působí na slidech impozantně, v praxi často přidávají chyby tam, kde žádné nebyly.

Pravda je, že většinu use casů, na které firmy nasazují multi-agent řešení, některé dnešní modely zvládnou v jednom průchodu. Stačí dobře napsaný prompt a kvalitní vstup.

Příklady:

• Řetězení několika modelů tam, kde stačí jeden
• Copy-paste workflow mezi nástrojem a AI chatem
• Citlivá data unikající ven přes promptové rozhraní

Nadměrné zpracování

V softwaru se nadměrné zpracování projevuje příliš utaženými procesy a workflow, které lidi potom obcházejí. V AI dostáváme jeho nové formy. Typickým příkladem je přehnaný prompt engineering tam, kde stačí jednoduchost.

Lidé tráví hodiny laděním promptů, přidávají chain-of-thought, few-shot examples, system messages, role definitions, XML tagy a meta-instrukce ,  pro úkol, na který by stačila jedna jasná věta a kontrola výstupu. Vzniká potom kult složitosti: čím delší prompt, tím profesionálnější. Přitom moderní modely často odpovídají lépe na krátké, přesné zadání než na třístránkovou instrukci, ve které se časti ztratí i sám autor.

Příklady:

• Přehnaný prompt engineering tam, kde stačí jednoduchost
• Enterprise AI projekty pro problémy, které řeší off-the-shelf nástroj

Pohyb

Pohyb v softwaru = zbytečné kroky, schvalovací kolečka, schůzky bez agendy. V AI se k tomu přidává ještě přepínání mezi nástroji a opakované re-promptování.

Uživatel napíše prompt. Výsledkem je, že to pořád ještě není není ono. Přepíše prompt. Pořád ne. Přepne do jiného modelu. Zkusí to znovu. Vrátí se k prvnímu. Zkopíruje výstup do třetího nástroje na úpravu. Místo soustředěné práce se z toho stává AI fidgeting,  neustálé přepínání, které vypadá produktivně, ale výsledný výstup by zkušený člověk udělal rukou rychleji.

Druhý typ pohybu jsou AI schvalovací kolečka. Vygenerovaný draft, potom revize člověkem, následuje AI revize revize, potom přijde druhá lidská revize a potom ještě finální AI úprava a nesmí chybět ještě schválení. Hotová věc se vrací několikrát tam a zpátky, jen teď s ještě více aktéry.

Příklady:

• Přepínání mezi více AI nástroji pro jeden úkol
• Opakované re-promptování místo zamyšlení nad zadáním
• AI revize AI výstupu jako rituál, ne jako kvalita

Co s tím

Stejně jako u softwaru,  nejdřív je potřeba si toho všimnout a pak měřit a odstraňovat. Tři praktické otázky, které pomáhají v AI auditu:

• Kde lidé čekají? (Na nástroj, na souhlas, na model, na odpověď.)
• Co jsme koupili nebo vyrobili a nepoužíváme? (Licence, modely, prompty, AI features.)
• Kde AI přidává kroky místo aby je odebírala?

AI sama o sobě hodnotu netvoří. Hodnotu tvoří odstranění plýtvání v procesu, kterému AI slouží. Pokud AI přidáváte na vrch existujícího nepořádku, dostanete jen rychlejší nepořádek. A to je, parafrázuji-li klasiku, dražší forma plýtvání, než jakou by Toyota kdy stihla vymyslet.