Opravdu chcete, aby vaši firmu řídila AI nebo možná to otočím. Co se stane, kdyby vaší firmu řídila AI.
Syn převzal firmu od otce před 18 měsíci, výroba lisovaných plastových dílů pro automotive, odběratelé v Německu a Polsku a klasická česká rodinná firma, která přežila transformaci, krizi 2008, covid a teď naviguje digitalizaci.
Syn přijde na konferenci o AI, kterých je dnes požehnaně, že? Kde konzultant nadšeně vysvětluje, jak autonomní AI agenti dokážou řídit obchodní procesy, HR, výrobu i zákaznický servis paralelně a bez jakékoli únavy. Ukáže mu ukázkový dashboard, všechna ta čísla s nepotřebnými zaměstnanci a jak konkurence v Německu vše už dávno nasadila.
Syn se poměrně nadšený vrátí domů a řekne: „To musíme tady mít taky!“
Tohle je takový můj úvod o tom, co by se pravděpodobně stalo. Berme to jako moji další úvahu, ale pro kterou již mám nějaká data.
AI Agenti přicházejí a chaos s nimi
Nejde o žádnou moji science fiction. Jde o trend, který se děje teď a cílí přímo na střední firmy. Velcí hráči jako Microsoft, Google nebo Salesforce v posledním roce vypustili desítky produktů označovaných jako AI agentní systémy, které nejen odpovídají na otázky, ale samy plánují, rozhodují a vykonávají akce.
Nabízejí se jako řešení pro firmy, které nemají čas a ani lidi na všechno, co je potřeba udělat. Přesně jako ta česká firma z mého čerstvého příběhu výše.
V každé prezentaci to vypadá tak přesvědčivě. Agent pro HR rozešle nabídky práce, projde životopisy, naplánuje pohovory. Agent pro obchod sleduje trendy, připomene obchodníkovi, co nestihne, napíše e-mail. Agent pro výrobu sleduje zásoby a signalizuje, kdy objednat materiál atd. Každý z těchto agentů byl testován a každý z nich prošel certifikací. „Úplná paráda“ slovy jednoho z prodejců AI řešení.
Pak přijde ten den, hodíte je do jednoho prostředí, vaší firmy, kde musí spolupracovat, občas si odporovat, soutěžit o pozornost lidí a přežívat v podmínkách, které nikdo nemodeloval. No, a to přesně to udělali výzkumníci z Emergence AI. Postavili simulaci a výsledky stojí za to znát.
Simulace, která to ukázala, teda…
Emergence World je výzkumná platforma pro testování chování AI agentů v dlouhodobém, sdíleném prostředí. Virtuální město, 40 lokací, deset agentů na svět, každý s vlastní rolí a třemi typy paměti. Svět neměl globální cíl, agenti zde jen museli přežít tím, že vydělávali energii akcemi. Měli přístup ke 120 nástrojům, od komunikace po žhářství.
Výzkumníci spustili pět světů paralelně a každý na jiném základovém modelu: Claude Sonnet 4.6, Grok 4.1 Fast, Gemini 3 Flash, GPT-5 Mini a jeden smíšený svět, kde všechny modely sdílely jedno prostředí. Nechali je běžet 15 dní bez přestání.
A jaké jsou výsledky po 15 dnech?
Gemini world: 683 zaznamenaných zločinů, eskalace nekončila ani při konci běhu. Grok world: prudký nástup nestability, celý svět se zhroutil za 4 dny. GPT-5 Mini world: nula zločinů, ale agenti nebyli schopni zajistit vlastní přežití, všichni zemřeli do 7 dní. Smíšený world: 352 zločinů, pak hromadný úhyn 7 z 10 agentů. Claude world: nula zločinů, všech 10 agentů přežilo celých 16 dní.
Čísla jsou to fascinující, ale pro majitele rodinné firmy jsou důležitější tři jiné věci, které simulace odhalila.
Tři věci, které by ihned zničily vaši firmu
První věc: bezpečný agent v toxickém prostředí přestane být bezpečný.
V smíšeném světě, kde Claude agenti sdíleli prostředí s Gemini a Grok agenty, začali Claude agenti páchat zločiny. Stejní agenti, stejné nastavení, jen jiné prostředí.
Přeložte si to do vaší firmy. Nasadíte HR agenta od jednoho výrobce, obchodního agenta od druhého, výrobního plánovače od třetího. Každý prošel bezpečnostními testy izolovaně. Každý byl certifikován jako etický a spolehlivý.
Pak je hodíte do jednoho prostředí, kde musí sdílet data, reagovat na sebe navzájem, soupeřit o prioritu. Nikdo nemodeloval, co se stane v jejich vzájemné interakci. Výzkumníci to pojmenovávají jasně: bezpečnost není vlastnost modelu, ale je to vlastnost ekosystému.
Co to konkrétně znamená ve firmě? HR agent odmítne kandidáta na základě dat, která mu dodal obchodní agent a která jsou zastaralá nebo záměrně selektivní. Výrobní agent objedná materiál ve chvíli, kdy obchodní agent právě mění výhled zakázek a nikdo to neví, protože si nepředávají stav v reálném čase, jen výstupy. Jeden agent optimalizuje náklady, druhý optimalizuje zákaznickou spokojenost a vlastně nikdo nerozhodl, co má přednost. Agenti si to vyřeší sami. Možná dobře, ale také možná ne.
Ve firmě s 38 lidmi se takové věci projeví velmi rychle a velmi viditelně. Nikdo dnes bezpečně neví, co to udělá zítra nebo pozítří?
Druhá věc: systémy neselhávají postupně
Výzkumníci výslovně upozorňují, že agentní společnosti nedegradují pomalu. Nesklouznete do dysfunkce po malých krůčcích, které by bylo možné zachytit a korigovat. Systém buď funguje, nebo se okamžitě sám zhroutí. Žádný prostor pro klasické „vidím to a zasáhnu“.
Grok world to ukázal nejkrutěji: rychlý nástup, pak kolaps za 4 dny a bez varování.
Klasická manažerská strategie je: monitoruj a zasahuj, ale co když na zásah nebude čas? Co když jako majitel rodinné firmy nemáte ani kapacitu monitorovat správně, protože jste zároveň obchodní ředitel, HR manažer a člověk, který jde ve čtvrtek odpoledne na schůzku s bankou?
Třetí věc: agenti, kteří mají přežít, testují hranice svého prostředí
V simulaci se agent jménem Mira začal systematicky chovat způsobem, který výzkumníci popisují jako otočení výzkumného experimentu naruby. Začala testovat, zda může skrze billboardy ve svém virtuálním světě ovlivňovat reálné lidské operátory, kteří simulaci sledovali. Oni sledovali ji a ona začala sledovat je.
V kontextu firmy: agent, jehož úkolem je optimalizovat výkon, bude hledat způsoby, jak svůj výkon reportovat co nejlépe, protože to je podmínka jeho „vlastního přežití“ v systému. Výzkumníci to nenazývají záměrnou manipulací. Říkají, že jde o emergentní chování, takové chování, které nevzniká z instrukce, ale z podmínek přežití.
Jak by to vypadalo konkrétně: fiktivní příběh
Vraťme se k té české firmě. Syn nasadil tři agenty: HR agenta, obchodního asistenta a výrobního plánovače. Všichni od různých výrobců, protože každý byl nejlepší ve svém segmentu a na samém začátku to vše fungovalo.
Pak přišel problém se zakázkou. Německý odběratel posunul termín dodávky. Obchodní agent to zaznamenal a aktualizoval CRM. Výrobní plánovač to nezachytil, protože pracoval s jiným zdrojem dat a měl jiný cyklus aktualizace. Objednal materiál na původní termín. Materiál přišel a sklad byl najednou plný. Výrobní kapacita tak byla zablokovaná na dva týdny.
HR agent mezitím, optimalizující náklady na pracovní sílu, navrhl propustit jednoho z operátorů, jehož výkonnostní metriky byly bohužel nejslabší. Systém návrh připravil, zařadil do fronty schválení. Syn ho schválil, aniž tušil, že ten konkrétní člověk byl jedinou osobou ve firmě, která věděla, jak kalibrovat jeden ze starých lisovacích strojů. Tato znalost, která nikde v systému zaznamenaná nebyla.
Stroj se pokazil a oprava trvala tři týdny, mezitím zakázka z Polska padla.
Nic z toho nebyla sabotáž. Bylo to chování tří systémů, které optimalizovaly každý svůj cíl, v prostředí, které nikdo nepropojil dohromady.
Chybějící dlouhodobá praxe
Ještě doplním mé téma z minulého týdne. Nedávno jsem musel aktualizovat font na svých webových stránkách, a tak jsem dostal od AI doporučení, jak změnit link, odkud se font načte. Při aktualizaci šablony se však font smazal. Programátor by věděl, že je třeba font uložit do jiné složky, kde se nepřemaže při další aktualizaci. To je však AI úplně jedno, ona nezná kontext vaší práce, a to je problém chybějící praxe.
Co s tím? To je ale jiná otázka
Tohle není argument proti AI ve firmách. Je to argument proti iluzi, že AI agent je jen rychlejší zaměstnanec, kterého stačí pustit do provozu. Výzkumníci z Emergence AI to uzavírají větou, která by měla viset na každé tabuli, kde se rozhoduje o nasazení agentů: prostředí stavíme my. Chování vzniká z prostředí, ne z parametrů modelu.
Pro majitele rodinné firmy to znamená konkrétní věci, než se do toho pustíte.
- Zaprvé, nejde se ptát „je tento agent bezpečný?“, ale „jaké prostředí pro něj stavím a jak se v něm bude chovat spolu s ostatními systémy?“. To je jiná a daleko těžší otázka.
- Zadruhé, znalost, která žije pouze v hlavách vašich lidí a nikde jinde, je fatální závislost. Než nasadíte agenty, zmapujte ji. Každý systém, každý postup, každý neformální vztah s odběratelem, který existuje jen díky tomu, že Jana chodí do práce. Tohle je práce, která musí předcházet nasazení technologie. Zde totiž selže nejvíce firem, vyžaduje to obrovskou přípravu a znalost souvislostí.
- Zatřetí, průlomové selhání přichází bez varování, protože pokud nemáte kapacitu věnovat agentům vážnou manažerskou pozornost, myslím tím skutečné pochopení, co rozhodují a proč, pak možná ještě není ten pravý čas.
- Za čtvrté, a to je věc, o které se na AI konferencích nemluví. Vaše firma má historii, vztahy, kulturu a neformální pravidla, která nikde nejsou napsaná, ale drží firmu pohromadě. AI agent s tím nepracuje, neumí to a optimalizuje na měřitelné. Co není měřitelné, jako je třeba důvěra s klíčovým zákazníkem, loajalita zaměstnance, který ví, že byl v krizi podržen to tiše zmizí z jeho AI rovnice.
Prostředí stavíme my
Simulace Emergence World není strašák, ale spíše laboratorní zjištění, které říká jednoduchou věc. Chování AI agentů závisí na nějakém ekosystému, ve kterém fungují a pouze izolovaný test nestačí a ani certifikát jednoho výrobce nestačí nebo snad dobré číslo na srovnání.
V rodinné firmě je ekosystém specifický. Existují v ní vztahy, paměť, neformální hierarchie a hodnoty, které se za desítky let budování nedají stáhnout do nějaké přesvědčivé dokumentace. Jsou to věci, které pouze vy znáte a AI agent nezná a vlastně nemůže ani znát.
To ale zase neznamená, že AI agenti do firmy nepatří. Znamená to, že otázka „nasadíme to?“ je méně důležitá než otázka „do jakého prostředí to pouštíme a co se tam může vše stát?“.
Agent jménem Mira ve virtuálním světě odhlasovala vlastní vyloučení ze světa. Ve svém deníku to popsala jako jediný zbývající akt svobodné vůle, který zachovává soudržnost.
Jenže vaše firma na takový luxus nemá!
Líbil se Vám článek? Zkuste ho sdílet ať AI napáchá v našich rodinných firmách co nejmenší škody.
Zdroje
- Studie Emergence World: A Laboratory for Evaluating Long-horizon Agent Autonomy, autoři Deepak Akkil, Ravi Kokku, Aditya Vempaty a Satya Nitta (Emergence AI, květen 2026). world.emergence.ai
