AI agent ve firmě: co smí dělat sám a co jen se souhlasem?

Čím se AI agent liší od chatbota

Chatbot odpovídá, agent jedná. Agent dostane přístup k nástrojům a sám otevře poštu, zapíše do tabulky, založí úkol nebo odešle zprávu. To šetří čas, ale mění to riziko. Když se chatbot splete, dostanete špatnou odpověď. Když se splete agent, chyba se rovnou stane, a protože agent pracuje rychle a opakovaně, může se stát ve velkém.

Proč je to riziko podle OWASP

OWASP je mezinárodní neziskový projekt pro bezpečnost softwaru. Jeho seznam 10 největších rizik aplikací s velkými jazykovými modely pro rok 2025 má na 6. místě riziko nazvané Excessive Agency, česky příliš velká samostatnost. Podle OWASP jde o zranitelnost, kdy AI provede škodlivou akci kvůli nečekanému, nejednoznačnému nebo podvrženému výstupu modelu. Příčinou může být obyčejná chyba modelu i podvržený pokyn, třeba schovaný v příchozím e-mailu.

OWASP jmenuje tři kořeny problému:

příliš mnoho funkcí: agent, který má jen číst dokumenty, umí je i mazat,
příliš velká práva: agent se do systémů přihlašuje účtem s plným přístupem,
příliš velká samostatnost: agent provede zásadní akci, třeba smazání, bez potvrzení člověkem.

Jako příklad OWASP uvádí asistenta, který má jen shrnovat poštu, ale umí ji i odesílat. Podvržený e-mail ho pak přiměje vyhledat citlivé informace a přeposlat je útočníkovi.

Pravidlo, podle kterého u nás AI agent pracuje

Smí sám:

číst a vyhledávat,
třídit a označovat,
připravovat návrhy textů, tabulek a odpovědí.

Jen po schválení člověkem:

mazat,
platit,
posílat cokoli ven, ať je to e-mail, příspěvek, nebo faktura.

K tomu dvě pojistky. Agent má jen ta práva, která k úkolu potřebuje, žádné heslo správce. A každý jeho krok jde zpětně dohledat.

V praxi to vypadá takhle: nedávno náš agent uklízel tabulku a měl smazat 23 řádků. Nejdřív je zálohoval, pak napsal, co a proč chce smazat, a počkal na souhlas majitele. Teprve potom mazal.

Co doporučuje OWASP

Z osmi doporučení OWASP jsou pro firmu nejdůležitější tato:

Dejte agentovi jen nástroje, které opravdu potřebuje.
U každého nástroje povolte jen nutné funkce. Shrnutí pošty potřebuje číst, ne mazat ani odesílat.
Omezte práva v napojených systémech, ideálně jen na čtení.
Zásadní akce nechte schvalovat člověkem.
O tom, co je povolené, ať rozhodují pravidla v napojených systémech, ne samotná AI.

Škody pomůže omezit i záznam všeho, co agent udělal, a strop na počet akcí za určitou dobu.

Co dělat teď

Než agenta pustíte do firemních systémů, sepište si dva seznamy: co smí sám a co jen se souhlasem. Stačí jedna stránka. Pak zkontrolujte, jaké účty a práva agent dostane, a jestli se jeho kroky ukládají.

AI agenta používáme každý den při výrobě videí, takže víme, kde se dá ušetřit čas a kde je potřeba lidské ano. Pokud chcete video, které tohle pravidlo vysvětlí Vašim lidem, napište nám.

Časté otázky

Co je AI agent?

Program s umělou inteligencí, který nejen odpovídá, ale sám provádí akce v jiných systémech: v poště, tabulkách nebo účetnictví.

Je AI agent nebezpečný?

Sám o sobě ne. Riziko vzniká, když má víc funkcí, práv nebo samostatnosti, než potřebuje. OWASP ho proto řadí mezi 10 největších rizik aplikací s AI.

Co by agent nikdy neměl dělat sám?

Mazat, platit a posílat cokoli ven. Tyhle kroky se nedají vrátit, proto potřebují schválení člověkem.

Jak začít bezpečně?

Nechte agenta nejdřív jen číst a připravovat návrhy. Samostatnost přidávejte postupně a jen tam, kde se chyba dá snadno opravit.

Zdroje

OWASP Gen AI Security Project, LLM06:2025 Excessive Agency (Top 10 rizik pro aplikace s velkými jazykovými modely, 2025): https://genai.owasp.org/llmrisk/llm062025-excessive-agency/
Praxe VideoAnimace: úklid tabulky s 23 řádky se zálohou a souhlasem, 7. 10. 2026.

Aktualizováno 8. 10. 2026. Článek shrnuje doporučení pro orientaci, nejde o bezpečnostní audit.