„AI agent“ dnes slyšíte všude, ale málokdo řekne přesně, co to ve firemních datech znamená. Rozebíráme, co takový agent umí reálně udělat - a kde by měl vždycky skončit s prosbou o vaše svolení.
„AI agent" je dnes jedno z nejpoužívanějších a zároveň nejméně přesných slovních spojení v softwaru. Pro někoho znamená chatbota, který odpoví na otázku. Pro jiného nástroj, který sám prochází e-maily, upravuje databázi a posílá zprávy klientům bez dalšího zásahu člověka. Rozdíl mezi těmito dvěma světy není detail - je to přesně ta hranice, která rozhoduje, jestli AI agentovi pustíte k firemním datům, nebo ne.
Co "AI agent" dnes typicky znamená
V praxi jde o software, který dostane úkol v běžném jazyce, sám si rozmyslí kroky k jeho splnění a použije k tomu nástroje - prohledá data, zavolá API, upraví záznam, odešle zprávu. Liší se hlavně v tom, kolik z těch kroků udělá bez zeptání. Někteří agenti provedou celý řetězec akcí najednou a výsledek jen oznámí. Jiní se po každém citlivém kroku zastaví a počkají na potvrzení.
Pro firemní data - faktury, kontakty, smlouvy, osobní údaje - je tenhle rozdíl zásadní. Agent, který si sám něco domyslí špatně a rovnou to zapíše do databáze nebo pošle klientovi, může napáchat škodu rychleji, než ji kdokoliv stihne zachytit.
Co takový agent reálně umí
Když se podíváte za marketingová hesla, práce AI agenta nad firemními daty se dnes obvykle skládá z několika konkrétních schopností:
- Odpovídat na otázky nad reálnými daty - „kolik mám otevřených záznamů", „kdo naposledy upravil tuhle zakázku".
- Navrhovat strukturální změny - přidat sloupec, upravit pohled, vytvořit novou databázi podle popisu.
- Připravovat obsah - koncept zprávy klientovi, shrnutí stavu projektu, návrh e-mailu.
- Skládat víc kroků za sebou - najít záznamy podle podmínky, spočítat součet, připravit z toho report.
Všechno tohle agent umí udělat rychle a nad daty, která by člověk jinak musel sám dohledávat napříč databázemi, e-maily a tabulkami.
Přečte i upraví databázi - ale až po vašem schválení.
Agent na otázku odpoví hned z reálných dat. Na žádost o změnu ale místo rovnou provedené úpravy nabídne konkrétní plán, který vy schválíte, nebo zamítnete.
Kde by měl reálně končit
Schopnost navrhnout změnu a schopnost změnu provést by u firemních dat neměly být automaticky totéž. Bezpečná hranice vypadá takto:
- Čtení a analýza - bez omezení, protože nic neriskuje.
- Návrh akce - agent řekne přesně, co by udělal (jaké pole, jaká hodnota, komu by co poslal), ale zatím nic nemění.
- Schválení člověkem - teprve tady se návrh promění ve skutečnou změnu dat.
- Dohledatelnost - u každé provedené změny by mělo jít zpětně zjistit, kdo ji navrhl, kdo schválil a kdy se stala.
Tohle omezení není technická slabina. Je to totéž pravidlo, které platí pro juniorního kolegu s přístupem k citlivým datům - dá se mu hodně důvěřovat v analýze a návrzích, ale podpis pod fakturou nebo smlouvou zůstává na někom jiném.
Jak si agenta otestovat, než mu dáte přístup k datům
Než libovolný AI nástroj pustíte k firemní databázi, vyplatí se ověřit čtyři věci:
- Ukáže vždy konkrétní plán akce, než ji provede, nebo jedná rovnou?
- Jde nastavit, ke kterým datům (sloupcům, databázím) má vůbec přístup?
- Je zpětně vidět, kdo návrh schválil a kdy se změna stala?
- Dá se jedna navržená akce zamítnout, aniž by to ovlivnilo zbytek práce?
Pokud na některou z otázek dostanete odpověď „ne" nebo "nevíme", je to signál, že agent možná umí víc, než kolik byste mu chtěli reálně svěřit bez dozoru.
Konkrétní seznam úkolů, na které se AI ve firmě dá pustit ještě dnes - a tří, u kterých má poslední slovo mít člověk - najdete v článku 5 věcí, které AI ve vaší firmě zvládne. Kam přitom odcházejí data, která do AI nástrojů vkládáte, rozebírá text Nahrajete firemní data do AI. Kam vlastně jdou?.
Časté otázky k AI agentům ve firemních datech
Je bezpečné pustit AI agenta k firemní databázi?
Záleží na tom, jestli agent mění data rovnou, nebo jen navrhuje změnu ke schválení. Druhý model - čtení bez omezení, zápis až po potvrzení člověkem - je pro firemní data podstatně bezpečnější a dnes ho nabízí čím dál víc nástrojů.
Čím se liší AI agent od běžné automatizace?
Klasická automatizace provádí předem definované kroky ve fixním pořadí. AI agent si kroky sám navrhuje podle úkolu zadaného v běžné řeči - je pružnější, ale právě proto potřebuje jasnější hranice toho, co smí udělat bez dohledu.
Vidí AI agent všechna data ve firmě, nebo jen některá?
Mělo by jít nastavit, ke kterým databázím nebo sloupcům má agent přístup
- stejně jako u lidí v týmu. Bez téhle možnosti riskujete, že agent uvidí i data, ke kterým by přístup mít neměl.