Agentní systém zkrátil zpracování pojistné události z 15 na 2 minuty v Direct pojišťovně

Co je AI Act a proč vznikl

AI Act je první ucelený zákon Evropské unie, který stanovuje pravidla pro vývoj a používání umělé inteligence. Myšlenka za vznikem této legislativy je zřejmá: jen díky jasným pravidlům může být AI pro firmy i jejich zákazníky bezpečná, transparentní a etická.

Umělá inteligence dnes proniká do stále více oblastí života i podnikání, a proto EU chce, aby její používání i rozvoj probíhal zodpovědně a bez rizika zneužití, diskriminace či jiných negativních dopadů. AI Act má chránit spotřebitele, posilovat férovou konkurenci a nastavit jednotná pravidla pro všechny členské státy Evropské unie.

‍

Koho se AI Act týká

Ďábel se často skrývá v detailu, což trochu platí také o AI Actu. Tato legislativa totiž nedopadá jen na firmy vyvíjející umělou inteligenci, ale i na ty, které ji jakkoliv používají ve svých produktech, službách nebo interních procesech. Typicky se tak souborem zákonů AI Act musí řídit podniky, které například: 

• vyvíjí AI
• používají AI pro rozhodování o lidech (např. nábor nebo hodnocení výkonu zaměstnanců)
• automatizují zákaznické služby (např. chatboti nebo hlasoví asistenti)
• zpracovávají pomocí AI citlivá data 
• integrují AI do produktů a služeb
• provozují AI systémy třetích stran (např. nasazení hotových AI řešení od externích dodavatelů ve vlastním podnikání)

AI Act samozřejmě rozlišuje běžný software od AI systému, takže je vždy potřeba zjistit, jestli dané řešení pracuje autonomně a adaptivně (tzn. učí se z dat a optimalizuje své výsledky), nebo pouze vykonává předem definované instrukce a nesplňuje tak definici AI řešení. 

Mimochodem: legislativa se vztahuje nejen na nové, ale i na již existující aplikace využívající AI (včetně machine learningu).

Abyste s těmito starostmi nemuseli trávit desítky hodin času a strachovat se, jestli vše splňujete, jak máte, v BigHub implementaci AI Act rádi vyřešíme za vás.

‍

Co konkrétně AI Act reguluje

Legislativa AI Act definuje spoustu detailních požadavků, těmi vás teď ale nechceme zatěžovat. Pro firmu využívající AI je důležité vědět, že se AI Act zabývá několika hlavními kategoriemi.

1. Klasifikace rizik 

Legislativa používá stupnici rizikovosti AI řešení, od minimálně rizikových až po velmi rizikové, nebo dokonce zakázané.

2. Povinnosti vývojářů i provozovatelů AI 

Například dodržování bezpečnostních norem, pravidelná dokumentace nebo zajištění přísného dohledu.

3. Transparentnost a vysvětlitelnost 

Uživatelé AI nástrojů musí vědět, že komunikují s umělou inteligencí. 

4. Zakázané aplikace AI

Například systémy, které manipulují lidským chováním či cíleně diskriminují určité skupiny.

5. Monitorování a hlášení incidentů

Udává firmám povinnost hlásit nežádoucí události a nesprávné fungování AI systémů.

6. Zpracování citlivých dat

AI Act reguluje používání osobních, biometrických či zdravotních údajů všech lidí, kteří s nástroji umělé inteligence pracují.

‍

Vyhněte se obrovským pokutám 

Sankce za nedodržování pravidel stanovených AI Act jsou vysoké, konkrétně vás mohou stát až 7 % z celosvětového obratu firmy, což v případě některých firem činí i miliony eur. 

Proto doporučujeme nad novými AI regulacemi nemávnout rukou a včas je implementovat na všech místech ve firmě, kde využíváte umělou inteligenci.

‍

Přehoďte starosti se zaváděním regulace AI Act na nás

Nemáte desítky hodin času studovat složité zákony a nechcete riskovat, že vaše firma dostane vysokou pokutu? Přehoďte starosti se záváděním regulace AI Act na nás.

Zákazníkům po celém světě dlouhodobě pomáháme zavádět osvědčené postupy a frameworky, zrychlovat inovace a optimalizovat procesy, takže rádi budeme k ruce i vám.

• AI pro vás vyřešíme „na klíč“, kromě vývoje AI řešení se postaráme také o zapracování regulace AI Act. Celým procesem vás postupně provedeme.
• Vytvoříme vaší firmě interní směrnice na využívání AI. 
• Provedeme audit AI aplikací, které již používáte.
• Vaše současné i nově implementované AI aplikace nastavíme tak, aby byly v souladu s AI Act.
• Posoudíme za vás rizika, abyste věděli, která AI řešení a jak můžete používat.
• Pomůžeme vám se zmapováním současné situace i s tvorbou nezbytné dokumentace či procesních povinností.

Proč firmy volí Databrics Mosaic

Pokud má organizace již vybudovanou datovou platformu na Databricks, je logické zvážit i Mosaic. Využití jedné technologie přináší architektonickou čistotu, jednodušší správu a rychlý start.

‍

Databricks Mosaic má nesporné výhody:

• Jednoduchost: tvorba interních chatbotů a základních agentů je rychlá a přímočará.
• Governance by design: logování, lineage a kontrola nákladů jsou zabudované.
• Integrace s daty: MCP servery a SQL funkce umožňují agentům pracovat s firemními daty bez složitého vývoje.
• Vývojářská podpora: funkce jako Genie (konkurence Fabric Copilot) nebo assisted debugging reálně zrychlují práci vývojářů.

‍

Pro jednodušší scénáře – například interní asistenty nad firemními daty – je Databricks Mosaic rychlým a efektivním řešením. I my v BigHubu jsme Databricks Mosaic nasadili například u velkého výrobního podniku nebo retailové společnosti, kde šlo o jednoduché dotazování do firemních dat.

‍

Kde Databricks Mosaic nestačí

Složitější projekty ale kladou jiné nároky – na latenci, přesnost, multiagentní logiku či integraci do stávajících systémů. A zde Mosaic naráží na své limity:

• Strukturovaný output: Databricks Mosaic neumí efektivně vynutit strukturovaný výstup, která se projeví v kvalitě výstupu či provozní stabilitě různých řešení (např. voiceboti či OCR)
• Vícekrokové workflow: procesy jako likvidace pojistných událostí nebo úpisy jsou v Databaricks Mosaic buď nemožné, nebo zbytečně složité.
• Latency-critical scénáře: Databricks Mosaic přidává další vrstvu mezi uživatele a model, což komplikuje nízkolatenční aplikace.
• Integrace mimo Databricks: pokud firma nechce využívat jen Vector Search a Unity Catalog, je propojení s dalšími systémy složitější než v čistém Python frameworku.
• Omezený katalog modelů: dostupných modelů je zatím jen několik, nelze připojit vlastní ani ty z jiných cloudů.

‍

Databricks přitom sám uvádí, že Mosaic nemá ambici nahradit specializované frameworky – a do jisté míry je to pravda. Překryv ale existuje a v těchto složitějších případech Mosaic zatím ztrácí flexibilitu.

‍

Kde dává smysl custom framework

Custom framework má největší výhodu tam, kde projekt vyžaduje komplexní logiku, multiagentní orchestraci nebo nízkou latenci.

• Více agentů: spolupráce agentů s různými rolemi a dovednostmi.
• Streaming a realtime: nezbytné pro call centra, voiceboty či fraud detection.
• Custom logika: přesně definované workflow a vícekrokové procesy.
• Regulační compliance: transparentní auditovatelnost podle AI Act.
• Flexibilita: využití jakýchkoliv knihoven, modelů a architektur bez vendor lock-inu.

‍

To ale neznamená, že Databricks Mosaic nelze využít i pro byznysově komplexní případy. U některých scénářů to možné je. Pokud se ale řeší aplikace, kde rozhoduje latence, strukturovaný výstup nebo přesnost, Databricks Mosaic dnes spíše pokulhává.

‍

Jak to řeší BigHub

V BigHubu jsme přesvědčeni, že neexistuje univerzální odpověď. Databricks Mosaic má své místo a v řadě projektů či scénářů ho bez váhání a úspěšně využíváme. Pak jsou ale situace, kdy doporučíme customizovaný framework, protože je to pro klienta dlouhodobě nejefektivnější cesta.

• Výrobní podnik a retail: Databricks Mosaic jsme využili pro interní asistenty nad firemními daty (SQL queries). Nasazení bylo rychlé, governance je vestavěná a pro tento typ dotazů fungoval velmi dobře.

• Pojišťovnictví (likvidace škod): Zde Databricks Mosaic nestačil – chyběl structured output, víceagentní orchestrace i práce s hlasem. Custom framework nám umožnil přesnost, vícekrokovou logiku a auditovatelnost podle AI Act.

• Bankovnictví (úpisy): Procesy vyžadující vícekrokové workflow a integraci do core systémů jsou v Databricks Mosaic zbytečně složité. Využili jsme vlastní middleware, který zvládá více agentů i modely z různých cloudů.

• Call centra a OCR: Latency-critical aplikace nebo scénáře vyžadující strukturovaný výstup (např. extrakce dat z dokumentů, voiceboti) Databricks Mosaic nepodporuje. Tyto případy vždy řešíme custom řešením.

‍

Naše role je v tom, že klienta netlačíme do jedné technologie. Pomůžeme rozhodnout, kdy se vyplatí Databricks Mosaic a kdy je nutné jít cestou custom. Díky tomu dokážeme zajistit rychlý start i dlouhodobou udržitelnost.

‍

Naše doporučení

• Databricks Mosaic: vhodný pro firmy s Databricks ekosystémem, které chtějí rychle spustit interní asistenty nebo jednodušší agenty s dobrou správou a governance.
• Custom framework: lepší volba tam, kde jsou potřeba složité vícekrokové procesy, multiagentní orchestrace, strukturovaný výstup nebo nízká latence.

‍

BigHub oba přístupy zná z praxe. Proto našim klientům nepřinášíme jen technologii, ale hlavně kompetenci vybrat tu správnou kombinaci pro jejich konkrétní situaci.

Co je vlastně MCP – a proč na něm tolik záleží?

Model Context Protocol může znít jako technologie z akademické laboratoře nebo interní dokumentace velkých technologických firem. Ve skutečnosti jde ale o standard, který umožňuje různým AI systémům vzájemně spolupracovat – ať už jde o komunikaci s lidmi, API, nástroji nebo mezi sebou navzájem. Zatímco dnes většina AI nástrojů funguje jako samostatné chatboty, hlasoví asistenti nebo úzce zaměřené moduly, MCP umožňuje, aby se tyto systémy propojily do inteligentního ekosystému, který funguje napříč službami i firmami. Výsledek?

Například:

• Získáte stav objednávky z e-shopu
• Zkontrolujete pojistnou smlouvu
• Přesunete termín návštěvy u lékaře
• Zařídíte platbu, dopravu i potvrzení – bez jediného přepnutí mezi aplikacemi

‍

To vše bez toho, aby každá firma musela vyvíjet vlastní umělou inteligenci. Stačí, že své služby a data zpřístupní standardizovanou cestou.

‍

Změna paradigmatu: z „AI jako pomocníka“ na „AI jako rozhraní“

Doposud firmy využívaly umělou inteligenci hlavně jako nástroj pro podporu zaměstnanců – zrychlit vyhledávání, usnadnit rozhodování nebo analyzovat data. MCP ale umožňuje posun: uživatel nebude komunikovat s firmou, ale přes své vlastní AI rozhraní. Firmy tedy nebudou budovat AI pro sebe, ale otevřou přístup ke svým službám – a uživatelé s nimi budou komunikovat přes své vlastní systémy: osobní digitální asistenty, voice interface, AI rozšíření, apod.

Je to podobná revoluce, jako když web nahradil telefonní linky a mobilní aplikace přepsaly způsob, jak si objednáváme jídlo nebo taxi. MCP dělá totéž – ale pro celý provoz firmy.

‍

AI-first svět je blíž, než si myslíme

Dříve jsme hledali přes Google. Dnes stále více lidí sahá nejdřív po ChatGPT, Perplexity nebo jiném osobním AI rozhraní. Vstupní bod do digitálního světa se mění – už to není web nebo appka, ale AI, která nás zná. Firmy, které na to nejsou připravené, ztratí přístup k zákazníkovi už v prvním kroku. Podobně jako zaspaly ty, které podcenily mobilní revoluci.

Co to znamená pro firmy?

1. Už nebudete muset vyvíjet vlastního chatbota

Místo investic do vývoje vlastních rozhraní, UX, dialogů a modelů budou firmy poskytovat přístup ke svým službám. Uživatelská zkušenost bude řešena na straně klienta – firmě zůstane to nejcennější: jádrové služby, procesy a data.

2. Zmizí potřeba tradičních call center

Zákazníci nebudou volat na linku. Zavolají své AI – a ta se sama napojí na systémy firmy, zjistí potřebné informace nebo požádá o akci. Vše během sekund. Místo front a čekání vznikne automatizovaná a přímá interakce bez operátora.

3. Otevírají se nové možnosti monetizace a reputace

Protože uživatel bude přicházet s vlastním inteligentním rozhraním, firmy nebudou nést reputační riziko „hloupého bota“. Současně budou mít plnou kontrolu nad tím, co a komu otevřou – a tím i nové možnosti personalizace a monetizace.

‍

Co to znamená pro běžné lidi?

• ^Jedno rozhraní pro všechny služby
• Místo desítek aplikací a přihlašování budete mít jedno AI rozhraní, které obslouží vše.
• Plná autonomie
• Objedná zboží, porovná nabídky, zařídí reklamaci nebo naplánuje službu – bez potřeby lidského zásahu.
• Chytřejší rozhodování
• AI ví, co preferujete, zná vaši historii i cíle – a navrhuje nejlepší řešení.

Praktický příklad:

Vaše AI rozhraní vám doporučí recept, zjistí, co vám chybí doma, porovná ceny na několika e-shopech, vybere nejvýhodnější variantu a objedná – bez nutnosti manuálního klikání.

‍

O čem se zatím moc nemluví: data

Aby to celé fungovalo, budou muset uživatelé i firmy řešit důvěru a přístup k datům. MCP v tomto nabízí jasný rámec – umožňuje bezpečné, transparentní a škálovatelné sdílení dat i operací mezi systémy, bez potřeby replikace nebo rizika úniku.

‍