AI Masterclass: Používejte umělou inteligenci bezpečně a v souladu s předpisy!

Praxitelis předává kurz kouči, jímž je Michael Kraus. Ten představuje portfolio společnosti ZM-I KI, které má 3 části: poradenství v oblasti AI, softwarové a datové produkty a univerzitní výzkum. Kraus poté nastiňuje 5 přednášek kurzu, od základů AI přes aplikační kompetence a regulatorní rámce EU až po závěrečné shrnutí.

Kraus zasazuje AI do křivky Gartner Hype Cycle, na příkladu ChatGPT odlišuje model AI od systému AI a odděluje SPAI od GPAI. Popisky na obrázcích mostů rozlišují učení s učitelem a bez učitele, příklad s cenou domu prochází kroky predikce a na závěr Kraus porovnává nákup nástroje AI s vývojem vlastního.

Kraus podává přehled dodavatelů generativní AI (OpenAI, Google, Anthropic, Mistral) a ukazuje, jak model typu Transformer při změně teploty dává 3 různé odpovědi. Rozkládá prompt na instrukci, kontext, vstup a indikátor výstupu, techniku Chain of Thought vysvětluje na slovní úloze s tenisovými míčky a končí uvažujícím LLM, který odpoví za 37 sekund.

Lekce dokončuje recept na prompting Chain of Thought (úkol, formát, varování, kontext) na příkladu domu o ploše 260 m², poté se věnuje zkreslení (bias) u modelu DALL-E a agentovi společnosti Dlubal, který z náčrtu ocelové konstrukce vytvoří model v programu RFEM. Závěr patří kontrolním seznamům k halucinacím a zkreslení pro uživatele, vývojáře a osoby s rozhodovací pravomocí.

Lekce začíná zákonnou povinností gramotnosti v oblasti AI na pracovišti, pak přechází k německému právu: ochrana osobních údajů podle GDPR, autorské právo, které vylučuje obsah vytvořený strojem, a obchodní tajemství. Odpovědnost vychází ze smlouvy, deliktního práva, protiprávního jednání a zákona Produkthaftungsgesetz, přičemž odpovídá výrobce ocelových konstrukcí, který AI používá. Závěr patří principu „human in the loop“.

Lekce připomíná, že akt o umělé inteligenci (AI Act) vstoupil v platnost 1. srpna 2024, a odlišuje roli poskytovatele od role zavádějícího subjektu. Případy od cenového nástroje po prověrku úvěruschopnosti řadí do kategorií minimálního, omezeného, vysokého a nepřijatelného rizika. Končí povinnostmi pro jednotlivé třídy rizika a pokutou 10 milionů EUR nebo 2 % obratu za chatbota, který zamlčí, že obsah vytvořila AI.

Lekce představuje 4 kroky k dosažení souladu s předpisy a 3 cílové skupiny školení (koncoví uživatelé, vývojáři, osoby s rozhodovací pravomocí), poté rekapituluje definice AI a generativní AI a téma zkreslení (bias). Následuje právní zařazení: ochrana osobních údajů, autorské právo, obchodní tajemství, odpovědnost a povinnosti transparentnosti zavádějícího subjektu a poskytovatele podle aktu o umělé inteligenci.

Závěrečná část odpovídá na nejčastější dotazy: co musí firma udělat po nákupu nástroje ChatGPT nebo Copilot (role zavádějícího subjektu, klasifikace rizik, transparentnost), co vymezuje dokument s interními pravidly pro AI a kde hledat pomoc. Kraus odkazuje na QR kód k Dlubal Community Channel a na e-mail.