Evropská unie nás chce ochránit před umělou inteligencí: Nesmí nás diskriminovat ani sledovat

Evropská unie minulý týden předložila svůj návrh na regulaci technologií využívajících umělou inteligenci. Jde o první zásadnější snahu o nastavení pravidel pro technologické firmy, tak aby AI nezasahovala do svobod občanů. Jak regulace vypadá a jak se bude vyrovnávat s technologickým pokrokem, v rozhovoru vysvětluje David Velvéthy z konzultantské firmy PwC.

Můžete ve třech větách popsat, co to vlastně AI Act je? 
V první řadě je to průkopnický rámec v rámci regulace. Evropská unie se skrz AI Act snaží pokrýt rizika spojovaná s AI, vnuknout jí evropské hodnoty a práva občanů. A zároveň do budoucna zajistit, aby byla implementace AI co nejvíce etická. 

EU k regulaci zvolila takzvaný risk based přístup. Co to je a jak to funguje? 
Představme si pyramidu. Dole jsou ty nejméně rizikové oblasti, ve kterých AI působí. Jsou to aplikace jako hry nebo třeba vzdělávací programy. Riziko je tam téměř nulové, u aplikace na studium nového jazyka prostě nehrozí třeba ohrožení na životě. Dalším patrem té čtyřstupňové pyramidy jsou aplikace typu ChatGPT. Uživatel by měl vědět, že se jedná o komunikaci s umělou inteligencí. Chatbot je natrénovaný a nastavený nějakým způsobem a informace, které poskytuje, třeba můžou být určitým způsobem rizikové. Další kategorie je vysoká rizikovost. Pod tím si představme třeba zdravotnický nebo dopravní sektor. V momentě, kdy AI bude dělat nějaký zásah, nebo snad rozhodnutí, které může ovlivnit lidské životy, by se na základě této regulace měla chovat v rámci pravidel EU. U těchto aplikací je důležité mít transparentní přístup k algoritmům, které vedou k takovým rozhodnutím. A co se týká toho vrcholu naší pomyslné pyramidy, tam se jedná o užití nepřípustná, která EU rovnou zakazuje. Tedy, že by umělá inteligence měla pracovat na něčem, jako je sociální kreditový systém, podobně jako se děje například v Číně. AI nemůže autonomně třídit nebo snad kastovat občany EU. 

S AI se operuje hlavně ve Spojených státech, v Číně a EU. Je Evropská unie prvním regionem, který začne AI nějakým způsobem regulovat? 
Ano. Jsou jisté dílčí pokusy, ale jako významný globální hráč jsme v tomto první.

Zákon ještě musí projít schvalovacím procesem EU. Nehrozí od nějakého ze států zablokování? 
Už během projednávání se hodně řešilo například vyjmutí takzvaných foundation modelů. Na to tlačily státy, které mají na svém území velkého hráče na poli vývoje AI. Tedy Francie a Německo. Na finální podobě předloženého textu ale snad panuje shoda.

Dá se AI vůbec regulovat? A nezpůsobí přílišná kontrola zpomalení inovace na našem území? Odejdou všechny firmy vyvíjet své technologie mimo EU? Poslechněte si celý rozhovor v úvodu článku, na naší platformě Podcasty.cz, v aplikaci Seznam.cz a nebo ve vašem oblíbeném podcastovém přehrávači