Legislatívna Európskej únie

Európska rada schválila zákon na reguláciu umelej inteligencie. Modely rozdelí podľa rizika

Na systémy s limitovaným rizikom sa budú vzťahovať zásady transparentnosti, pre veľmi rizikové budú platiť tvrdšie pravidlá.
Technologický sektor sa však domnieva, že Akt o umelej inteligencii môžu spomaliť inovácie v danej oblasti.

Umelá inteligencia doslova zachvátila svet, pričom mnoho spoločností sa snaží zužitkovať novodobý fenomén vo svoj prospech. Vývin nových a efektívnejších modelov umelej inteligencii je zrejme nezastaviteľný. Napriek tomu sa však Európska únia snaží o reguláciu.

Rada Európskej únie schválila v utorok 21. mája zákon zameraný na zosúladenie pravidiel týkajúcich sa umelej inteligencie na území členských krajín únie. Akt o umelej inteligencii sa má riadiť prístupom založeným na posúdení rizika, informuje rada v tlačovej správe.

Nový zákon preto rozlišuje niekoľko druhov umelej inteligencie. Na systémy s limitovaným rizikom by sa vzťahovali veľmi mierne povinnosti týkajúce sa transparentnosti. Vysoko rizikové systémy by boli povolené, ale podliehali prísnejším požiadavkám.

Osobitnou kategóriou sú systémy umelej inteligencie s využitím na kognitívne behaviorálne manipulácie a sociálne skórovanie. Tieto modely budú v zakázané. To isté platí o používaní umelej inteligencie na prediktívny policajný dohľad založený alebo kategorizáciu ľudí.

Prvý svojho druhu

„Tento prelomový zákon, prvý svojho druhu na svete, rieši globálnu technologickú výzvu, ktorá zároveň vytvára príležitosti pre naše spoločnosti a hospodárstva,“ uviedol belgický štátny tajomník pre digitalizáciu Mathieu Michel. Hovorí, že ide o významný míľnik pre úniu.

Kvôli aktu sa zároveň zriadilo niekoľko riadiacich orgánov. Prvým z nich je Úrad pre umelú inteligenciu, ktorý spadá pod Európsku komisiu. Ďalším z nich je Rada pre umelú inteligenciu so zástupcami členských štátov, ktorá má poskytovať poradenstvo pri jeho uplatňovaní.

regulácia umelej inteligencie

Modely umelej inteligencie na všeobecné účely, ako napríklad ChatGPT, nemajú predstavovať systematické riziko. Zdroj: unsplash.com/@jupp

Okrem toho vznikla vedecká skupina tvorená z nezávislých odborníkov, aby podporili činnosti súvisiace s presadzovaním práva a poradné fórum pre zainteresované strany. To bude poskytovať technické a odborné znalosti Rade pre umelú inteligenciu a Európskej komisii.

V prípade porušenia nového zákona hrozia spoločnostiam pokuty. Ich výšku stanovili ako percento z celkového ročného obratu za minulý rok, prípadne ako vopred určená suma podľa toho, ktorá z nich je vyššia, uvádza portál Živé.sk na základe správy z TASR

Technologicky sektor sa obáva

„Aktom o umelej inteligencii Európa zdôrazňuje význam dôvery, transparentnosti a zodpovednosti pri práci s novými technológiami a zároveň zabezpečuje, aby sa táto rýchlo sa meniaca technológia mohla rozvíjať a podporovať európske inovácie,“ dodáva Michel.

Lídri technologického sektoru sú však voči novému skeptickí. „V zákone EÚ o umelej inteligencii a na rôznych iných miestach existujú ustanovenia, ktoré regulujú výskum a vývoj,“ povedal pre CNN šéf spoločnosti Meta pre umelú inteligenciu Yann LeCun.

Hovorí, že to nie je správne. Podobný názor zastáva aj technologický riaditeľ spoločnosti Amazaon Werner Vogels. „Existuje celý rad oblastí, v ktorých sú podľa mňa riziká minimálne a mali by sme v nich nechať inovácie bežať,“ povedal CNN na VivaTech Conference.

Európska komisia v súčasnosti prešetruje Amazon, kvôli možnému porušeniu Nariadeniu o digitálnych trhoch. Zdroj: unsplash.com/@christianw

Zároveň však dodal, že v iných oblastiach, kde chybovosť modelov umelej inteligencie by mohla mať väčšie dopady na ľudské životy, by sa hrozby mali riadiť „jedinečne pre danú oblasť“.  Zdôraznil, že Amazon reguláciu víta, ale varoval EÚ pred nadmernou reguláciou.

Poukázal pri tom na zákon o ochrane osobných údajov, známy ako GDPR, pričom ho označil za veľmi „hrubú“ knihu. Európska únia je známa svojimi zákonmi, medzi nimi aj Nariadenie o digitálnych trhoch (DMA), o ktorom sme vás informovali v predchádzajúcom článku.

Potrebujeme globálnu reguláciu?

Používanie, vývoj a výskum umelej inteligencie by mohli regulovať aj jednotlivé štáty podľa toho, ako uznajú za vhodné. Toto riešenie by však mohlo spôsobiť väčší chaosu v pravidlách a nariadeniach. Spoločnosti by sa totiž museli prispôsobovať každej krajine zvlášť.

Okrem toho sa však načrtá ďalší problém, ktorého podstata je ekonomická. Portál britskej televízie SkyNews informuje o tom, že regulačné orgány v Spojenom kráľovstve majú byť pofinancované. Upozornil na to šéf vedeckého výboru britského parlamentu Greg Clark.

Vidí však aj ďalší problém. Novovzniknutý AI Safety Institute nemal pristúp k modelom niektorých vývojárov pred ich uvedením na trh. To im znemožnilo otestovať ich výstupy na zaujatosť, a „aby sa zistilo, či majú neprijateľné dôsledky”.

„Je správne pracovať prostredníctvom existujúcich regulačných orgánov, ale budúca vláda by mala byť pripravená rýchlo prijať zákon, ak sa ukáže, že niektorý z mnohých regulačných orgánov nemá zákonné právomoci, aby bol účinný,“ skonštatoval šéf výboru Clarck.

Pokračujte na ďalší príspevok »