EU se snaží předejít katastrofě – přijalo pravidla pro AI. Asi to ale nebude stačit vnějším vlivům. Tisk E-mail
Napsal Jan "DD" Stach   
Pátek, 15 březen 2024
altAI je zbraň hromadného ničení. EU se sice snaží zabránit katastrofě, ale nemusí to být moc platné.

 

 

 

 

AI, její učení, trénování a hlavně potenciál zneužití jsou a budou problém. Stále větší problém. Všichni, kteří mají alespoň základní informace a přemýšlí o důsledcích vědí, že AI je zásadní věc, která však svou nebezpečností mnohonásobně předčí vynález atomové bomby. Na rozdíl od atomovky, kterou si jen tak nemůžete běžně pořídit, silné AI nástroje budou běžně dostupné všem. A je jasné, že mnozí lidé, firmy i vlády, mají s AI velmi nekalé úmysly.

Masivní rozšíření deepfake, dezinformací, AI řízených systémů obchodování, manipulací všeho druhu jsou nevyhnutelné. Řešením je samozřejmě udělat pravidla, ale také něco a někdo musí ta pravidla vymáhat. A bránit zneužití AI a používání jako zbraň. Selhání by mělo katastrofální následky pro celou lidskou společnost.

V EU jsme se už před časem shodli, že AI je třeba stanovit jasná pravidla, jasná omezení a jasné mantinely. Současně všichni chápou, že vývoj AI je neodvratný a nejde nikomu o to AI zakázat, protože její prospěšnost v pozitivně využívaných nástrojích, je neoddiskutovatelná. Pro výzkum a vývoj je strojové učení naprosto zásadní. Minimálně také budou potřeba výkonné AI systémy na ochranu před těmi, kteří se budou snažit jiné AI nástroje zneužívat proti Evropě a jejím obyvatelům. V EU se tak už dlouho připravovala legislativa a pravidla. A státy EU nyní přijaly Akt o umělé inteligenci, které jako vůbec první AI zákony na světě nějaké věci právně řeší a definují (nebo se o to alespoň snaží). Zástupci Evropských států v EP přijali nařízení naprosto drtivou většinou, kdy je evidentní, že si skoro všichni uvědomují závažnost situace.

Samozřejmě nová pravidla neřeší zdaleka vše. Ale pamatují na spoustu věcí. Například brání plošnému nasazení sledovacích biometrických systémů ze strany států a stanovuje jen individuální výjimky v soudech stanovených případech. Jinými slovy nehrozí v EU čínský realita všeobecného státního sledování a hodnocení obyvatel na každém kroku. Pravidla jsou také pro obecné trénování AI systémů, které musí dodržovat autorská práva. S těmi se do kolize dostávají hlavně američtí provozovatelé AI, kteří jsou hromadně žalováni za to, že jejich systémy učili na autorsky chráněných dílech, bez vědomí a souhlasu jejich majitelů. V některých případech hrozí, že budou muset všechna data a trénování smazat. EU také po firmách chce transparentnost. Tedy jasné posuzování vstupů a výstupů, upozorňování na „incidenty“ atd.

Velkou pozornost berou pravidla také na zásadní problém, kterým je vytváření a šíření dezinformací, upravených textů, obrázků a videí za pomoci AI nástrojů. Deepfake mají být jasně označovány a sociální sítě budou mít povinnost je detekovat a označovat. A je toho mnohem více. Pochopitelně jde o zásadní právní soubor, který však hezky vypadá jen na papíře. Stále se ještě bude dolaďovat a platný bude až po plném schválení finální verze, tedy v praxi bude platný nejdříve tak za 2 – 3 roky. To je dlouhá doba, kdy zatím žijeme v AI divokém západě. A nebezpečnost AI využívaných systémů už se začíná plně projevovat. Otázkou také je vymáhání těch pravidel, kdy zejména sociální sítě si stále ještě neporadily se šířením dezinformací, takže nemám zrovna moc důvěru, pokud jde o to, jak zabrání šíření AI vytvořených fejků a dezinformací a vůbec AI generovaného obsahu a balastu. Současně Evropa zjevně nebude ideálním místem pro vývoj AI systémů z hlediska AI firem, protože prostě vůbec bude mít nějaká pravidla, která budou muset dodržovat s nějakou administrací okolo. Pro AI firmy tak bude výhodné vyvíjet AI nástroje mimo Evropu. Ve státech, kde žádná pravidla a omezení mít nebudou.

To je prostě extrémně nebezpečná situace a problém, který sama EU nemůže vyřešit, ať se bude snažit sebevíc. Každý rozumný člověk asi chápe nutnost nějakých pravidel, protože AI nástroje jsou a budou bez přehánění zbraň hromadného ničení. Státy EU se snaží zabránit zřejmé katastrově, ovšem je otázkou, zda na to nějaká pravidla na papíře, platící jen v rámci EU, mohou reálně stačit. Určitě je to lepší než nedělat nic, ale vzhledem k tomu, že se jako celá EU už nacházíme v reálné hybridní válce a útočí na nás nepřátelské země i za pomocí AI dezinformačních nástrojů, je nějaké řešení a vývoj potřebných AI opatření nutností. Bohužel, stejně jako s technologií štěpení atomu, ani s AI nemají všichni dobré úmysly. Rozdíl je v tom, že AI, co by zbraň hromadného ničení, budou mít přístup stamiliony lidí. A nepotřebují balistickou raketu ani strategický bombardér k jejímu zneužití a doručení …

 

AUTOR: Jan "DD" Stach
Radši dělám věci pomaleji a pořádně, než rychle a špatně.

Starší články


Komentáře
Přidat Nový
snajprik [Zobrazit profil] [Poslat zprávu] 2024-03-18 06:36:20

AI je tu dlšie, zatial ho mali plne pod kontrolou USA lebo vyrabali ako Hardware tak aj Software a občas to zneuživali a vypinali zariadenia v Iraku Iranu Rusku aj Čine.
Ale Čine ani Rusom sa to nepačilo že ich maju plne pod kontrolou USA, preto si začali vyrabať vlastny hardware i software a na svoju ochranu začali vyvíjať AI.
Preto USA odstavilo Činu od hardwaru lebo si chceli vyrabať vlasny hardwar aj softwar ktory už nemaju pod kontrolou, preto dostali banana Huawei lebo cez neho už nesleduje USA ale môže čina
My EU nemame ani hardware ani software ani na vyber a možeme si len vybrať kto nas bude sledovať a ovladať bud to USA alebo Čina.
Doba hackerov už skončila, dnes už to brani AI aj utoči AI.
Richelieu [Zobrazit profil] [Poslat zprávu] 2024-03-18 10:25:56
avatar
Taková blbost, pokud někde vznikne nějaké umělé omezení, tak se to nebude vyvíjet u nás, ale třeba za naše peníze ve státě, kde tato omezení nemají. Tak jako je výzkum zakázaných vojenských látek, virů a bakterií, tak výzkum kmenových buněk, nebo genová manipulace lidských embrií atd. Každopádně na tom vždy budeme tratit. My se budeme ohánět morálkou a zodpovědností vůči lidstvu, ale jinde budou geneticky vylepšení vojáci s vojenským velením AI. Hádejte jak ten střet asi dopadne.
Dvorix [Zobrazit profil] [Poslat zprávu] - Srovnávat AI s atomovou bombou 2024-03-18 15:52:51

Srovnávat AI s atomovou bombou je prostě naprostá kravina.

Celý tento článek je napsaný bez jakýchkoli faktů, jedna velká dezinformace napsaná pomocí AI.

Podle Vaší logiky by tedy tento článek měl být regulován/zakázán.

Pokud to tedy není nějaká ironie, která mi unikla, moc to nechápu o co se vlastně snažíte. Podřezat si pod sebou větev? Zajistit sám sobě zákaz?
Normální články jsou ok, proč na tyto "politické" články používáte AI? A ještě proti AI? Nebo máte fakt styl projevu, který nejde od AI rozeznat? Tím spíš nerozumím...

Hlavně to nechápu že u webu, který dal takovou práci. Spousta recenzí, faktů. A pak taková hrůza. Dokážete aspoň naznačit v čem to ukrutné nebezpečí (srovnatelné s atomovou bombou) spočívá?
Nedochází Vám, že tato regulace, bude v první řadě namířena proti Vám?
AI nedokáže vybudovat takový skvělý web. Ani to nikdy umět nebude.
horst [Zobrazit profil] [Poslat zprávu] 2024-03-18 21:57:46

jo, jo, svyho casu byl pro nekoho podobnou hrozbou knihtisk
Pouze registrovaní uživatelé mohou přidat komentář!
 

Najdete nás na Facebooku

.... a také na Twitteru

RSS

DDWorld.cz

DDWorld - Blogy a videa

DDWorld - Magazín

Poslední příspěvky v diskuzích


Videa
Vývoj Cyberpunk 2077 skončil – CDPR chce zrychlit vývoj
Vývoj Cyberpunk 2077 skončil – CDPR chce zrychlit vývojPondělí, 27 květen 2024
Vložil: aDDmin
Kategorie: Počítačové hry
Spuštěno: 348x
Komentářů: 0
Seriálový Zaklínač se ukazuje s novým představitelem
Seriálový Zaklínač se ukazuje s novým představitelemNeděle, 26 květen 2024
Vložil: aDDmin
Kategorie: Film
Spuštěno: 883x
Komentářů: 1
Beetlejuice 2 – druhý film po 36letech!
Beetlejuice 2 – druhý film po 36letech!Pátek, 24 květen 2024
Vložil: aDDmin
Kategorie: Film
Spuštěno: 1169x
Komentářů: 2
Na základech Witcher 3 můžete vytvořit zcela novou hru!
Na základech Witcher 3 můžete vytvořit zcela novou hru!Čtvrtek, 23 květen 2024
Vložil: aDDmin
Kategorie: Počítačové hry
Spuštěno: 1159x
Komentářů: 1
Jak se vyrábí počítačové čipy?
Jak se vyrábí počítačové čipy?Středa, 22 květen 2024
Vložil: aDDmin
Kategorie: PC a IT
Spuštěno: 1532x
Komentářů: 0
Vychází Hellblade 2 – vizuálně působivá psycho akční adventura
Vychází Hellblade 2 – vizuálně působivá psycho akční adventuraÚterý, 21 květen 2024
Vložil: aDDmin
Kategorie: Počítačové hry
Spuštěno: 1576x
Komentářů: 3