EU chce tvrději zasáhnout proti sexuálním deepfake videím vytvořeným umělou inteligencí, ve kterém můžete být i vy!

Evropská unie se připravuje na přísnější regulaci technologie, která umožňuje vytvářet falešná videa a fotografie pomocí umělé inteligence. Jedním z největších problémů jsou tzv. deepfakes – realisticky upravené záběry, ve kterých může být bez souhlasu zobrazen skutečný člověk, například v intimních nebo kompromitujících situacích. Takový obsah může vzniknout jen z několika běžných fotografií dostupných na internetu. 

Deepfake technologie se v posledních letech rychle rozšířila a stala se dostupnou široké veřejnosti. To znamená, že kdokoli se může stát obětí manipulovaného videa nebo obrázku, aniž by měl možnost tomu zabránit. Podle odborníků se přitom většina těchto materiálů týká právě sexualizovaného obsahu a často míří na ženy. 

Právě kvůli těmto rizikům začínají evropské instituce připravovat nové kroky, které mají podobné zneužívání umělé inteligence omezit. Cílem je zejména zakázat nebo přísně regulovat systémy, které umožňují vytvářet sexuální deepfakes bez souhlasu zobrazené osoby. Některé státy EU už navrhují, aby takové nástroje vůbec nemohly být na evropském trhu dostupné. 

Podle politiků představují podobné technologie nový typ digitálního násilí. Oběti se totiž mohou ocitnout ve falešných intimních videích, která se následně šíří na internetu a poškozují jejich reputaci, vztahy i psychické zdraví. Navíc může být velmi obtížné takový obsah z internetu odstranit, protože se často rychle kopíruje a sdílí na různých platformách.

Evropská unie proto chce posílit ochranu osobních údajů i právo jednotlivce na vlastní podobu. V některých případech už dnes mohou lidé využít pravidla ochrany osobních dat, například požadovat smazání deepfake materiálu, pokud byl vytvořen bez jejich souhlasu. 

Současně se zvyšuje tlak i na technologické firmy a sociální sítě, aby lépe kontrolovaly obsah generovaný umělou inteligencí. Regulátoři například zkoumají, zda platformy dokážou včas odhalit a odstranit manipulované intimní snímky nebo videa, které porušují zákony či pravidla ochrany uživatelů.

Debata o deepfake technologii ale není jednoduchá. Někteří odborníci upozorňují, že podobné nástroje mají také legitimní využití – například ve filmu, vzdělávání nebo zábavním průmyslu. Evropská legislativa proto musí najít rovnováhu mezi podporou inovací a ochranou lidí před zneužíváním technologie. Jisté však je, že s rostoucí schopností umělé inteligence vytvářet realistický obsah bude tlak na regulaci stále silnější. Pro evropské zákonodárce tak jde o jeden z klíčových digitálních problémů současnosti.

Zdroj foto: www.pexels.com