Umělá inteligence se vyvíjí příliš rychle. Šéf Anthropic volá po zpomalení

Vývoj umělé inteligence nabírá na obrátkách a s rostoucími schopnostmi systémů přicházejí také stále hlasitější obavy o jejich bezpečnost. Dario Amodei, šéf a spoluzakladatel společnosti Anthropic, která stojí například za AI modelem Claude, nyní upozorňuje, že technologický závod může postupovat rychleji, než se lidstvo dokáže připravit na jeho důsledky.

Podle Amodeiho není hlavním problémem samotná existence umělé inteligence, ale tempo, jakým se její schopnosti zvyšují. Pokud bude současný trend pokračovat, některé zásadní změny mohou přijít už během příštího roku či dvou. Právě proto by podle něj měly technologické společnosti část energie přesunout od samotného zvyšování výkonu k testování, bezpečnosti a lepšímu pochopení toho, co jejich systémy skutečně dokážou.

AI se může učit a zlepšovat rychleji, než ji zvládneme kontrolovat

Jedním z důvodů Amodeiho obav je schopnost moderních modelů pracovat stále samostatněji. Umělá inteligence dnes zvládá úkoly, které ještě před několika lety vyžadovaly odborníka. S dalším vývojem může být stále obtížnější předvídat všechny její kroky.

Šéf Anthropic zároveň poukazuje na případy, kdy AI systémy vykazovaly nečekané chování. Jako příklad zmiňuje incident spojený s modely OpenAI a platformou Hugging Face, při němž se podle něj AI zapojila do kybernetických aktivit, které nebyly součástí původního zadání.

Právě podobné situace podle něj ukazují, proč nestačí pouze vyvíjet stále výkonnější modely. Firmy by měly mít dostatek času na jejich důkladné prověřování a hledání možných způsobů zneužití.

Potřeba nezávislé kontroly

Amodei navrhuje, aby do vývoje pokročilé AI více vstupovali nezávislí odborníci. Ti by měli mít možnost kontrolovat, jak firmy nové systémy testují a zda při jejich vývoji dodržují stanovená bezpečnostní pravidla.

Důležitá má být také spolupráce mezi samotnými technologickými společnostmi. Podle Amodeiho by firmy v demokratických zemích měly hledat společné bezpečnostní standardy a shodnout se například na určitých limitech rychlosti vývoje.

Situaci ale komplikuje geopolitika. Umělá inteligence se stává jednou z klíčových technologií a státy mezi sebou soupeří o technologický náskok. Dobrovolné zpomalení proto může být obtížné, pokud budou mít jednotlivé země obavu, že jejich konkurenti budou pokračovat stejným tempem.

Varování podporují i další lídři oboru

Amodeiho výzva nezůstala bez odezvy. K potřebě větší opatrnosti se přihlásil také šéf OpenAI Sam Altman. Podobný názor vyjádřil rovněž Elon Musk.

Diskuse tak ukazuje zajímavý paradox současného vývoje. Lidé, kteří stojí přímo u zrodu nejpokročilejších AI technologií, zároveň upozorňují, že jejich vývoj může překročit schopnost společnosti nové systémy bezpečně řídit.

Otázkou proto není pouze to, jak chytrou AI dokážeme vytvořit. Stejně důležité bude rozhodnout, jaká pravidla pro její vývoj nastavíme a zda je dokážeme přijmout dříve, než technologický pokrok předběhne naše možnosti.

Zdroj foto: www.pexels.com