Geoffrey Hinton, průkopník v oblasti umělé inteligence, odchází ze společnosti Google, kvůli etickým rizikům AI

Geoffrey Hinton, průkopník v oblasti umělé inteligence (AI) a dlouholetý vedoucí výzkumné divize AI společnosti Google, odstoupil ze své pozice s odkazem na rostoucí obavy z etických důsledků technologie, kterou pomáhal vytvořit.

Hinton, který je díky své průkopnické práci na hlubokém učení a neuronových sítích všeobecně považován za génia, uvedl, že se rozhodl po více než deseti letech opustit Google, aby mohl otevřeněji hovořit o možných rizicích a škodách umělé inteligence. Tento krok udělal v době, kdy se v oblasti umělé inteligence přehánějí konkurenti z celého světa.

„Utěšuji se klasickou výmluvou: kdybych to neudělal já, udělal by to někdo jiný,“ řekl Hinton v exkluzivním rozhovoru pro Timesy. „Je těžké si představit, jak zabráníte špatným aktérům, aby to využili ke špatným věcem.“

Zpráva o Hintonově odchodu přichází jen něco málo přes měsíc poté, co více než 1 000 výzkumníků v oblasti umělé inteligence podepsalo otevřený dopis vyzývající k šestiměsíční pauze v trénování systémů umělé inteligence výkonnějších než GPT-4 (nejnovější model, který OpenAI vydala v březnu). V dopise se uvádí, že „systémy AI s inteligencí srovnatelnou s lidskou mohou představovat hluboké riziko pro společnost a lidstvo, jak ukázal rozsáhlý výzkum a potvrdily špičkové laboratoře AI“. Hintonův odchod je nejnovějším a nejvýraznějším projevem rostoucího rozkolu mezi některými předními světovými výzkumníky v oblasti AI a technologickými společnostmi, které je zaměstnávají. Mnozí z těchto výzkumníků alarmují nad sociálními, environmentálními a politickými dopady umělé inteligence a také nad nedostatečnou transparentností, odpovědností a rozmanitostí v této oblasti.

Proti praktikám a prioritám tohoto odvětví se ozývají i další významné hlasy v oblasti etiky umělé inteligence. Kate Crawfordová, vedoucí hlavní výzkumná pracovnice ve společnosti Microsoft Research a významná profesorka na Newyorské univerzitě, se obsáhle věnuje rizikům umělé inteligence. Nedávno vydala knihu Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence (Atlas umělé inteligence: Moc, politika a planetární náklady umělé inteligence), která odhaluje skryté lidské a environmentální dopady výroby a spotřeby umělé inteligence.

Stuart Russell, profesor informatiky na Kalifornské univerzitě v Berkeley a spoluautor knihy Artificial Intelligence: A Modern Approach, standardní učebnice umělé inteligence, varuje před existenční hrozbou superinteligentní umělé inteligence, která by mohla překonat lidské schopnosti a cíle.

Zdroj, foto: venturebeat.com, google.com