Do tří let bude umělá inteligence prakticky všude

Podle společnosti SAS, globálního lídra v oblasti analýzy dat, strojového učení a umělé inteligence, se právě AI stala oblastí strategického významu a klíčovou hnací sílou ekonomického rozvoje.

Umělá inteligence může poskytnout řešení mnoha aktuálních výzev včetně léčby nemocí nebo minimalizace dopadů naší spotřeby na životní prostředí. Umělá inteligence dává strojům a systémům schopnost analyzovat jejich prostředí a rozhodovat s určitou mírou autonomie, aby dosáhly konkrétních cílů. Špatné nastavení AI nebo její nesprávné použití však mohou způsobit nenapravitelné škody.

Využívání umělé inteligence přináší i řadu etických. Zaměřili jsme se na dvě oblasti – soukromí a zaujatost.

Je AI náš nový Big (data) Brother?

Obecně se diskutuje o soukromí a dohledu v informačních technologiích. Veškerý sběr a ukládání dat je nyní digitální. Naše životy jsou stále více digitální. A stále více se používají různé senzory, které generují data i o nedigitálních aspektech našeho života. Datová stopa, kterou zanecháváme, je způsob, jakým jsou placeny naše „bezplatné“ služby. Nikdy si však nemůžeme být jisti, jakým způsobem bude tato stezka v budoucnu použita.

^REKLAMA

Vývojáři technologie AI shromažďují, zpracovávají a využívají obrovské množství osobních údajů. Zachycují a extrahují velké množství dat, aniž by přitom získali řádný souhlas jejich vlastníků. Používání velkých datových objemů často odhaluje osobní údaje, které ohrožují soukromí jednotlivců. Dobrou zprávou je, že společnost SAS disponuje technikou na ochranu těchto dat. Umělá inteligence je tak schopná zpracovávat datové vstupy a zároveň respektovat soukromí uživatelů šifrováním veškeré komunikace, anonymizací dat a zajištěním jejich autenticity.

Jedním z hlavních praktických problémů je vymáhání regulace na státní i individuální úrovni. Zatímco obecné nařízení EU o ochraně údajů posílilo ochranu soukromí, USA a Čína upřednostňují růst s menší regulací, pravděpodobně v naději, že to poskytne konkurenční výhodu. Který přístup je lepší, to ukáže až čas.

Může být AI neutrální, nebo má sklony k zaujatosti?

Dalo by se namítnout, že inteligentní stroje nemají morální kompas ani soubor zásad, kterými se musí řídit. Bezpochyby jsou však tyto systémy citlivé na předsudky a chyby způsobené jejich lidskými tvůrci. Jednou z obav je zkreslení v datech použitých k nastavení systému. Kvalita výstupu jakékoli analýzy umělé inteligence silně závisí na kvalitě poskytovaných dat. Pokud jsou tedy data již zkreslená, program je bude zkresleně reprodukovat. Pokud si AI vytvoří určité předsudky vůči rase, pohlaví, náboženství nebo etnickému původu, nebo proti nim, je téměř nemožné se jich zbavit.

Je důležité si uvědomit, že konkrétní zkreslení se často používá záměrně. Schopnost systémů AI zlepšovat individuální zážitky a přizpůsobovat digitální služby má potenciál zlepšit život a poskytování služeb spotřebitelům. Je ale stejně možné použít tyto informace k manipulaci chování (online i offline) způsobem, který podkopává autonomní racionální volbu.

^REKLAMA

Experti navrhli etické požadavky pro vývoj a nasazení AI. Přesto většina těchto požadavků je vytvářena organizacemi soustředěnými v Severní Americe a Evropě. Proto je přirozeně zaujatá směrem k západním hodnotám. Lidé, kteří se zabývají výzkumem AI, bez ohledu na to, odkud pocházejí, musí mít na paměti, že vývoj a používání AI se rozprostírá po celém světě. Umělá inteligence se tedy musí spoléhat na hodnoty, které jsou univerzální.

Autor: Petr Šlajchrt, Country Director společnosti SAS Institute pro Českou republiku.