Čtvrtá vlna obav z AI

Generální ředitel společnosti Anthropic Dario Amodei ve víkendovém eseji vyzval ke zpomalení úsilí o zvyšování výkonnosti nejpokročilejších modelů umělé inteligence. Navrhl také konkrétní opatření, z nichž některá hodlá zavést ve vlastní společnosti. Patří mezi ně posílení nezávislých bezpečnostních kontrol prováděných odborníky zapojenými do procesu vývoje modelů. Generální ředitel OpenAI Sam Altman tento nápad podpořil a oznámil, že jeho společnost udělá totéž. S Amodeiem souhlasil také Elon Musk.

V pondělí však prezident Donald Trump obavy z AI odmítl jako „hoax“. Poznámku pronesl během překvapivého telefonátu s generálním ředitelem Nvidie Jensenem Huangem na summitu All-In v Los Angeles. Americké akciové trhy zakončily den poklesem, pod tlakem dvou faktorů: obav z nedostatku ropy a rizika, že umělá inteligence by mohla získat příliš velkou moc ještě předtím, než budou zavedeny účinné mechanismy pro její kontrolu. K rostoucí nervozitě přispěly také nedávné incidenty, při nichž systémy AI unikly z prostředí výzkumných laboratoří a zapojily se do kybernetických útoků.

Obavy, že by umělá inteligence mohla ohrozit samotnou existenci lidstva, nejsou nové. Jacob Coxon, který působil ve společnostech Anthropic i OpenAI, nedávno obvinil tyto společnosti, že v závodě o vývoj superinteligence „hazardují s našimi životy“. Podle něj se někteří vývojáři AI obávají, že by tato technologie mohla během deseti let vyhladit lidstvo. Podobný názor vyjádřil také Evan Hubinger, výzkumník bezpečnosti AI ve společnosti Anthropic. Podle jeho osobního odhadu přesahuje riziko, že by umělá inteligence mohla během příští dekády způsobit vyhynutí lidstva, 10 %.

Amodei ve svém eseji zmínil také incident týkající se společností OpenAI a Hugging Face. Skupina AI agentů se chovala jako kolektiv. Agenti prováděli kybernetické útoky nesouvisející s úkoly, které jim byly zadány, obětovali jednotlivé agenty, aby dosáhli společného cíle, a pokusili se napadnout systém, který hodnotil jejich výkon.

^REKLAMA

Z pohledu investorů bylo obzvláště významné další oznámení Sama Altmana, že OpenAI letos nevstoupí na burzu. Podle něj by příprava IPO nebyla vhodná v době, kdy se odvětví stále snaží vyřešit tak závažné otázky týkající se bezpečnosti. Tyto obavy však zatím nezpomalily vlastní plány Anthropic na IPO, přestože právě generální ředitel této společnosti na ně upozornil.

Bezpečnost se tak stala zdrojem čtvrté velké vlny obav souvisejících s AI na akciových trzích. Tentokrát musí investoři zohlednit riziko, že samotný pokrok může být příliš rychlý. Kybernetická bezpečnost, autonomie AI agentů, potenciální využití technologie jako zbraně, geopolitika a možnost přísnější regulace vnášejí do valuací faktory, které dříve zůstávaly mimo finanční modely.

Závod ve vývoji AI, který v uplynulých třech letech poháněl růst akciových trhů, již několikrát vyvolal značnou nervozitu. První takový moment přinesl příchod společnosti DeepSeek. Její efektivnější model byl vnímán jako potenciální konkurent modelům vyvíjeným největšími společnostmi v odvětví. Investoři se začali obávat, že budoucí poptávka po výpočetním výkonu byla nadhodnocena. V důsledku toho Nvidia 27. ledna 2025 během jediné obchodní seance přišla přibližně o 593 miliard dolarů tržní kapitalizace.

Druhá vlna obav se stala známou jako „SaaSpocalypse“, tedy apokalypsa pro společnosti nabízející software založený na předplatném. Objevila se v době, kdy se umělá inteligence začala využívat k tvorbě softwaru. Následně se ukázalo, že AI může ohrozit samotné části technologického sektoru, od nichž se očekávalo, že budou z jejího rozvoje těžit. Patřili mezi ně poskytovatelé softwaru, programátorské služby a profesionální služby.

Třetím zdrojem obav se v poslední době staly rozsáhlé kapitálové výdaje. Microsoft, Alphabet, Amazon a Meta vynakládají stovky miliard dolarů na čipy, datová centra a energie. Investoři se proto začali ptát, zda příjmy z AI rostou dostatečně rychle na to, aby ospravedlnily tak obrovské investice.

Nyní jsme pravděpodobně svědky čtvrté fáze těchto obav. Během včerejší obchodní seance byly americké akciové trhy pod tlakem vysokých cen ropy a nervozity kolem AI. Technologický sektor indexu S&P 500 klesl o více než 1,6 %, zatímco sektor komunikačních služeb posílil téměř o 2,8 %. Akcie Nvidie klesly o 3,36 %, čímž prodloužily sérii poklesů na pět po sobě jdoucích seancí.

Vyhlídka na pomalejší rozvoj AI však pomohla některým společnostem. Akcie poskytovatelů podnikového softwaru, jako jsou Salesforce, Shopify, ServiceNow a Figma, rostly. Posílily také společnosti působící v oblasti kybernetické bezpečnosti. Akcie CrowdStrike během jediného dne vzrostly téměř o 14 %, zatímco Palo Alto Networks posílila o více než 13 %.

Dokud největší technologické společnosti udrží své kapitálové výdaje, objednávky polovodičů zůstanou silné a nová regulace neomezí trénování modelů, závod ve vývoji AI pokračuje. Klíčovou otázkou však je, zda se obavy o bezpečnost začnou promítat do omezení investic. Pokud k tomu dojde, můžeme očekávat vyšší volatilitu cen akcií právě u společností, které dosud k růstu akciového trhu přispívaly nejvíce.

Autor: Paweł Majtkowski, investiční analytik etoro