Neprogramátoři za šest týdnů postavili vlastní AI agenty

Evropská ko­mise svo­lala 9. října mi­mo­řádné za­se­dání vě­dec­kého pa­nelu pro umě­lou in­te­li­genci. Panel zkoumá ne­dávné in­ci­denty, kdy lidé ztra­tili kon­t­rolu nad AI, a s Úřadem EU pro AI při­pra­vil otázky pro firmy, které do­tčené mo­dely vy­vi­nuly. Panel tvoří 60 ne­zá­vis­lých od­bor­níků, kteří radí Úřadu EU pro AI a ná­rod­ním úřa­dům, třeba jak mo­dely za­řa­zo­vat do ka­te­go­rií a jak je testovat. Na za­se­dání pa­nel předá Komisi do­po­ru­čení k bez­peč­nosti nej­vý­kon­něj­ších mo­delů a do­razí i mís­to­před­sed­kyně Komise Henna Virkkunenová. Ta při­po­mněla, že EU má jako první na světě zá­kon, který řeší sys­té­mová rizika AI.

Amazon Quick a Bedrock Knowledge Bases nově u kaž­dého do­tazu ově­řují přímo u zdroje, třeba na Disku Google nebo v SharePointu, jestli máš k do­ku­mentu pří­stup. Odpověď AI pak stojí jen na do­ku­men­tech, které smíš číst. Dosud se opráv­nění ko­pí­ro­vala při pra­vi­delné syn­chro­ni­zaci, takže člo­věk, kte­rému firma pří­stup ode­brala, mohl do další syn­chro­ni­zace do­stá­vat od­po­vědi i z do­ku­mentů, které už vidět neměl. Kontrola běží ve dvou kro­cích: nejdřív se na­jdou vhodné pa­sáže podle ulo­že­ných opráv­nění, pak se každá ověří přímo u zdroje. Nástroj na­sa­dila firma Mondelēz International pro víc než 35 000 za­měst­nanců ve čtyřech regionech.

Inženýři NVIDIA za­dá­vali mo­delu GPT-6 Astra úkoly běž­nou řečí a ten s knihov­nami Omniverse se­sta­vil fun­gu­jící si­mu­lace. Šlo třeba o sklad s hu­ma­no­id­ním ro­bo­tem nebo tes­to­vací trasu pro sa­moří­dící auta na san­fran­ciské Market Street. Pro běž­ného uži­va­tele je to ukázka, že AI agent, tedy mo­del, který sám pro­vádí jed­not­livé kroky, zvládne slo­ži­tou tech­nic­kou práci, když ho člo­věk vede a kon­t­ro­luje. Model Mezinárodní vesmírné sta­nice s te­le­me­t­ric­kými daty vznikl z je­di­ného po­kynu, dru­hým po­ky­nem se scéna pře­su­nula na denní stranu Země.

Služba AgentCore pa­y­ments od Amazonu do­vo­luje AI agen­tovi, tedy pro­gramu, který za člo­věka sám pro­vádí kroky, za­pla­tit si bě­hem úkolu třeba za od­po­věď ji­ného mo­delu. Pro běž­ného uži­va­tele to zna­mená, že agent platí z pe­ně­ženky, kte­rou uži­va­tel vlastní, sám ji na­bije a sám po­volí platby, a utra­tit smí jen do li­mitu, který mu uži­va­tel na­sta­vil. Firma Incarna tak ne­chala své agenty pla­tit službě BlockRun, která přes je­diný pří­stup na­bízí víc než 90 mo­delů od víc než 15 poskytovatelů. Ve zku­šeb­ním pro­vozu agenti pro­vedli přes 1 000 pla­teb po 0,001 až 0,05 do­laru, kaž­dou zvlášť v USDC, kryp­to­měně na­vá­zané na dolar.