Skutečně schopný agent umělé inteligence potřebuje chytrost i skutečnou akci-schopnost podnikat-musí hluboce porozumět tomu, co uživatel chce, a poté věci skutečně dokončit. Tak Yuan Yuan, děkan Alibaba Research Institute, popsal ideální formu agentů AI během nedávného semináře na téma „Bezpečnost a vývoj chování agentů AI“.

Zdůraznila, že zatímco agenti umělé inteligence mají obrovský příslib pro přeměnu technologií umělé inteligence na skutečné peníze a dramatické zlepšení uživatelské zkušenosti, jejich zavedení by nemělo narušit stávající pravidla, řízení nebo obchodní ekosystémy. Místo toho by se vše mělo dít bezpečným, kontrolovatelným způsobem, s hlubokou spoluprací napříč odvětvím, aby výrobci telefonů a vývojáři aplikací mohli sdílet výhody pokročilých modelů.
Během posledního roku byla na trhu velká otázka: „Dokáže umělá inteligence skutečně zvládnout úkoly za nás?“ Viděli jsme, jak se objevují různé přístupy.
Některé produkty se pokoušejí „převzít“ operace telefonu tím, že rozumí tomu, co je na obrazovce, a napodobují lidské klepnutí a přejetí, aby mohli dělat věci, jako je úprava videí, rezervace vstupenek nebo objednávání jídla v různých aplikacích. Ty se obvykle nazývajíAgenti GUI(zkratka pro Graphical User Interface Agents).
Technicky fungují tak, že AI „vidí“ obrazovku, přijde na to a poté simuluje kliknutí a gesta. Ale to okamžitě vyvolává spoustu záludných problémů: Kdo tomu dává povolení? Kdo je zodpovědný, když se to pokazí? K jakým službám má přístup? A kdo to drží na uzdě?
Odborníci na semináři poznamenali, že tento{0}}přístup založený na obrazovce má skutečnou krátkodobou-hodnotu-umožňuje agentům umělé inteligence skočit do každodenního používání, aniž by vynucoval velké změny ve stávajících aplikacích. Ale z dlouhodobého hlediska má vestavěné-omezení týkající se spolehlivosti, rychlosti a toho, jak dobře ji lze ovládat. Mnozí to považují spíše za dočasný most než za konečnou hru.
Jiao Haitao, profesor na Čínské univerzitě politických věd a práva, tvrdil, že povolení pro agenty umělé inteligence by se mělo vyřizovat scénu po scéně. Kritické akce vyžadují druhé potvrzení od uživatele a věci zahrnující osobní atributy, subjektivní rozhodnutí nebo sociální interakce by neměly být vůbec delegovány. Upozornil na problémy s dvojími-pravidly autorizace-ne každý scénář by se měl spoléhat pouze na platformu třetí-strany-a navrhl, aby odvětví spolupracovalo prostřednictvím vyjednávání a standardů, aby se to postupně vyřešilo.
Výrobci telefonů aktivně zkoumají své vlastní cesty pro agenty AI.
Na nedávném brífinku pro média Jiang Yuchen, ředitel výzkumu a vývoje chytrých produktů OPPO pro ColorOS, novinářům řekl, že produkty jako telefon Doubao mají pozitivní dopad na průmysl a ekosystém tím, že posouvají věci kupředu. Ale měla jasno: „Není to konečná podoba telefonu s umělou inteligencí-je to stále v podstatě způsob ovládání starých rozhraní GUI.“
Volba mezi přístupy ke stylu GUI-není pro OPPO o ideologii,{1}}v první řadě jde o technický problém a problém s rozsahem. Jiang vysvětlil, že něco jako Doubao si může dovolit být agresivnější jako technický prototyp, ale velcí výrobci telefonů se zabývají masivní uživatelskou základnou. „Pokud spustíte nějakou funkci a druhý den většina služeb přestane správně fungovat, je to pro nás kvalitativní incident-nemůžeme to akceptovat.“ V takovém měřítku se všechny nestabilní možnosti-systémové úrovně rychle zvětší.
Podle jejího názoru jsou agenti-operace{1}}na obrazovce „poněkud přechodnou fází“. Cesta hlavního proudu vpřed se bude více přiklánětSpolupráce A2A (Agent-to-Agent)., kde agenti AI mluví přímo mezi sebou a spolupracují.
Zdůraznila, že v tomto vývoji není pro výrobce telefonů skutečně důležitá velikost modelu nebo parametry-ale jejich hluboké a dlouhodobé{1}}porozumění uživatelům. "Nemyslíme si, že velký model je duší telefonu," řekl Jiang. "Věříme, že 'paměť' je duše. Jakmile vám telefon skutečně rozumí, je opravdu těžké přejít na něco jiného."
Na semináři se několik odborníků shodlo na tom, že skutečnou výzvou pro agenty umělé inteligence není jen „dokáže to zvládnout?“-jde o definování jasných hranic toho, co mohou dělat a jak jsou řízeni.
Yuan Yuan poznamenal, že současná vlna grafického uživatelského rozhraní vytvořila zdravý „efekt sumce“, který otřásl a dodal energii celému odvětví. Naléhala však na čínský sektor AI, aby neuvízl na cestě GUI. Místo toho na něm stavte, abyste našli lepší trasy, které vyvažují bezpečnost a pokrok. Jako dobrý příklad poukázala na přístup společnosti Apple: Nastavuje otevřenou spolupráci-založenou na API mezi agenty a aplikacemi, přičemž využívá povědomí o obrazovce k zachování bezpečnostních hranic a preciznímu předávání záměrů uživatelů aplikacím, díky čemuž jsou chytřejší při provádění příkazů.
Wang Yue, zástupce ředitele Institutu informačních systémů na katedře elektronického inženýrství univerzity Tsinghua, vidí agenty umělé inteligence jako zásadní bod obratu-systémy umělé inteligence začínají přímo interagovat s vnějším světem. To nezmění jen způsob, jakým se budují informační systémy; mohlo by to změnit i ekonomické operace. Varoval, že skutečně převratné inovace ohrožují ovladatelnost systému a narušují základy důvěry, takže potřebujeme lepší autorizační mechanismy a kontroly a protiváhy A2A, abychom se nakonec posunuli k systémům důvěryhodnosti založeným na trhu-založené na konkurenci{5}}.
Celkově se konverzace posouvá od toho, zda umělá inteligence může působit na telefony, k tomu, jak to dělat zodpovědně a udržitelně-a spolupráce mezi agenty ve stylu A2A{2}} vypadá jako slibný způsob, jak se tam dostat, aniž byste porušili všechno ostatní.
