openEuler rozširuje operačný systém o infraštruktúru pre agentov umelej inteligencie
Projekt openEuler buduje softvérový základ na nasadzovanie a prevádzku agentov umelej inteligencie v rôznorodých výpočtových prostrediach. Vlastné testy projektu poukazujú na rýchle spúšťanie izolovaných prostredí aj úspory pri opakovanom spracovaní kontextu.
Projekt openEuler rozvíja schopnosti svojho operačného systému tak, aby podporoval celý životný cyklus agentov umelej inteligencie. Podľa portálu It's FOSS má pripravovaná infraštruktúra pokrývať ich nasadzovanie, plánovanie úloh, izolované vykonávanie, prácu s kontextom a pamäťou aj obnovu po prerušení.
Architektúra pozostáva z dvoch hlavných vrstiev. Agent Kernel poskytuje základné systémové funkcie, kým Agent Service sprístupňuje opakovane použiteľné služby, napríklad bezpečné izolované prostredia, správu pamäte a relácií či bránu na používanie nástrojov. Riešenie má fungovať na procesorových architektúrach x86, Arm, RISC-V a LoongArch aj s akcelerátormi umelej inteligencie od viacerých dodávateľov.
Na rýchle vytváranie oddelených prostredí openEuler spája ľahkú virtualizáciu, obnovu zo snímok a plánovanie veľkého počtu úloh. Podľa vlastných výkonnostných testov projektu môže spustenie izolovaného prostredia trvať iba 20 milisekúnd. V samostatnom teste platforma spustila 100-tisíc takýchto prostredí do desiatich sekúnd; ide však o výsledky testov openEuleru, nie o nezávislé meranie.
Systém sa zároveň usiluje obmedziť opakované výpočty pri práci s podobným kontextom. V konkrétnych testovacích scenároch zvýšilo opätovné využitie vyrovnávacej pamäte priepustnosť odvodzovania 1,5- až trojnásobne a skrátilo čas do vytvorenia prvého tokenu o 30 až 70 percent. Ďalšia pamäťová vrstva má agentom umožniť vyhľadávať potrebné informácie naprieč úlohami a reláciami. Súčasťou návrhu sú aj pružne prideľované databázové prostredia postavené na openGauss.
Public facts from It's FOSS. Credit and link the original source. The source was qualified for this editorial use; do not imply a blanket licence, endorsement or permission to reuse its images, logos, quotations or third-party materials.
AI-assisted original local-language article; source claims require the original editorial verification.
Ilustrácia
Ilustrácia
Ilustrácia
Ilustrácia