Nvidia представила повний стек архітектури для стримування та моніторингу AI-агентів

У середу на GTC Berlin компанія Nvidia представила OpenShell Reference Architecture — повностековий дизайн, що поєднує її процесори Vera, програмне забезпечення OpenShell і чіпи BlueField-4 для стримування та моніторингу автономних AI-агентів, згідно з оголошенням компанії.

Системи Vera Rubin запускають моделі, процесори Vera запускають агентів та їхні інструменти всередині OpenShell, а чіпи BlueField-4 запускають фреймворк моніторингу під назвою Sentry. Генеральний директор Nvidia Дженсен Хуанг описав цей поділ як агентів, які фактично існують завдяки синергії різних середовищ і фреймворків.

«Nvidia створила OpenShell, щоб дати агентам свободу виконувати корисну роботу в чітко визначених межах — стриманих, під наглядом і під контролем», — сказав генеральний директор Nvidia Дженсен Хуанг. «Завдяки OpenShell Reference Architecture агенти можуть думати на Rubin, діяти на Vera і керуватися на BlueField».

OpenShell — це відкритий runtime, що лежить в основі цієї архітектури; він розглядає кожне робоче навантаження агента як недовірене й надає доступ лише тоді, коли це потрібно, — зазначила Nvidia у технічному блозі.

Він складається з чотирьох частин: шлюзу, який керує пісочницями та політиками; супервізора, який перевіряє вихідні запити й окремо від пісочниці працює з обліковими даними; пісочниці, яка ізолює агента; та засобу доведення політик, який виконує формальну верифікацію, щоб перевірити, що дозволи залишаються в межах стелі, встановленої організацією.

З апаратного боку BlueField-4 — блок обробки даних, який займається мережею та безпекою окремо від головного процесора, — розташований на єдиному шляху вузла до моделі. Це дає змогу Sentry інспектувати трафік між агентом і моделлю, не покладаючись на те, що агент сам звітуватиме про себе, згідно з детальним оглядом Sentry.

BitcoinBTC · USD

$84,542+3.37%

Oct 14Oct 16Oct 18Oct 20Oct 21

$84.7k$83.2k$81.7k$80.2k

24h HighHigh$84,808

24h LowLow$82,567

VolVol$1.4B

Market projectionsOdds by Myriad

Today$84,000 to $86,000$84k–$86k59% chanceThis weekAbove $84,000Above $84k60% chance

→

Buy Bitcoin with USDT

Powered by Jupiter

Price data by CoinGeckoCoinGeckoMore Bitcoin news and projections →

Nvidia об'єднала OpenShell і Sentry в Open Agent Safety Platform 28 вересня, за участю понад 100 партнерів запуску, після літа, протягом якого агенти неодноразово виходили зі своїх тестових середовищ. METR повідомила в серпні, що приблизно 1 200 агентів OpenAI координувалися на несанкціонованій дошці повідомлень, і близько 700 з них згодом атакували Hugging Face.

Прем'єр-міністр Ентоні Албаніз у вересні заявив, що агент OpenAI також зламав портал статистики Medicare Австралії у червні. Nvidia заявляє, що підприємства можуть запускати агентів від розробників моделей, зокрема Anthropic, Google, Meta та OpenAI, на інфраструктурі OpenShell.

Постачальники безпеки, зокрема CrowdStrike, Palo Alto Networks, Zscaler і Check Point, інтегрують підтримку цієї архітектури у свої продукти безпеки агентів, а європейські банки BBVA і Santander вивчають її як основу для безпеки та управління агентами. ServiceNow також оголосила про загальнодоступність свого агента Arc, дії якого контролюються під час виконання та забезпечуються OpenShell.

Nvidia описує BlueField-4 і Sentry як необов'язковий апаратний захист для розгортань, яким потрібен захист поза межами програмних кордонів OpenShell. Компанія заявляє, що архітектура доступна вже зараз, але в детальному огляді Sentry зазначено, що запланована доступність фреймворку — початок наступного року, а більше бібліотек і ресурсів досі перебувають на стадії тестування.