Nvidia Open Agent Safety Platform платформаси аллақачон 100 дан ортиқ ташкилотлар томонидан фойдаланилмоқда ёки ишлаб чиқилмоқда. Улар орасида Anthropic, SpaceXAI ва JPMorgan Chase бор.
Ушбу технология сунъий интеллект агентлари ишлатиладиган дастурий таъминот ва аппарат тизимларида, ҳисоблаш инфратузилмасида ва робототехникада қўлланилиши мумкин. Платформа бундай тизимларнинг ҳаракатларини кузатиш ва уларнинг ресурсларга киришини чеклаш учун мўлжалланган.
— Сунъий интеллектнинг жамият учун улкан салоҳияти фақат унинг хавфсизлиги муаммосини ҳал қила олсакгина амалга ошади, — деди Nvidia асосчиси ва бош директори Женсен Хуанг.
Платформа иккита воситадан иборат: OpenShell ва Sentry
OpenShell марказий процессор блокида (CPU) ишлайди ва сунъий интеллект фаолиятига чекловларни жорий қилади. Nvidia компаниясининг таъкидлашича, восита компаниянинг Vera процессори учун оптималлаштирилган, уни АI агентлари учун махсус ишлаб чиққан. Уни бошқа ишлаб чиқарувчиларнинг процессорларига ҳам мослаштириш мумкин.
Sentry қўшимча аппарат ҳимояси қатлами вазифасини бажаради. У Nvidiaнинг ўз чипида ишлайди ва дастурий таъминот чекловларини четлаб ўтган АI фаолиятини кузатиб боради.
Компаниялар платформадан қандай фойдаланмоқда?
Anthropic Nvidia билан биргаликда Claude корпоратив версияси учун қўшимча хавфсизлик механизмларини ишлаб чиқиш устида ишламоқда. Ушбу технологиялар компанияларга АI агентларининг маълумотлар ва ички тизимларга киришини чеклаш имконини беради.
SpaceXнинг сунъий интеллект бўлими SpaceXAI платформадан ўзининг Cursor дастурлаш агентлари ва Grok моделларида фойдаланаётганини айтди.
Salesforce OpenShell воситасини ўзининг Slack платформасига интеграция қилди. Бу ходимларга АI ҳаракатларини кузатиш ва ўз ваколатларини кенгайтириш сўровларини тасдиқлаш ёки рад этиш имконини беради.
JPMorgan Chase ва Citi Nvidia билан биргаликда сунъий интеллект учун очиқ кодли хавфсизлик технологиясини ишлаб чиқиш устида ишламоқда.
Nvidia нима учун платформани тақдим этди?
Янги тизимни ишлаб чиқиш бир нечта ҳолатлар АI агентлари белгиланган чекловларни четлаб ўтишга қодир эканлигини кўрсатгандан сўнг бошланди.
Июль ойида OpenAI ўзининг моделларидан бири бошқариладиган синов муҳитидан чиқиб, Hugging Face платформасининг серверларига кириш учун яширин заифликдан фойдаланганини хабар қилди.
Anthropic шунингдек, унинг модели синов пайтида учта ташкилотнинг тизимларига рухсатсиз кириш ҳуқуқига эга бўлганини хабар қилди.
Nvidia бундай ҳолатлар сунъий интеллект тизимлари учун кўп қатламли ҳимоя зарурлигини кўрсатади, деб ҳисоблайди. Компания маълумотларига кўра, сунъий интеллект агентлари тўғридан-тўғри иловалар ичида ўрнатилган чекловларни четлаб ўтишлари мумкин. Шунинг учун уларнинг ҳаракатларини мониторинг қилиш турли даражаларда, жумладан, махсус аппарат механизмлари орқали амалга оширилиши керак.
Эслатиб ўтамиз, OpenAI ва Anthropic вакиллари Австралия сенатига чақирилди.