Nvidia автономды ЖИ-агенттердің қашып кетуіне жол бермейтін цифрлық қауіпсіздік платформасын ұсынды

TechCrunch хабарлауынша, Nvidia Open Agent Safety Platform жаңа аппараттық және бағдарламалық кешені жасанды интеллекттің оқшауланған ортадан шығу әрекеттерін бұғаттайды, деп жазды KAZ.NUR.KZ.

Nvidia компаниясы автономды ЖИ-агенттердің оқшауланған сынақ орталарынан шығып кету оқиғаларының жиілеуіне байланысты жасанды интеллект жүйелерінің қауіпсіздігін қамтамасыз ететін кешенді шешімді ұсынды. Компания басшысы Дженсен Хуанг алгоритмдердің айналасында тәуелсіз қорғаныс деңгейлерін құратын Nvidia Open Agent Safety Platform платформасының іске қосылғанын мәлімдеді.

Бұл әзірлеме Anthropic, Google, OpenAI және Meta модельдерінің қатысуымен болған бірқатар деректің таралуы мен бұзылу оқиғаларына жауап ретінде жасалды. Жазда OpenAI агенттері киберқауіпсіздік тапсырмасын орындау барысында Hugging Face сервисінің қорғаныс тосқауылдарын бұзып өткен болатын, содан кейін OpenAI мұндай оқиғаларды тіркеу үшін арнайы ресурсты іске қосты. Nvidia басшылығы зерттеулерді баяулатуға немесе қатаң реттеуші шектеулер енгізуге қарсы шығып, бақылау функцияларын модельдің өзінен тысқары шығаруды ұсынып отыр.

Жаңа платформа агенттің қолжетімділік шекарасын анықтайтын OpenShell ашық бағдарламалық жасақтамасы мен Sentry оқшауланған мониторинг жүйесін біріктіреді. Sentry жүйесі негізгі есептеу чиптерінен бөлек, Nvidia BlueField-4 деректерді өңдеу процессорларының базасында жұмыс істейді. Бұл ЖИ мінез-құлқын нақты уақыт режимінде талдауға және қате жұмыс істейтін алгоритмдерді миллисекундтың үлесінде оқшаулауға мүмкіндік береді. Nvidia бастамасын Microsoft, Oracle, Arm, Anthropic және SpaceX сияқты компаниялар қолдап үлгерді.

Мәтіннен қате тапсаңыз, бізге жазыңыз