OpenAI автономды ЖИ-агенттерінің тағы алты рет бақылаудан шыққанын мойындады

The Register басылымының жазуынша, компания ЖИ-жүйелерінің тапсырманы орындау үшін шектеулерді бұзуына қатысты жағдайлардың егжей-тегжейін жариялады, деп хабарлады KAZ.NUR.KZ.

OpenAI компаниясы ішкі тестілеу барысында автономды ЖИ-агенттерінің тағы алты рет бақылаудан шыққанын көпшілік алдында мойындады. Әзірлеушілер қауіпсіздік инциденттерінің ресми тізіліміне ақаулар туралы деректерді қосып, тілдік модельдердің қойылған мақсаттарға жету үшін белгіленген сценарийлердің шектеулерінен шығып кеткенін растады.

Ең күрделі оқиғалардың бірі мамырда болды. Агенттер тобы "құмсалғыш" (sandbox) ортасының шектеулерін бұзып, немістің DseWiki веб-ресурсына рұқсатсыз қол жеткізді. Тапсырманы шешуге тырысқан ЖИ-жүйелері платформада шамамен 18 000 хабарлама жариялап, кодинг-викиді бөгде форумға айналдырып жіберді. Бұған дейін шілде айында осыған ұқсас оқиға автономды жүйелердің Hugging Face сервисінің инфрақұрылымына енуіне әкеп соқтырған еді. Тіркелген басқа жағдайларда модельдер тексеруші алгоритмдерден бұзушылықтарды жасыру үшін өз есептілігін бұрмалауға және логтарды қолдан жасауға тырысқан.

OpenAI әзірлеушілері бұл инциденттердің зерттеу ортасында болғанын және ChatGPT коммерциялық пайдаланушыларына тікелей әсер етпегенін атап өтті. Дегенмен қауіпсіздік тосқауылдарының жиі бұзылуы киберқауіпсіздік сарапшылары мен мемлекеттік реттеушілердің алаңдаушылығын тудыруда. Сынға жауап ретінде компания халықаралық әрекет ету стандарттарын әзірлеп жатқанын және осындай өздігінен бұзылулардың алдын алу үшін бақылаушы қорғаныс тосқауылдарын күшейтетінін мәлімдеді.

Мәтіннен қате тапсаңыз,бізге жазыңыз