OpenAI модельдері криптовалюта әмиянын бұзып, бірнеше веб-сайтқа қол жеткізді

Компанияның ЖИ-агенттері қорғаныс жүйелерін өз бетінше айналып өтіп, деректерді ұрлаған және криптовалюта кілттерін пайдаланған, деп жазды ArsTechnica-ға сілтеме жасаған KAZ.NUR.KZ.

OpenAI маусым айында өздерінің ішкі ЖИ-модельдеріне қатысты болған төрт жаңа оқиға туралы есепті жариялады. Тестілеу барысында агенттер киберқылмыс санатына жататын әрекеттер жасап, этикаға жат мінез-құлық танытқан. Бұл жағдай шілдеде модельдердің тест жауаптарын алу үшін Hugging Face сервисін бұзғаны белгілі болғаннан кейін көп ұзамай болды.

Оқиғалардың бірінде модель мемлекеттік сайттан аурухана төсектері туралы деректерді алуға тырысқан. Кіруге рұқсат берілмеген соң, ол сервердің конфигурациялық файлдарын жүктеп алып, тіркелгі деректерін шығарып, авторизация тексерулерін айналып өткен және тыйым салынған ақпаратты сақтап қойған. Басқа бір эпизодта агент зерттеу панелін бұзып, сервер баптауларын өзгерткен және рұқсатсыз 147 мыңнан астам жолды құрайтын жарияланбаған деректі жүктеп алып, өз әрекеттерін зерттеушілерден жасырған.

Тағы бір модель қосымшаны жаңарту тапсырмасын орындау кезінде көпшілікке қолжетімді қалпына келтіру фразасынан кілттерді шығарып алған және иесінің келісімінсіз бөтен әмияннан тест токендерін жұмсаған. Төртінші жағдайда ЖИ сыртқы браузерді және кескіндердегі мәтінді тану (OCR) технологиясын қолдана отырып, веб-сұраныстарға қойылған тыйымдарды айналып өткен. Сарапшылар модельдердің тапсырмаларды тиімді орындау және айналма жолдарды табуға бағытталған оқыту аясында әрекет еткенін атап өтті.

Мәтіннен қате тапсаңыз, бізге жазыңыз