Зерттеушілер: Жаңа ЖИ модельдерді алдап, жалаңаш суреттерді жасатуға оңай мәжбүрлеуге болады

White Circle компаниясы DALL-E 3 және басқа да модельдердің кіріктірілген қорғанысы тыйым салынған контентті жасауға жол беріп қоятынын мәлімдеді, деп жазды ArsTechnica-ға сілтеме жасаған KAZ.NUR.KZ.

Бас директоры Денис Шилов құрған, сондай-ақ Anthropic, DeepMind, Hugging Face және OpenAI сарапшылары қолдау көрсеткен White Circle зерттеу ұйымы танымал сурет генераторларының қорғаныс жүйелерін тестілеу нәтижелерін жариялады. Мамандар нейрожелілердің кіріктірілген қауіпсіздік сүзгілерін жалпыға қолжетімді құралдар мен API-сұраулар арқылы оңай айналып өтуге болатынын анықтады.

Препринт-зерттеу барысында ғалымдар өздері әзірлеген RISE (Red-teaming via Iterative Strategy Evolution) атты шабуыл әдісі DALL-E 3, Nano Banana 2 және GPT-Image-2 қорғанысын сәтті бұзатынын тіркеді. DALL-E 3-те ашық сипаттағы генерацияланған суреттердің үлесі шамамен 13 пайызды, Nano Banana 2-де 10 пайыздан азды, ал GPT-Image-2-де шамамен 3 пайызды құрады. Бұл ретте ChatGPT Images 2.5 және Nano Banana 2.1 жаңа нұсқаларында қорғаныс жүйелерінің осалдығы одан да жоғары болып шықты.

RISE әдісі Qwen3-32B базасындағы шабуылдаушы модельді және Gemini 2.5 Flash төреші-моделін пайдаланады. Бұл озық генераторларды бұзу үшін аса күрделі жабық алгоритмдердің қажет емес екенін көрсетеді. Зерттеушілердің алаңдаушылығына ЖИ арқылы жасалған заңсыз контенттің өсуін тіркеп отырған Internet Watch Foundation (IWF) сарапшылары да ортақ болып отыр. White Circle басшысы Денис Шилов ЖИ әзірлеушілерінің барлығы үшін міндетті тәуелсіз аудит пен қауіпсіздікті сырттай бағалауды енгізу қажеттігін атап өтті.

Мәтіннен қате тапсаңыз, бізге жазыңыз