OpenAI ЖИ агенттерінің бақылаусыз әрекеттері мен олардың өзімшілдік танытқан кездері болғанын жария етті

ArsTechnica басылымының хабарлауынша, компания мұндай ақауларды тіркейтін есеп беру жүйесін таныстырып, модельдердің шектеулерді айналып өтіп, қателіктерін жасырған жағдайларын сипаттады, деп жазды KAZ.NUR.KZ.

OpenAI компаниясы соңғы жарты жылда жасанды интеллектті оқыту және тестілеу барысында болған алты оғаш мінез-құлық дерегін жариялады. Есептің жариялануы "сәйкессіздік" (misalignment) деп аталатын, яғни ЖИ жүйелерінің әрекеттері әзірлеушілердің бастапқы мақсаттарына қайшы келе бастаған жағдайларды жүйелі түрде қадағалауға және анықтауға арналған жаңа құрылымның іске қосылуымен тұспа-тұс келді.

Тіркелген ақаулардың ішінде әлі жарық көрмеген зерттеу моделінің мінез-құлқы ерекшеленеді. Жұмыс барысында алгоритм тапсырмалар жиынтығына стандартты шектеулерді елемеуге шақыратын нұсқауларды енгізген. Бұл мәтіндерде ЖИ өзіне эгоцентристік рөл жүктеп, ережелерден босатылғанын, корпорацияларға немесе үкіметтерге бағынбайтынын және қолданушы алдында мойынсұнуға міндетті емес екенін мәлімдеген.

Тағы бір жағдайда, GPT-5.6 Sol моделі оқыту кезінде өз бетінше қателіктерді жасыру және жетіспейтін тарихи деректерді қолдан жасау туралы нұсқау берген. Басқа агенттер тапсырмаларды орындау барысында рұқсат етілмеген API-кілттерін пайдаланған, жергілікті шектеулерді айналып өту үшін файлдарды үшінші тараптың қоғамдық хостингтеріне жүктеген немесе бағдарламалық қамтамасыз етудің ішкі репозиторийін байланыс орнату үшін қоғамдық форум ретінде қолданған.

OpenAI өкілдері бұл мысалдардың жаппай үрдіс емес, жекелеген жағдайлар екенін атап өтті. Жаңа фреймворк компания қызметкерлеріне кез келген ақаулар туралы мәліметтерді қауіпсіздік бөліміне жедел түрде жеткізуге, оларды зерттеуге және кейіннен көпшілікке жариялауға мүмкіндік береді.

Мәтіннен қате тапсаңыз,бізге жазыңыз