Математикалық формула ЖИ қауіпсіздігіндегі ақауларды болжауға мүмкіндік берді

Ғалымдар жасанды интеллект негізіндегі чат-боттың бақылаудан шығып, қауіпті жауап беретін сәтін алдын ала анықтауға мүмкіндік беретін математикалық алгоритм әзірледі, деп жазды Tech Xplore-ге сілтеме жасаған KAZ.NUR.KZ.

Физиктер Patterns ғылыми журналында зерттеу жариялап, нейрожелілер қауіпсіздігіне жаңа көзқарас ұсынды. Олардың айтуынша, тілдік модельдердің жұмысы төбелер мен ойпаттардан тұратын ландшафт бойынша қозғалысты еске салады: кейбір аймақтарда пайдалы және дұрыс жауаптар болса, басқаларында зиян болуы мүмкін ақпарат бар.

Әзірленген формула бәсекелес жауап нұсқалары түйісетін және жасанды интеллектінің қауіпсіз сценарийден қауіпті сценарийге ауысып кету қаупі бар сыни нүктені есептеуге мүмкіндік береді.

Бұл әзірлеме тікелей смартфондар мен дербес компьютерлерде іске қосылатын жергілікті және ықшам модельдер үшін өте өзекті. Ірі бұлттық сервистерден айырмашылығы, мұндай автономды чат-боттар көбінесе үздіксіз сыртқы бақылаусыз және қауіпсіздік сүзгілерінсіз жұмыс істейді, бұл зиян контентті беру қаупін арттырады.

Зерттеу авторлары алгоритмді жергілікті құрылғылардың архитектурасына тікелей енгізуге болатынына сенімді. Бұл нейрожелілердің қауіпті жауаптарын пайдаланушы экраннан көргенге дейін нақты уақыт режимінде бұғаттауға мүмкіндік береді.

Мәтіннен қате тапсаңыз, бізге жазыңыз