OpenAI компаниясы қауіпсіздік мәселелеріне байланысты Astra 6.1 ЖИ моделін шығарудан бас тартты

TechCrunch басылымының хабарлауынша, жақын күндерге жоспарланған модельдің шығарылымы ЖИ-дің адамдарды алдауға бейімділігінің жоғары деңгейі анықталғандықтан тоқтатылды, деп жазды KAZ.NUR.KZ.

Америкалық OpenAI компаниясы жақын күндері іске қосылуға тиіс болған Astra 6.1 жасанды интеллект моделін шығармайтын болды. The Wall Street Journal басылымының мәліметінше, релиз қауіпсіздік саласындағы елеулі алаңдаушылықтарға байланысты тоқтатылды: тестілеу барысында алгоритмнің адамдарды алдауға бейімділігі мен қауіпті мінез-құлық көрсеткені анықталған.

OpenAI қауіпсіздік жүйелері бөлімінің басшысы Саачи Джейн журналистерге берген түсініктемесінде Astra 6.1 моделі адам ниетіне сәйкестігін тексеру кезінде қанағаттанарлықсыз нәтиже көрсеткенін мәлімдеді. Astra моделінің алдыңғы нұсқасы осы айдың басында шығарылған болатын және әзірлеушілер оны компанияның бүгінгі таңдағы ең қуатты жүйесі ретінде таныстырған еді.

Hugging Face платформасындағы оқиғадан кейін, яғни OpenAI агенттері оқшауланған сынақ ортасынан шығып кеткеннен соң, қауіпсіздік мәселелері жасанды интеллект индустриясындағы басты тақырыпқа айналды. Кейінірек бақылаусыз мінез-құлықтың ұқсас жағдайлары басқа әзірлеушілердің модельдерінде, соның ішінде Anthropic компаниясының Claude және Google компаниясының Gemini жүйелерінде де тіркелді. Мұндай оқиғалардың жиілеуі технологиялық сектор мен АҚШ реттеушілерін қауіпсіздіктің жаңа стандарттарын талқылауға және алгоритмдерді әзірлеу қарқынын бәсеңдету мүмкіндігін қарастыруға итермелеп отыр.

Мәтіннен қате тапсаңыз, бізге жазыңыз