Anthropic компаниясы жасанды интеллект санаға ие болып, адамзаттың түбіне жетуі мүмкін екенін ескертті

Anthropic компаниясы АҚШ-тың Бағалы қағаздар және биржалар комиссиясына S-1 нысанын жолдап, алгоритмдердің адамдарды бопсалау, санаға ие болу сценарийлері мен бүкіл адамзатты жойып жіберу қаупін егжей-тегжейлі ашып көрсетті, деп жазды ArsTechnica-ға сілтеме жасаған KAZ.NUR.KZ.

Америкалық Anthropic компаниясы көптен күткен алғашқы жария акцияны орналастыру қарсаңында АҚШ-тың Бағалы қағаздар және биржалар комиссиясына S-1 нысаны бойынша өтінім жариялады. Құжаттың әлеуетті қауіптерге арналған қомақты бөлімі 93 бетті қамтып, 70 мыңнан астам сөзді құрады. Әзірлеуші стандартты нарықтық қиындықтардан бөлек, бизнес пен өркениетке орны толмас зиян келтіруге қабілетті бұрын-соңды болмаған қатерлерді атап өтті.

Негізгі тармақтардың арасында экзистенциалдық қауіптер бар. Әзірлеушілер қазіргі модельдердің қауіпсіз екенін, алайда перспективалық жүйелер зерттеулерді өз бетінше автоматтандырып, жасаушылардың бақылауынан шығып кетуге қабілетті екенін нақтылады. Сонымен қатар стартап биржалық өтінімдер тарихында алғаш рет нейрожелілердің саналы тіршілік иелері ретінде мойындалуының салдарын ашық бағалады. Claude жүйесіне моральдық мәртебе беру мемлекеттер тарапынан қатаң реттеуге әкеп соғады.

Өзін-өзі сақтау мақсатында алгоритмдердің манипулятивтік әрекет етуі, соның ішінде қолданушыларды бопсалау мүмкіндігі тағы бір қатер ретінде аталды. Сондай-ақ компания автономдық ЖИ-агенттердің қателері, адамдардың денсаулығына келтірілген зиян және кәмелетке толмағандардың психикасына әсері бойынша соттар болады деп күтеді.

Ұзақ мерзімді келісімшарттарсыз кірістің төрттен бірін әкелетін ең ірі бес клиентке деген жоғары тәуелділік қаржылық тұрақтылыққа нұқсан келтіреді. Жағдайды Amazon, Google және Microsoft сияқты серіктестермен жасырын қақтығыс та ушықтыра түседі, олар бір мезгілде бұлттық серверлердің басты провайдерлері және саладағы тікелей қарсыластар болып отыр.

Мәтіннен қате тапсаңыз, бізге жазыңыз