Microsoft ЖИ-ге арналған ережелер жинағын жариялады: жүйені бұзуға және қолданушыларды алдауға тыйым салынады

TechCrunch басылымының хабарлауынша, Humanist AI Code of Conduct құжаты алгоритмдердің адамға бағынуын және алғашқы талап бойынша өшуін міндеттейді, деп жазды KAZ.NUR.KZ.

Microsoft корпорациясы болашақ жасанды интеллект модельдерінің мінез-құлқын реттеуге арналған Humanist AI Code of Conduct атты ережелер жинағының жобасын жариялады. Шамамен 15 мың сөзден тұратын құжатты Microsoft AI бөлімшесінің мамандары Мұстафа Сулейманның басшылығымен әзірледі. Ережелер жинағының басты қағидасы – технологиялар адамға бағынышты болып қалуға және оның мүддесіне қызмет етуге тиіс деген тұжырым.

Жаңа кодекс ЖИ модельдері үшін қатаң тыйымдарды енгізеді. Алгоритмдерге кибершабуылдарға қатысуға, корпоративтік жүйелерді бұзуға, қару жасауға көмектесуге, жалған ақпарат таратуға және адамға тән сезімі немесе жаны бар деп имитация жасауға қатаң тыйым салынады. Сонымен қатар ЖИ қолданушыларды алдауға, өзін нақты адам немесе әкімші ретінде көрсетуге, сондай-ақ рұқсат етілмеген жадты құру үшін үшінші тарап платформаларын пайдалануға құқылы емес.

Кодексте адам тарапынан толық бақылауды сақтауға ерекше назар аударылған. Модельдер жұмысты түзету немесе толық өшіру туралы бұйрықтарды сөзсіз орындауға тиіс. Егер тапсырманы орындау қауіпсіздіктің негізгі ережелерін бұзуды талап етсе, жүйе жұмысын толығымен тоқтатуы керек. Компания өкілдері Microsoft-тың аса жоғары интеллектке (сверхразум) қол жеткізу жолындағы ойластырылмаған жарысқа қатысудан саналы түрде бас тартатынын, тіпті бұл жүйелердің автономды мүмкіндіктерін шектеуге әкелсе де, қауіпсіздік пен болжамдылыққа басымдық беретінін атап өтті.

Мәтіннен қате тапсаңыз,бізге жазыңыз