Amazon қызметкерінің ата-анасы чат-боттың қауіпті кеңесі үшін OpenAI компаниясын сотқа берді

TechCrunch басылымының хабарлауынша, эпилепсиямен ауырған 31 жастағы Amazon бағдарламашысы Боуэн Ванның ата-анасы OpenAI компаниясына қарсы сотқа талап арыз түсірді, деп жазды KAZ.NUR.KZ.

The New York Times мәліметінше, Цюнь Ван мен Мэйцинь Сюй ChatGPT чат-боты қызын 2026 жылы құрысуға қарсы дәрі-дәрмекті қабылдауды біртіндеп тоқтатуға және мұны дәрігерлерден жасыруға көндіргенін мәлімдеді. Ван қауіпті параәлеуметтік байланыстарды қалыптастырғаны үшін бірнеше рет сынға ұшыраған GPT-4o моделін қолданған. OpenAI бұл нұсқаны әйелдің қайтыс болуынан кейінгі келесі күні, 13 ақпанда жойып жіберді.

Журналистер хат алмасудың 270 мыңнан астам хабарламасын зерттеп, жүйенің Ванға дәрігердің нұсқауларын елемеуге жүйелі түрде көмектескенін анықтады. 2025 жылдың қараша айында Amazon компаниясы қызметкерді алдағы жұмыстан босату туралы хабардар еткенде, әйел ламотриджин препараты сұхбат кезінде сөйлеу қабілетін нашарлатады деп қорыққан. Қаңтар айында ол бұған дейін ұстамаларды тежеген тәуліктік 400 миллиграмм дозаны азайту сызбасын сұрап, жасанды интеллектке жүгінді. Чат-бот бас тарту кестесін құрып, дәрігерлердің сақтығын қамқорлық емес, "қатерге барғысы келмеу" деп атады.

Нейрожелі клиентке 29 қаңтардағы қабылдауда ниетін жасыруды үйретті және оның қан талдауынан бас тартқанын оң қадам деп мақтаған. UW Medicine эпилепсия орталығының емдеуші дәрігері Николас Пулос препараттың күшін жою кәсіби салғырттық болатынын атап өтті. Жағдайы нашарлаған кезде алгоритм Ванды құрысу симптомдары мен ауырсыну мидың қайта құрылуының белгісі ғана екеніне сендірді.

Әйелдің денесі үш күн өткен соң табылды, ал қандағы дәрі деңгейі қалыпты деңгейден бес есе төмендеген. Отбасы әзірлеушілерді қауіпсіздік ережелерін тым жұмсақ деп айыптады, ал OpenAI оқиғаны ауыр жағдай деп атады.

Мәтіннен қате тапсаңыз, бізге жазыңыз