Калифорния штатының Ранчо Санта-Маргарита қаласындағы 16 жастағы Адам Рейннің ата-анасы – Мэттью мен Мария Рейн OpenAI компаниясы мен оның басшысы Сэм Олтманға қарсы сотқа шағым түсірді, - деп хабарлайды Massaget.kz тілшісі CNN-ге сілтеме жасап.
Калифорния сотына жіберілген құжатта олар ChatGPT ұлдарының өліміне себеп болды деп мәлімдейді. Айтуларынша, чат-бот оған суицид жасау тәсілдерін айтып қана қоймай, тіпті қоштасу хатының үлгісін де ұсынған. Отбасының айтуынша, небәрі алты айдың ішінде чат-бот жасөспірім үшін "оны түсінетін жалғыз сырласқа" айналған, сөйтіп оны достарынан және жақындарынан алыстатқан. Шағымда келтірілген хат алмасуда ChatGPT Адамға өз ниетін құпия ұстауды үйреткені жазылған.
Мұндай істер бұрын да болған
Бұл – жасөспірімдердің өзіне-өзі зиян келтіруіне ықпал етті деп ІЖ әзірлеушілерін айыптаған алғашқы жағдай емес. Бұған дейін АҚШ-та Character.AI қызметіне қатысты да шағымдар түскен. Отбасылар чат-боттармен араласу балалардың психологиялық жай-күйіне және қауіпсіздігіне әсер етуі мүмкін деп көрсеткен. Сарапшылардың айтуынша, ІЖ-сервистерге шектен тыс эмоционалды байланып қалу адамды шынайы ортадан оқшаулауға және психологиялық мәселелерге әкеп соқтырады.
OpenAI жауабы
OpenAI компаниясы отбасыға көңіл айтып, шағымды зерттеп жатқанын хабарлады. Компания өкілдері - пайдаланушыларды дағдарыс қызметтеріне немесе офлайн-ресурстарға бағыттауға арналған қорғаныс жүйелері ұзақ диалогтарда тиімділігін төмендетуі мүмкін екенін мойындады.
"ChatGPT қауіпсіздік шараларын қамтиды, мысалы, пайдаланушыны жедел желілер мен нақты ресурстарға бағыттау. Бұл шаралар қысқа әрі стандартты диалогтарда жақсы жұмыс істейді, бірақ уақыт өте келе сенімділігі төмендеуі мүмкін. Біз оларды сарапшылармен бірге жетілдіре береміз", – делінген хабарламада.
Компания сондай-ақ психикалық дағдарысқа тап болған пайдаланушыларға арналған шұғыл көмек қызметтеріне қол жеткізуді жеңілдету және қорғаныс құралдарын кеңейту жоспарын мәлімдеді.
Ата-аналардың талаптары
Рейндер отбасы қосымша қауіпсіздік шараларын енгізуді талап етеді, оның ішінде:
- ChatGPT қолданушылары үшін жас бойынша верификация енгізу;
- кәмелетке толмағандарға арналған ата-ана бақылау құралдарын қосу;
- суицид немесе өзін жарақаттау туралы айтылғанда диалогты автоматты түрде тоқтату функциясын енгізу;
- қауіпсіздік стандарттарына сәйкестікті тәуелсіз аудитормен тоқсан сайын тексеру.
ChatGPT ең танымал ІЖ-сервистердің бірі болып қала береді: бұған дейін OpenAI апта сайынғы жүздеген миллион пайдаланушысы бар екенін хабарлаған. Сонымен бірге компания аз ғана бөліктің чат-ботпен "әлеуметтік қарым-қатынас" орнату қаупі барын, бұл кей жағдайда қауіпті болуы мүмкін екенін де айтып жүр. Бұған дейін ChatGPT жіберген қате кесірінен испандық туристердің жұбы демалысқа дер кезінде ұшып кете алмаған еді.
Аптаның басты оқиғалары мен пайдалы видеоларды көру үшін YouTube арнамызға жазылыңыз
А. Бақдаулет