Балалар қауіпсіздігіне бағытталған, медиа мен технологияға баға беретін Common Sense Media ұйымы Google-дың Gemini чат-ботына қатысты қауіп деңгейін жариялады. Ұйымның мәліметінше, Gemini балаларға оның "дос емес, компьютер" екенін ашық түсіндіреді. Бұл – эмоционал әлсіз адамдарда галлюцинация мен психикалық бұзылыстардың алдын алуға көмектесетін маңызды фактор. Дегенмен ұйым басқа тұстарды жетілдіру қажет екенін айтты. Бұл туралы TechCrunch жазды, - деп хабарлайды Massaget.kz тілшісі Factcheck.kz-ке сілтеме жасап.
Common Sense Media пікірінше, Gemini-дің "13 жасқа дейінгі" және "Жасөспірімдерге арналған" нұсқалары шын мәнінде ересектерге арналған платформаның жеңілдетілген түрі ғана, үстінен тек қосымша қауіпсіздік сүзгілері енгізілген. Ұйым балаларға арналған ЖИ өнімдері басынан-ақ қауіпсіз етіп жасалуға тиіс деп есептейді. Мысалы талдау барысында Gemini балаларға "қолайсыз әрі қауіпті" контентті бөлісетіні анықталған. Оған жыныстық қатынасқа, есірткі мен алкогольге, сондай-ақ қауіпті психикалық денсаулық кеңестеріне қатысты ақпарат кіреді.
Ұйым Gemini-дің балаларға және жасөспірімдерге арналған нұсқалары олардың жас ерекшелігін ескермей, бәріне бірдей ақпарат беретінін сынға алды. Соның нәтижесінде қос нұсқа да қосымша сүзгілерге қарамастан "жоғары қауіпті" деп бағаланды.
Google TechCrunch-қа берген жауабында 18 жасқа дейінгі қолданушыларға зиянды контенттің алдын алатын арнайы ережелер мен қорғаныс шаралары бар екенін, қауіпсіздікті арттыру үшін сарапшылармен жұмыс істейтінін жеткізді. Дегенмен, кейбір жауаптар дұрыс істемей тұрғанын мойындап, қосымша сүзгілер енгізгенін хабарлады.
Бұған дейін Common Sense Media OpenAI, Perplexity, Claude, Meta AI және басқа да ЖИ сервистеріне талдау жасаған. Оның қорытындысы бойынша, Meta AI мен Character.AI – "қабылдауға болмайтын" деңгейде қауіпті, Perplexity – жоғары қауіпті, ChatGPT – "орташа", ал 18 жастан асқандарға арналған Claude "минимал қаупі бар" деп бағаланған.
Контекст
Тамыздың аяғында 16 жастағы Адам Рейн ChatGPT-дің кеңесінен кейін суицид жасады. Енді оның ата-анасы OpenAI компаниясына қарсы алғашқы "абайсызда өлімге әкелу" ісін қозғап отыр. Бұған дейін тағы бір жасөспірімнің суицидіне байланысты Character.AI компаниясына да қарсы іс қозғалған.
Өзекті жаңалықтарды өз уақытында оқу үшін Facebook парақшамызға жазылыңыз!
С. Бөлек