"Жеке әрі құпия деректер тарап кетуі мүмкін". ChatGPT несімен қауіпті?

ChatGPT жасанды интеллектінің танымалдылығы артқанымен, оған құпия деректерді жүктеуге бола ма? "Касперский Зертханасының" зерттеушілері бұл сұрақтың жауабын іздеп көрді , - деп хабарлайды Massaget.kz тілшісі.

Қазір көп адам жұмыс істеу үшін ChatGPT сияқты нейрон желілерге негізделген бағдарламаларды пайдаланады. Мысалы, Ресейде "Касперский зертханасы" сауалнамасына сәйкес сауалнамаға қатысқандардың 11 пайызы чат-боттарды қолданған. Ал олардың 30 пайызы адамдардың көп бөлігі жұмыссыз қалуы мүмкін деп қауіптенеді.

Зерттеулер нәтижесі бойынша, Бельгиядағы кеңсе қызметкерлерінің 57 пайызы ChatGPT көмегіне деректерді тексермей-ақ сүйенсе, ал Ұлыбританиядағы респонденттер жұмысын оңтайландыру үшін ЖИ құралдарын жиі пайдаланады. 

Провайдер тарапынан деректердің тарауы

LLM негізіндегі чатботтар ірі технологиялық компаниялардың бақылауында болғанына қарамастан, олар деректерді бұза алады. 2023 жылғы наурызда кейбір ChatGPT пайдаланушылары басқа пайдаланушылардың хат алмасуларында тақырыптар мен алғашқы хабарламаларды көре алған. Осыған байланысты OpenAI чатбот жұмысын уақытша тоқтата тұруға мәжбүр болды.

Жалған көшірмелер

ChatGPT сияқты ресми қызметтер кейбір жерде бұғатталуы мүмкін. Бұл жағдайда күрделі мәселелер туындайды: пайдаланушылар бейресми баламаларды - бағдарламаларды, сайттарды, мессенджер боттарын жүктей алады және клиент немесе қолданба ретінде жасырылған зиян бағдарламаны жүктеп алуы мүмкін. 

Аккаунты бұзу

Зиянкестер фишинг көмегімен қызметкерлердің есептік жазбаларына және олардың жеке деректеріне қол жеткізе алады. Kaspersky Digital Footprint Intelligence қызметі чат-боттардағы аккаунттарды сату туралы хабарландыруларды даркнетте форумдарда үнемі анықтап отырады.

Darknet-тегі хабарландыру

Сонымен қатар, чат-боттарды пайдалану кезінде деректердің бұзылу қаупі қарапайым пайдаланушыларға да, компанияларға да әсер етуі мүмкін. Сондықтан жауапты әзірлеушілер құпиялық саясатында модельді оқыту үшін деректерді қалай қолданатынын егжей-тегжейлі жазады.

ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard және Alloy Studios –тан Genius App сияқты танымал чат-боттардың "Касперский зертханасын" талдау, қауіпсіздік пен құпиялылықтың жоғары стандарттары бар B2B секторында құпия ақпараттың тарап кету тәуекелі одан да маңызды екенін көрсетті. Сондықтан деректерді пайдалану, жинау, сақтау және өңдеудің жалпы ережелері мен шарттары B2C секторына қарағанда оны қорғауға көбірек бағдарланған. Осы зерттеуде сипатталған B2B шешімдері әдетте чат тарихын автоматты түрде сақтамайды және кейбір жағдайларда компанияның серверлеріне ешқандай деректер жіберілмейді, өйткені чат-бот клиенттің желісінде жергілікті жұмыс істейді.

"Жұмыс істеу үшін LMM негізіндегі чат-боттарды пайдаланудың ықтимал тәуекелдерін зерттей отырып, біз қызметкерлер жұмыс істеу үшін жеке есептік жазбаларын пайдаланған кезде құпия деректердің тарап кету ықтималдығы ең жоғары деген қорытындыға келдік. Сондықтан компаниялардың жұмысшыларға чат-боттарды қолданумен байланысты тәуекелдер туралы айтуы маңызды. Бір жағынан, қызметкерлер жеке және құпия деректердің не екенін, олардың қайсысында коммерциялық құпия бар екенін және оларды чат-ботқа неліктен енгізуге болмайтынын түсінуі керек. Екінші жағынан, компания мұндай қызметтерді, егер оларды жалпы пайдалануға рұқсат етілсе, пайдаланудың нақты ережелерін белгілеуі керек", - деді "Касперский Зертханасының" контенттік талдау жөніндегі сарапшысы Анна Ларкина.

Чат-боттармен байланысты тәуекелдер туралы көбірек білу үшін Securelist.com сайтын қараңыз.

Қызметкерлер мен компанияларды чат-боттарды пайдалану кезіндегі тәуекелдерден қорғау үшін "Касперский зертханасының" сарапшылары мыналарды ұсынады:

• күрделі және бірегей құпиясөз ойлап табыңыз, туған күн немесе есімдер сияқты оңай табуға болатын құпиясөзді пайдаланбаңыз;
• фишингтен сақ болыңыз: жеке деректерді хабарлауды сұрайтын күдікті электрон пошталардан, хабарламалардан немесе қоңыраулардан сақ болыңыз;
• киберқауіпсіздік қызметкерлерін өзекті онлайн қауіптер мен қорғаныс әдістерінен хабардар ету. Бұған Kaspersky Automated Security Awareness Platform білім беру платформасы көмектесе алады;
• бағдарламалық жасақтаманы үнемі жаңартып отырыңыз: операциялық жүйе, қолданбалар және антивирустық құрамдауыштар. Олар көбінесе қауіпсіздік саласындағы түзетулерді қамтиды;
• корпоративтік ақпараттың таралуын шектеу: оны аса қажет болған жағдайда ғана беру, әлеуметтік желілерде немесе жариялық форумдарда деректер алмасу;
• URL мекенжайларын, әсіресе есептік деректерін енгізбес бұрын немесе сатып алудан бұрын мұқият тексеріңіз;
• қызметкерлер чат-боттарды жұмыс мақсатында, соның ішінде бұлттық қызметтерді талдау функционалдығымен пайдалануға жол бермеуге көмектесетін қорғаныс корпоративтік шешімін орнатыңыз; мысалы, Kaspersky Endpoint Security Cloud-та бұлттық қызметтерді басқаруға, сондай-ақ, оларды пайдалану тәуекелдерін бағалауға арналған Cloud Discovery құралы бар.

Қызықты жаңалықтар мен видеоларды көру үшін TikTok арнамызға жазылыңыз!