ChatGPT жасанды интеллектінің танымалдылығы артқанымен, оған құпия деректерді жүктеуге бола ма? "Касперский Зертханасының" зерттеушілері бұл сұрақтың жауабын іздеп көрді , - деп хабарлайды Massaget.kz тілшісі.
Қазір көп адам жұмыс істеу үшін ChatGPT сияқты нейрон желілерге негізделген бағдарламаларды пайдаланады. Мысалы, Ресейде "Касперский зертханасы" сауалнамасына сәйкес сауалнамаға қатысқандардың 11 пайызы чат-боттарды қолданған. Ал олардың 30 пайызы адамдардың көп бөлігі жұмыссыз қалуы мүмкін деп қауіптенеді.
Зерттеулер нәтижесі бойынша, Бельгиядағы кеңсе қызметкерлерінің 57 пайызы ChatGPT көмегіне деректерді тексермей-ақ сүйенсе, ал Ұлыбританиядағы респонденттер жұмысын оңтайландыру үшін ЖИ құралдарын жиі пайдаланады.
Провайдер тарапынан деректердің тарауы
LLM негізіндегі чатботтар ірі технологиялық компаниялардың бақылауында болғанына қарамастан, олар деректерді бұза алады. 2023 жылғы наурызда кейбір ChatGPT пайдаланушылары басқа пайдаланушылардың хат алмасуларында тақырыптар мен алғашқы хабарламаларды көре алған. Осыған байланысты OpenAI чатбот жұмысын уақытша тоқтата тұруға мәжбүр болды.
Жалған көшірмелер
ChatGPT сияқты ресми қызметтер кейбір жерде бұғатталуы мүмкін. Бұл жағдайда күрделі мәселелер туындайды: пайдаланушылар бейресми баламаларды - бағдарламаларды, сайттарды, мессенджер боттарын жүктей алады және клиент немесе қолданба ретінде жасырылған зиян бағдарламаны жүктеп алуы мүмкін.
Аккаунты бұзу
Зиянкестер фишинг көмегімен қызметкерлердің есептік жазбаларына және олардың жеке деректеріне қол жеткізе алады. Kaspersky Digital Footprint Intelligence қызметі чат-боттардағы аккаунттарды сату туралы хабарландыруларды даркнетте форумдарда үнемі анықтап отырады.
Darknet-тегі хабарландыру
Сонымен қатар, чат-боттарды пайдалану кезінде деректердің бұзылу қаупі қарапайым пайдаланушыларға да, компанияларға да әсер етуі мүмкін. Сондықтан жауапты әзірлеушілер құпиялық саясатында модельді оқыту үшін деректерді қалай қолданатынын егжей-тегжейлі жазады.
ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard және Alloy Studios –тан Genius App сияқты танымал чат-боттардың "Касперский зертханасын" талдау, қауіпсіздік пен құпиялылықтың жоғары стандарттары бар B2B секторында құпия ақпараттың тарап кету тәуекелі одан да маңызды екенін көрсетті. Сондықтан деректерді пайдалану, жинау, сақтау және өңдеудің жалпы ережелері мен шарттары B2C секторына қарағанда оны қорғауға көбірек бағдарланған. Осы зерттеуде сипатталған B2B шешімдері әдетте чат тарихын автоматты түрде сақтамайды және кейбір жағдайларда компанияның серверлеріне ешқандай деректер жіберілмейді, өйткені чат-бот клиенттің желісінде жергілікті жұмыс істейді.
"Жұмыс істеу үшін LMM негізіндегі чат-боттарды пайдаланудың ықтимал тәуекелдерін зерттей отырып, біз қызметкерлер жұмыс істеу үшін жеке есептік жазбаларын пайдаланған кезде құпия деректердің тарап кету ықтималдығы ең жоғары деген қорытындыға келдік. Сондықтан компаниялардың жұмысшыларға чат-боттарды қолданумен байланысты тәуекелдер туралы айтуы маңызды. Бір жағынан, қызметкерлер жеке және құпия деректердің не екенін, олардың қайсысында коммерциялық құпия бар екенін және оларды чат-ботқа неліктен енгізуге болмайтынын түсінуі керек. Екінші жағынан, компания мұндай қызметтерді, егер оларды жалпы пайдалануға рұқсат етілсе, пайдаланудың нақты ережелерін белгілеуі керек", - деді "Касперский Зертханасының" контенттік талдау жөніндегі сарапшысы Анна Ларкина.
Чат-боттармен байланысты тәуекелдер туралы көбірек білу үшін Securelist.com сайтын қараңыз.
Қызметкерлер мен компанияларды чат-боттарды пайдалану кезіндегі тәуекелдерден қорғау үшін "Касперский зертханасының" сарапшылары мыналарды ұсынады:
Қызықты жаңалықтар мен видеоларды көру үшін TikTok арнамызға жазылыңыз!