Қазір көптеген адамдар жұмыс істеу үшін ChatGPT сияқты нейрондық желілерге негізделген тілдік модельдерді пайдаланады. Мысалы, Ресейде «Касперский зертханасы» сауалнамасына сәйкес респонденттердің 11%-ы чат-боттарды қолданған.

Сонымен қатар, 30%-ы олардың арқасында адамдардың едәуір бөлігі жұмыссыз қалуы мүмкін деп қауіптенеді. Басқа зерттеулер көрсеткендей, ChatGPT көмегіне Бельгиядағы кеңсе қызметкерлерінің 57% — ы деректерді тексермей-ақ сүйенеді, ал Ұлыбританиядағы респонденттердің саны (58%) жұмыс уақытын оңтайландыру үшін ЖИ құралдарының әлеуетін көреді. «ChatGPT» іздеу сұрауларының жиілігі туралы мәліметтер адамдардың күнделікті өмірде чатботты белсенді қолданатындығын және, мүмкін, жұмыс тапсырмалары үшін де қолданатындығын айтады. Мысалы, Қазақстанда 2023 жылғы қыркүйектегі іздеу сұрауларының саны осы жылдың қаңтарымен салыстырғанда 120% — дан астам өсті*.

ChatGPT танымалдылығының артуы аясында маңызды сұрақ туындайды: оған құпия деректерге сенуге бола ма? «Касперский Зертханасының» зерттеушілері чат-ботты бизнес тапсырмалары үшін пайдаланудың үш негізгі тәуекелін ерекшеледі.

Провайдер тарапынан деректердің ашылуы немесе бұзуы

LLM негізіндегі чатботтар (үлкен тілдік модельдер) ірі технологиялық компаниялардың бақылауында болғанына қарамастан, олар деректерді бұзуға немесе кездейсоқ ашылуынан сақтанған емес. 2023 жылдың наурызында кейбір ChatGPT пайдаланушылары басқа пайдаланушылардың хат алмасуларында тақырыптар мен алғашқы хабарламаларды көре алатын тоқтау болды. Осыған байланысты OpenAI чатбот жұмысын уақытша тоқтата тұруға мәжбүр болды.

 

Зиянкесті  жалған көшірмелер

ChatGPT сияқты ресми қызметтер кейбір жерде бұғатталуы мүмкін. Бұл жағдайда күрделі мәселелер туындайды: пайдаланушылар бейресми баламаларды — бағдарламаларды, сайттарды, мессенджер боттарын жүктей алады және клиент немесе қолданба  ретінде жасырылған зиянды бағдарламаны кездейсоқ жүктей алады.

 

Аккаунты бұзу

Зиянкестер фишинг көмегімен қызметкерлердің есептік жазбаларына және олардың жеке деректеріне қол жеткізе алады. Kaspersky Digital Footprint Intelligence  қызметі чат-боттардағы аккаунттарға кіруді сату туралы хабарландыруларды даркнетте форумдарда үнемі анықтап отырады.

ChatGPT және Synthesia корпоративтік аккаунтына $40 долларға қол жеткізуді ұсынатын darknet хабарландыру мысалы

Сонымен қатар, чат-боттарды пайдалану кезінде деректердің бұзылу қаупі қалай қарапайым пайдаланушыларға, солай компанияларға да әсер етуі мүмкін. Сондықтан жауапты әзірлеушілер құпиялылық саясатында модельді оқыту үшін деректерді қалай қолданатынын егжей-тегжейлі жазады.

ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard және Alloy Studios –тан Genius App сияқты танымал чат-боттардың «Касперский зертханасын» талдау, қауіпсіздік пен құпиялылықтың жоғары стандарттары бар B2B секторында құпия ақпараттың ағып кету тәуекелі одан да маңызды екенін көрсетті. Сондықтан деректерді пайдалану, жинау, сақтау және өңдеудің жалпы ережелері мен шарттары B2C секторына қарағанда оны қорғауға көбірек бағдарланған. Осы зерттеуде сипатталған B2B шешімдері әдетте чат тарихын автоматты түрде сақтамайды және кейбір жағдайларда компанияның серверлеріне ешқандай деректер жіберілмейді, өйткені чат-бот клиенттің желісінде жергілікті жұмыс істейді.

«Жұмыс істеу үшін LMM негізіндегі чат-боттарды пайдаланудың ықтимал тәуекелдерін зерттей отырып, біз қызметкерлер жұмыс істеу үшін жеке есептік жазбаларын пайдаланған кезде құпия деректердің ағып кету ықтималдығы ең жоғары деген қорытындыға келдік. Сондықтан компаниялардың жұмысшыларға чат-боттарды қолданумен байланысты тәуекелдер туралы айтуы маңызды. Бір жағынан, қызметкерлердің өздері жеке және құпия деректердің не екенін, олардың қайсысында коммерциялық құпия бар екенін және оларды чат-ботқа неліктен беруге болмайтынын түсінуі керек. Екінші жағынан, компания мұндай қызметтерді, егер оларды жалпы пайдалануға рұқсат етілсе, пайдаланудың нақты ережелерін белгілеуі керек», — деп түсіндіреді Анна Ларкина, «Касперский Зертханасының» контенттік талдау жөніндегі сарапшысы.

Чат-боттармен байланысты тәуекелдер туралы көбірек білу үшін Securelist.com сайтын қараңыз.

Қызметкерлер мен компанияларды чат-боттарды пайдалану кезіндегі тәуекелдерден қорғау үшін «Касперский зертханасының» сарапшылары мыналарды ұсынады

* Яндекс Wordstat мәліметтері бойынша