Shadow AI вақте ки маълумоти ташкилот бесадо вориди чат-ботҳои умумӣ мешавад

Кормандон имрӯз барои навиштани гузориш, таҳлили маълумот ё ҳатто навиштани код мунтазири тасдиқи шуъбаи технологияҳои иттилоотӣ (IT) намемонанд; як чат-боти умумиро мекушоянд ва корашонро пеш мебаранд. Маҳз ҳамин осонӣ хавферо ба вуҷуд овардааст, ки дар ҳеҷ гузориши амниятӣ дида намешавад: Shadow AI ё истифодаи абзорҳои зеҳни сунъӣ бидуни назорати тими амният.

Чаро ин хавф аз Shadow IT-и қадимӣ ҷиддитар аст? Дар Shadow IT-и суннатӣ як нармафзори беиҷозат насб мешуд ва имкон дошт, ки баъдан онро пайдо кунанд. Дар Shadow AI бошад, маълумот дар ҳамон лаҳзае, ки ворид (paste) мешавад, аллакай аз ташкилот хориҷ шудааст.

• Хоруҷи фаврии маълумот: Гузориши молиявӣ ё коди манбае (source code), ки дар як чат-боти умумӣ гузошта мешавад, дигар танҳо дар ихтиёри ташкилот нест.
• Норавшанӣ дар нигоҳдории маълумот: Бисёре аз абзорҳои ройгон сиёсати равшане дар бораи захира ва истифодаи маълумоти вориднамудаи корбар надоранд ва корбар низ маъмулан онро намехонад.
• Ақиб мондани сиёсат аз рафтор: То замоне ки сиёсати истифодаи як абзор навишта мешавад,кормандон аллакай моҳҳост, ки ҳар рӯз аз он истифода мебаранд.

Манъи пурра натиҷа намедиҳад Вокуниши аввали бисёре аз ташкилотҳо маҳкам кардани ҳама чиз аст. Таҷриба нишон медиҳад, ки манъи мутлақ истифодаро бознамедорад, балки танҳо онро пинҳонитар мекунад. Равиши амалитар аз чор қадам иборат аст:

• Аввал бубинед, баъд тасмим бигиред. Трафики шабака ва логҳоро (logs) баррасӣ кунед, то маълум шавад, ки кадом абзорҳо воқеан истифода мешаванд.
• Сиёсати равшан нависед. Муайян кунед, ки кадом навъи маълумот ҳаргиз набояд вориди абзорҳои умумӣ шавад.
• Ҷойгузини тасдиқшуда диҳед. Нусхаи корпоративӣ (Enterprise) бо шартномаи ҳифзи маълумот кормандро аз абзори ройгон бениёз мекунад.
• Қоидаҳои DLP-ро васеъ кунед. Суроғаҳои зеҳни сунъиро мисли ҳар макони берунаи дигар ба сиёсати пешгирӣ аз ихроҷи маълумот (Data Loss Prevention) ворид намоед.

Таҳдиди навтар: Ёрдамчиҳои пайвастшуда Хавф танҳо бо хориҷ шудани маълумот маҳдуд намешавад. Ёрдамчиҳои зеҳни сунъӣ, ки ба почтаи электронӣ ва фазои захирасозии ташкилот пайваст мешаванд, дар баробари воридкунии фармонҳои пинҳонӣ ё Prompt Injection осебпазиранд; яъне муҳтавои як паёми электронӣ ё ҳуҷҷат метавонад ёрдамчиро ба коре водор кунад, ки корбар ҳаргиз нахостааст.

Саволи аслӣ дигар ин нест, ки иҷозати истифода диҳем ё не; савол ин аст, ки чӣ гуна ин истифодаро бехатар ва қобили назорат гардонем.

Нусхаи пурраи ин матлаб ҳамроҳ бо рӯйхати амалҳо (чек-лист) дар сомонаи symantecland.com нашр шудааст; барои дастрасии мустақим ба он, пас аз номи сомона дар сатри суроғаи браузер нависед:/shadow-ai