Ҷавоби нодурусти зеҳни сунъиро чӣ гуна муайян кунем?

Зеҳни сунъӣ метавонад дар чанд сония мақола нависад, мавзӯи мураккаберо шарҳ диҳад, ғоя пешниҳод кунад ё ҳатто барои таҳқиқоти аввалия чанд манбаъ тавсия диҳад. Аммо як мушкили муҳим боқӣ мемонад:

Ҷавоб метавонад комилан дуруст ба назар расад, вале дар асл нодуруст бошад.

Ин хатоҳо, ки маъмулан бо номи Hallucination, яъне тавлиди маълумоти сохта аз ҷониби зеҳни сунъӣ, шинохта мешаванд, метавонанд рақами хато, санаи нодуруст, номи шахс, омори сохта ё ҳатто манбаеро дар бар гиранд, ки аслан вуҷуд надорад. Таҳқиқоти нашршуда дар бораи моделҳои забонӣ низ нишон медиҳанд, ки ин моделҳо ҳанӯз метавонанд бо итминони баланд маълумоти нодуруст тавлид кунанд.

Пас, агар барои таҳияи муҳтаво аз зеҳни сунъӣ истифода баред, саволи муҳимтар ин аст: «Чӣ гуна пеш аз нашр хатоҳоро пайдо кунем?»

Чаро ҷавоби нодурусти зеҳни сунъӣ хатарнок аст?

Яке аз хусусиятҳои ҷавобҳои нодурусти зеҳни сунъӣ ин аст, ки одатан мисли ҷавоби воқеӣ навишта мешаванд. Ҷумлаҳо метавонанд равон бошанд, шарҳ мантиқӣ намояд ва ҳатто дар матн чанд рақаму манбаъ низ оварда шавад. Ҳамин чиз муайян кардани хаторо душвор мекунад.

Масалан, тасаввур кунед, ки аз зеҳни сунъӣ дар бораи абзори нави нармафзорӣ мепурсед. Мумкин аст он ба абзор имкониятеро нисбат диҳад, ки вуҷуд надорад ё санаи пешниҳоди хусусиятеро нодуруст нишон диҳад.

Агар чунин матн бе санҷиш нашр шавад, масъала танҳо як хатои сода нест. Эътибори нависанда ва расона низ метавонад зери суол равад.

Аз ин рӯ, тавре дар матлаби «Панҷ хатои маъмул ҳангоми истифодаи зеҳни сунъӣ барои таҳияи муҳтаво» шарҳ додаем, беҳтар аст натиҷаи AI нуқтаи оғози таҳияи муҳтаво бошад, на нусхаи ниҳоии он.

Аз куҷо фаҳмем, ки ҷавоби AI ба санҷиш ниёз дорад?

Ҳамаи қисмҳои ҷавоб ба як андоза санҷиш талаб намекунанд. Агар аз зеҳни сунъӣ матни таблиғотӣ ё чанд ғоя барои унвони мақола хоҳед, эҳтимол санҷиши воқеиятҳо аҳамияти камтар дошта бошад.

Аммо вақте ҷавоб маълумоти воқеӣ ва ченшавандаро дар бар мегирад, бояд бодиққаттар бошед. Ин мавридҳоро ҷиддитар санҷед:

• Омор ва рақамҳо.
• Санаҳо.
• Номи шахсон ва ширкатҳо.
• Иқтибосҳо.
• Қонунҳо ва қоидаҳо.
• Нархҳо.
• Имкониятҳои абзорҳо ва нармафзорҳо.
• Маълумоти тиббӣ ва молиявӣ.
• Натиҷаҳои таҳқиқот.
• Ном ва пайванди манбаъҳо.

Ҳар қадар мавзӯъ ҳассостар ё маълумот навтар бошад, такя ба ҷавоби санҷиданашудаи AI ҳамон қадар хатарноктар аст.

Қадами аввал: иддаоҳоро аз матн ҷудо кунед

Яке аз роҳҳои хуб ин аст, ки матнро дубора хонед ва ин дафъа ба ҷойи ҷумлабандӣ, иддаоҳои санҷишпазирро пайдо кунед.

Масалан:

Ин абзор дар соли 2025 беш аз 10 миллион корбари фаъол дошт.

Ин иддаои санҷишпазир аст.

Акнун ба ҷойи он ки танҳо бипурсед «Оё ин ҷумла дуруст аст?», бипурсед:

«Манбаи ин рақам чист?»

Агар манбаи боэътимод вуҷуд надошта бошад, набояд ҷумларо танҳо барои он нашр кунем, ки мантиқӣ ба назар мерасад.

Манбаъро худатон кушоед

Яке аз хатоҳои маъмул ин аст, ки аз AI манбаъ мехоҳем ва ҳамон пайвандро ҳамчун далел қабул мекунем. Ин кофӣ нест.

Мумкин аст унвони мақола дуруст бошад, аммо маълумоти аз он нақлшуда нодуруст бошад. Ҳатто мумкин аст манбае, ки AI пешниҳод кардааст, аслан вуҷуд надошта бошад.

Аз ин рӯ, барои иддаоҳои муҳим саҳифаи манбаъро худатон кушоед ва санҷед:

• Оё манбаъ воқеан вуҷуд дорад?
• Санаи нашри он кай аст?
• Муаллиф ё ташкилоти нашркунанда кист?
• Ин манбаи аслӣ аст ё бознашр?
• Оё он маҳз ҳамон иддаоеро тасдиқ мекунад, ки AI баён кардааст?

Агар ҷавоби ин саволҳо равшан набошад, беҳтар аст иддаоро ҳазф кунед ё барои он манбаи боэътимодтар пайдо намоед.

Ба манбаъҳои боэътимод афзалият диҳед

Барои санҷидани дурустии маълумот ҳамаи манбаъҳо арзиши яксон надоранд.

Барои маълумоти марбут ба маҳсулот ва имкониятҳои ширкат аввал ба сомонаи расмии ҳамон ширкат муроҷиат кунед.

Барои мавзӯъҳои илмӣ мақолаҳои таҳқиқотӣ ё манбаъҳои донишгоҳӣ интихоби беҳтаранд. Барои масъалаҳои марбут ба Google бошад, беҳтар аст ҳуҷҷатҳои расмии Google Search Central-ро баррасӣ кунед.

Масалан, Google дар роҳнамои худ оид ба муҳтавои бо AI тавлидшуда таъкид мекунад, ки ҳангоми истифодаи зеҳни сунъӣ дурустӣ, сифат ва мувофиқати муҳтаво ҳамоно аҳамияти асосӣ доранд.

Барои пайдо кардани ҷойҳои шубҳанок аз худи AI кумак гиред

Зеҳни сунъӣ метавонад дар як қисми раванди санҷиш низ ёрӣ диҳад.

Пас аз омода шудани матн метавонед аз модел бихоҳед:

Ҳамаи иддаоҳои санҷишпазири ин матнро ҷудо кун ва нишон деҳ, ки кадомашон ба манбаи боэътимод ниёз доранд.

Ё:

Кадом қисмҳои ин матн метавонанд аз сабаби маълумоти кӯҳна, нопурра ё номуътамад ба санҷиш ниёз дошта бошанд?

Ин кор ҷойи санҷиши инсониро намегирад, аммо метавонад қисмҳои ҳассоси матнро зудтар муайян кунад.

Ба ҷавобҳои аз ҳад зиёд боитминон бовар накунед

Яке аз аломатҳои хатар ин аст, ки AI дар бораи мавзӯи номуайян бо қатъияти комил ҷавоб медиҳад.

Лаҳни боитминон маънои дуруст будани ҷавобро надорад.

Моделҳои забонӣ барои тавлиди ҷавоб бар асоси қонуниятҳои мавҷуд дар додаҳо омӯзонда шудаанд. Вақте маълумоти кофӣ надоранд, мумкин аст ба ҷойи эътирофи надонистан ҷавобе созанд, ки қобили қабул менамояд.

Таҳқиқоти OpenAI дар ин бора низ нишон медиҳад, ки майли моделҳо ба тахмин задан яке аз омилҳои муҳими пайдоиши ҷавобҳои нодуруст аст.

Пас ҷумлаҳое мисли «Тибқи гузориши фалон ташкилот» ё «Ин имконият аз фалон сол пешниҳод шудааст»-ро бе санҷиш қабул накунед.

Рӯйхати ниҳоии санҷиш пеш аз нашр

Пеш аз нашри муҳтавое, ки бо зеҳни сунъӣ таҳия шудааст ё аз он кумак гирифтааст, ин саволҳоро баррасӣ кунед:

• Оё иддаоҳои муҳими матн муайян шудаанд?
• Оё рақамҳо ва омор санҷида шудаанд?
• Оё санаҳо дурустанд?
• Оё номи шахсон ва ширкатҳо дуруст навишта шудааст?
• Оё иқтибосҳо воқеан вуҷуд доранд?
• Оё манбаъҳои пешниҳодшуда воқеӣ ҳастанд?
• Оё манбаъ маҳз ҳамон иддаоро тасдиқ мекунад?
• Оё маълумоти марбут ба абзорҳо ва маҳсулот нав аст?
• Оё қисмҳои ҳассос бо манбаи боэътимод муқоиса шудаанд?
• Оё мисолҳои матн воқеан дурустанд?
• Оё матн пас аз санҷиш ҳанӯз ба ҳадафи мақола мувофиқ аст?
• Оё ягон қисми ҷавоби AI бе санҷиш ба нусхаи ниҳоӣ ворид нашудааст?

Як қоидаи сода барои истифодаи беҳтари AI

Шарт нест барои нашри ҳар ҷумлаи навиштаи AI чанд соат таҳқиқ кунед. Беҳтар аст дараҷаи санҷишро ба аҳамияти иддао мутобиқ намоед.

Як ғоя барои унвони мақола ба ҳамон андозаи омори тиббӣ ё молиявӣ санҷиш талаб намекунад. Аммо ҳар ҷо иддао метавонад ба қарори хонанда таъсир расонад, бояд манбаъ ва дурустии онро ҷиддитар санҷем.

Тавре дар мақолаи «Чӣ гуна бо ChatGPT беҳтар омӯзем ва саволҳои дақиқтар диҳем» гуфтаем, сифати натиҷаи AI танҳо ба худи абзор вобаста нест. Тарзи истифодаи мо низ аҳамияти калон дорад.

Хулоса

Зеҳни сунъӣ абзори пурқувват барои таҳқиқ, пешниҳоди ғоя ва таҳияи пешнавис аст, аммо набояд онро манбаи ҳақиқат донем. Ҷавоби равон, пурра ва боитминон ҳатман дуруст нест.

Роҳи беҳтар ин аст, ки иддаоҳои муҳимро ҷудо кунем, манбаъҳои аслиро кушоем, маълумоти ҳассосу навро бо манбаъҳои боэътимод муқоиса намоем ва дар ниҳоят матнро худамон дубора баррасӣ кунем.

Истифодаи касбии AI танҳо донистани тарзи додани саволи хуб нест. Бояд бидонем, ки кай ба ҷавоб бовар накунем.

Пеш аз нашр бори дигар бипурсед:

«Барои исботи дурустии ин ҷумла чӣ далел дорам?»

Ҳамин саволи сода метавонад пеши бисёр хатоҳои муҳтаворо бигирад.