Агар додаҳо ғаразнок бошанд, параметрҳо низ дар ҳамон асос шакл мегиранд. Агар барчаспҳо хато бошанд, раванди омӯзонидан моделро ба сӯйи ҳадафи нодуруст мебарад.

Масалан, агар бонк дар гузашта навъи муайяни қаллобиро дуруст ошкор накарда бошад, як қисми амалиёти қаллобӣ дар додаҳои таърихӣ бо барчаспи «солим» мавҷуд хоҳад буд.

Алгоритми омӯзонидан метавонад комилан дуруст амалӣ шуда бошад, аммо аз ҷавобҳои нодуруст меомӯзад. Пас, сифати моделро аз сифати додаҳо ҷудо баррасӣ кардан мумкин нест.

4.4. Намунаи омӯзишӣ, хусусият ва барчасп

Дар мисоли нархи хона ҳар сатри маҷмӯи додаҳо як намунаи омӯзишӣ буд. Дар ошкорсозии қаллобӣ ҳар амалиёт як намунаи омӯзишӣ аст.

Вуруди модел маҷмӯи хусусиятҳост: маблағ, соат, ҷой, навъи дастгоҳ, шумораи амалиёт дар чанд дақиқаи охир ва рафтори таърихии муштарӣ.

Хусусият ҳатман сутуни хоми пойгоҳи додаҳо нест. Аз вақти дақиқи амалиёт метавон «соати рӯз», «рӯзи истироҳат будан» ё «фосилаи вақт аз амалиёти пешина»-ро ҳосил кард.

Дар омӯзиши амиқ як қисми сохтани намоиш низ метавонад дар дохили худи модел анҷом ёбад. Аммо мафҳуми хусусият ҳамоно ба маълумоте ишора мекунад, ки барои пешгӯӣ истифода мешавад.

Дар омӯзиши назоратшаванда ҳар намуна ғайр аз вуруд қимати ҳадаф ё барчасп дорад. Дар ошкорсозии спам барчасп «спам/солим», дар гурӯҳбандии тасвир «гурба/саг» ва дар нархи хона маблағи воқеии фурӯш аст.

4.5. Омӯзиши назоратшаванда

Дар омӯзиши назоратшаванда маҷмӯи додаҳоро метавон ҳамчун ҷуфтҳои (x, y) дид. Модел мекӯшад робитае пайдо кунад, ки аз x ба y бирасад.

Бартарии ин усул равшан будани ҳадаф аст. Аммо арзиши барчаспгузорӣ метавонад хеле зиёд бошад. Дар тасвирҳои тиббӣ ҳар намуна метавонад ба пизишки мутахассис ниёз дошта бошад. Дар ошкорсозии қаллобӣ низ натиҷаи воқеии баъзе амалиёт танҳо баъди таҳқиқ маълум мешавад.

4.6. Омӯзиши беназорат

Дар омӯзиши беназорат барчаспи ошкоре чун «қаллобӣ/солим» вуҷуд надорад. Ҳадаф метавонад кашфи сохтор, гурӯҳҳо ё намунаҳои пинҳон дар додаҳо бошад.

Масалан, муштариёнро метавон бар асоси рафтори молиявӣ ба кластерҳо ҷудо кард, бе он ки номи гурӯҳҳо пешакӣ муайян шуда бошад.

Набудани барчасп маънои набудани ҳадаф ё алгоритмро надорад. Алгоритм ҳанӯз масъалаи риёзии мушаххас дорад; танҳо сигнали омӯзишӣ аз навъи дигар аст.

4.7. Омӯзиши худназоратшаванда: чаро барои забон муҳим аст?

Тасаввур кунед, ки мехоҳем модели забониро бо миллиардҳо ҷумла омӯзонем. Агар инсон маҷбур бошад барои ҳар ҷумла ҷавоби дурустро барчаспгузорӣ кунад, хароҷот дар амал ғайриимкон мешавад.

Аммо матн хусусияти муҳим дорад: ҳадафро аз худи матн гирифтан мумкин аст.

Ҷумла:

Теҳрон пойтахти Эрон аст.

Як қисми ҷумларо метавон вуруд ва қисми баъдиро ҳадаф гирифт:

Вуруд: «Теҳрон пойтахти Эрон ...»  
Ҳадаф: «аст»

Вуруд: «Ман имрӯз ба донишгоҳ ...»  
Ҳадаф: «рафтам»

Вуруд: «Ӯ китоби наве ...»  
Ҳадаф: «харид»  

Инсон барои ин намунаҳо барчаспи нав нанавиштааст. Худи додаҳо ҳадафро ба вуҷуд овардаанд. Ин яке аз шаклҳои омӯзиши худназоратшаванда аст.

Модел бо шумораи хеле зиёди чунин пешгӯиҳо рӯ ба рӯ мешавад. Барои кам кардани хато маҷбур мегардад, ки намунаҳои зиёди забон, сохтори ҷумла, ҳамнишинии вожаҳо, робитаҳои мафҳумӣ ва баъзе қонуниятҳои воқеии ҷаҳонро дар параметрҳои худ инъикос кунад.

Дар ин навишта ба он намепардозем, ки қобилиятҳои мураккаб чӣ гуна аз вазифаи пешгӯии қисми баъдии матн ба вуҷуд меоянд. Ин масъала ба навиштаҳои марбут ба моделҳои забонӣ ва трансформер тааллуқ дорад, ки шояд дар ояндаи начандон дур нашр кунам.

Ҳадафи феълӣ танҳо фаҳмидани ин нукта аст: ҳаҷми азими матн метавонад бе барчаспгузории дастии ҳар як намуна сигнали омӯзишӣ тавлид кунад.

Дар ҳамин ҷо бояд аз ду ифрот дурӣ ҷуст. Яке мегӯяд, ки модели забонӣ танҳо матни интернетро мисли пойгоҳи додаҳо аз ёд кардааст. Дигаре мегӯяд, ки модел аслан чизеро аз ёд намекунад ва танҳо мафҳумҳои умумиро меомӯзад.

Дар амал ҳам умумисозӣ ва ҳам азёдкунӣ метавонанд рух диҳанд. Таносуби онҳо ба додаҳо, модел ва омӯзонидан вобаста аст.

Фарқи омӯзонидан ва хулосабарорӣ аз ҳамин ҷо равшан мешавад:

Коди омӯзонидан + додаҳои омӯзишӣ + модели аввалия  
→ омӯзонидан  
→ модели омӯзонидашуда  

Модели омӯзонидашуда + вуруди нав  
→ хулосабарорӣ  
→ пешгӯӣ  

Омӯзонидан метавонад дар инфрасохтори пуриқтидори ҳисоббарорӣ анҷом ёбад, дар ҳоле ки хулосабарорӣ дар инфрасохтори дигар барои ҷавоб додан ба дархостҳои муҳити амалиётӣ иҷро шавад.

Дар омӯзонидан ғайр аз гузариши рӯ ба пеш, талафот, паҳнкунии баръакс ва навсозии параметрҳо вуҷуд доранд. Дар хулосабарорӣ одатан параметрҳо собитанд ва танҳо ҷавоб ҳисоб мешавад.

4.8. Чаро даъват кардани модели забонӣ одатан омӯзонидан нест?

Вақте аз модели забонӣ тавассути интерфейси барномасозӣ истифода мекунед, одатан раванди омӯзонидани модели бунёдӣ иҷро намешавад.

Паёми шумо ба контексти вақти иҷро ворид мешавад ва модел бо параметрҳои мавҷуда ҷавоб тавлид мекунад.

Агар дар оғози суҳбат гуфта шавад «номи маҳсулоти мо Ориё аст» ва чанд паём баъд модел инро дар ёд дошта бошад, ин рафтор худ аз худ нишон намедиҳад, ки вазнҳо тағйир ёфтаанд. Маълумот дар контексти суҳбат мавҷуд будааст.

Ҳамин фарқ баъдтар барои бозёбии иттилоот хеле муҳим мешавад. Маълумоти навро ҳангоми хулосабарорӣ ба модел додан мумкин аст, бе он ки он маълумот дар параметрҳо омӯзонида шавад.

Пас, «истифодаи дониш дар контекст» ва «омӯзиши параметрӣ» ду чизи гуногунанд.

4.9. Давраи пурраи омӯзонидани модели қаллобӣ

Як миллион амалиёти таърихӣ омода шудааст. Барои ҳар амалиёт хусусиятҳо ҳосил шуда, барчаспи ниҳоӣ мавҷуд аст.

Модел аз параметрҳои аввалия оғоз мекунад. Амалиёт ба модел ворид мешаванд, гузариши рӯ ба пеш анҷом меёбад, пешгӯӣ бо барчасп муқоиса мешавад, талафот ҳисоб мегардад, паҳнкунии баръакс градиентҳоро ба даст меорад ва оптимизатор параметрҳоро андаке тағйир медиҳад.

Ин раванд борҳо такрор мешавад, то модел нисбат ба ҳадафи омӯзонидан рафтори беҳтар пайдо кунад. Сипас вазнҳо захира шуда, дар муҳити амалиётӣ барои амалиёти нав истифода мешаванд.

Аммо дар ҳамин ҷо саволи нав пайдо мешавад: агар модел ба ҳамаи додаҳои омӯзишӣ аъло ҷавоб диҳад, оё воқеан модели хуб аст?

Ҷавоб ҳатман мусбат нест. Ҳадафи асосӣ танҳо омӯхтани гузашта нест; модел бояд рӯйи додаҳои қаблан надида низ кори муносиб анҷом диҳад.

5. Омӯзонидан дар муқоиса бо хулосабарорӣ ва масъалаи умумисозӣ

То ин ҷо ду тасаввур сохтем: омӯзонидан, ки дар он параметрҳо тағйир меёбанд, ва хулосабарорӣ, ки дар он модели омӯзонидашуда рӯйи вуруди нав иҷро мешавад.

Акнун бояд ин дуро дақиқтар муқоиса кунем ва сипас ба яке аз мафҳумҳои бунёдии омӯзиши мошинӣ — умумисозӣ — бирасем.

5.1. Омӯзонидан ва хулосабарорӣ ҳадафи яксон надоранд

Фарз кунед, модели қаллобӣ бо даҳ миллион амалиёти таърихӣ омӯзонида шудааст. Ҳангоми омӯзонидан амалиёт борҳо ба модел ворид шудаанд. Модел пешгӯӣ сохтааст, ҷавоб бо барчаспи воқеӣ муқоиса шудааст ва параметрҳо тағйир ёфтаанд.

Дар охир бастаи моделеро дорем, ки вазнҳои омӯхташуда дар он захира шудаанд.

Акнун модел дар муҳити амалиётӣ ҷойгир мешавад. Амалиёти нав меояд, хусусиятҳо сохта мешаванд ва модел баҳои 0.87 тавлид мекунад. Ҳадаф дигар омӯзиш нест; ҳадаф истифода аз чизест, ки қаблан омӯхта шудааст.

Омӯзонидан мепурсад: «Параметрҳо бояд чӣ қимат дошта бошанд?»

Хулосабарорӣ мепурсад: «Бо параметрҳои ҷорӣ ин вуруд чӣ баромад дорад?»

5.2. Муқоисаи техникии омӯзонидан ва хулосабарорӣ

Дар омӯзонидан додаҳои таърихӣ ва дар масъалаҳои назоратшаванда барчаспҳо ба раванд ворид мешаванд. Гузариши рӯ ба пеш, ҳисоб кардани талафот, ҳисоб кардани градиент, паҳнкунии баръакс ва навсозии вазнҳо анҷом меёбанд.

Дар хулосабарорӣ одатан танҳо гузариши рӯ ба пеш барои вуруди нав лозим аст ва параметрҳо тағйир намеёбанд.

Аз ҳамин сабаб омӯзонидан одатан аз нигоҳи хотира ва қудрати ҳисоббарорӣ вазнинтар аст. Ҳангоми омӯзонидан маълумоти мобайнии лозим барои паҳнкунии баръакс низ бояд нигоҳ дошта шавад.