Боби 7. k ҳамсояи наздиктарин

Дар ин боб меомӯзем

• k-NN чӣ гуна нуқтаи навро бо «овоздиҳии» ҳамсояҳо тасниф мекунад.
• Чаро интихоби қимати k натиҷаро тағйир медиҳад.
• Чаро пеш аз k-NN додаҳоро миқёсбандӣ мекунанд.
• Тағйирёбандаҳои дуӣ (0/1) ба масофа чӣ таъсир мерасонанд.
• Маҳдудиятҳои k-NN: додаҳои калон ва серченака.

Яке аз усулҳои дигари маъмули тасниф дар омӯзиши мошинӣ k ҳамсояи наздиктарин — k-nearest neighbors (k-NN) мебошад. Ин алгоритми омӯзиши назоратшаванда намунаҳои нави додаҳоро аз рӯйи наздикии онҳо ба намунаҳои мавҷуда тасниф мекунад.

Аз бисёр ҷиҳатҳо, k-NN ба низоми овоздиҳӣ монанд аст.

Тасаввур кунед, ки шумо хонандаи нави мактаб ҳастед ва мехоҳед бидонед, ки барои ба ҳамсинфон мувофиқ шудан чӣ гуна либос пӯшед. Дар рӯзи аввал мебинед, ки аз нӯҳ хонандаи ба шумо наздиктарин шаш нафар остинҳояшонро барзадаанд. Бо назардошти аксарият ва наздикии онҳо, рӯзи дигар шумо низ қарор медиҳед, ки остинҳоятонро барзанед.

Акнун мисоли дигарро мебинем.

Расми 7.1. Намунаи истифодаи k-NN барои пешгӯии синфи нуқтаи нави додаҳо: дар чап k = 3, дар рост k = 7. Доираи хатти пунктирӣ ҳамсояҳои ба ҳисоб гирифташударо дар бар мегирад.

Дар расми 7.1 нуқтаҳои додаҳо ба ду синф ҷудо шудаанд. Ба график нуқтаи наве илова мешавад, ки синфи он номаълум аст. Бо истифода аз k-NN метавон синфи ин нуқтаро аз рӯйи ҷойгиршавии он нисбат ба нуқтаҳои мавҷуда пешгӯӣ кард.

Аммо аввал бояд қимати k-ро интихоб кунем. Он муайян мекунад, ки барои таснифи нуқтаи нав чанд ҳамсояро ба назар мегирем.

Агар k = 3 гузорем, алгоритм се нуқтаи ба намунаи нав наздиктаринро меёбад. Дар ин мисол, аз се ҳамсояи наздиктарин:

• ду нуқта ба синфи B тааллуқ доранд;
• як нуқта ба синфи A тааллуқ дорад.

Азбаски ду ҳамсоя аз се ҳамсоя ба синфи B дохил мешаванд, модел нуқтаи навро низ ба синфи B мансуб мекунад.

Интихоби қимати k

Шумораи ҳамсояҳо, ки бо k муайян мешавад, ба натиҷаи тасниф таъсири муҳим дорад.

Дар расми 7.1 мебинед, ки бо тағйир додани k аз 3 ба 7 натиҷаи тасниф дигар мешавад: дар байни ҳафт ҳамсояи наздиктарин чор нуқта ба синфи A ва се нуқта ба синфи B тааллуқ доранд, бинобар ин нуқтаи нав ин дафъа ба синфи A мансуб мешавад. Аз ин рӯ, санҷидани қиматҳои гуногуни k барои ёфтани варианти мувофиқ муфид аст.

Қимати k набояд аз ҳад хурд ё аз ҳад калон бошад:

• k-и хеле хурд моделро ба ғавғо ва намунаҳои ғайримуқаррарӣ ҳассос карда, метавонад боиси аз ҳад мутобиқшавӣ ва таснифи нодуруст шавад.
• k-и хеле калон метавонад фарқиятҳои маҳаллии байни синфҳоро нодида гирад ва хароҷоти ҳисоббарориро зиёд кунад.

Интихоби адади тоқ барои k дар таснифи дуӣ ба пешгирии баробар шудани овозҳо ёрӣ медиҳад.

Дар Scikit-learn қимати пешфарзи шумораи ҳамсояҳо барои ин алгоритм 5 мебошад.

Миқёсбандии додаҳо

Азбаски миқёси ҳар тағйирёбанда ба натиҷаи k-NN таъсири калон дорад, одатан пеш аз истифодаи алгоритм додаҳоро миқёсбандӣ мекунанд. Ин мавзуъ (нормализатсия ва стандартизатсия) дар боби 3 баррасӣ шуд.

Чунин табдилот пешгирӣ мекунад, ки як ё чанд тағйирёбандаи дорои фосилаи калони қиматҳо дар ҳисоби масофа таъсири аз ҳад зиёд дошта бошанд.

Масалан, агар як хусусият бо қиматҳои аз 0 то 1 ва хусусияти дигар бо қиматҳои аз 0 то 100 000 ифода шавад, хусусияти дуюм метавонад ҳисоби масофаро бартарӣ диҳад, ҳатто агар аз ҷиҳати маъно муҳимтар набошад.

Кадом навъи додаҳо мувофиқ аст?

k-NN одатан бо тағйирёбандаҳои ададии пайваста хуб кор мекунад.

Истифодаи тағйирёбандаҳои гурӯҳии дуӣ, ки бо 0 ва 1 ифода шудаанд, низ имконпазир аст. Аммо чунин хусусиятҳо метавонанд ба масофаи байни нуқтаҳо ва натиҷаи тасниф таъсири назаррас расонанд, тавре дар расми 7.2 нишон дода шудааст.

Расми 7.2. Як тағйирёбандаи дуӣ ва ду тағйирёбандаи пайваста.

Дар ин расм меҳвари уфуқии x танҳо ду қимат — 0 ё 1 — дорад. Аз ин рӯ, нуқтаҳо ба ду тарафи ҷудогона тақсим мешаванд.

Агар яке аз тағйирёбандаҳои пайвастаи боқимондаро низ ба тағйирёбандаи дуӣ иваз кунем, тавре дар расми 7.3 нишон дода шудааст, фарқи қиматҳои дуӣ ба масофаи байни нуқтаҳо боз ҳам бештар таъсир мерасонад.

Аз ин рӯ, агар хоҳед тағйирёбандаҳои дуиро дар таҳлили k-NN истифода баред, беҳтар аст танҳо онҳоеро ба модел дохил кунед, ки барои пешгӯӣ аҳамияти воқеӣ доранд.

Расми 7.3. Ду тағйирёбандаи дуӣ ва як тағйирёбандаи пайваста.

Маҳдудиятҳои k-NN

Гарчанде k-NN одатан натиҷаҳои хуб медиҳад ва фаҳмиданаш осон аст, нигоҳ доштани тамоми маҷмӯи додаҳо ва ҳисоб кардани масофаи байни ҳар нуқтаи нав ва нуқтаҳои мавҷуда ба захираҳои ҳисоббарорӣ бори зиёд меорад.

Дар равиши мустақими ҳисоб, бо зиёд шудани шумораи намунаҳо вақти зарурӣ барои як пешгӯӣ низ меафзояд. Ин метавонад коркарди додаҳоро суст кунад. Аз ҳамин сабаб, k-NN барои маҷмӯаҳои хеле бузурги додаҳо аксар вақт интихоби муносиб нест.

Камбудии дигар душвории кор бо додаҳои серченака, яъне додаҳои дорои хусусиятҳои зиёд мебошад.

Ҳисоб кардани масофаҳо дар фазои серченака захираҳои бештар талаб мекунад. Ҳамзамон, бо зиёд шудани шумораи ченакҳо, фарқ кардани ҳамсояҳои воқеан наздик душвортар шуда, дақиқии тасниф метавонад коҳиш ёбад.

Чиро бояд дар ёд дошт

• k-NN нуқтаи навро ба синфе мансуб мекунад, ки аксарияти k ҳамсояи наздиктарини он доранд.
• Қимати k натиҷаро тағйир медиҳад: k-и хурд ба ғавғо ҳассос аст, k-и калон фарқҳои маҳаллиро нодида мегирад; барои ду синф k-и тоқ беҳтар аст.
• Пеш аз k-NN додаҳоро миқёсбандӣ кунед, вагарна хусусияти дорои қиматҳои калон масофаро бартарӣ медиҳад.
• Тағйирёбандаҳои дуиро танҳо вақте дохил кунед, ки барои пешгӯӣ воқеан муҳим бошанд.
• Барои додаҳои хеле калон ё серченака k-NN суст ва камдақиқ мешавад.