АЛМАТЫ 2009 1 страница

УДК 002.52/54

Құрастырғандар: Сулейменов Б.А., Ыбраев А.С., Өмірбекова Ж.Ж. Басқару жүйесіндегі жасанды интелект методы

Лабороториялық жұмысқа әдістемелік нұсқаулар 050702 – «Автоматтандыру және басқару» мамандығына арналған

» – Алматы: ҚазҰТУ баспасы, 2009. с. 1-61

Бұл оқу- әдістемелік кешен өзімен бірге «Автоматтандыру және басқару» сондай-ақ «Тиімділеу әдісі» программалық курсын қосқан. Методикалық нұсқаулар 050702 мамандығына арнап мемлекеттік стандарт бойынша орындаған.Ол 14 лабораториялық жұмыстын және онымен қатар студенттерге тиімді басқару кезінде жиі қолданылатын функция экстремумын тауып зерттеуге және үйренуге Лабороториялық жұмысқа арналған методикалық нұсқаулар 050702 «Автоматтандыру және басқару» мамандығының студенттеріне арналған

Ил.. Табл.. Әдебиеттер тізімі. – 7 атаулары.

Рецензент К. С. Шоланов, д-р техн.ғылымның проф

Қазақстан Республикасының Ғылым және Білім Министрлігінің жобасымен терілген

2009 жылға арналған

©Қ.И.Сәтпаев атындағы қазақ ұлттық техникалық университеті,2009ж.

№8-9 зертханалық жұмыс

«НЕМЕСЕ –ЖӘНЕ» логикалық функциясын орындайтын нейтронды желіні құру

Нейтронды тізбек құру үшін Matlab жүйесімен танысу. Нейтронды тізбектер (NN - Neural Networks) - әртүрлі есептерді шешеу үшін кең түрде қолданылады. NN – қолданудың дамуы аймақтарының аумағында ұқсас және сандық толқындарды өңдеу электронды тізбектерді және жүйелерді синтездеу және идентификация жатады. NN қолданудың негізгі теориялары және технологиясы MATLAB пакетінде кең түрде келтірілген. Осыған байланысты NN – NNTool үшін алғаш рет GUI (Graphical User Interface – тұтынушының графикалық интерфейсі) ұсынылған MATLAB 6.0 соңғы нұсқасын ескере кету керек.Берілген зертханалық жұмыста NNTool – ға сипаттама берілген және «И» логикалық амалдарын орындайтынды нейтронды тізбекті құруға есеп үшін оны қолдану техникасы көрсетілген.

NN технологиядағы толқындарды (дыбыстарды) өңдеу жадысыз немесе жады бар NN – нің көмегімен орындалды. Екі жағдайда да маңызды жадысыз NN болып табылады. Ондай рөл белсендірудің анықталған функциясымен нейтронды қолдану кезінде NN әмбебап проксиматор болып табылатын жағдаймен анықталады. Соңғысы берілген деңгейде NN кіріс ауыспалының өзгерісін осы ауыспалының өтпелі үздіксіз функциясының берілген дәлдігімен өткізуге болады.

Біздің зертханалық жұмыста тура таралу, басқаша айтқанда қайтымсыз байланыстар деп аталатын NN жататын сұрақтар қарастырылады.Мұндай NN тамаша қасиеттері олардың тұрақтылығы болып табылады. NN құрамы таңдалып болған соң оның параметрі орнатылуы тиіс. NN құрылымын және нейтрондардың типтерін таңдау біз бұл жерде қарастырмайтын оңай сұрақ емес. Өлшемдердің мәніне келсек, олар кейбір тиымды шешу үрдісінде анықталады. Бұл кезең оқу деп аталады.

NNTool тұтынушының графикалық интерфейсі кең тізбектен NN – нің құрылымын таңдауға мүмкіндік береді және тізбектің әр типі үшін оқудың көптеген алгоритмдерін көрсетеді.

Зертханалық жұмыста NNTool жұмысына жататын келесі сұрақтар құрастырылған: графикалық басқарушы элементтер құру; тізбекті оқу.

Желімен жұмыс сатыларының барлығы қарапайым есепті шешу мысалы мен үйлестірілген. " DSP үшін MATLAB " жобасының алдыңғы мақалаларындағыдай оқырман NN – нің негізгі теориясы және оның терминологиясымен таныс екені ұйғарылады.

NNTool – дың басқарылатын элементтері. NNTool – ды бастау үшін MATLAB бұйрықты терезесіндегі аттас бұйрықты орындау қажет:

>> nntool

осыдан кейін "желілерді және деректерді басқару терезесі" деп аталатын NNTool бас терезесі пайда болады. (Network/Data Manager) (сурет Л8.1).

8.1. сурет. NNTool – дың негізгі терезесі

"Желілер және деректер" панелі (Networks and Data) келесі бағыттары бар функционалды батырмаларына ие:

· Көмек (Help)- берілген терезедегі басқарама элементтерінің қысқаша сипаттамасы;

· Жаңа деректер (New Data…)-деректерді жаңа құруға мүмкіндік беретін терезені шақыру;

· Жаңа желі (New Network…)- жаңа желіні құру үшін терезені шақыру;

· Импорт (Import…)- MATLAB жұмыс кеңістігінен деректерді NNTool ауыспалылар кеңістігіне импорттау;

· Экспорт (Export…)- NNTool ауыспалылар кеңістігінен MATLAB жұмыс кеңстігіне экспорттау;

· Түр (View)- таңдалған желінің сәулетін графикалық бейнелеу;

· Жою (Delete)- таңдалған объектіні жою.

" Тек желілер " (Networks only) панелінде тек желілермен жұмыс үшін батырмалар орналасқан. Әр басқа түрді нысананы тышқанмен бағыттауды таңдау кезінде батырмалар белсенсіз болып қалады.

NNTool – мен жұмыс жасау кезінде View, Delete, Initialize, Simulate, Train және Adapt (изображены на рис. 1 как неактивные) батырмалары берілген маментте белгіленген нысанаға қолданбалы әсер етеді. Егер ондай объект жоқ болса немесе белгіленген нысанаға көрсетілген іс - әрекетті өткізу мүмкін болмаса сәйкес батырма белсенді емес.

Тапсырма. "И" логикалық функциясын орындайтын нейтронды желәне құру қажет болсын..

Желіні құру. Екі тесігі бар бір персептроннан тұратын желіні таңдаймыз. Оқу үрдісінде оның тесігі желіге кіріс деректер беріледі және шығында алынған мәндерді өткізіледі. Салыстыру нәтижесінде негізделе отырып салмақтың өзгеру шамасы есептелінеді.

Сонымен, желіні құру алдында оқушылардың және мақсатты деректерді жиынтығын дайындау қажет. "И" логикалық функциясын шынайылық кестесін құрамыз, мұндағы P1 және Р2 - тесіктер, ал А – тілеген есік (см. таблицу истинности логической функции "И")

P1	P2	A

Төрт жол вектордан тұратын матрицаны беру үшін New Data. Батырмасын пайдаланамыз. Пайда болған терезеде Л8.2 суретінде көрсетілген өзгерістерді өткізіп және "Құру" (Create) батырмасын басу керек.

8.2-сурет. Кіріс векторларының тапсырмасы

Содан кейін басқару терезесінде Inputs бөлімінде data1 векторы пайда болады. Мақсаттау векторы ұқсас түрде беріледі (сурет Л8.3).

8.3-сурет.. Мақсаттық вектор тапсырмасы

Targets бөлімінде Create басқаннан кейін target1 векторы пайда болады.

"Мән" (Value) өрісіндегі деректер MATLAB кез – келегн түсінікті ұғыммен келтіруі мүмкін. Мысалға, мақсатты вектор туралы алдыңғы

bitand([0 0 1 1], [0 1 0 1]) түрдегі жолмен эквивалентті ауыстыруы мүмкін.

Енді нейтронды желіні кірісуге болады. New Network батырмасын таңдап және Л8.4. суретте көрсетілген пішінін (формасы) толтырамыз.

8.4-сурет. «Желіні құру» терезесі

Өріс келесі мағыналы күштерге ие:

· Желі аты (Network Name) – құрылатын желінің нысананың аты.

· Желі типі (Network Type)- желінің типін анықтайды және осы пункттің төменде орналасқан терезенің бөлігінде әртүрлі параметрді енгізу үшін таңдалынған типті ұсынады. Осылайша, желінің әртүрлі типтері үшін терезе өзінің құрамын өзгертеді.

· Кіріс диапазондары (Input ranges)- желінің кіріс санына тең жолдар саны бар матрица. Әр жол екі элементі бар вектор болып табылады: біріншісі – оқыту кезінде сәйкес кіріске берілетін толқынның минималды мәні, екінші – максималды мәні. Осы мәндердің енгізілуін жеңілдету үшін кіріс ауыспалыынң атын көрсететін, қажетті деректерді автоматты түрде жинақтауға мүмкіндік беретін "Кірістен алу" (Get from input) тізімі қарастырылады.

· Нейрондар саны (Number of neurons)- қабаттағы нейтрондар саны.

· Беріліс функциясы (Transfer function)- бұл пунктте нейрондардың беріліс функциясы таңдалынады..

· Оқып – үйрену функциясы (Learning function)- оқу үрдісінде салмақты жаңарту және желілердің араласуына жауапты функция.

"Түр" (View) батырмасының көмегімен құрастырылған желінің сәулетін көруге болады (сурет Л8.5). Осылайша біз барлық іс - әрекет дұрыс орындалғанына көз жеткізуге болады. Л8.5 суретінде қатты шектеуі бар беріліс функциясын жүзеге асыратын шығыс блогымен персептронды желі бейнеленген. Қабаттағы нейтрондар саны бірге тең, ол қабаттың шығысында жол векторларының өлшемімен көрсетіледі және беріліс функцмясының блогы санымен көрсетіледі. Қарастырылып отырған желінің екі есігі бар, өйткені кіріс жол векторының өлшемі екіге тең.

8.5-сурет.. Жасалынушы жүйенің алдын – ала көрсетілуі

Желінің құрылымы біздің тапсырмаға сәйкес келеді. Енді "Жабу" (Close) батырмасын басу алдын – ала көру терезесін жабуға болады және желіні құру терезесінде "Құру " (Create) батырмасын басып желі құру ниетін ұсыну керек. Жасалынған амалдар нәтижесінде NNTool бас терезесінің "Желі" (Networks) бөлімінде network1 атты нысана пайда болады.

Оқып - үйрену. Біздің мақсат - "И" логикалық функциясын орындайтын нейтронды желіні тұрғызу керек. Бірдей желіні құру сатысынан кейін соңғысы дұрыс нәтижені қамтамасыз етеді деп сенуге болмайды. Мақсатқа қол жеткізу үшін желіні қажетті түрде оқыту керек, басқаша өлшемдердің қажетті мәндерін таңдар алу керек. MATLAB – та қарастырылатын түрдегі персептонды жүйелер үшін нейтронды желілердің арасында екеуі келтірілген оқудың көптеген танымал алгоритмдері жүзеге асырылған. Желіні құра отырып біз LEARNP оқу алгоритмін жүзеге асырушы функция ретінде екенін білдік.

NNTool бас терезесіне қайта орлайық. Бұл сатыда төменгі "Тек желілер" (Networks only) қызығушылық тудырады. Бұл панелдегі кез – келген батырманы басу оқып – үйрену үшін қажетті желінің өлшемдері келтірілген терезені шақырады.

Тышқанның бағыттаушысымен network1 желісінің нысанансын белгілеп, Train батырмасын баса отырып желіні басқару терезесін шақырамыз. Біздің алдымызда "Train" желілер қасиеттерінің терезесі пайда болады. Оның құрамында тағы да бір үлес панелі бар (сурет Л8.6). Олардың басты мақсаты – оқу үрдісін басқару. "Оқу ақпараты" (Training info) үлесінде "Кірістер" (Inputs) өрісіндегі берілген оқушылардың жиынтығын және "Мақсат" (Targets) өрісіндегі мақсатты деректердің жиынтығын көрсету керек. "Шығыстар" (Outputs) және "Қателер" (Errors) өрістерін NNTool автоматты түрде толтырады. Осы кезде шығыстар мен қателер жататын оқудың нәтижесі көрсетілген аттары бар ауыспалыларда сақталынатын болады.

8.6-сурет.. Ашылулы жинақтаушы "оқу" (Train) жүйесінің терезесінің параметрі

Оқу үрдісін әртүрлі өлшемдерді басқара отырып аяқтауға болады. Оқуды кейбір жеткілікті уақыт аралығына сүйене отырып тоқтатуға болатын жағдайларда мүмкін. Екінші жағынан, өлшеудің тиімділіг қатенің деңгейі болып табылады.

Біздің желі үшін "Оқу өлшемдері" (Training parameters) үлесінді келесі өрістерді орнатуға болады: (сурет Л8.7)

8.7-Сурет.. Оқу параметрінің қосымшасы

· Дәуір саны (epochs)- өтуі бойынша оқу тоқтатылатын дәуірлер санын анықтайды.

· Дәуір деп – желінің кірісіне барлық оқушылардың кіріс деректерін көрсетуді атайды.

· Мақсатқа қол жеткізу немесе тию (goal) – мұнда қателік функциясының абсолютті шамасы беріледі, сол кезде мақсатқа қол жеткізілді деп есептелінеді.

· Жаңарту периоды (show) – дәуір сонымен көрсетілген оқу қисығы сызығының жақсарту периоды.

· Оқу уақыты (time) – секундпен берілген уақытты интервалдың өтуіне байланысты оқу аяқталады.

Сызықты бөлінген көпшелер бар есепті шешу үшін әрқашанда дәл шешімі бар деген деректі еске аламыз, және нөлгн тең мақсатқа қол жеткізуді шегін аламыз. Қалған өлшемдердің мәндерін автоматты түрде қалдырамыз. Оқу уақытының өрісі уақыттың ескере кетеміз. (ағылшынша Infinite – үздіксіз, шексіз).

Келесі үлес "Міндетті емес ақпарат" (Optional Info) Л8.8. суретте көрсетілген.

8.8-сурет.. Жиынақтағы міндетті емес ақпараты

Оқу (Train) үлесін қарастырамыз. Оқуды бастау үшін "Желіні оқу" (Train Network) батырмасын басу керек. Содан кейін, егер желі осы мезетте оқу өлшемдері (Training Parameters) бөлімінде көрсетілген шарттарының бірі ешқайсысын қанағаттандырмаса, мақсатты функцияның динамикасын – оқу қисығын түрлендіретін терезе пайда болады. Біздің жағдайда 8.9.- суретте көрсетілгендей болуы мүмкін. "Оқуды тоқтату" (Stop Training) батырмасы мен осы үрдісті тоқтатуға болады. Суреттен мақсатты функциясы орнатылған шамаға (goal = 0) қол жеткізілген кезде оқу тоқтатылғаны көрініп тұр.

Қатты шектеуі мен белсенділік функциясы бар персептрондар үшін қателік мақсатпен алынған шығыстың арасындағы айырмашылық ретінде есептелінетін ескеру керек.

Сонымен оқу алгоритмі есептің дәл шешімін тапты. Методикалық мақсатта есебінің шешімін оқытылған желіні итеру жолымен шешілгеніне көз жеткіземіз. Ол үшін "Итеру" (қуу) (Simulate) үлесін ашып және "Кірістер" (Inputs) тізімінде көрсетілген дайындалған деректерді таңдау керек. Берілген есепте data1 оқу кезегіндегі деректерді жиынтығын пайдалану шынайы. Қалаған кезде "Мақсаттарды тапсыру" (Supply Targets) жалаушысын орнатуға болады. Итеру нәтижесінде қатенің мәні қосымша есептелетін болады. "Желіні итеру" (Simulate Network) батырмасын басаотырып итеру нәтижесін "Шығыстар" (Outputs) өрісінде аты көрсетілген ауыспалыға жазылады. Енді NNTool негізгі терезесіне қайта келуге болады және network1 шығыс ауыспалыны тышқанмен ерекшелеп (белгілеп) "Қарастыру" (View) батырмасын басады. Қарастыру терезесінің құрамындағылары мақсаттар векторының мәнімен сәйкес келеді.

8.9-сурет. Қисық оқу

Желідегі салмақтың мәні нақты түрде құрылатынын ескеру керек. Келесі әр сынаудың алдында бастапқы шарттар жаңартылады, ол үшін "Инициализация" (Initialize) үлесінде инициализация функциясы қарастырылған. Егер оқудың бірнеше тәуелсіз сынамалар қажет болса, инициализация салмағын әр сынаманың алдында " Инициализация салмағы " (Initialize Weights) батырмасын басумен жүзеге асырылады.

"Міндетті емес ақпарат" (Optional Info) (сурет Л8.8) үлесіне ораламыз. Осы жерде келтірілген өлшемдер қандай мақсатта қызмет ететін білу үшін екі түсінікті талқылау қажет: қайта оқу және жалпылау.

Нейтронды желіні таңдау кезінде нақты есепті шешу үшін оның ретін болжап айту күрделі. Егер үлкен ретті таңдасақ желі өте жұмсқ болуы мүмкін және қарапайым тәуелділікті қиын түрде көрсетуі мүмкін. Кеісінше нейтрондардың жеткіліксіз саны бар желі жағдайында қатенің қажетті деңгейіне ешқашан қол жеткізілуі мүмкін емес.

Қайта оқуды ескерту үшін келесі техника қоладылады. Деректер екі жиынға бөлінеді: оқушылар (Training Data) және бақылаушы (Validation Data). Оқуда бақылаушы жиындар қолданылмайды. Жұмыстың басында оқытылатын және бақылаушы жиындар желілердің қателері бірдей болады. Желі қалай оқытылуына байланысты оқу қателігі қалып қояды және оқу қатенің нақты функциясын азайтады. Егер де бақылаушы қате азайюн тоқтатса немесе өсе бастаса, ол оқуды аяқтау керектігін көрсетеді. Осы сатыдағы тоқтату ерте тоқтату (Early stopping) деп аталады..

Осылайшы, алдымен қажетті (сәйкес келетіні) алынғанша әртүрлі желілермен бірнеше сынықтар өткізілуі тиіс. Сонымен қатар локальды минимумдармен шатаспас үшін қателіктер функциясындағы әрбір желіні бірнеше рет оқыту керек.

Егер келесі оқу сатыларының және бақылаудың нәтижесінде қателіктердегі нейтронды желілер моделінің (пішінін) өзгеруі болдырмайтындай (рұқсат етілмейтіндей) үлкен болып қалады. Мұндай жағдайда шығыс деректерден тәуелсіз үйлесімділік (таңдама) ретінде келтірілген бақылаудың тесттік жиынын (Test Data) қолдануды ұсынады. Соңғы модель (Қорытынды) осы көпшеде тестіленеді, бұл алынған нәтижелердің нақтылығына көз жеткізу үшін қосымша мүмкіндік береді. Өзінің рөлін тесттік жиын тек бір рет қана ойнап шыға алады. Егер оны желіні жөндеу (туралау) үшін қолданса, онда ол бақылаушы жиынға айналады.

Жоғары жалауша (флажок) орнату (Л8.8 – сурет) бақылаушы жиынды және соған сәйкес нысана векторын тапсыруға мүмкіндік береді. Төменгі орнату тесттік жиынды және ол үшін нысана векторын тапсыруға мүмкіндік береді.

Желіні оқытуды әртүрлі режимде жүргізуге болады.Осыған байланысты NNTool – да оқытатын функцияны көрсететін екі үлес қарастырылған: алдын құрастырылған Train және "Бейімделу" (Adapt) үлестері. Adapt құрамында өрісі бар бейімделу ақпараты (Adap-tion Info) үлесі үйлестіреді.

MATLAB – ғы "Train" және "Adapt" үйлестерінің өлшемдері соған сәйкес train және adapt функцияларымен қолданылады.

Сызықты - бөлінбейтін жиындардың бөлінуі. "И" логикалық элементі синтездің қарастырылған есептері сызықты бөлек жиындарды тану есебі ретінде көрсетілуі мүмкін. Тәжірибеде сызықты бөлінбейтін жиындардың арасында көбінесе қатты шектеулері бар белсендіру функциясымен персептрондарды қолдану кездеседі. Мұндай жағдайларда басқа белсендіру функцияларын пайдалану керек.

Сызықты бөлінбейтін есептің көрсеткішті мысалы "исключающее НЕМЕСЕ" логикалық функциясын орындайтын желіні құру болып табылады.

2-Тапсырма. НЕМЕСЕ логикалық функциясын орындайтын нейтронды желіні құруқажет болсын.

Жұмысты орындау. НЕМЕСЕ логикалық функциясының кестесін қарастырамыз.

P1	P2	A

Жиынның «сызықты бөлінбейтін» сөзінің мағынасы неде? Бұл сұраққа жауап беру үшін келесі ережеге сәйкес кірістердің кеңістігінде (сурет Л9.1) шығыс мәндерінің жиының суреттейік. А шығысы нөлге айналатын P1 және P2 кірістерінің байланысы шеңберімен белгіленеді, ол А бірге айналатындарды қиылыс түрінде белгілейді.

9.1- сурет. НЕМЕСЕ логикалық функциясының күй – жағдайы

Біздің мақсат - нөлдің жиынның қиылысу жиындардың бөлінетін шекара өткізу. 10 – суретте тұрғызылған суреттен көріп тұрғанымыздай бірден нөлді бөліп жаратын түзу сызық жүргізуге болмайды. Сондықтан осы мағынада нөлдің көпшелері бірдің жиындарынан сызықты бөлінбейді, және алдында қарастырылған персептрондар берілген есепті шеше алмайды.

Егер белсендірудің функциясы сызықты емес, мысалы сигмойдтары бар персептрондарды пайдалансақ, онда есепті шешу мүмкін.

Белсендіру функциясы сигмоидты екі жасырын қабаттың нейтрондарын және активацияның сызықты функциясы бар бір шығысты нейтронды таңдайық (сурет Л9.2). Қателік функциясы есебінде MSE (Mean Square Error – қателіктің орташа квадраты) белгілейік. Қателік функциясын желі типін таңдап болған соң «желі құру» терезесінде орнатылатынын қайталаймыз.

9.2. сурет. Берілген есепті шешуде " немесе " логикасының қолданылуы

Initialize үлесіндегі Initialize Weights батырмасын басып желіні инициализдаймыз, содан кейін кіріс мәндер ретінде алдын құрастырылған data1 ауыспалысын, ол нысана ретінде қанағаттандырылатын шығыстарға сәйкес келетін жаңа векторды көрсететін, оларды оқытамыз. Оқу үрдісінде желі нақты шешім шығара алмайды. Дегенмен, Л9.3.- суретінде көрсетілгендей, оқу қисығы бойынша байқауға болатын жақын мәнді көруге болады.

9.3-сурет. Берілгеннің қисық оқуы үшін " немесе " логикасының қолданылуы

Берілген қисық сынақтан сынаққа өткенде өз пішінін өзгертетін ескеру керек, бірақ оқуды сәтті жүргізу нәтижесінде функцияның түрі (мінезі) жойлатындарға ұқсас болады

Оқу кезінде қателік минималдандырылды, оны шамамен нөлге тең деп есептеуімізге болады.

НЕМЕСЕ элементі синтезінің есебі сынапталу есебі де болып табылады. Ол осындай түрдегі есепті шешуде жалпы іс - әрекетті көрсетеді.

Әдебиет 6 нег. [58-89] және [126-146]

Бақылау сұрақтары

1. NNTool басқару элементтері қалай жұмыс жасайды?

2. Эпоха дегеніміз не?

3. Мақсатқа қол жеткізу кезеңде немесе тура тигізу моменті қалай анықталады (goal)?

4. Қисық графиктің жаңару кезеңі дегеніміз не?

5. Оқытылу уақыты қалай анықталады (time)?

6. Ақиқат кестесі дегеніміз не?

7. «сызықты ажырамастық» көпмүшелігінің астарында не жатыр?

Дата добавления: 2014-11-16