Variation of the Evolutionary Algorithm for Dynamic Problems

(1)

VYSOK ´

E U ˇ

CEN´I TECHNICK ´

E V BRN ˇ

E

BRNO UNIVERSITY OF TECHNOLOGY

FAKULTA INFORMA ˇ

CN´ICH TECHNOLOGI´I

´

USTAV PO ˇ

C´ITA ˇ

COV ´

YCH SYST ´

EM ˚

U

FACULTY OF INFORMATION TECHNOLOGY DEPARTMENT OF COMPUTER SYSTEMS

VARIACE EVOLU ˇ

CN´IHO SOMA ALGORITMU

PRO DYNAMICK ´

E ´

ULOHY

BAKAL ´

A ˇ

RSK ´

A PR ´

ACE

BACHELOR’S THESIS

AUTOR PR ´

ACE

JAN POKORN ´

Y

AUTHOR

(2)

VYSOK ´

E U ˇ

CEN´I TECHNICK ´

E V BRN ˇ

E

BRNO UNIVERSITY OF TECHNOLOGY

FAKULTA INFORMA ˇ

CN´ICH TECHNOLOGI´I

´

USTAV PO ˇ

C´ITA ˇ

COV ´

YCH SYST ´

EM ˚

U

FACULTY OF INFORMATION TECHNOLOGY DEPARTMENT OF COMPUTER SYSTEMS

VARIACE EVOLU ˇ

CN´IHO SOMA ALGORITMU

PRO DYNAMICK ´

E ´

ULOHY

VARIATION OF THE EVOLUTIONARY ALGORITHM FOR DYNAMIC PROBLEMS

BAKAL ´

A ˇ

RSK ´

A PR ´

ACE

BACHELOR’S THESIS

AUTOR PR ´

ACE

JAN POKORN ´

Y

AUTHOR

VEDOUC´I PR ´

ACE

Doc. Ing. JOSEF SCHWARZ, CSc.

SUPERVISOR

(3)

(4)

(5)

(6)

Abstrakt

Tato práce se zabývá pouˇz´ıván´ım evoluˇcn´ıho algoritmu SOMA a testován´ım jeho variant zamˇeˇrených na ˇreˇsen´ı dynamických problém˚u. Na zaˇcátku struˇcnˇe seznamuje s problemati-kou evoluˇcn´ıch algoritm˚u a poté se zamˇeˇruje na evoluˇcn´ı algoritmus SOMA. Popisuje pot´ıˇze, se kterými se potýká, jak pro statické tak i dynamické úlohy. Zmiˇnuje postupy, které se pouˇz´ıvaj´ı pro jejich odstraˇnován´ı. Popisuje nejˇcastˇeji pouˇz´ıvané strategie – All To One, All To Random, All To All a All To All Adaptive a poukazuje na jejich výhody a nedostatky. Dále je navrhnuta i dalˇs´ı strategie prohledáván´ı zamˇeˇrená na funkce dynamicky se mˇen´ıc´ı nezávisle na bˇehu algoritmu. Samostatná kapitola je vˇenována projektové ˇcásti práce. Je zde popsán postup implementace a propojován´ı jednotlivých pouˇzitých program˚u. Tato ˇcást je dostupná na pˇriloˇzeném CD spolu s výsledky testován´ı jednotlivých strategi´ı. Tabulky s pr˚umˇernými hodnotami jsou také souˇcást´ı práce.

Kl´ıˇcov´

a slova

SOMA, evoluˇcn´ı algoritmy

Abstract

This study is focused on SOMA evolution algorithm and testing its versions aimed to solve dynamic problems. At the beginning it briefly explains principes of evolution algorithms a then it looks closer on SOMA algorithm. It describes its contemporary troubles for static and dynamic problems. There are also mentioned ways for their correction. It also describes the mostly used strategies – All To One, All To Random, All To All and All To All Adaptive and shows their advantages and disadvantages. Furthermore another searching strategy is proposed focused on dynamic functions that are changing independently on program. The separate chapter is about project part of the study. There is described implementation and merging of used programs. This part is available on included CD along with results of testing strategies. Tables with average values are also part of the thesis.

Keywords

SOMA, evolution algorithms

Citace

(7)

Variace evoluˇcn´ıho SOMA algoritmu

pro dynamick´e ´

ulohy

Prohl´

aˇsen´ı

Prohlaˇsuji, ˇze jsem tuto bakaláˇrskou práci vypracoval samostatnˇe pod veden´ım Doc. Ing. Jo-sefa Schwarze, CSc. . . . . Jan Pokorný 14. kvˇetna 2007 c Jan Pokorný, 2007.

Tato práce vznikla jako ˇskoln´ı d´ılo na Vysokém uˇcen´ı technickém v Brnˇe, Fakultˇe in-formaˇcn´ıch technologi´ı. Práce je chránˇena autorským zákonem a jej´ı uˇzit´ı bez udˇelen´ı oprávnˇen´ı autorem je nezákonné, s výjimkou zákonem definovaných pˇr´ıpad˚u.

(8)

Obsah

1 Uvod´ 2

2 Evoluˇcn´ı algoritmy 3

3 Popis ˇcinnosti SOMA 4

3.1 Sezn´amen´ı. . . 4

3.2 Z´akladn´ı princip funkce SOMA . . . 4

3.3 Pertubaˇcn´ı vektor. . . 6

3.4 Statick´e probl´emy . . . 7

3.4.1 Ztr´ata diverzity . . . 7

3.4.2 Uv´aznut´ı na rovn´e ploˇse . . . 7

3.5 Dynamick´e probl´emy . . . 8

3.6 Varianty algoritmu . . . 9

3.6.1 All To Random . . . 10

3.6.2 All To All . . . 10

3.6.3 All To All Adaptive . . . 10

3.6.4 Nov´a varianta algoritmu – All To Elite . . . 11

4 Popis implementace a ´upravy k´odu 13 4.1 Uloha s pohybuj´ıc´ımi se vrcholy´ . . . 13

4.2 SOMA knihovna . . . 14

4.3 Kriteri´aln´ı funkce . . . 16

4.4 Implementace strategi´ı . . . 17

5 Experimenty 19 5.1 All To One . . . 20

5.2 All To Elite . . . 21

(9)

Kapitola 1

´

Uvod

S rozvojem informaˇcn´ıch technologi´ı se lidé zaˇc´ınaj´ı stále v´ıce zaj´ımat o moˇznosti sestaven´ı programu, který je schopen sám se uˇcit a adaptovat na vˇsechny zadané problémy. Jak bylo postupnˇe zjiˇst’ováno, nen´ı zdaleka tak snadné dosáhnout v oblasti umˇelé inteligence pokroku pomoc´ı konvenˇcn´ıho programovac´ıho pˇr´ıstupu. Bylo nutné zvolit jiné metody.

Nyn´ı se uˇz nˇejakou dobu objevuj´ı algoritmy schopné vyhledávat ˇreˇsen´ı pomoc´ı metod, které v sobˇe nemaj´ı jen pevnˇe daný kód, ale nav´ıc se v nich objevuje ˇcást, která se ne tak docela pˇredv´ıdatelnˇe mˇen´ı.

Výhody tˇechto evoluˇcn´ıch algoritm˚u, jak se jim ˇr´ıká, jsou patrné na prvn´ı pohled: Tam, kde je dostateˇcnˇe pˇresné a rychlé ˇreˇsen´ı sloˇzitého problému tˇreba, mohou standardnˇe pouˇz´ıvané algoritmy selhat kv˚uli výpoˇcetn´ı nároˇcnosti. Analytická i numerická ˇreˇsen´ı maj´ı svá ˇcasová omezen´ı. Zde právˇe nastupuj´ı evoluˇcn´ı algoritmy s jejich netradiˇcn´ımi pˇr´ıstupy. Pokud si správnˇe vyberete algoritmus, bývá ˇreˇsen´ı nalezeno mnohem rychleji a úspornˇeji. Samozˇrejmˇe, jako témˇeˇr kaˇzdá vˇec, maj´ı i evoluˇcn´ı algoritmy svá omezen´ı. Jejich asi hlavn´ı a nejvˇetˇs´ı nevýhodou je ˇcásteˇcná stochastiˇcnost a z n´ı vyplývaj´ıc´ı nepˇredv´ıdatelnost ˇreˇsen´ı. Vzhledem k této skuteˇcnosti se matematické d˚ukazy sestavuj´ı velmi obt´ıˇznˇe. Po-znatky o tˇechto algoritmech se tedy zakládaj´ı hlavnˇe na empirických základech, které vˇsak jejich pouˇzitelnost a ˇzivotaschopnost jednoznaˇcnˇe potvrzuj´ı.

C´ılem práce je porovnat známé varianty a navrhnout modifikace SOMA algoritmu pro ˇreˇsen´ı dynamických problém˚u.

(10)

Kapitola 2

Evoluˇ

cn´ı algoritmy

Evoluˇcn´ı algoritmy jsou jednou z nˇekolika odvˇetv´ı takzvaného softcomputingu – inteli-gentn´ıch výpoˇct˚u. Mimo nˇe tam patˇr´ı napˇr´ıklad neuronové s´ıtˇe a fuzzy systémy.

Zde se zaˇc´ıná programován´ı dostávat do okamˇziku, kdy kód pro nalezen´ı ˇreˇsen´ı nen´ı pevnˇe dán programem, ale slouˇz´ı pouze k vytvoˇren´ı prostˇred´ı, pomoc´ı kterého bude ˇreˇsen´ı hledáno. Konkrétn´ı postup nen´ı pˇresnˇe dán ani znám, protoˇze v softcomputingu se obvykle do jisté m´ıry vyuˇz´ıvá náhody.

Základem hledán´ıˇreˇsen´ı pomoc´ı evoluˇcn´ıch algoritm˚u je pˇreveden´ı problému na úˇcelovou funkci, u které bude v cyklech zvanýchgenerace hledáno optimum.

Problém je pak ˇreˇsen pomoc´ı populace moˇzných aproximac´ı ˇreˇsen´ı, na které jsou apli-kovány evoluˇcn´ı principy. Kaˇzdá vhodná aproximace ˇreˇsen´ı (jedinec) postoup´ı do dalˇs´ı gene-race nˇejak upravena. Nevhodné varianty podlehnou selekˇcn´ımu tlaku, kdy do dalˇs´ı generace postupuje omezený poˇcet jedinc˚u. Takto se dosáhne vývinu populace a s kaˇzdou dalˇs´ı ge-nerac´ı se populace v´ıce pˇribliˇzuje skuteˇcnému ˇreˇsen´ı.

D˚uleˇzitou podm´ınkou funkˇcnosti evoluˇcn´ıch algoritm˚u je fakt, ˇze kaˇzdá dalˇs´ı generace mus´ı z´ıskat lepˇs´ı (nebo stejnou) aproximaci ˇreˇsen´ı. Pokud by byla tato podm´ınka poruˇsena, je jakýkoliv algoritmus degradován na pouhé stochastické prohledáván´ı stavového prostoru. Jedn´ım z ˇcasto pouˇz´ıvaných evoluˇcn´ıch algoritm˚u jsougenetické algoritmy. Ty pracuj´ı s jedinci reprezentovanými ˇretˇezci binárn´ıch ˇc´ısel, do kterých je zakódováno kandidátn´ı ˇreˇsen´ı. Tyto ˇretˇezce jsou ekvivalentem chromozomáln´ı DNA v pˇr´ırodˇe. Stejnˇe jako ona podléhaj´ı nejen zmˇenám pomoc´ı kˇr´ıˇzen´ı a mutac´ı, ale i selekˇcn´ımu tlaku

”zvenˇc´ı“.

Podle poˇzadované pˇresnosti nalezené aproximace ˇreˇsen´ı jsou zvoleny ukonˇcovac´ı pod-m´ınky. Zpravidla je bud’ stanoven koneˇcný poˇcet generac´ı, anebo se ovˇeˇruje m´ıra stagnace nejlepˇs´ı aproximace oproti té pˇredchoz´ı.

(11)

Kapitola 3

Popis ˇ

cinnosti SOMA

3.1 Sezn´

amen´ı

Aˇckoliv jsme se zm´ınili o jiných evoluˇcn´ıch algoritmech, je tato práce primárnˇe vˇenována SOMA – tedy SamoOrganizuj´ıc´ımu se Migraˇcn´ımu Algoritmu.

Jeho prvn´ı verze vznikla v roce 1999 a od té doby proˇsel tento algoritmus mnohými zmˇenami a vylepˇsen´ımi. Bˇeˇznˇe se ˇrad´ı mezi evoluˇcn´ı algoritmy, nicménˇe jeho ˇcinnost je vˇsak zaloˇzena na geometrických principech a nov´ı jedinci jsou interpretováni v kroc´ıch na trajektori´ıch pˇresunu. Jedné generaci v Genetických algoritmech odpov´ıdá migraˇcn´ı kolo v SOMA [4]. Podobnost s genetickými algoritmy, ˇci diferenciáln´ı evoluc´ı spoˇc´ıvá hlavnˇe ve stejných výsledc´ıch po jednom evoluˇcn´ım cyklu (migraˇcn´ım kole).

Inspirac´ı k tvorbˇe tohoto algoritmu byla spolupr´ace jedinc˚u v pˇr´ırodˇe pˇri hled´an´ı napˇr. zdroje potravy (mravenci). Jakmile nˇekdo nalezne lepˇs´ı zdroj, vydaj´ı se ostatn´ı za n´ım.

Jako kaˇzdý evoluˇcn´ı algoritmus i SOMA je navrˇzena pro vyhledáván´ı globáln´ıch extrém˚u zadané n-rozmˇerné funkce. Algoritmus je specializován pouze na hledán´ı maxim funkce. Je jasné, ˇze pokud budeme cht´ıt hledat globáln´ı minimum, úplnˇe postaˇc´ı obrátit znaménko v úˇcelové funkci. Výpoˇcet povrchu celé této funkce je vˇsak pro nalezen´ı extrému velmi obt´ıˇzný, a proto se mu snaˇz´ıme co nejv´ıce vyhýbat.

3.2 Z´

akladn´ı princip funkce SOMA

Pro snazˇs´ı pochopen´ı dalˇs´ı ˇcásti bude dobré popsat alespoˇn nˇekteré n´ıˇze pouˇzité pojmy: • D – poˇcet dimenz´ı úˇcelové funkce

• PathLength – délka prozkoumávané cesty jedince v násobc´ıch vzdálenosti od Leadera; nastavuje se v rozmez´ıh1,1; 5i

• Step – zlomky PathLength, kde se provede vyhodnocen´ı ´uˇcelov´e funkce; nastavuje se v rozmez´ıh0,11;P athLengthi

• NP – poˇcet jedinc˚u v populaci; jejich mnoˇzstv´ı je dobré nastavovat v pˇr´ımé úmˇeˇre s poˇctem dimenz´ı

• PRT – pertubaˇcn´ı vektor

Jakmile se SOMA spust´ı jsou na hyperplochu n´ahodnˇe vygenerov´ani jedinci a je vypo-ˇ

(12)

Na zaˇcátku kaˇzdého kola je ze vˇsech jedinc˚u vyb´ırán jedinec s nejlepˇs´ı hodnotou funkce – Leader. Jeho pozice je v nˇekterých ohledech privilegovaná (napˇr´ıklad se nemus´ı hýbat).

Nyn´ı zaˇc´ıná migrace. Jej´ı pr˚ubˇeh se liˇs´ı podle zvolené strategie, takˇze zat´ım pop´ıˇseme pouze základn´ı verzi.

Zde se kaˇzdý jedinec vydává na cestu za Leaderem. Délka cesty jedince (PathLength) je nastavena relativnˇe podle jeho vzdálenosti od vedouc´ıho jedince. Obdobnˇe je z´ıskána délka jednoho kroku (Step).

Jakmile jsou pro kaˇzdého jedince z´ıskány tyto hodnoty, vypoˇc´ıtá se pro kaˇzdou souˇ rad-nici smˇerový vektor a kaˇzdý jedinec podle nˇej zaˇcne skoky prohledávat body na hyperploˇse vytyˇcené délkou kroku, dokud se nedostane na konec své cesty 3.1.

Obrázek 3.1: Pricip SOMA – Jedinci (ˇc´ısla) se pohybuj´ı smˇerem za Leaderem (L) a na cestˇe prohledávaj´ı body dané velikost´ı kroku.

Je výhodné, kdyˇz cesta jedince nekonˇc´ı na m´ıstˇe, kde se nalézá vedouc´ı jedinec, ale pokraˇcuje aˇz za nˇej. D´ıky tomu se zajist´ı urˇcitá ˇzádouc´ı diverzita populace – zabrán´ı se tak pˇr´ıliˇsnému nahlouˇcen´ı jedinc˚u na jednom m´ıstˇe. Ze stejných d˚uvod˚u se také délka jednoho kroku nastavuje tak, aby jedinec neprovádˇel výpoˇcet hodnoty na stejném m´ıstˇe, na jakém se právˇe nalézá Leader. Jak je vidno, toto um´ıstˇen´ı by mohlo znamenat do koneˇcných d˚usledk˚u aˇz pˇrekryt´ı jedince s Leaderem, které by trvalo aˇz do skonˇcen´ı bˇehu celého algoritmu.

(13)

Z cel´e sv´e cesty si jedinec pamatuje vˇzdy um´ıstˇen´ı s nejlepˇs´ı moˇznou hodnotou. V okam-ˇ

ziku, kdy dojde na konec sv´e cesty se na nˇej pˇrem´ıst´ı.

Jakmile sv˚uj tah provedou vˇsichni jedninci, konˇc´ı migraˇcn´ı kolo a z

”nov´ych“ jedinc˚u se opˇet vybere nov´y Leader.

Jak je vidˇet, je samotný princip algoritmu velice jednoduchý a nikde nen´ı nutné provádˇet výpoˇcet sloˇzitˇejˇs´ı neˇz jednoduché dˇelen´ı [5].

3.3 Pertubaˇ

cn´ı vektor

Základn´ı princip fungován´ı algoritmu byl samozˇrejmˇe jiˇz dlouhou dobu vylepˇsován a upra-vován, aby SOMA podával co nejleˇs´ı výsledky. Jedn´ım z velkých problém˚u, kterými algo-ritmus trpˇel, byla ztráta diverzity populace (obr.3.3).

V okamˇziku, kdy se jedinci pˇr´ıliˇs nahlouˇc´ı kolem jednoho bodu, je velice tˇeˇzké donutit je prohledávat i zbylou ˇcást stavového prostoru, kde se ve skuteˇcnosti m˚uˇze nalézat globáln´ı extrém.

Obrázek 3.2: Ztráta diverzity populace – Zde jsou jedinci dosud rozm´ıstˇeni tak, ˇze se svou PathLength (vyznaˇcena úseˇckami; nastavena na 2,5) jsou schopni prozkoumat oblast zhruba o rozmˇerech ˇsedé ˇcásti plochy. Leader je vyznaˇcen ˇcervenˇe.

Obrázek 3.3: Ztráta diverzity populace – Pokud se vˇsak jedinci pˇr´ıliˇs nahlouˇc´ı kolem Leadera (ˇcervenˇe), plocha prohledávaného prostoru se m˚uˇze drasticky zmenˇsit.

(14)

(pertubace – porucha, ruˇsen´ı). Jednoduˇse to znamená, ˇze pˇr´ımý pohyb jedince je ruˇsen tak, aby jeho dráha nemusela být pˇr´ımá a jedinec nav´ıc z´ıskal i moˇznost ˇcásteˇcnˇe mˇenit sv˚uj smˇer. Byla vyzkouˇsena moˇznost donutit vyboˇcovat jedince z dráhy pomoc´ı zmˇen jeho smˇerového vektoru. Kupodivu se vˇsak ukázalo, ˇze velice podobnˇe kvalitn´ı výsledky pˇrináˇs´ı i prosté nulován´ı nˇekterých ze souˇradnic vektoru v jednotlivých kroc´ıch [5].

Nakonec je tedy náhodnost v pohybu jedinc˚u ˇreˇsena takto. Výpoˇcet dalˇs´ıho bodu na cestˇe se poˇc´ıtá pro kaˇzdý rozmˇer kaˇzdého jedince podle vzorce:

(Indi_{id leader}−Indi_n)·d·Step·P RTi+Indi_n,

kde Indje hodnota i-tého rozmˇeru n-tého jedince, Indid leader obdobnˇe hodnota Lea-dera,dpoˇcet krok˚uStepaP RT znázorˇnuje konkrétn´ı rozmˇer pertubaˇcn´ıho vektoru, který je sloˇzen z jedniˇcek a nul. Ze vzorce je vidˇet jak urˇcuje, zda se bude jedinec v daném rozmˇeru pohybovat.

Jak jiˇz bylo ˇreˇceno, hlavn´ım pˇr´ınosem zaveden´ı pertubaˇcn´ıho vektoru do SOMA je právˇe pˇrispˇen´ı k udrˇzen´ı diverzity populace. Dalˇs´ı podrobnosti jsou popsány v ˇcásti vˇenované statickým a dynamickým problém˚um algoritmu.

3.4 Statick´

e probl´

emy

Statickými problémy jsou myˇsleny situace, ke kterým m˚uˇze doj´ıt, kdyˇz je funkce statická – nemˇen´ı se v ˇcase (v pr˚ubˇehu evoluˇcn´ıho procesu).

3.4.1 Ztr´ata diverzity

Jako kaˇzdý podobný algoritmus má i SOMA své specifické pot´ıˇze zp˚usobuj´ıc´ı sn´ıˇzen´ı efe-tivity, které je nutné ˇreˇsit. Asi nejvˇetˇs´ım problémem SOMA je ztráta diverzity populace, o nˇemˇz jsme se jiˇz krátce zm´ınili.

Pokud vˇse pracuje, jak má, jsou jednici na hyperploˇse rozprostˇreni pomˇernˇe pravidelnˇe. Jediným rozd´ılem jsou v takovém pˇr´ıpadˇe m´ısta hledaných extrém˚u. Zde docház´ı k jistému nahlouˇcen´ı, coˇz je v omezené m´ıˇre nutné k upˇresˇnován´ı pozice hledaného m´ısta globáln´ıho maxima. Pot´ıˇze nastávaj´ı, jakmile pozici bl´ızkou nˇejakému extrému obsad´ı pˇr´ıliˇs mnoho nebo dokonce vˇsichni jedinci. Nezˇr´ıdka se totiˇz stává, ˇze ono m´ısto nen´ı globáln´ım, ale pouze lokáln´ım extrémem.

S jedinci rozm´ıstˇenými na jediném m´ıstˇe má algoritmus pˇrehled o velmi omezené ˇcásti stavového prostoru a globáln´ı extrém se bez odstranˇen´ı nahlouˇcen´ı nemus´ı v˚ubec naj´ıt.

Pˇr´ıkladem tohoto stavu m˚uˇze b´yt takzvan´a

”jehla v kupce sena“ (obr.3.4 a3.5). Jak je na obrázku vidˇet, jedinci se pohybuj´ı smˇerem k ˇsirokému vrcholu, pˇriˇcemˇz skuteˇcný extrém z˚ustává nepovˇsimnut. Vzhledem k povaze pohybu jedinc˚u (pouze za Lea-derem), je nen´ı moˇzné pˇrinutit k opˇetovnému

”rozchodu“ a v´yraznˇe lepˇs´ı hodnota nebude nikdy nalezena.

3.4.2 Uv´aznut´ı na rovn´e ploˇse

Druhým zm´ınˇeným problémem je uváznut´ı na rovné ploˇse. V tomto pˇr´ıpadˇe se situace kom-plikuje v speciáln´ım pˇr´ıpadˇe, a to v momentˇe, kdy je vˇetˇsina hyperplochy rovina rovnobˇeˇzná s osami.

(15)

Obr´azek 3.4:

”Jehla v kupce sena“ – S PathLength = 2,5 se jedinec 1 m˚uˇze dostat nejdále do bodu A, kdy vˇsak stále nedosáhne extrému. Pokud by se jedinec 2 pˇresunul aˇz do bodu B, nalezl by dalˇs´ı cestou globáln´ı extrém. Nejlepˇs´ı bod na jeho cestˇe ale leˇz´ı v okol´ı Leadera (L), takˇze optima nebude dosaˇzeno.

Obr´azek 3.5:

”Jehla v kupce sena“ – Jakmile se jedinci nahlouˇc´ı kolem ˇsirokého lokáln´ıho extrému, nen´ı jiˇz moˇzné bez úpravy algoritmu naj´ıt ten globáln´ı. Oproti obr. 3.4 je vidˇet, ˇ

ze bod A je mnohem d´ale od hledan´eho optima.

V takovém pˇr´ıpadˇe jedinci mohou ve svém pohybu minout dostateˇcnˇe úzký vrchol a dojde tak k uváznut´ı, kdy vˇsechna moˇzná m´ısta prohledávaná jedinci maj´ı stejnou hodnotu. V tomto pˇr´ıpadˇe ustává pohyb jedinc˚u.

Jedno z navrˇzených ˇreˇsen´ı nut´ı jedince v pˇr´ıpadˇe nalezen´ı bodu se stejnou hodnotou pˇresunout se tam. Takto by se jedinci vˇzdy pˇresunuli na konec své moˇzné dráhy a pˇri vhodnˇe nastavené PathLength by se celá populace postupnˇe kyvadlovitˇe rozhoupávala a zvˇetˇsovala tak prohledávaný prostor. Pertubace by zároveˇn zajistila lepˇs´ı prohledán´ı m´ıst, která by se jinak mohla nalézat mezi cestami jedinc˚u.

Tento proces by vˇsak trval nˇekolik migraˇcn´ıch kol, neˇz by doˇslo k dostateˇcnému roz-ptýlen´ı jedinc˚u a aˇz potom by zaˇcalo opˇetovné upˇresnˇen´ı pozice extrému.

Dalˇs´ı informace o tˇechto probl´emech naleznete na [1].

3.5 Dynamick´

e probl´

emy

Zde se úˇcelová funkce postupnˇe mˇen´ı s ˇcasem a tak s sebou pˇrináˇs´ı dalˇs´ı rozmˇer pot´ıˇz´ı a kla-sická SOMA nen´ı schopna úˇcinnˇe sledovat globáln´ı extrém. Výˇse popsané statické problémy

(16)

nemus´ı nastávat pˇr´ıliˇs ˇcasto, ale v dynamických funkc´ıch jejich negativn´ı ovlivˇnován´ı kvality výpoˇctu dramaticky roste.

D´ale tedy pop´ıˇseme jak tyto probl´emy ˇreˇsit.

Ztráta diverzity populace, která se v pˇr´ıpadˇe statické funkce s jedn´ım vrcholem m˚uˇze zdát neˇskodnou, zp˚usob´ı se zmˇenou pozice tohoto vrcholu obrovské pot´ıˇze.

Jedinci se nahlouˇc´ı na jednom m´ıstˇe a d´ıky tomu nen´ı moˇzné doc´ılit nˇejakého vˇetˇs´ıho skoku. Jakmile se tedy vrchol zaˇcne pomalu posouvat stranou, jedinci se ho pokus´ı n´ asle-dovat. Vˇse záleˇz´ı na rychlosti posunu vrcholu a na m´ıˇre s jakou je diverzita zachována.

Bude-li se vrchol pohybovat jen zvolna, m˚uˇze se jedinc˚um daˇrit udrˇzet se na jeho vrcholu. Pˇri vˇetˇs´ı rychlosti pohybu vrcholu za n´ım budou nahlouˇcen´ı jedinci postupnˇe zaostávat, aˇz nakonec úplnˇe ztrat´ı jeho stopu. Pokud se vˇsak vrchol bude pohybovat velkými skoky, pak jej pˇr´ıliˇs nahlouˇcená skupina jedinc˚u m˚uˇze ztratit i v jediném kole.

Dalˇs´ı kritická situace nastává, kdyˇz se mˇen´ı výˇska globáln´ıho extrému. Výˇse uvedený problém

”jehla v kupce sena“ (obr. 3.4 a 3.5) se stává dalˇs´ı past´ı na jedince: Zat´ımco se jedinci dostanou na pozici uprostˇred m´ırného kopce, zaˇcne na jeho okraji r˚ust tenká jehla, která rychle pˇresáhne dosud globáln´ı maximum. Vzhledem k tomu, ˇze jedinci nemaj´ı d˚uvod opustit své pozice, z˚ustává skuteˇcný extrém nepovˇsimnut.

V neposledn´ı ˇradˇe také vyvstává otázka nalezen´ı ˇreˇsen´ı funkce podle zp˚usobu, jakým se mˇen´ı.

V z´asadˇe se funkce m˚uˇze mˇenit:

• po nˇekolika migraˇcn´ıch kolech – pˇred dalˇs´ı zmˇenou funkce maj´ı jedinci dost ˇcasu nal´ezt ˇreˇsen´ı

• kaˇzdé migraˇcn´ı kolo – v takovém pˇr´ıpadˇe hodnˇe záleˇz´ı na velikosti zmˇeny funkce • nezávisle na bˇehu algoritmu – V tomto pˇr´ıpadˇe nastávaj´ı pot´ıˇze, jakmile ˇcást jedinc˚u,

kteˇr´ı se jiˇz pohnuli, má náhle neplatné informace, protoˇze tver úˇcelové funkce se jiˇz posunul. Z tˇechto mylných informac´ı vˇsak m˚uˇze vycházet zbytek populace, a vzniká tak problém.

Tyto pot´ıˇze se podaˇrilo výraznˇe zredukovat pouˇzit´ım nového vylepˇsen´ı, které v roce 2006 zavedl Michal Hlavinka. Jeho pˇr´ınos paradoxnˇe spoˇc´ıvá v zaveden´ı omezené délky ˇzivota jedince.

Tˇem je v tomto pˇr´ıpadˇe pˇridˇelen ˇcas, po který budou existovat. Jakmile uplyne poˇcet kol, který maj´ı stanoven, jedinec je vymazán z pozice, na které se nacház´ı a okamˇzitˇe je opˇet vytvoˇren na náhodnˇe vybraném m´ıstˇe s vynulovaným vˇekem. Výkon algoritmu se také odv´ıj´ı od tohoto faktoru – maximáln´ıho vˇeku, kterého se m˚uˇze jedinec doˇz´ıt.

Samozˇrejmost´ı je, ˇze pˇri poˇcáteˇcn´ı inicializaci algoritmu nen´ı vˇsem jedinc˚um nastaven stejný vˇek, aby se dosáhlo rovnomˇerného um´ırán´ı.

Dalˇs´ı d˚uleˇzitou vˇec´ı je privilegovanost Leadera. Jelikoˇz nejlepˇs´ıho jedince nelze ztratit (doˇslo by k degeneraci v´ysledk˚u), je Leaderovi udˇelena vyj´ımka a nest´arne.

D´ıky znouvytváˇren´ı jedinc˚u na náhodných pozic´ıch je udrˇzována rovnováha mezi do-stateˇcnou diverzitou a pˇresnost´ı nalezeného ˇreˇsen´ı, která je pro správný chod algoritmu kl´ıˇcová.

3.6 Varianty algoritmu

(17)

je zmˇena chován´ı kaˇzdého jedince podle jiného vzorce. Takových strategi´ı existuje nˇekolik a kaˇzdá má, jak uˇz to bývá, své klady a zápory, které tu budou probrány.

3.6.1 All To Random

Strategie All To Random se uˇz podle názvu orientuje na smˇer vˇetˇs´ı stochastiˇcnosti pˇri hledán´ı extrému. Aby vˇsak nedoˇslo k degradaci algoritmu je stále nutné zachovat konver-genci výsledk˚u ke správnému ˇreˇsen´ı. Jinak ˇreˇceno: Funkce doposud nelezených nejlepˇs´ıch jedinc˚u mus´ı být neklesaj´ıc´ı.

Základn´ım principem této strategie je pohyb veˇskerých jedinc˚u, ne za Leaderem – nej-lepˇs´ım jedincem, ale za náhodnˇe vybraným jedincem, který se v tomto ohledu chová ob-dobnˇe jako Leader ze strategie All To One.

Kaˇzdé kolo je tedy náhodnˇe vybrán nˇejaký jedinec, za kterým se ostatn´ı vydaj´ı podle stejného principu jako ze základn´ı strategie.

Vˇsimnˇete si, ˇze jediné, co je pro tuto strategii nutné zmˇenit, je pouze urˇcen´ı, kdo bude následován.

Strategie All To Random má dozajista výhodu v lepˇs´ım prohledáván´ı celého stavového prostoru, protoˇze náhodný pohyb jedinc˚u omezuje ˇsanci na ztrátu diverzity populace. Je jasné, ˇze prakticky s kaˇzdou dalˇs´ı migrac´ı se témˇeˇr vˇsichni jedinci vydaj´ı zcela jiným smˇerem. Nevýhodou by v takovém pˇr´ıpadˇe ovˇsem bylo obt´ıˇznˇeji upˇresnitelné doposud nalezené ˇreˇsen´ı. Souvis´ı to právˇe se zmenˇsen´ım ˇsance na ztrátu diverzity populace. Vzhledem ke skuteˇcnosti, ˇze se jedinci pohybuj´ı po velkém územ´ı a nejlepˇs´ı jedinec je témˇeˇr ignorován, bude kolem nˇej minimáln´ı poˇcet

”n´asledn´ık˚u“.

3.6.2 All To All

Dalˇs´ı moˇznost´ı prohledáván´ı je strategie All To All. Zde uˇz je rozd´ıl od základn´ı strategie v´ıce patrný. Leader se sice chová stejnˇe jako v pˇredchoz´ı strategii, ale pohyb jedinc˚u se skládá z v´ıce neˇz jedné jediné cesty.

Kaˇzdý jedinec se chová tak, jako by Leaderem byl kaˇzdý jiný jedinec – vˇse v jednom svém tahu. Je pro nˇej tedy vytyˇceno tolik tras kolik je celkem ostatn´ıch jedinc˚u. Z tˇechto cest je nakonec vybrán bod s nejlepˇs´ım ohodnocen´ım (princip prohledáván´ı kaˇzdé cesty je stejný jako v All To One, jen následovaný jedinec nen´ı pouze Leader), kam se jedinec pˇresune (obr.3.6).

Jiˇz je vidˇet, ˇze tato strategie prohledává stavový prostor velice d˚ukladnˇe a vzhledem k tomu, ˇze mezi moˇznými cestami kaˇzdého jedince je vˇzdy i ta za Leaderem, tak nevzniká problém jako ve strategii All To Random, kde nen´ı tak d˚ukladnˇe prohledáváno okol´ı Lea-dera.

M´ısto toho má tato varianta algoritmu jiné úskal´ı. Kaˇzdé migraˇcn´ı kolo s sebou velký poˇcet evaluac´ı. Nav´ıc poˇcet tˇechto výpoˇct˚u roste kvadraticky úmˇernˇe mnoˇzstv´ı jedinc˚u.

3.6.3 All To All Adaptive

Podobná pˇredchoz´ı variantˇe je strategie All To All Adaptive. Leader se chová stejnˇe jako ve výˇse uvedeném All To All. Rozd´ıl spoˇc´ıvá ve zp˚usobu pohybu jedince.

Zat´ımco v All To All se jedinec pˇrem´ıst´ı na novou pozici aˇz po ukonˇcen´ı procházen´ı vˇsech vytyˇcených cest, v All To All Adaptive je provádˇen pˇresun jedince na lepˇs´ı pozici po kaˇzdé prohlédnuté cestˇe. Dráha jedince se tedy liˇs´ı od

”hvˇezdy“ ze strategie All To All. Pohyb je sp´ıˇs pobobný tvaru lomené ˇcáry.

(18)

Obrázek 3.6: Ilustrace výpoˇctu pohybu jedince ve strategii All To All. Jedinec (zelenˇe) prohledá vˇsechny trasy za ostatn´ımi jedinci (2, 3, 4 a 5), jejichˇz délka je daná velikost´ı PathLength (zde 2,5) a poté se pˇresune na nejlepˇs´ı pozici, kterou nalezne. Leader je vy-znaˇcen ˇcervenˇe. ˇSipka ukazuje zhruba na m´ısto, kam se jedinec pˇresune. Pˇresná pozice je ovlivnˇena délkou kroku jedince.

Pro lepˇs´ı pochopen´ı rozd´ılu v pohybu jedinc˚u u strategi´ı All To All a All To All Adaptive si m˚uˇzete prostudovat obr´azky3.6a 3.7.

Jak je vidˇet tato strategie bude m´ıt stejn´e klady a z´apory jako strategie pˇredchoz´ı.

3.6.4 Nov´a varianta algoritmu – All To Elite

All To Elite je autorem práce vytvoˇrená alternativa ke strategii pohybu jedinc˚u po hy-perploˇse. Alespoˇn ˇcásteˇcnˇe vycház´ı ze vˇsch výˇse uvedených strategi´ı, nicménˇe principiálnˇe je zase nˇeco jiného.

Z´akladem je v tomto pˇr´ıpadˇe informace, ˇze jedinci se nepohybuj´ı jen za jedn´ım jedin´ym Leaderem.

Ten je zde pouze jedn´ım ˇclenem elity – skupiny jedinc˚u s nejlepˇs´ım ohodnocen´ım. Jej´ı velikost je nastavitelná, ale je dobré, je-li elity ménˇe neˇz polovina jedinc˚u. Kdyˇz nastav´ıme jako elitn´ı vˇsechny jedince, zaˇcne se algoritmus chovat podobnˇe jako se strategi´ı All To Ran-dom, nicménˇe principy vyhledáván´ı nejlepˇs´ıch jedinc˚u budou v takovém pˇr´ıpadˇe algoritmus zpomalovat.

Kaˇzdé migraˇcn´ı kolo je nalezena nová elita a zaˇcne pohyb: Pro kaˇzdého jedince (vˇcetnˇe elity) je náhodnˇe vybrán jeden (jiný) ˇclen elity, za kterým se vydá. D´ıky vˇetˇs´ımu poˇctu následovaných jedinc˚u, kteˇr´ı maj´ı dobré ohodnocen´ı m˚uˇze být prohledáno vˇetˇs´ı mnoˇzstv´ı extrém˚u za menˇs´ı poˇcet kol. Protoˇze je c´ılem ˇcasto opˇet jiný elitn´ı jedinec, pˇredcház´ı tato strategie zániku diverzity populace. Jakmile má funkce v´ıce maxim, jedinci je prozkoumaj´ı výraznˇe rychleji neˇz v základn´ı strategii. Pokud je na druhou stranu extrém jen jediný, je velmi pravdˇepodoné, ˇze bˇehem krátké doby budou vˇsichni elitn´ı jedinci nahlouˇceni kolem nˇej.

Za toto samozˇrejmˇe strategie plat´ı sn´ıˇzen´ım prohledáván´ı nejbliˇzˇs´ıch m´ıst kolem nej-lepˇs´ıho jedince a také vzr˚ustem výpoˇcetn´ı nároˇcnosti kv˚uli porovnáván´ı kvality jedinc˚u.

(19)

Obrázek 3.7: Ilustrace výpoˇctu pohybu jedince ve strategii All To All Adaptive. Vybraný jedinec (zelenˇe), který se má pohybovat, z cesty za dalˇs´ım jedincem v poˇrad´ı (2) vybere nejlepˇs´ı bod (A). Ten se pro nˇej stává výchoz´ım bodem pro jeho dalˇs´ı pohyb. Opˇet nalezne nejlepˇs´ı bod na cestˇe za 3 (B). Pˇri pr˚uchodu cesty z B za jedincem ˇc. 4, nen´ı nalezena lepˇs´ı neˇz výchoz´ı pozice a jedinec z˚ustává na pozici. ˇSipka ukazuje zhruba na m´ısto, kam se jedinec nakonec pˇresune. Pˇresná pozice je ovlivnˇena délkou kroku jedince. Leader je vyznaˇcen ˇcervenˇe.

(20)

Kapitola 4

Popis implementace a ´

upravy k´

odu

4.1 Uloha s pohybuj´ıc´ımi se vrcholy

´

Práce vyuˇz´ıvala zdrojových kód˚u programu Pohybuj´ıc´ı se vrcholy – Moving Peaks Ben-chmark.

Tento program nebylo potˇreba pˇr´ımo modifikovat a lze ho stáhnout ze [2]. Byl vytvoˇren a je urˇcen pro generován´ı v´ıcerozmˇerné dynamické funkce s v´ıce vrcholy. Jako implementaˇcn´ı jazyk byl zvolen C, coˇz je pro propojen´ı se zdrojovými kódy knihovny SOMA velmi výhodné. Kl´ıˇcovými funkcemi pro propojen´ı byly funkcedummy\_eval a eval\_movpeaks, které obˇe vrac´ı hodnotu funkce v bodˇe daným parametry. Rozd´ıl spoˇc´ıvá ve zp˚usobu vyhodnocen´ı. Zat´ımcoeval\_movpeaksprovede kompletn´ı výpoˇcet hodnot a zapoˇc´ıtá evaluaci funkce pro pozdˇejˇs´ı výpoˇcet velikosti chyby a podobnˇe,dummy\_evalpouze vrát´ı hodnotu funkce. Tato vlastnost je uˇziteˇcná pˇri inicializaci SOMA a pˇri pˇr´ıleˇzitostech, kdy by zapoˇc´ıtán´ı hodnoty mˇelo pro výsledky zkresluj´ıc´ı význam.

Souˇcást´ı Moving peaks je i mnoˇzstv´ı nastavitelných parametr˚u. Bylo by dobré zm´ınit alespoˇn ty, které nás budou nejv´ıce zaj´ımat.

• change frequency – poˇcet vyhodnocen´ı funkce, po kter´em se zmˇen´ı • number of peaks – poˇcet vrchol˚u, kter´y bude funkce m´ıt

• geno size – hodnota nastavuje poˇcet rozmˇer˚u funkce

• vlength – nastavuje, o kolik se pohnou vrcholy pˇri zmˇenˇe tvaru funkce

• height severity – nastavuje, o kolik se zmˇen´ı v´yˇska vrchol˚u pˇri zmˇenˇe tvaru funkce • width severity – nastavuje, o kolik se zmˇen´ı ˇs´ıˇrka vrchol˚u pˇri zmˇenˇe tvaru funkce • mincoordinate – hodnota minima na vˇsech os´ach

• maxcoordinate – hodnota maxima na vˇsech osách • minheight – minimáln´ı výˇska vrcholu

• maxheight – maxim´aln´ı v´yˇska vrcholu

(21)

• minwidth – minim´aln´ı ˇs´ıˇrka vrcholu • maxwidth – maxim´aln´ı ˇs´ıˇrka vrcholu

• standardwidth – vytvoˇr´ı vrcholy dané ˇs´ıˇrky; je-li nastaveno na nulu, tvoˇr´ı je náhodnˇe v daném rozmez´ı

Tyto parametry se nastavuj´ı uvnitˇr souboru movpeaks.c.

4.2 SOMA knihovna

Hlavn´ı ˇcást´ı implementace, která byla nutná pro testován´ı, bylo propojen´ı dvou program˚u. Prvn´ım z nich byla knihovna SOMA, jej´ıˇz tvorbou a popisem se zabývá [1].

Byla naprogramovaná s d˚urazem kladeným na pˇrenositelnost a pouˇzitelnost s jinými programy. Obsahuje metody pro bˇeh SOMA se základn´ı strategi´ı All To One. Jako pro-gramovac´ı jazyk byl zvolen C++. Vzhledem k objektové formˇe tohoto programu je velmi snadné mu porozumˇet, a provádˇet i pˇr´ıpadné zmˇeny v kódu. Souˇcást´ı je i grafický výstup v podobˇe animace slouˇz´ıc´ı k snadnému zobrazen´ı postupu hledán´ı ˇreˇsen´ı. Aˇckoliv jsou zob-razovány pouze prvn´ı dva rozmˇery testovac´ı funkce, je animace velmi dobrým zp˚usobem, jak m´ıt moˇznost vidˇet pr˚ubˇeh ˇreˇsen´ı zadaného problému. Výstup se automaticky ukládá do souboru soma.gif (pokud je tedy zapnuté generován´ı animace).

Bylo by dobré alespoˇn krátce vysvˇetlit, k ˇcemu slouˇz´ı jednotlivé soubory tohoto pro-gramu.

• error.h, error.c – tyto soubory slouˇz´ı k výpisu chybových hláˇsek na standardn´ı chybový výstup

• function.h – je hlaviˇckovým souborem pro soubor urˇcený k propojen´ı SOMA kni-hovny s jiným programem. Jeho název nen´ı pevnˇe dán.

• individual.h, individual.cpp – tyto soubory obsahuj´ı tˇr´ıdu Individual (jedinec), kde jsou definov´any operace s jedinci

• main.cpp– hlavn´ı soubor SOMA, který obsahuje inicializaci a nastaven´ı parametr˚u • mygif.h, mygif.cpp – tyto soubory vykonávaj´ı funkce spojené s generován´ım

ani-mace. Nemaj´ı v sobˇe ˇzádné ˇcásti, které by nˇejak ovlivˇnovaly prohledáván´ı • param.h,param.cpp – zde je tˇr´ıda s parametry jedinc˚u

• soma.h, soma.cpp – tyto soubory jsou jádrem celého programu, jsou zde pouˇz´ıvány tˇr´ıdy z ostatn´ıch soubor˚u a metody, které popisuj´ı vlastn´ı pohyb jedinc˚u po hyperploˇse Vzhledem k povaze práce bylo vˇsak nutné naruˇsit strukturu knihovny a nyn´ı je upra-vena tak, aby byla schopná správnˇe komunikovat s druhým programem – Moving Peaks Benchmark. Vygenerováno bylo v´ıce podobných variant algoritmu, které se liˇs´ı strategi´ı prohledáván´ı. Zmˇeny, které byly provedeny v p˚uvodn´ım kódu se tak liˇs´ı v kaˇzdé verzi stra-tegie.

Základem bylo vytvoˇren´ı souboru dmovpeaks.h, kde docház´ı ke komunikaci s obˇema programy. Jedinou informac´ı, kterou SOMA pro sv˚uj bˇeh potˇrebuje, je hodnota úˇcelové funkce v zadaném bodˇe.

(22)

extern "C\ { #include "movpeaks.h\ #include _"movpeaks.c\ }

class cF_dmovpeaks : public cFunction {

public:

double *gen; /* pomocná promˇenná pro pˇrevod do pole typu double */ unsigned long successRate; /* promˇenná preo výpoˇcet success rate */ cF_dmovpeaks() {

init_peaks(); /* vytvoˇren´ı funkce */ successRate=0;

/* nastaven´ı poˇctu, typu a rozsahu rozmˇer˚u */ addParameter(cParam(0,100,cParam::REAL)); addParameter(cParam(0,100,cParam::REAL)); addParameter(cParam(0,100,cParam::REAL)); addParameter(cParam(0,100,cParam::REAL)); addParameter(cParam(0,100,cParam::REAL)); gen = new double[dim];

}

virtual ~cF_dmovpeaks() {

free_peaks(); /* ukonˇcen´ı moving peaks */ free(gen);

/* v´ypis v´ysledk˚u */

std::cout<<get_offline_error()<<

"\t\<<successRate/(0.0+get_number_of_evals())<<endl; }

/* vrát´ı aktuáln´ı hodnotu globáln´ıho extrému */ double BestVal() const { return global_max; }

/* vr´at´ı true v~pˇr´ıpadˇe, ˇze je nalezeno dostateˇcnˇe pˇresn´e maximum */ bool isSolution(const cIndividual &ind)

const { return (ind.Value>global_max-0.01); } /* pˇredstaven´ı se funkce */

void Introduce() const {

std::cout<<

"Dynamic: Moving peaks function\n\; }

(23)

void costValue1(cIndividual &ind) {

successRate+=get_right_peak(); for (int i=0;i<dim;i++)

gen[i]=ind[i]; ind.Value = eval_movpeaks(gen); if (soma->getEvalCount()%5000 == 0) { change_peaks(); soma->clearOffErrValue(); } }

/* v´ypoˇcet pouze pro ´uˇcely, kdy ho nen´ı

dobr´e zahrnout do celkov´eho stavu (inicializace apod.) */ void costValue2(cIndividual &ind)

{

for (int i=0;i<dim;i++) gen[i]=ind[i];

ind.Value = dummy_eval(gen); }

};

4.3 Kriteri´

aln´ı funkce

Pro testován´ı bylo vyuˇzito výpoˇctu hodnoty offline error. Tato hodnota udává rozd´ıl ˇreˇsen´ı nalezeného konkrétn´ım jedincem od skuteˇcného globáln´ıho maxima. Tato hodnota má udrˇzovánu nerostouc´ı posloupnost a je resetována pouze v okamˇzitku zmˇeny funkce.

Obrázek 4.1: Ilustrace tvaru grafu offline error: Na ose Y je vynáˇsena fitness konkrétn´ı evaluace, na ose X jsou jednotlivé evaluace. Modré svislé ˇcáry znázorˇnuj´ı okamˇzik zmˇeny tvaru úˇcelové funkce. Zelenˇe je vynesen graf online error – odchylky od správného ˇreˇsen´ı.

ˇ

(24)

Výpoˇcet hodnoty pr˚umˇerného offline error tedy prob´ıhá po kaˇzdé evaluaci podle vzorce:

averageOf f lineError= averageOf f lineError·evalCount+leastOf f ErrV alue

evalCount+ 1 , kde evalCount odpov´ıdá celkovému poˇctu dosud provedených vyhodnocen´ı funkce a

leastOf f ErrV alue je nejmenˇs´ı dosud nalezená hodnota chyby, která je s kaˇzdou zmˇenou tvaru funkce resetována.

Výpoˇcet offline error byl ve starˇs´ıch verz´ıch algoritmu implementován vlastn´ı, pozdˇeji, po dalˇs´ıch úpravách algoritmu, bylo vyuˇzito výpoˇctu této hodnoty pˇr´ımo programem Mo-ving Peaks Benchmark.

Dalˇs´ı poˇc´ıtanou hodnotou byl Success rate – pod´ıl poˇctu dosaˇzen´ı globáln´ıho optima k celkovému poˇctu pokus˚u/bˇeh˚u. Tento výpoˇcet bylo moˇzné provést pomoc´ı funkce z Mo-ving Peaks Benchmark get_right_peak(). Tato funkce vrac´ı výsledek typu bool, podle toho, zda bylo pˇri posledn´ım vyhodnocen´ı funkce nalezeno optimum. Z celkového poˇctu vyhodnocen´ı funkce get_right_peak() se poté spoˇc´ıtal aritmetický pr˚umˇer.

Výsledné hodnoty pro jednotlivá testován´ı jsou um´ıstˇena v kapitole Testy.

4.4 Implementace strategi´ı

Dalˇs´ı ˇcást´ı úprav algoritmu byla reimplementace SOMA knihovny pro dalˇs´ı strategie neˇz All To One. Vzhledem k malému poˇctu úprav nutnému k této zmˇenˇe byla prvn´ı verze upraveného programu uzp˚usobena tak, ˇze mohla ovládat vˇsechny pozdˇeji pouˇzité strategie, coˇz by mohlo být pro komplexn´ı testován´ı, které by mohlo trvat velmi dlouho pˇr´ınosem. Ukázalo se vˇsak, ˇze s rostouc´ım mnoˇzstv´ım pouˇzitých pˇr´ıkaz˚u neúmˇernˇe klesá rychlost algoritmu.

Proto bylo pˇrikroˇceno k implementac´ım jednotlivých strategi´ı kaˇzdé zvláˇst’. Postupem ˇ

casu se ukázalo, ˇze je nutné programy propojit obˇema smˇery, coˇz je v rozporu se zp˚usobem jakým je knihovna SOMA napsána. Nakonec bylo nutné provést zmˇeny, které pouˇzitou implementaci SOMA pˇr´ımo uzp˚usobuj´ı na komunikaci s Moving Peaks Benchmark.

Strategii All To One nebylo nutné nijak modifikovat, pouze byly pˇridány ˇcásti kódu pro komunikaci s Moving Peaks Benchmark a pro výpoˇcet potˇrebných hodnot a nen´ı nutné ji snad dále popisovat.

Malé úpravy byly potˇreba pro strategii All To Random. V tom to pˇr´ıpadˇe bylo nutné zajistit, aby se jedinci pokaˇzdé vydávali za jiným jedincem, pˇriˇcemˇz Leader by mˇel z˚ustat nehybný.

Hlavn´ı úprava byla provedena v souborusoma.cpp, kde bylo nutné pozmˇenit kód v me-todˇedoStep(). Tato metoda se stala c´ılem zmˇen i pro ostatn´ı strategie. Oproti All To One pˇribyla v tomto pˇr´ıpadˇe promˇenná id_target, která reprezentuje následovaného jedince. Do n´ı je kaˇzdé kolo ukládána náhodná hodnota v rozmez´ı poˇctu jedinc˚u. Následován je tak kaˇzdé kolo náhodnˇe vybraný jedinec.

Strategie All TO All Adaptive vyˇzadovala úpravu ve stejné metodˇe, aˇckoliv výraznˇe sloˇzitˇejˇs´ı. Pro tento pˇr´ıpad bylo nutné pˇridat dalˇs´ı cykl tak, aby kaˇzdý jedinec následoval

(25)

po-jiného, ale v tomto pˇr´ıpadˇe kaˇzdý z nich jako by provádˇel nˇekolik migraˇcn´ıch kol sám za sebe. Nakonec se pˇresune na nejlepˇs´ı nalezenou polohu. Upraveno je také stárnut´ı jedince a to tak, aby vˇek pˇribýval po celé sérii migrac´ı, jinak by mohlo docházet aˇz k nˇekolikému ´

umrt´ı jedince bˇehem jedin´eho migraˇcn´ıho kola.

All to All pˇrinesla kupodivu sloˇzitˇejˇs´ı úpravy kódu neˇz jej´ı sesterská strategie All To All Adaptive. Hlavn´ı zmˇenou oproti n´ı je nutnost ukládán´ı si hodnot nejlepˇs´ıch jedinc˚u na dosud proˇslých pozic´ıch (obr.3.6), aby bylo v˚ubec moˇzné realizovat posledn´ı krok – pˇresun jedince na pozici.

K uchov´an´ı hodnot byla na pole upravena promˇenn´apomBestInd.

Posledn´ı implementovanou strategi´ı je All To Elite, kde bylo nutné zavést ukládán´ı nej-lepˇs´ıch jedinc˚u do obousmˇernˇe pˇr´ıstupné fronty. V naˇsem pˇr´ıpadˇe je to:

deque<unsigned long> bestID

V metodˇedoStep()je provedena zmˇena tak, aby byl pˇred kaˇzdým pohybem jedince, zvolen náhodnˇe vybraný ˇclen elity, který bude v zápˇet´ı následován. Samozˇrejmost´ı je kontrola, zda jedinec nebude následovat sám sebe. Po nalezen´ı nového um´ıstˇen´ı, je zjiˇstˇeno, zda jedinec nemá lepˇs´ı hodnotu neˇz aktuáln´ı nejslabˇs´ı elitn´ı ˇclen. Je-li tomu tak, je jedinec postupnˇe porovnáván s ˇcleny bestID, dokud nen´ı nalezen elitn´ı jedinec jehoˇz hodnota je vyˇsˇs´ı nebo nen´ı dosaˇzeno konce. Poté je kandidát zaˇrazen na úkor nejslabˇs´ıho jedince do elity.

Zásahy bylo v tomto pˇr´ıpadˇe nutné provést i do dalˇs´ıch metod, kv˚uli inicializaci, reini-cializaci a destrukci objektu SOMA.

(26)

Kapitola 5

Experimenty

Na SOMA byly provedeny série test˚u zamˇeˇrené na z´ıskán´ı m´ıry úspˇeˇsnosti pˇri ˇreˇsen´ı funkc´ı generovaných pomoc´ı Moving Peaks Benchmark. Výslednými hodnotami byl jednak offline error a také m´ıra úspˇeˇsnosti nalezen´ı správného vrcholu – success rate. Testovány byly strategie All To One a All To Elite.

Pro testov´an´ı byly pevnˇe nastaveny nastaveny tyto parametry: • Nastaven´ı programu Moving Peaks Benchmark

– poˇcet vrchol˚u: 10

– pohyb vrcholu pˇri zmˇenˇe funkce: 1,0

– poˇcet rozmˇer˚u: 5

– m´ıra zmˇeny v´yˇsky vrchol˚u: 1,0

– m´ıra zmˇeny ˇs´ıˇrky vrchol˚u: 0,01

– hranice plochy pro vˇsechny rozmˇery:h0,0; 100,0i

– rozmez´ı v´yˇsek vytvoˇren´ych vrchol˚u: h30,0; 70,0i

– standardn´ı v´yˇska vrcholu je tvoˇrena n´ahodnˇe

– rozmez´ı ˇs´ıˇrek vytvoˇren´ych vrchol˚u:h1,0; 12,0i

– standardn´ı ˇs´ıˇrka vrcholu je tvoˇrena n´ahodnˇe

– poˇcet vyhodnocen´ı funkce pˇred zmˇenou funkce nastaven na 0, zmˇena je prov´ a-dˇena ruˇcnˇe vol´an´ım change_peaks

• Nastaven´ı programu SOMA

– PathLength: 2,8

– Step: P athLength/(20,0·1,1)= 0. ,127

– poˇcet jedinc˚u: 25-kr´at poˇcet rozmˇer˚u

– m´ıra pertubace: 0,7

– maxim´aln´ı vˇek jedince: 7 • Dalˇs´ı nastaven´ı

(27)

Poˇcet vyhodnocen´ı funkce m˚uˇze dosahovat o nˇeco vyˇsˇs´ıch hodnot, protoˇze algoritmus vˇzdy dokonˇc´ı celou migraci.

Kaˇzdý ˇrádek v tabulce byl z´ıskán výpoˇctem hodnot jednoho sta bˇeh˚u algoritmu. Hod-nota uvedená v závorkách je standardn´ı odchylka.

Z tabulek je vidˇet, ˇze hodnoty offline error dosahuj´ı i pˇri malém mnoˇzstv´ı vrchol˚u velkých hodnotových výkyv˚u. Vysvˇetlen´ım je v takovém pˇr´ıpadˇe to, ˇze tvar funkce se ˇcasto mˇen´ı uprostˇred migraˇcn´ıho kola a výpoˇcty ˇcásti jedinc˚u tak z´ıskaj´ı hodnoty, které uˇz nejsou správné. V takovém pˇr´ıpadˇe velikost chyby velice brzy stoupne do nepˇr´ıjemnˇe vysokých hodnot. Tento problém zat´ım nen´ı moˇzné uspokojivˇe ˇreˇsit.

5.1 All To One

Tato série test˚u byla zamˇeˇrena na chován´ı algoritmu SOMA se strategi´ı prohledáván´ı All To One.

V tabulce5.1byl poˇc´ıt´an offline error a success rate pro 1, 2, 3, 5, 8 a 10 rozmˇer˚u. Poˇcet vrchol˚u byl fixnˇe nastaven na 10 a m´ıra pohybu vrcholu byla 1,0.

Poˇcet rozmˇer˚u Offline error Success rate 1 0,32 (0,02) 0,96 (0,01) 2 0,87 (0,04) 0,48 (0,03) 3 3,16 (1,76) 0,82 (0,21) 5 6,48 (5,53) 0,65 (0,20) 8 2,88 (3,01) 0,89 (0,21) 10 51,42 (19,6) 0,25 (0,00)

Tabulka 5.1: All To One – mˇen´ıc´ı se poˇcet rozmˇer˚u

Jak je z výsledk˚u vidˇet, s rostouc´ım poˇctem rozmˇer˚u náhle prudce roste chyba. Poˇcet jedinc˚u totiˇz roste úmˇernˇe s mnoˇzstv´ım rozmˇer˚u a t´ım pádem stoupá i poˇcet evaluac´ı úˇcelové funkce kaˇzdé migraˇcn´ı kolo.

Pˇri deseti rozmˇerech jiˇz poˇcet evaluac´ı úˇcelové funkce bˇehem jedné migrace pˇresáhne 5000, coˇz je hodnota, kdy se mˇen´ı tvar úˇcelové funkce. Bˇehem kaˇzdé migrace tak dojde ke zmˇenˇe jej´ıho tvaru, coˇz se negativnˇe odraz´ı na výsledc´ıch. Poˇcet evaluac´ı za jedno kolo pro tento pˇr´ıpad vypoˇcteme pomoc´ı vzorce:

(N P −1)·P athLength Step ,

kde N P znamen´a poˇcet jedinc˚u. Jakmile dosad´ıme pouˇzit´e hodnoty pro 10 rozmˇer˚u dostaneme:

(250−1)·2,8 0,127

.

= 5490,

V pˇr´ıpadˇe výpoˇctu s 8 rozmˇery vycház´ı výsledek zhruba 4390, coˇz znamená, ˇze bˇehem migrace nedocház´ı vˇzdy ke zmˇenˇe tvaru úˇcelové funkce.

Pro v´ıce neˇz deset rozmˇer˚u je proto jiˇz navrˇzen jin´y vzorec pro v´ypoˇcet poˇctu jedinc˚u:

(28)

kde dimodpov´ıdá poˇctu rozmˇer˚u funkce. Pomoc´ı tohoto vzorce pˇribývá s kaˇzdým dalˇs´ım pˇridaným rozmˇerem pouze výraznˇe ménˇe jedinc˚u. Tak se zabrán´ı pˇr´ıliˇsnému nár˚ustu eva-luac´ı. Ukazuje se, ˇze pro tyto hodnoty mnoˇzstv´ı jedinc˚u jsou výsledky srovnatelné [1].

V druhé tabulce5.2se mˇenil poˇcet vrchol˚u v rozmez´ı 1 – 500, kdy uˇz bylo výraznˇe znát zpomalen´ı rychlosti výpoˇctu. Rozmˇer˚u bylo dáno pevnˇe 5 a m´ıra pohybu vrcholu byla 1,0.

Poˇcet vrchol˚u Offline error Success rate 1 11,43 (8,48) 1,00 (0,00) 3 12,32 (6,47) 0,71 (0,34) 5 4,35 (3,39) 0,83 (0,15) 8 21,76 (6,07) 0,13 (0,29) 10 4,42 (3,54) 0,82 (0,17) 12 18,73 (6,31) 0,15 (0,16) 15 8,96 (4,56) 0,09 (0,09) 18 11,97 (3,55) 0,05 (0,10) 50 9,60 (0,24) 0,00 (0,01) 100 7,00 (1,75) 0,02 (0,02) 200 4,49 (1,64) 0,03 (0,01) 500 5,53 (1,28) 0,01 (0,01)

Tabulka 5.2: All To One – mˇen´ıc´ı se poˇcet vrchol˚u

Z výsledk˚u se dá vypozorovat tendence poklesu offline error. Zat´ımco pˇri ménˇe vrcholech maj´ı jedinci velkou pravdˇepodobnost um´ıstˇen´ı na ˇspatné pozici, s rostouc´ım mnoˇzstv´ım vrchol˚u se postupnˇe

”rod´ı“ na lepˇs´ıch pozic´ıch s ˇc´ım d´al vˇetˇs´ı pravdˇepodobnost´ı. Je vidˇet, ˇ

ze i poˇcáteˇcn´ı rozkol´ısanost odchylky se sp´ıˇse urovnává. Samozˇrejmˇe spolu s rostouc´ım mnoˇzstv´ım vrchol˚u klesá pravdˇepodobnost, ˇze se jedinec pˇri své cestˇe dostane na ten pravý. Dalˇs´ım kritériem test˚u byla vzdálenost, o kterou poskoˇcily vrcholy pˇri zmˇenˇe funkce. Hodnoty v tabulce5.3byly postupnˇe nastaveny na 1, 5, 10 a 50. Výpoˇcet byl provádˇen pro 5 rozmˇer˚u a 10 vrchol˚u.

Velikost zmˇeny Offline error Success rate 1 5,39 (3,45) 0,70 (0,09) 5 11,98 (1,23) 0,72 (0,00) 10 22,43 (0,99) 0,72 (0,00) 50 50,01 (0,78) 0,53 (0,03)

Tabulka 5.3: All To One – zmˇena velikosti pohybu vrchol˚u

Zde je vidˇet, ˇze u jedinc˚u stále docház´ı k nahlouˇcen´ı, které se projevuje pˇr´ımo úmˇernˇe roustouc´ı m´ırou chybovosti. Pokud se vrchol pohne v´ıce, vetˇs´ımu mnoˇzstv´ı jedinc˚u klesne fitness funkce.

5.2 All To Elite

Dalˇs´ı sada obdobných test˚u se zamˇeˇrila na strategii All To Elite. Tato strategie mˇela pevnˇe nastaveno deset elitn´ıch jedinc˚u. Jak je jiˇz vidˇet z následuj´ıc´ıch tabulek, výsledky strategi´ı

(29)

Tabulka 5.4ukazuje v´ysledky pro 1, 2, 3, 5, 8 a 10 rozmˇer˚u.

V porovnán´ı se strategi´ı All To One pˇrináˇs´ı hodnota offline error drobné zlepˇsen´ı. Na-proti tomu hodnoty success rate dosahuj´ı o nˇeco horˇs´ıch výsledk˚u. Vzhledem k povaze prohledáván´ı All To Elite se ovˇsem zhorˇsen´ı tˇechto hodnot dalo oˇcekávat.

Poˇcet rozmˇer˚u Offline error Success rate 1 0,29 (0,02) 0,96 (0,01) 2 0,85 (0,03) 0,47 (0,01) 3 2,67 (1,26) 0,87 (0,13) 5 4,36 (1,00) 0,72 (0,02) 8 2,36 (1,27) 0,93 (0,10) 10 47,37 (19,91) 0,25 (0,00)

Tabulka 5.4: All To Elite – mˇen´ıc´ı se poˇcet rozmˇer˚u

Srovnatelných výsledk˚u se dosáhlo i pˇri testován´ı se zmˇenou mnoˇzstv´ı vrchol˚u v tabulce

5.5. Hodnoty All To Elite sice vˇetˇsinou dosahuj´ı lepˇs´ıho offline error, nicm´enˇe ne vˇzdy. A jako v pˇr´ıpadˇe zmˇeny poˇctu rozmˇer˚u je hodnota success rate v porovn´an´ı se strategi´ı All To One o nˇeco horˇs´ı.

Poˇcet vrchol˚u Offline error Success rate 1 9,39 (5,35) 1,00 (0,00) 3 11,36 (6,28) 0,54 (0,36) 5 15,75 (4,30) 0,08 (0,19) 8 24,41 (6,39) 0,10 (0,29) 10 4,91 (3,20) 0,71 (0,07) 12 12,69 (2,03) 0,01 (0,01) 15 7,58 (1,95) 0,07 (0,08) 18 15,64 (2,78) 0,02 (0,07) 50 4,06 (0,07) 0,08 (0,01) 100 3,30 (0,30) 0,13 (0,02) 200 4,81 (1,04) 0,03 (0,03) 500 5,13 (0,79) 0,02 (0,01)

Tabulka 5.5: All To Elite – mˇen´ıc´ı se poˇcet vrchol˚u

I v pˇr´ıpadˇe porovnáván´ı podle velikosti skoku vrchol˚u (tabulka5.6) vyhrává All To Elite na offline error pouze o malé rozd´ıly v hodnotách.

Velikost zmˇeny Offline error Success rate 1 4,55 (1,67) 0,72 (0,03) 5 10,54 (0,48) 0,72 (0,00) 10 18,78 (0,65) 0,72 (0,00) 50 48,90 (0,87) 0,54 (0,03)

(30)

Obr´azek 5.1: Graf offline error u strategi´ı All To One a All To Elite pro r˚uzn´y poˇcet rozmˇer˚u

Pˇresné výsledky jednotlivých experiment˚u, animace migrac´ı vˇsech uvedených strategi´ı a testy strategi´ı All To All/Random/Adaptive naleznete na pˇriloˇzeném médiu.

(31)

Obr´azek 5.2: Graf offline error u strategi´ı All To One a All To Elite pro r˚uzn´y poˇcet vrchol˚u

Obr´azek 5.3: Graf offline error u strategi´ı All To One a All To Elite pro r˚uznou velikost skoku vrchol˚u

(32)

Kapitola 6

Z´

avˇ

er

Dalo by se ˇr´ıci, ˇze z testovaných strategi´ı vyˇsla lépe All To Elite. Offline error v nalézán´ı ˇreˇsen´ı pˇri zmˇenˇe poˇctu rozmˇer˚u vyˇsel v pr˚umˇeru o 14 procent lépe neˇz u strategie All To One. Obdobného úspˇechu bylo dosaˇzeno pˇri porovnáván´ı tˇechto strategi´ı pˇri zmˇenˇe velikosti skoku vrcholu. Zde vyˇsel All To Elite o necelých 12 procent lépe. Zhorˇsen´ı oproti All To One vˇsak nastalo pˇri zmˇenˇe poˇctu vrchol˚u, kdy offline error All To Elite vyˇsel v pr˚umˇeru o 11 procent h˚uˇre.

Velká ˇcást s´ıly SOMA spoˇc´ıvá v jej´ı jednoduchosti, kde prakticky v celém algorimu nen´ı nutné pouˇz´ıt operaci sloˇzitˇejˇs´ı neˇz násoben´ı a nen´ı tak snadné provádˇet úpravy, které by efektivitu algoritmu výraznˇe zvýˇsily.

Patrnˇe by se dalo dosáhnout dalˇs´ıho vylepˇsen´ı algoritmu pomoc´ı modifikace mnoˇzstv´ı elitn´ıch jedinc˚u v závislosti na poˇctu dimenz´ı, rozmˇerech plochy a mnoˇzstv´ı pouˇzitých jedinc˚u. Leˇc vzhledem k mnoˇzstv´ı parametr˚u nastavitelných pro SOMA, nebylo zdaleka moˇzné provést vˇsechny testy, a proto výsledky nemusely vˇzdy dosáhnout optimáln´ıch hod-not.

Pravdou tak stále z˚ustává tvrzen´ı váˇz´ıc´ı se k evoluˇcn´ım algoritm˚um známá jako ”no free lunch theorem“ [3]: V evoluˇcn´ıch algoritmech neexistuje takový, který by byl scho-pen podávat nejlepˇs´ı výsledky ve vˇsech typech zadaných problém˚u. Specializace algoritmu s sebou pˇrinese zhorˇsen´ı pro jiné typy úkol˚u.

Dalˇs´ı informace, vˇcetnˇe konkrétn´ıch výsledk˚u test˚u, které zde nemus´ı být vˇsechny uve-deny, jsou obsaˇzeny na pˇriloˇzeném médiu.

(33)

Literatura

[1] Michal Hlavinka. Diferenˇcn´ı evoluce pro dynamické problémy – Bakaláˇrská práce. Vysoké uˇcen´ı technické v Brnˇe - Fakulta informaˇcn´ıch technologi´ı, 2006.

[2] WWW stránky. Stránky vˇenované moving peaks benchmark [cit. 2007-05-08]. http://www.aifb.uni-karlsruhe.de/∼jbr/MovPeaks/.

[3] WWW stránky. Wikipedia – no free lunch in search and optimization [cit. 2007-05-08]. http://en.wikipedia.org/wiki/No free lunch in search and optimization. [4] WWW stránky. Ivan Zelinka: Osobn´ı stránky vˇenované SOMA [cit. 2007-05-08].

http://www.ft.utb.cz/people/zelinka/soma/.

[5] Ivan Zelinka. Umˇelá inteligence v problémech globáln´ı optimalizace. BEN – technická literatura, 2002. ISBN 80-73000-69-5.