Wednesday, July 6, 2011

Przyczynowosc a przypadek

  Jest rzecza calkiem naturalna, aby uwazac, ze wszystkie zdarzenia jakie obserwujemy posiadaja w sobie element zarowno losowy czyli przypadkowy jak i element deterministyczny. Te pierwsze nadaja  zreszta zyciu pewnien koloryt przygody. Czlowiek wyrusza na przyklad w podroz pociagiem czy samochodem i znajac dlugosc drogi  do celu  oraz przecietna szybkosc poruszania oczekuje, ze znajdzie sie tam gdzie zamierza po okreslonym czasie. Tymczasem na drodze czyhaja na nas zdarzenia losowe. Mozemy "zlapac gume", kupic kiepska benzyne czy tez stac "pod semaforem" wydluzajac w ten sposob czas podrozy. Z drugiej zas strony mozemy miec "wiatr w plecy" albo bezkarnie przekroczyc limity predkosci i pojawic sie u celu przedwczesnie. Stad planowanie wszystkiego poczynajac od plci potomka az do wynikow pieciolatki  jest zajeciem ryzykownym. Energia bowiem wlozona i przeznaczona na dzialanosc celowa ulega dysypacji dzieki zdarzeniom pasozytniczym. Temu zawdzieczamy znany fakt, ze jednostki zasilajace maja z reguly sprawnosc przetwarzania energii z jednej formy w druga nizsza od 100% -owej (np silniki spalinowe - okolo 30%). Rzecz jasna czesto uzyskanie wiekszej efektywnosci jest zjawiskiem pozadanym i korzystnym. Oprocz zrozumialej oszczednosci paliwa w procesach fizycznych moglibysmy czerpac pewien komfort duchowy wiedzac, ze srodek komunikacji jakim sie poruszamy pojawi sie w punkcie docelowym dokladnie wtedy kiedy przewiduje to rozklad jazdy. Politycy zas byliby zadowoleni wiedzac, ze wszyscy wyborcy pojawia sie aby glosowac tylko na nich a nie na ich przeciwnikow. Jest to jak wiemy komfort jaki zapewniaja rzady dyktatorsko-totalitarne. Z drugiej jednak strony perfekcyjny determinizm moze miec takze pewne wady. Wyobrazmy sobie bowiem konsekwencje pelnej skutecznosci niemieckiego "ostatecznego rozwiazania".
Nie to jednak nas bedzie interesowalo tutaj ale kwestia jak mierzyc ow stopien uporzadkowania jaki posiada dany system.  W tym celu dobrze jest uzyc pojec rachunku prawdopodobienstwa a zwlaszcza pojecia prawdopodobienstwa wystapienia tego czy innego zdarzenia z pewnego mozliwego zbioru. Na przyklad, rzucajac kostka do gry mamy szesc mozliwych zdarzen odpowiadajacych wyrzuceniu liczby oczek od jednego do szesciu. Jesli kostaka jest zrobiona prawidlowo to prawdopodobienstwo wystapienia okreslonego wyrzutu oczek wynosi 1/6 co stanowi iloraz liczby zdarzen sprzyjajacych do ogolnej liczby zdarzen mozliwych. Zdarzenie w pelni determistyczne, czyli takie ktore musi zajsc ma prawdopodobienstwo rowne jednosci. Jesli wiec chcemy znalezc cos co ujdzie za miare statystycznego chaosu pewnego stanu systemu to wydaje sie rozsadne aby domagac sie by miara ta wynosila zero jesli wystapienie tego stanu jest pewne. W przypadku zas zdarzen losowych miara powinna byc jakas funkcja prawdopodobienstwa wystapienia danego stanu .Miara powinna byc okreslona dodatnio. Jesli dodamy do tego wymaganie addytywnosci miar dla zdarzen niezaleznych czyli takich dla ktorych prawdopodobienstwo rownoczesnego wystapienia zdarzen nalezacych do dwoch zbiorow jest rowne iloczynowi prawdopodobienstw kazdego z nich, to w zasadzie problem jest postawiony jednoznacznie. Jedyna elementarna miara niepewnosci danego zdarzenia -i o prawdopodobienstwie wystapienia p(i) jest ln [1/p(i)] . Mamy bowiem nastepujaca zaleznosc.
Dla zdarzen niezaleznych wystepujacych odpowiednio z prawdopodobienstwami {p(i)} i {q(j)} prawdopodobienstwo wystapienia sekwencji  obu zdarzen i oraz j wynosi s(i,j)= p(i)q(j). Addytywnosc miary M iloczynu zdarzen wymaga aby M[p(i)q(j)]= M[p(i)] + M[q(j)]  z warunkiem M[1]=0 . Osoby znajace teorie funkcjonalnej definicji funkcji logarytmicznej rozpoznaja ja natychmiast z powyzszej relacji. Tak wiec tylko funkcja logarytmiczna moze sluzyc nam za miare niepewnosci stanu losowego. Podstawa logarytmu jest dowolna gdyz sprowadza sie ona do wprowadzenia mnoznika, ktory okresli skale. W praktyce stosuje sie najczesciej logarytm naturalny badz logarytm o podstawie 2.  Wielkosc S(i) = ln[1/p(i)] mozemy nazwac absolutna entropia stanu i-tego. Czesciej poslugujemy sie entropia absolutna calego rozkladu zdefiniowana jako srednia wartosc entropii stanow  S= < ln[1/p(i)]>.  Zauwazmy, ze entropia tak zdefiniowana jest liczba niemianowana (stad nazwa "absolutna"). Tym rozni sie ona od entropii uzywanej w termodynamice. Warto tez pamietac, ze w przypadku entropii stanu jest ona miara niepewnosci pojawienia sie danego stanu. W przypadku entropii rozkladu (czyli entropii sredniej) to podaje nam ona informacje o jednorodnosci rozkladu. Im wieksza jest entropia tym rozklad prawdopodobienstw stanu {p(i)} jest bardziej zuniformowany. Co to znaczy mozemy wyjasnic na przykladzie nastepujacym:  Rozwazmy uklad losowy o trzech stanach dla ktorych zmienna losowa przyjmuje wartosci a(1)= 1 , a(2)=2 i a(3)=3 . Mamy trzy mozliwe spektra prawdopodobienstw tych stanow : Spektrum I : p(1)= p(2) = p(3)= 1/3 , Spektrum II: p(1)= 3/6, p(2)= 2/6 i p(3)=5/18 oraz Spektrum III : p(1) =0.1, p(2)=0.8 i p(3)= 0.1. Kazdy z tych rozkladow daje ta sama srednia wartosc zmiennej losowej =2. Policzmy teraz entropie kazdego z tych rozkladow. Dla spektrum I entropia rozkladu wynosi S= 1.0986 , dla spektrum II , S= 1.0686 i dla spektrum III , S= 0.6390 . 
Jak latwo zauwazyc, im bardziej homogeniczny jest rozklad prawdopodobienstw elementarnych tym wyzsza jest jego entropia.  Rosnaca niejednorodnosc rozkladu prawdopodobienstw mozna tez interpretowac jak malejaca "demokracje" systemu, ktory te prawdopodobienstwa opisuja. Dlatego mozemy sie nia posluzyc w celu okreslenia stopnia demokracji okreslonego procesy politycznego, ktory mozna poddac analizie probabilistycznej.Na rysunku przedstawiona jest malejaca entropia rozkladu glosowania w wyborach parlamentarnych w III RP

2 comments:

HansKlos said...

Proszę zauważyć, że dla demokracji możemy określić model taki, w którym entropia nie będzie spadać poniżej pewnej wartości. Model taki wprawdzie zarezerwowano dla monopoli, ale dla partii również by się przydał. W zasadzie każda partia, która osiąga powyżej 20% w wyborach staje się częścią oligopolu i monopolizuje fragment sceny politycznej. Przy systemie dwupartyjnym monopol jest już faktyczny, a demokracja staje się fasadowa;-)

W PL w zasadzie, gdy wypadnie z parlamentu jeszcze jedno ugrupowanie, to wrócimy faktycznie do sytuacji z PRLu, kiedy będziemy mieć jedynie słuszna partię i dwóch potakiwaczy, którzy będą różnić się od przewodniej siły w nic nie znaczących szczegółach;-)

Bobola said...

Zgadzam sie, ze do tego to zdaza dzieki manipulacji z ordynacja wyborcza. Byc moze zreszta, jest to proces sterowany swiadomie gdyz podobna sytuacja (chociaz nie tak krancowa jak w PL) wystepuje tez w USA i GB. W USA nie ma tych przeszkod aby pojawili sie kandydaci niezalezni do Kongresu czy prezydentury ale ich szanse sa znikome ze wzgledu na brak funduszy oraz zaplecza partyjnego. R.Perot byl ostatnim kandydatem, ktory usilowal zbudowac "trzecia sile" ale bez specjalnego powodzenia i przekonania.