näytteenotto Normaalijakaumasta Box-Muller-muunnoksella

14 elokuun, 2021Articles

Yksityisyys & evästeet

tämä sivusto käyttää evästeitä. Jatkamalla hyväksyt niiden käytön. Lue lisää, mukaan lukien evästeiden hallinta.

Got It!

mainokset

Normaalijakauma on monien yhteisten tilastollisten analyysien työjuhta, ja tästä jakaumasta otanta on monien tilastollisten/koneoppimisen algoritmien ydin. Normaalijakaumasta otokseen on kehitetty useita menetelmiä, kuten Käänteismuunnosnäytteenotto, zikkurat-algoritmi ja Suhdemenetelmä (hylkäysnäytteenottotekniikka). Tässä viestissä keskitymme eleganttiin menetelmään, jota kutsutaan Box-Muller-muunnokseksi.

nopea katsaus Karteesisiin ja napakoordinaatteihin.

ennen kuin voimme puhua Box-Muller-muunnoksen käytöstä, virkistäkäämme käsitystämme Karteesisten ja napakoordinaattien välisestä suhteesta. Geometriasta voi muistaa, että jos x ja y ovat karteesisen tason kaksi pistettä, ne voidaan esittää napakoordinaateilla, joiden säde on $r$ ja kulma $\theta$ käyttäen seuraavia suhteita:

$R^2 = x^2 + y^2$

$\tan (\theta) = \frac{y}{x}$ , ja siksi

$x = r\cos (\theta)$

$y = r\sin (\theta)$

huomaa, että jos $r \leq 1$ ja $\theta \in$ , niin kartoitamme yksikköympyrän sisältämät arvot, kuten alla olevasta kuvasta näkyy. Huomaa myös, että tällaisen ympyrän satunnaismuuttujat voidaan tuottaa muuntamalla tasajakaumasta otettuja arvoja. Erityisesti säteitä voidaan ottaa kohteesta $r \sim Unif(0,1)$ ja kulmaa voidaan ottaa kohteesta $\theta \sim 2\pi \times Unif (0,1)$ . Vastaava mekanismi (eli pisteiden piirtäminen ympyrään yhtenäisten muuttujien avulla) on normaalien satunnaismuuttujien näytteenotossa käytettävän Box-Muller-muunnoksen ytimessä.

esimerkki Karteesisten ja napakoordinaattien välisestä suhteesta

Normaalijakautuneiden näytteiden piirtäminen Box-Muller-muunnoksella

Ok, nyt kun olemme keskustelleet siitä, miten karteesiset koordinaatit esitetään napakoordinaateissa, siirrytään siihen, miten voimme käyttää tätä suhdetta satunnaismuuttujien tuottamiseen. Box-Muller-näytteenotto perustuu kahden riippumattoman standardinmukaisen satunnaisen karteesisen muuttujan $X$ yhteisjakauman esittämiseen ja $Y$

$X \sim N(0,1)$

$Y \sim N(0,1)$

napakoordinaateissa. Yhteisjakauma $p (x,y)$ (joka on ympyräsymmetrinen) on:

$p (x, y) = p(x) p(y) = \frac{1}{\sqrt{2\pi}}e^{-\frac{y^2}{2}}$

$= \frac{1}{2\pi}e^{- \frac{x^2 + y^2}{2}}$

jos huomaamme, että eksponentin osoittajan $x^2 + y^2$ termi on yhtä suuri kuin $r^2$ (kuten yllä), voimme tehdä yhteyden yhteisen normaalijakauman karteesisen esityksen ja sen polaariesityksen välillä:

$p (x, y) = \left (\frac{1}{2\pi} \right ) \left (e^{\frac {- r^2}{2}} \right )$

joka on kahden tiheysfunktion tulo, eksponentiaalinen jakauma säteiden potenssiin:

$r^2 \sim Exp (\frac{1}{2})$

ja tasainen jakautuminen kulmiin:

$\theta \sim Unif (0,2\pi)$

aivan kuten edellä mainitut, kun tuottaa pistettä yksikön ympyrä. Nyt, jos teemme toinen yhteys eksponentiaalisen jakauman ja yhtenäinen jakauma, nimittäin, että:

$Exp(\lambda) = \frac{-\log (Unif(0,1))}{\lambda}$

sitten $r \sim \sqrt{-2\log (Unif(0,1))}$

tämä antaa meille tavan tuottaa pisteitä yhteisestä Gaussin jakaumasta ottamalla näytteitä kahdesta itsenäisestä uniformisesta jakaumasta, joista toinen on $r$ ja toinen $\theta$ , ja muuntamalla ne Karteesisiksi koordinaateiksi yllä olevien suhteiden kautta. Menettely etenee yksityiskohtaisesti seuraavasti:

Draw, $u_1, u_2 \sim Unif(0,1)$
Muunna muuttujat säde-ja kulmaesityksiksi $r = \sqrt{-2\log (u_1)}$ ja $\theta = 2\pi u_2$
Muunna säde ja kulma Karteesisiksi koordinaateiksi: $x = r \cos (\theta), y = r \sin (\theta)$

mitkä tulokset ovat kaksi riippumatonta normaalia satunnaismuuttujaa, $X$ ja $Y$ . Box-Muller-algoritmin Matlab-toteutus näkyy alla:

% NORMAL SAMPLES USING BOX-MUELLER METHOD% DRAW SAMPLES FROM PROPOSAL DISTRIBUTIONu = rand(2,100000);r = sqrt(-2*log(u(1,:)));theta = 2*pi*u(2,:);x = r.*cos(theta);y = r.*sin(theta);% DISPLAY BOX-MULLER SAMPLESfigure% X SAMPLESsubplot(121);hist(x,100);colormap hot;axis squaretitle(sprintf('Box-Muller Samples Y\n Mean = %1.2f\n Variance = %1.2f\n Kurtosis = %1.2f',mean(x),var(x),3-kurtosis(x)))xlim()% Y SAMPLESsubplot(122);hist(y,100);colormap hot;axis squaretitle(sprintf('Box-Muller Samples X\n Mean = %1.2f\n Variance = %1.2f\n Kurtosis = %1.2f',mean(y),var(y),3-kurtosis(y)))xlim()

Box-Muller-näytteet Normaalijakelua varten

kääre

Matlab-koodin tuloste on esitetty yllä. Huomaa ensimmäinen, toinen ja neljäs keskeinen momentit (keskiarvo, varianssi, ja kurtoosi) luotujen näytteiden ovat yhdenmukaisia standardin normaali. Box-Muller-muunnos on toinen esimerkki siitä, kuinka yhtenäisiä muuttujia intervallilla (0,1) ja voidaan muuntaa otokseksi monimutkaisemmasta jakaumasta.