Tech in T: depth + breadth‎ > ‎Math‎ > ‎


Central Limit Theorem

به صورت حسی، قضیه حد مرکزی می گوید که یک سری از چند متغیر تصادفی مستقل با توزیع یکسان به سمت یک متغیر تصادفی مشخص میل می کند. وقتی صحبت از قضیه حد مرکزی می شود معمولاً منظور قضیه زیر است: دنباله ...,X1,X2,X3 از متغیرهای تصادفی مستقل با توزیع یکسان D را که بر یک فضای احتمال تعریف شده اند در نظر بگیرید. فرض کنید میانگین D برابر μ و انحراف از معیار (ریشه ی دوم واریانس) آن σ است. حالا سری Sn = X1+X2+X3+...+Xn را در نظر بگیرید. می دانیم که میانگین Sn برابر nμ و انحراف از معیار آن σ√n است. بر اساس قضیه حد مرکزی Sn در بی نهایت به سمت توزیع نرمال (N(nμ,σ²n میل می کند.
به عبارت دیگر (Sn-nμ)/σ√n متغیر نرمال استاندارد خواهد بود

یعنی: مجموع بی نهایت متغیر تصادفی با توزیع یکسان دارای توزیع نرمال با میانگین و واریانسی خواهد بود که اگر آنها از اول نرمال بودند.

In signal processing, a stochastic process is said to be ergodic if its statistical properties (such as its mean and variance) can be deduced from a single, sufficiently long sample (realization) of the process.

Indicator Random Variable's_inequality

In the language of probability theory

For any event E, let IE be the indicator random variable of E, that is, IE = 1 if E occurs and = 0 otherwise. Thus I(|X| ≥ a) = 1 if the event |X| ≥ a occurs, and I(|X| ≥ a) = 0 if |X| < a. Then, given a > 0,

aI_{(|X| \geq a)} \leq |X|.\,

which is clear if we consider the two possible values of I(|X| ≥ a). Either |X| < a and thus I(|X| ≥ a) = 0, or I(|X| ≥ a) = 1 and by the condition of I(|X| ≥ a), the inequality must be true.


\operatorname{E}(aI_{(|X| \geq a)}) \leq \operatorname{E}(|X|).\,

Now, using linearity of expectations, the left side of this inequality is the same as

a\operatorname{E}(I_{(|X| \geq a)})=a\Pr(|X| \geq a).\,

Thus we have

a\Pr(|X| \geq a) \leq \operatorname{E}(|X|)\,

and since a > 0, we can divide both sides by a.

Some summations involving exponential terms

In the summations below x is a constant not equal to 1

\sum_{i=m}^{n-1} x^i = \frac{x^m-x^n}{1-x} (m < n; see geometric series)
\sum_{i=0}^{n-1} x^i = \frac{1-x^n}{1-x} (geometric series starting at 1)
\sum_{i=0}^{n-1} i x^i = \frac{x-nx^n+(n-1)x^{n+1}}{(1-x)^2}
\sum_{i=0}^{n-1} i 2^i = 2+(n-2)2^{n} (special case when x = 2)
\sum_{i=0}^{n-1} \frac{i}{2^i} = 2-\frac{n+1}{2^{n-1}} (special case when x = 1/2)


Does \lim_{y\uparrow a}f(a) mean \lim_{y\rightarrow a-}f(a)? And \lim_{y\downarrow a}f(a)=\lim_{y\rightarrow a+}f(a)?