Лекція на тему 5-6 з курсу Комп’ютерні технології у розв’язанні задач Теорії імовірностей , НУДПСУ

5. Функції випадкових величин

5.1. Закони розподілу функцій одного випадкового аргументу

Однією із важливих задач у теорії ймовірностей є визначення закону розподілу функції однієї або декількох випадкових величин, якщо відомі розподіли одного або декількох аргументів. Розглянемо неперервні випадкові величини.

Нехай є неперервна випадкова величина Х із щільністю розподілу  а випадкова величина  є функція від Х, тобто  Треба знайти закон розподілу випадкової величини

Нехай функція строго монотонна, неперервна і диференційована на відрізку  Припускаємо, що  Тоді функція розподілу  випадкової величини  буде мати вигляд

де щільність розподілу випадкової величини

Якщо  то

Нерівність  рівносильна нерівності  де функція, обернена функції  на відрізку  Тому

За теоремою про похідну інтегралу по змінній верхній межі

(Похідну  беремо за абсолютною величиною, оскільки у випадку, якщо функція  на відрізку  спадна, то обернена їх функція  спадна і похідна  а щільність імовірності  від’ємною бути не може).

Доведено, для знаходження числових характеристик випадкової величини

 не обов’язково знати закон її розподілу, достатньо знати закон розподілу аргументу:

Приклад 12. Знайти щільність імовірності випадкової величини  де випадкова величина Х розподілена за законом Коші із щільністю імовірності

Розв’язання. За умовою  звідкіля  Похідна цієї функції (за абсолютною величиною) дорівнює

За формулою (1.69) щільність розподілу  випадкової величини  дорівнює

Алгоритм у Mathcad

Вхідні дані

Похідна

Щільність імовірності

Приклад 13.  Знайти математичне сподівання і дисперсію випадкової величини  якщо щільність імовірності випадкової величини  Х є  на відрізку

5.2. Закони розподілу функції двох випадкових аргументів

Розглянемо функцію двох випадкових аргументів  і знайдемо функцію розподілу випадкової величини  вважаючи відомою щільність імовірності  системи

Приймемо гіпотезу, яка полягає у тому, що  Імовірність цієї гіпотези

У припущенні, що ця гіпотеза мала місце, знайдемо умовну функцію розподілу, тобто умовну імовірність події  при умові

де умовна щільність розподілу випадкової величини Х.

Область інтегрування у (74) визначається із умови, що при фіксованому значенні змінної у функція  Застосовуючи інтегральну формулу повної імовірності, одержуємо

Аналогічно одержуємо  і у вигляді

Останні дві формули можна об’єднати:

де область інтегрування на площині  визначається із умови  Диференцюючи (84) по величині  знайдемо щільність розподілу випадкової величини

У випадку, коли випадкові величини незалежні, їх щільність  і формули(1.80)–(1.81) приймуть вигляд:

5.3. Закон розподілу суми двох випадкових величин. Композиція законів розподілу

Із багатьох задач на визначення законів розподілу функцій декількох випадкових величин важливе значення для практики має задача визначення закону розподілу і числових характеристик суми випадкових величин  і  тобто випадкової величини  У випадку, коли  і – незалежні випадкові величини, то закон їх розподілу називається композицією (згорткою) законів розподілу.

Зокрема, встановлено що сума двох і більше альтернативних випадкових величин розподілена за біноміальним законом; сума двох випадкових величин, розподілених за законом Пуассона, також розподілена за законом Пуассона.

Розглянемо композицію законів розподілів двох неперервних випадкових величин. Нехай щільності ймовірностей випадкових величин  і  дорівнюють відповідно

Знайдемо спочатку функцію розподілу випадкової величини  За формулами попереднього під у маємо

де множина усіх точок площини  координати яких задовольняють нерівності  сумісна щільність розподілу двохмірної випадкової величини  Оскільки незалежні випадкові величини, то  і попередня формула прийме вигляд:

Знайдемо щільність імовірності  випадкової величини  Диференцюючи вираз (1.85) по  одержимо

Формули (88), (89) називають формулами композиції двох розподілів або формулами згортки, які у стислому запису мають вигляд

Математичне сподівання випадкової величини  (незалежно від того, чи будуть випадкові величини  і  незалежними), дорівнює

Дисперсія випадкової величини  обчислюється за формулою

Якщо випадкові величини  і  незалежні, то

Приклад 14.  Розглядається робота двох технічних пристроїв (ТП). Спочатку працює ТП-1; потім після його виходу із ладу (відмови) ввключається у роботу ТП-2. Терміни безвідмовної роботи ТП-1, ТП-2 – незалежні і розподілені за експоненціальними законами з параметрами  Отже, термін  безвідмовної роботи ТП, що складається із ТП-1 і ТП-2, буде визначатись за формулою

Треба знайти щільність розподілу випадкової величини  тобто композицію двох експоненціальних законів з параметрами

Алгоритм у Mathcad

5.4. Лінійна регресія

Розглянемо двохвимірну випадкову величину  де залежні випадкові величини. Наприклад, сигнали на вході і виході деякого пристрою. У багатьох випадках буває важливим представити одну із цих величин, наприклад  як функцію  іншої величини. Точне представлення  як правило, неможливе, тому виникає задача про можливість наближеного представлення величини  у вигляді лінійної функції величини X:

де параметри, які підлягають визначенню. Отже, потрібно знайти серед усіх можливих функцій  величини  таку, яка була б найкращим наближенням величини  Це можна зробити різними способами, але найбільш зручним і загальноприйнятим є наближення за методом найменших квадратів.

Функція  називається найкращім наближенням величини Y  у смислі методу найменших квадратів, якщо математичне сподівання  приймає найменше можливе значення; при цьому функція  називається середньою квадратичною регресією величини  на величину

Без доведення відмітимо, що у випадку нормального закону розподілу двохвимірної випадкової величини  середня квадратична  регресія  на  є лінійною функцією від Х. Таким чином, мінімальне значення величини  досягається у цьому випадку для деякої лінійної функції , яка, очевидно, є лінійною середньою квадратичною регресією  на

Нехай

коефіцієнт кореляції величин  Має місце така теорема.

Теорема. Лінійна середня квадратична регресія  величини  на величину  має вигляд:

Доведення. Введемо у розгляд функцію двох незалежних аргументів  і

Для доведення теореми знайдемо такі  при яких величина  приймає найменше із можливих значень. Маємо

Дослідимо функцію  на екстремум, для чого прирівняємо до нуля частинні похідні:

Неважко впевнитись, що при знайдених значеннях  і  функція  дійсно приймає найменше значення.

Отже, лінійна середня квадратична регресія  на  має вигляд

Коефіцієнт  називають коефіцієнтом регресії  на , а пряму

називають прямою середньої квадратичної регресії  на .

Підставивши знайдені значення  у вираз  одержимо його найменше значення, яке дорівнює  Цю величину називають залишковою дисперсією випадкової величини відносно випадкової величини . Залишкова дисперсія вимірює (у відповідності з принципом найменших квадратів) величину похибки, яка допускається при використанні наближеної рівності  При  залишкова дисперсія дорівнює нулю, іншими словами, при крайніх значеннях коефіцієнта кореляції не виникає похибки при представленні  у вигляді лінійної функції від

Отже, якщо коефіцієнт кореляції , то  зв’язані лінійною функціональною залежністю.

Аналогічно можна одержати пряму середньої квадратичної регресії  на

( – коефіцієнт регресії  на) і залишкову дисперсію  величини  відносно

Якщо , то обидві прямі регресії співпадають.

Із рівнянь (96) і (97) випливає, що обидві прямі регресії проходять через точку  яку називають центром сумісного розподілу величин

5.5. Лінійна кореляція. Нормальна кореляція

Розглянемо двохвимірну випадкову величину  Якщо обидві функції регресії  на  і  на  лінійні, то говорять, що  зв’язані лінійною кореляційною залежністю. Очевидно, що графіки лінійних функцій регресії – прямі лінії, причому можна показати, що вони співпадають з прямими середньої квадратичної регресії. Має місце наступна важлива теорема.

Теорема. Якщо двохвимірна випадкова величина  розподілена нормально, то  зв’язані лінійною кореляційною залежністю.

Доведення. Двохвимірна щільність імовірності нормального розподілу має вигляд

Щільність імовірності складових  і  визначаються за формулами

Знайдемо функцію регресії  для чого спочатку знайдемо умовний закон розподілу величини  при

Підставивши  у цю формулу і виконавши відповідні перетворення, одержимо

Одержаний умовний розподіл нормальний з математичним сподіванням  (функцією регресії  на )

і дисперсією

Аналогічно можна одержати функцію регресії  на  і відповідно дисперсію:

Оскільки обидві функції регресії лінійні, то кореляція між величинами  і  лінійна, що і потрібно було довести.

Приймаючи до уваги імовірнісний смисл параметрів двохвимірного розподілу, робимо висновок, що рівняння прямих регресії

співпадають з рівняннями прямих середньої квадратичної регресії.

6. Закон великих чисел і граничні теореми

Під законом великих чисел у широкому смислі розуміється загальний принцип, згідно якого, сукупна дія великої кількості випадкових величин при деяких досить загальних умовах приводить до результату, який перестає бути випадковим і може бути передбачений з великим ступенем визначеності.

Під законом великих чисел у вузькому смислі розуміється ряд математичних теорем,  які встановлюють  умови, при яких встановлюється факт наближення середніх  характеристик великої кількості випробувань до деяких  певних сталих величин. Раніш ніж розглянути ці теореми, наведемо нерівності Маркова і Чебишева.

Нерівність Маркова. Якщо випадкова величина Х  приймає тільки невід’ємні значення і має математичне сподівання, то для будь-якого невід’ємного числа   А вірна нерівність

Доведення. Доведення наведемо для дискретної випадкової величини Х. Розмістимо її значення у порядку зростання, із яких частина  будуть не більше числа А, а друга частина –  будуть більше А, тобто

Запишемо вираз для математичного сподівання

де імовірності того, що випадкова величина Х прийме значення відповідно

Відкидаючи перші  невід’ємних доданків, одержимо

Замінюючи у цій нерівності значення  меншим числом А, одержимо більш сильну нерівність

Сума ймовірностей у лівій частині одержаної нерівності представляє собою суму ймовірностей подій  тобто імовірність події  Тому

Нерівність Чебишева. Для будь-якої випадкової величини Х, яка має математичне сподівання і дисперсію, імовірність того, що відхилення Х від її математичного сподівання за абсолютною величиною більше будь-якого додатного числа  не більше ніж 

Доведення. Застосуємо нерівність Маркова до випадкової величини  узявши  Одержимо,

Оскільки нерівність  рівносильна нерівності   є дисперсія випадкової величини Х, то звідсіля одержуємо вказану нерівність Чебишева.

Враховуючи, що події  протилежні, нерівність Чебишева можна записати і в іншій формі:......

Теорема Чебишева. Нехай дана система  попарно незалежних величин випадкових величин , які мають математичні сподівання  і дисперсії, обмежені одним і тим же числом. Тоді при необмеженому зростанні числа  середня арифметична випадкових величин збігається за імовірністю до середньої арифметичної їх математичних сподівань:

Збіжність за імовірністю  у формулюванні теореми означає, що збіжність середньої арифметичної випадкових величин  до середньої арифметичної їх математичних сподівань  при  гарантується з імовірністю 1.

Підкреслимо смисл теореми теореми Чебишева. При великому числі випадкових величин  практично достовірно, що їх середнє  – величина випадкова, як завгодно мало відрізняється від невипадкової величини  , тобто практично перестає бути випадковою.

Наслідок. Якщо в умовах теореми Чебишева випадкові величини   мають однакові математичні сподівання, рівні , то відповідні формули збіжності мають вигляд:

Із теореми Чебишева випливає такий результат: якщо усі вимірювання проводяться з однаковою точністю, яка характеризується дисперсією , то дисперсія їх середньої арифметичної  дорівнює

а її середнє квадратичне відхилення дорівнює  Одержане відношення говорить про те, що середній очікуваний розкид середньої  вимірювань у  раз менше розкиду кожного вимірювання. Таким чином, збільшуючи кількість вимірювань, можна як завгодно зменшити вплив випадкових похибок, тобто збільшити точність визначення істинного значення досліджуваної величини .

Теорема Бернуллі. Відносна частота події в  повторних незалежних випробуваннях, у кожному із яких вона може відбутись з однією і тією ж імовірністю  при необмеженому збільшенні числа  збігається за імовірністю до імовірності  цієї події в окремому випробуванні:

Смисл теореми Бернуллі полягає у тому, що при великому числі  повторних незалежних випробувань практично достовірно, що частість (або статистична імовірність) події  – величина випадкова, як завгодно мало відрізняється від невипадкової величини  імовірності події, тобто практично перестає бути випадковою.

Теорема Бернуллі дає теоретичне обґрунтування заміни невідомої імовірності події її відносною частотою, або статистичною імовірністю, одержаною в  повторних незалежних випробуваннях, які проводяться при одному і тому ж комплексі умов.

Центральна гранична теорема. Розглянутий закон великих чисел встановлює факт наближення середньої великої кількості випадкових величин до певних постійних величин. Але цим не обмежуються закономірності, які виникають в результаті сумарної дії випадкових величин. Виявляється, що при деяких умовах сукупна дія випадкових величин приводить до певного, а саме, до нормального закону розподілу.

Центральна гранична теорема представляє собою групу теорем, які встановлюють умови, при яких виникає нормальний закон розподілу. Виняткове значення центральної граничної теореми пояснюється тим, що вона є теоретичною основою застосування нормального розподілу при розв’язанні багатьох практичних задач. Завжди, коли можна припустити, що розглядувана величина є сумою великої кількості випадкових факторів, вплив кожної із яких нехтовно малий, її розподіл буде близький до нормального.

Наведемо найпростіший варіант центральної граничної теореми, який відноситься до сум незалежних однаково розподілених доданків із скінченим математичним сподіванням і скінченою дисперсією. Саме цей варіант теореми служить основою для побудови різних асимптотичних оцінок вибіркових параметрів розподілів у статистичному аналізі.

Теорема. Нехай  – незалежні однаково розподілені випадкові величини із скінченими математичним сподіванням і дисперсією:

Величина  називається нормованою величиною  з математичним сподіванням 0 і середнім квадратичним відхиленням 1.

Тоді при  закон розподілу суми  для будь-якого  прямує до функції  стандартного нормального розподілу з математичним сподіванням  і середнім квадратичним відхиленням 1, тобто

де  – функція Лапласа.

Виявляється (у цьому і полягає зміст центральної граничної теореми для даного випадку), що закон розподілу нормованої суми   незалежних однаково розподілених випадкових величин, які мають скінчені математичне сподівання і дисперсію, який би не був закон розподілу доданків, прямує при  до стандартного нормального закону з параметрами 0 і 1. Ця властивість нормального закону лежить в основі його багаточисельних застосувань і робить зрозумілою ту роль, яку він відіграє в теорії ймовірностей.

Таким чином, центральна гранична теорема дає математично строгий опис умов, які індукують механізм нормального закону розподілу. Вона оправдовує

зокрема закономірність тієї центральної ролі, яку відіграє нормальний розподіл в теорії і практиці статистичних досліджень. Зміст центральної граничної теореми можна вважати подальшим (після закону великих чисел) уточненням стохастичної поведінки середньої арифметичної із ряду випадкових величин.

Послідовність випадкових величин , закон розподілу якої при  прямує до нормального закону, називається асимптотично нормальною.

Опираючись на центральну граничну теорему, можна стверджувати, що випадкові величини, розподілені за законами – біноміальним, Пуассона, гіпергеомет ричним, розподілом,  розподілом Стьюдента при  розподілені асимптотично нормально.

7. Основні закони розподілу

Наведемо основні закони розподілів дискретних (7.1–7.4) і неперервних (7.5 –7.15 ) випадкових величин, які використовуються для побудови імовірнісно-статистичних моделей різних явищ і процесів. У 7.12 – 7.14  розглядаються розподіли випадкових величин, які використовуються як допоміжні засоби при розв’язанні задач інтервального оцінювання параметрів розподілів і перевірки статистичних гіпотез.

З повагою ІЦ “KURSOVIKS”!