Індукти́вна стати́стика або статисти́чне висно́вування () — це процес застосування аналізу даних для встановлення властивостей розподілу ймовірностей, який лежить в їх основі.Upton, G., Cook, I. (2008) Oxford Dictionary of Statistics, OUP. Індуктивна статистика робить висновки про властивості генеральної сукупності, наприклад, шляхом перевірки гіпотез та отримування оцінок. Він виходить з припущення, що спостережувані дані є вибіркою з більшої сукупності.

Індуктивну статистику () можливо протиставляти описовій статистиці. Описова статистика цікавиться виключно властивостями спостережуваних даних, і не спирається на припущення, що ці дані походять із більшої сукупності.

Передмова

Індуктивна статистика створює інформацію про генеральну сукупність, використовуючи дані, вибрані з цієї сукупності за допомогою якогось виду відбору. Для заданої гіпотези про генеральну сукупність, про яку ми хочемо робити висновки, статистичне висновування складається з (по-перше) обирання статистичної моделі процесу, що породжує ці дані, та з (по-друге) виведення висловлень з цієї моделі.

Конісі та Кітагава стверджують, що «більшість задач індуктивної статистики можливо розглядати як задачі, пов'язані зі статистичним моделюванням». Стосовно цього сказав, що «як саме здійснюється [цей] переклад із предметної задачі до статистичної моделі, є часто найкритичнішою частиною аналізу.»

Висновком статистичного висновування є статистичне висловлення. Деякими з поширених видів статистичних висловлень є наступні:

точкова оцінка, тобто певне значення, що найкраще наближує деякий досліджуваний параметр; , наприклад, довірчий інтервал (або множинна оцінка), тобто інтервал, побудований з використанням набору даних, вибраного з генеральної сукупності, так, що при повторюваному відборі таких наборів даних такі інтервали міститимуть істинне значення параметру з імовірністю на заданому довірчому рівні; імовірний інтервал, тобто множина значень, що містить, наприклад, 95% апостеріорного переконання; відхилення гіпотез; кластерування або класифікація точок даних на групи.

Моделі та гіпотези

Статистичне висновування вимагає деяких припущень. Статисти́чна моде́ль є набором гіпотез стосовно породження спостережуваних даних, та схожих на них. Описи статистичних моделей зазвичай підкреслюють роль досліджуваних величин генеральних сукупностей, стосовно яких ми хочемо робити висновки. Як підготовчий крок перед отриманням формальніших висновків, як правило, використовують описову статистику.

Рівні моделей гіпотез

Статистики розрізняють три рівні моделювальних припущень:

Повністю параметричний: Розподіли ймовірностей, що описують процес породження даних, вважають повністю описаними сімейством розподілів імовірності, що включають лише обмежену кількість невідомих параметрів. Наприклад, можна припустити, що розподіл значень генеральної сукупності є істинно нормальним, з невідомими середнім значенням та дисперсією, і що набори даних породжуються «простим» випадковим вибиранням. Широко застосовуваним та гнучким класом параметричних моделей є . : Припущення стосовно процесу, що породжує дані, є значно меншими, ніж у параметричній статистиці, й можуть бути мінімальними.van der Vaart, A.W. (1998) Asymptotic Statistics Cambridge University Press. (page 341) Наприклад, кожен безперервний розподіл імовірності має медіану, яку може бути оцінено з використанням медіани вибірки, або , що має гарні властивості, коли дані походять з простого випадкового відбору. : Під цим терміном зазвичай мають на увазі припущення «посередині» між повністю параметричним та непараметричним підходами. Наприклад, можна припустити, що розподіл генеральної сукупності має скінченне середнє значення. Крім того, можна припустити, що рівень чутливості середнього значення в генеральній вибірці залежить істинно лінійним чином від деякої коваріати (параметричне припущення), але не робити жодного параметричного припущення, що описувало би дисперсію навколо цього середнього значення (тобто, про наявність або можливий вигляд будь-якої гетероскедастичності). Загальніше, напівпараметричні моделі часто можливо розділити на «структурну» складову, та складову «випадкової дисперсії». Одну складову обробляють параметрично, а іншу — непараметрично. Добре відома є набором напівпараметричних припущень.

Важливість чинності моделей/припущень

Якого б рівня припущення не робилися, правильно відкаліброване висновування в цілому вимагає, щоби ці припущення були правильними, тобто, щоби механізми породжування даних дійсно було вказано правильно.

Неправильні припущення про «просте» випадкове вибирання можуть зробити статистичне висновування нечинним. Наприклад, неправильне припущення про модель Кокса може в деяких випадках призвести до хибних висновків. (2008) "Survival analysis: An Epidemiological hazard?". The American Statistician (2008) 62: 110-119. (Reprinted as Chapter 11 (pages 169–192) of Freedman (2010)). Неправильні припущення про нормальність в генеральній сукупності також позбавляють чинності деякі види висновування на основі регресії.Berk, R. (2003) Regression Analysis: A Constructive Critique (Advanced Quantitative Techniques in the Social Sciences) (v. 11) Sage Publications. ISBN 0-7619-2904-5 Використання будь-якої параметричної моделі розглядається скептично більшістю експертів у відборі вибірок з людських сукупностей: «більшість статистиків, що роблять вибірки, коли мають справу з довірчими проміжками взагалі, то обмежують себе твердженнями [про оцінки] на основі дуже великих вибірок, коли центральна гранична теорема гарантує, що [оцінки] матимуть розподіли, що є майже нормальними». Зокрема, нормальний розподіл «був би абсолютно нереалістичним та катастрофічно нерозумним припущенням, якщо ми маємо справу з будь-яким типом економічної генеральної сукупності». Тут центральна гранична теорема стверджує, що розподіл середнього значення вибірки «для дуже великих вибірок» є розподіленим приблизно нормально, якщо цей розподіл має не .

Наближені розподіли

Враховуючи труднощі визначення точних розподілів статистик вибірки, було розроблено багато методів їхнього наближення.

При скінченних вибірках результати наближення вимірюють, наскільки близько граничний розподіл наближається до розподілу вибірки статистики: наприклад, із 10 000 незалежними зразками нормальний розподіл наближається (з двома цифрами точності) до розподілу вибіркового середнього для багатьох популярних розподілів, згідно .Jörgen Hoffman-Jörgensen's Probability With a View Towards Statistics, Volume I. Page 399 Тим не менше, для багатьох практичних цілей нормальне наближення дає добре наближення за наявності 10 (або більше) незалежних зразків, згідно із симуляційними дослідженнями та досвідом статистиків. Після праці Колмогорова в 1950-х роках передова статистика використовує теорію наближень та функціональний аналіз для кількісного вираження похибки наближення. У цьому підході досліджується метрична геометрія розподілів ймовірностей; цей підхід виражає похибку наближення за допомогою, наприклад, розходження Кульбака — Лейблера, та .Erik Torgerson (1991) Comparison of Statistical Experiments, volume 36 of Encyclopedia of Mathematics. Cambridge University Press.

Для нескінченно великих вибірок граничний розподіл вибіркової статистики, якщо такий існує, описують , такі як центральна гранична теорема. Граничні результати не є твердженнями про скінченні вибірки, і дійсно є недоречними для них. Тим не менш, асимптотичну теорію граничних розподілів часто залучають для роботи зі скінченними вибірками. Наприклад, граничні результати часто залучають для обґрунтування та для використання , що є популярними в економетрії та біологічній статистиці. Величину різниці між граничним та істинним розподілами (формально, «похибку» апроксимації) може бути оцінено із застосуванням симуляції. Евристичне застосування граничних результатів до скінченних вибірок є поширеною практикою в багатьох застосуваннях, особливо з моделями невисокої розмірності з логарифмічно угнутими правдоподібностями (такими як однопараметричні ).

Моделі на основі рандомізації

Для заданого набору даних, що було вироблено за планування з рандомізацією, розподіл рандомізації статистики (за нульової гіпотези) визначає оцінка статистики критерію для всіх планів, що може бути породжено цим плануванням з рандомізацією. У частотницькому висновуванні рандомізація дозволяє висновуванням ґрунтуватися на розподілі рандомізації, а не на суб'єктивній моделі, і це є особливо важливим у та плануванні експериментів.Neyman, J. (1934) "On the two different aspects of the representative method: The method of stratified sampling and the method of purposive selection", , 97 (4), 557–625 Статистичне висновування із рандомізованих досліджень є також простішим і в багатьох інших ситуаціях.ASA Guidelines for a first course in statistics for non-statisticians. (available at the ASA website) et alia's Statistics. Рандомізація є важливою і в баєсовім висновуванні: у застосування забезпечує вибірки з генеральною сукупністю; в рандомізованих експериментах рандомізація гарантує припущення для інформації про коваріату. et al. (2013). Bayesian Data Analysis (Chapman & Hall).

Об'єктивна рандомізація дозволяє правильні індуктивні процедури. Statistical Models (1997) Statistics and Truth: Putting Chance to Work, World Scientific. Багато статистиків віддають перевагу аналізу на основі рандомізації для даних, що було породжено чітко визначеними рандомізаційними процедурами.Peirce; Freedman; Moore et al. (2015). (Тим не менше, правдою є й те, що в галузях науки із розвиненими теоретичними знаннями та керуванням експериментами рандомізовані експерименти можуть збільшувати витрати на експериментування без поліпшення якості висновків.Box, G.E.P. and Friends (2006) Improving Almost Anything: Ideas and Essays, Revised Edition, Wiley. ) Так само, результати рандомізованих експериментів рекомендуються провідними статистичними органами як такі, що можуть уможливлювати висновування з більшою надійністю, ніж спостережні дослідження тих самих явищ.ASA Guidelines for a first course in statistics for non-statisticians. (available at the ASA website) David A. Freedman et alia's Statistics. Moore et al. (2015). Тим не менше, добре спостережне дослідження може бути кращим за поганий рандомізований експеримент.

Статистичний аналіз рандомізованого експерименту може ґрунтуватися на схемі рандомізації, визначеній у протоколі експерименту, і не потребує суб'єктивної моделі.Neyman, Jerzy. 1923 . "On the Application of Probability Theory to AgriculturalExperiments. Essay on Principles. Section 9." Statistical Science 5 (4): 465–472. Trans. and Terence P. Speed.

Проте, як би там не було, деякі гіпотези неможливо перевіряти із застосуванням об'єктивних статистичних моделей, що точно описують рандомізовані експерименти або випадкові вибірки. В деяких випадках такі рандомізовані дослідження є неекономічними або неетичними.

Аналіз рандомізованих експериментів на основі моделей

Стандартною практикою при аналізі даних з рандомізованих експериментів є посилатися на статистичну модель, наприклад, лінійну або логістичну. Проте схема рандомізації направляє обирання статистичної моделі. Неможливо вибрати підхожу модель, не знаючи схеми рандомізації. Ігноруючи протокол експерименту при аналізі даних з рандомізованих експериментів, можна отримати небезпечно оманливі результати; поширені помилки включають забування блокування, що використовується в експерименті, та сплутування повторюваних вимірювань на одній і тій же експериментальній одиниці з незалежними повторами обробки, застосовуваної до різних експериментальних одиниць.

Безмодельне рандомізоване висновування