Виды ошибок при проверке гипотез

1. Ошибки при проверке гипотез

Принятие
решения на основе статистического
критерия носит случайный характер,
поэтому не исключены ошибки. Возможны
следующие ситуации.

1.
Гипотеза

верна, и она не отвергается.
Все в порядке: наше решение отражает
истинное положение.

2.
Гипотеза

верна, но она
отвергается.
В этом случае говорят, что допущена
ошибка I
рода. Поскольку
нулевая гипотеза верна, статистика Z
действительно имеет то распределение,
на основании которого принималось
решение. Тем не менее выборочное значение
статистики попало в критическую область.
Вероятность этого события по определению
равна уровню значимости
.

Вероятность
ошибки I
рода равна уровню значимости критерия.

Но
уровень значимости задается произвольно.
Поэтому в нашей власти снизить вероятность
ошибки I
рода до сколь угодно низкого уровня.

3.
Гипотеза

неверна, и она отвергается.
Снова все в порядке: отвергнута неверная
гипотеза.

4.
Гипотеза

неверна, но она не отвергается.
Тогда говорят, что допущена ошибка
II
рода. В этой
ситуации выборочное значение попало в
область принятия решения, тогда как
гипотеза

на самом деле неверна. Если распределение
статистики Z
известно и в предположении, что верна
альтернативная гипотеза
,
то можно посчитать вероятность ошибки
II
рода: это условная вероятность того,
что Z
попадает в область

при условии, что верна гипотеза
.
Вероятность ошибки II
рода обычно обозначают через

.

В
большинстве случаев нельзя добиться
минимального значения вероятностей

и

одновременно.
Поступают обычно следующим образом:
вероятность

ошибки I
рода фиксируется, а затем добиваются
минимума вероятности

ошибки II
рода. За счет чего можно уменьшить

при фиксированном значении
?
Только за счет выбора критической
области: при заданной альтернативе

критическую область выбирают таким
образом, чтобы значение

(вероятность принять неверную гипотезу)
было наименьшим из возможных. В этом
случае вероятность отвергнуть неверную
гипотезу

максимальна. Это число называют мощностью
критерия.
Таким образом, задача состоит в построении
наиболее
мощного критерия
при заданном уровне значимости.

1. Проверка гипотезы о функции распределения.

Пусть

— выборка
наблюдений некоторой случайной величины
.

Гипотеза:
:
генеральная совокупность имеет функцию
распределения F(x)

против альтернативы,
что функция распределения не такова.

За
меру расхождения примем величину

Теорема
(Пирсона).
Пусть
т параметров
функции распределения
оцениваются по выборке. Тогда прираспределение меры расхождениястремится к распределениюсстепенями свободы

.

1. Однофакторный дисперсионный анализ

Пусть
результаты наблюдений составляют k
независимых выборок (групп), полученных
из k
нормально распределенных генеральных
совокупностей, которые имеют, вообще
говоря, различные средние
.
Каждая группа содержитзначений,.
Общее число наблюдений равно:

Проверяется
гипотеза о равенстве средних во всех k
выборках:

Нулевая
гипотеза является сложной: предполагается
лишь, что математические ожидания
совпадают, о конкретном значении ничего
не известно. Альтернативная гипотеза
состоит в том, что хотя бы две выборки
имеют различные средние.

Обозначим
через
-й
элемент j-й выборки,.
Групповое
среднее
:

Общее среднее

Основное тождество
дисперсионного анализа

Общая
сумма квадратов отклонений от среднего
есть сумма квадратов между группами
плюс сумма квадратов внутри групп.

.

,

Теорема
Если нулевая
гипотеза верна, то случайные величины,имеют распределениесоответственно с
и
степенями свободы.

Если
нулевая гипотеза верна, то случайная
величина
распределена по закону Фишера с,

степенями свободы.

Распределение
Фишера строится на основе распределения
:

При
заданном уровне значимости а
критическая область находится на правом
хвосте распределения

Фишера, то
есть правее квантили порядка

Фактор,
в соответствии с которым сгруппированы
данные, можно признать статистически
значимым, если выборочное значение
статистики F удовлетворяет неравенству

.

В
этом случае гипотеза о равенстве
математических ожиданий не подтверждается
экспериментальными данными.

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]

• #
• #
• #
• #
• #
• #
• #
• #
• #
• #
• #

This article is about erroneous outcomes of statistical tests. For closely related concepts in binary classification and testing generally, see false positives and false negatives.

In statistical hypothesis testing, a type I error is the mistaken rejection of a null hypothesis that is actually true. A type I error is also known as a «false positive» finding or conclusion; example: «an innocent person is convicted». A type II error is the failure to reject a null hypothesis that is actually false. A type II error is also known as a «false negative» finding or conclusion; example: «a guilty person is not convicted».^[1] Much of statistical theory revolves around the minimization of one or both of these errors, though the complete elimination of either is a statistical impossibility if the outcome is not determined by a known, observable causal process.
By selecting a low threshold (cut-off) value and modifying the alpha (α) level, the quality of the hypothesis test can be increased.^{[citation needed]} The knowledge of type I errors and type II errors is widely used in medical science, biometrics and computer science.^{[clarification needed]}

Intuitively, type I errors can be thought of as errors of commission (i.e., the researcher unluckily concludes that something is the fact). For instance, consider a study where researchers compare a drug with a placebo. If the patients who are given the drug get better than the patients given the placebo by chance, it may appear that the drug is effective, but in fact the conclusion is incorrect.
In reverse, type II errors are errors of omission. In the example above, if the patients who got the drug did not get better at a higher rate than the ones who got the placebo, but this was a random fluke, that would be a type II error. The consequence of a type II error depends on the size and direction of the missed determination and the circumstances. An expensive cure for one in a million patients may be inconsequential even if it truly is a cure.

Definition[edit]

Statistical background[edit]

In statistical test theory, the notion of a statistical error is an integral part of hypothesis testing. The test goes about choosing about two competing propositions called null hypothesis, denoted by H₀ and alternative hypothesis, denoted by H₁. This is conceptually similar to the judgement in a court trial. The null hypothesis corresponds to the position of the defendant: just as he is presumed to be innocent until proven guilty, so is the null hypothesis presumed to be true until the data provide convincing evidence against it. The alternative hypothesis corresponds to the position against the defendant. Specifically, the null hypothesis also involves the absence of a difference or the absence of an association. Thus, the null hypothesis can never be that there is a difference or an association.

If the result of the test corresponds with reality, then a correct decision has been made. However, if the result of the test does not correspond with reality, then an error has occurred. There are two situations in which the decision is wrong. The null hypothesis may be true, whereas we reject H₀. On the other hand, the alternative hypothesis H₁ may be true, whereas we do not reject H₀. Two types of error are distinguished: type I error and type II error.^[2]

Type I error[edit]

The first kind of error is the mistaken rejection of a null hypothesis as the result of a test procedure. This kind of error is called a type I error (false positive) and is sometimes called an error of the first kind. In terms of the courtroom example, a type I error corresponds to convicting an innocent defendant.

Type II error[edit]

The second kind of error is the mistaken failure to reject the null hypothesis as the result of a test procedure. This sort of error is called a type II error (false negative) and is also referred to as an error of the second kind. In terms of the courtroom example, a type II error corresponds to acquitting a criminal.^[3]

Crossover error rate[edit]

The crossover error rate (CER) is the point at which type I errors and type II errors are equal. A system with a lower CER value provides more accuracy than a system with a higher CER value.

False positive and false negative[edit]

In terms of false positives and false negatives, a positive result corresponds to rejecting the null hypothesis, while a negative result corresponds to failing to reject the null hypothesis; «false» means the conclusion drawn is incorrect. Thus, a type I error is equivalent to a false positive, and a type II error is equivalent to a false negative.

Table of error types[edit]

Tabularised relations between truth/falseness of the null hypothesis and outcomes of the test:^[4]

Table of error types	Null hypothesis (H0) is
True	False
Decision about null hypothesis (H0)	Fail to reject	Correct inference (true negative) (probability = 1−α)	Type II error (false negative) (probability = β)
Reject	Type I error (false positive) (probability = α)	Correct inference (true positive) (probability = 1−β)

Error rate[edit]

A perfect test would have zero false positives and zero false negatives. However, statistical methods are probabilistic, and it cannot be known for certain whether statistical conclusions are correct. Whenever there is uncertainty, there is the possibility of making an error. Considering this nature of statistics science, all statistical hypothesis tests have a probability of making type I and type II errors.^{[citation needed]}

• The type I error rate is the probability of rejecting the null hypothesis given that it is true. The test is designed to keep the type I error rate below a prespecified bound called the significance level, usually denoted by the Greek letter α (alpha) and is also called the alpha level. Usually, the significance level is set to 0.05 (5%), implying that it is acceptable to have a 5% probability of incorrectly rejecting the true null hypothesis.^[5]
• The rate of the type II error is denoted by the Greek letter β (beta) and related to the power of a test, which equals 1−β.^{[citation needed]}

These two types of error rates are traded off against each other: for any given sample set, the effort to reduce one type of error generally results in increasing the other type of error.^{[citation needed]}

The quality of hypothesis test[edit]

The same idea can be expressed in terms of the rate of correct results and therefore used to minimize error rates and improve the quality of hypothesis test. To reduce the probability of committing a type I error, making the alpha value more stringent is quite simple and efficient. To decrease the probability of committing a type II error, which is closely associated with analyses’ power, either increasing the test’s sample size or relaxing the alpha level could increase the analyses’ power.^{[citation needed]} A test statistic is robust if the type I error rate is controlled.

Varying different threshold (cut-off) value could also be used to make the test either more specific or more sensitive, which in turn elevates the test quality. For example, imagine a medical test, in which an experimenter might measure the concentration of a certain protein in the blood sample. The experimenter could adjust the threshold (black vertical line in the figure) and people would be diagnosed as having diseases if any number is detected above this certain threshold. According to the image, changing the threshold would result in changes in false positives and false negatives, corresponding to movement on the curve.^{[citation needed]}

Example[edit]

Since in a real experiment it is impossible to avoid all type I and type II errors, it is important to consider the amount of risk one is willing to take to falsely reject H₀ or accept H₀. The solution to this question would be to report the p-value or significance level α of the statistic. For example, if the p-value of a test statistic result is estimated at 0.0596, then there is a probability of 5.96% that we falsely reject H₀. Or, if we say, the statistic is performed at level α, like 0.05, then we allow to falsely reject H₀ at 5%. A significance level α of 0.05 is relatively common, but there is no general rule that fits all scenarios.

Vehicle speed measuring[edit]

The speed limit of a freeway in the United States is 120 kilometers per hour (75 mph). A device is set to measure the speed of passing vehicles. Suppose that the device will conduct three measurements of the speed of a passing vehicle, recording as a random sample X₁, X₂, X₃. The traffic police will or will not fine the drivers depending on the average speed . That is to say, the test statistic

In addition, we suppose that the measurements X₁, X₂, X₃ are modeled as normal distribution N(μ,4). Then, T should follow N(μ,4/3) and the parameter μ represents the true speed of passing vehicle. In this experiment, the null hypothesis H₀ and the alternative hypothesis H₁ should be

H₀: μ=120     against      H₁: μ>120.

If we perform the statistic level at α=0.05, then a critical value c should be calculated to solve

According to change-of-units rule for the normal distribution. Referring to Z-table, we can get

Here, the critical region. That is to say, if the recorded speed of a vehicle is greater than critical value 121.9, the driver will be fined. However, there are still 5% of the drivers are falsely fined since the recorded average speed is greater than 121.9 but the true speed does not pass 120, which we say, a type I error.

The type II error corresponds to the case that the true speed of a vehicle is over 120 kilometers per hour but the driver is not fined. For example, if the true speed of a vehicle μ=125, the probability that the driver is not fined can be calculated as

which means, if the true speed of a vehicle is 125, the driver has the probability of 0.36% to avoid the fine when the statistic is performed at level α=0.05, since the recorded average speed is lower than 121.9. If the true speed is closer to 121.9 than 125, then the probability of avoiding the fine will also be higher.

The tradeoffs between type I error and type II error should also be considered. That is, in this case, if the traffic police do not want to falsely fine innocent drivers, the level α can be set to a smaller value, like 0.01. However, if that is the case, more drivers whose true speed is over 120 kilometers per hour, like 125, would be more likely to avoid the fine.

Etymology[edit]

In 1928, Jerzy Neyman (1894–1981) and Egon Pearson (1895–1980), both eminent statisticians, discussed the problems associated with «deciding whether or not a particular sample may be judged as likely to have been randomly drawn from a certain population»:^[6] and, as Florence Nightingale David remarked, «it is necessary to remember the adjective ‘random’ [in the term ‘random sample’] should apply to the method of drawing the sample and not to the sample itself».^[7]

They identified «two sources of error», namely:

(a) the error of rejecting a hypothesis that should have not been rejected, and

(b) the error of failing to reject a hypothesis that should have been rejected.

In 1930, they elaborated on these two sources of error, remarking that:

…in testing hypotheses two considerations must be kept in view, we must be able to reduce the chance of rejecting a true hypothesis to as low a value as desired; the test must be so devised that it will reject the hypothesis tested when it is likely to be false.

In 1933, they observed that these «problems are rarely presented in such a form that we can discriminate with certainty between the true and false hypothesis» . They also noted that, in deciding whether to fail to reject, or reject a particular hypothesis amongst a «set of alternative hypotheses», H₁, H₂…, it was easy to make an error:

…[and] these errors will be of two kinds:

(I) we reject H₀ [i.e., the hypothesis to be tested] when it is true,^[8]

(II) we fail to reject H₀ when some alternative hypothesis H_A or H₁ is true. (There are various notations for the alternative).

In all of the papers co-written by Neyman and Pearson the expression H₀ always signifies «the hypothesis to be tested».

In the same paper they call these two sources of error, errors of type I and errors of type II respectively.^[9]

[edit]

Null hypothesis[edit]

It is standard practice for statisticians to conduct tests in order to determine whether or not a «speculative hypothesis» concerning the observed phenomena of the world (or its inhabitants) can be supported. The results of such testing determine whether a particular set of results agrees reasonably (or does not agree) with the speculated hypothesis.

On the basis that it is always assumed, by statistical convention, that the speculated hypothesis is wrong, and the so-called «null hypothesis» that the observed phenomena simply occur by chance (and that, as a consequence, the speculated agent has no effect) – the test will determine whether this hypothesis is right or wrong. This is why the hypothesis under test is often called the null hypothesis (most likely, coined by Fisher (1935, p. 19)), because it is this hypothesis that is to be either nullified or not nullified by the test. When the null hypothesis is nullified, it is possible to conclude that data support the «alternative hypothesis» (which is the original speculated one).

The consistent application by statisticians of Neyman and Pearson’s convention of representing «the hypothesis to be tested» (or «the hypothesis to be nullified») with the expression H₀ has led to circumstances where many understand the term «the null hypothesis» as meaning «the nil hypothesis» – a statement that the results in question have arisen through chance. This is not necessarily the case – the key restriction, as per Fisher (1966), is that «the null hypothesis must be exact, that is free from vagueness and ambiguity, because it must supply the basis of the ‘problem of distribution,’ of which the test of significance is the solution.»^[10] As a consequence of this, in experimental science the null hypothesis is generally a statement that a particular treatment has no effect; in observational science, it is that there is no difference between the value of a particular measured variable, and that of an experimental prediction.^{[citation needed]}

Statistical significance[edit]

If the probability of obtaining a result as extreme as the one obtained, supposing that the null hypothesis were true, is lower than a pre-specified cut-off probability (for example, 5%), then the result is said to be statistically significant and the null hypothesis is rejected.

British statistician Sir Ronald Aylmer Fisher (1890–1962) stressed that the «null hypothesis»:

… is never proved or established, but is possibly disproved, in the course of experimentation. Every experiment may be said to exist only in order to give the facts a chance of disproving the null hypothesis.

— Fisher, 1935, p.19

Application domains[edit]

Medicine[edit]

In the practice of medicine, the differences between the applications of screening and testing are considerable.

Medical screening[edit]

Screening involves relatively cheap tests that are given to large populations, none of whom manifest any clinical indication of disease (e.g., Pap smears).

Testing involves far more expensive, often invasive, procedures that are given only to those who manifest some clinical indication of disease, and are most often applied to confirm a suspected diagnosis.

For example, most states in the USA require newborns to be screened for phenylketonuria and hypothyroidism, among other congenital disorders.

Hypothesis: «The newborns have phenylketonuria and hypothyroidism»

Null Hypothesis (H₀): «The newborns do not have phenylketonuria and hypothyroidism»,

Type I error (false positive): The true fact is that the newborns do not have phenylketonuria and hypothyroidism but we consider they have the disorders according to the data.

Type II error (false negative): The true fact is that the newborns have phenylketonuria and hypothyroidism but we consider they do not have the disorders according to the data.

Although they display a high rate of false positives, the screening tests are considered valuable because they greatly increase the likelihood of detecting these disorders at a far earlier stage.

The simple blood tests used to screen possible blood donors for HIV and hepatitis have a significant rate of false positives; however, physicians use much more expensive and far more precise tests to determine whether a person is actually infected with either of these viruses.

Perhaps the most widely discussed false positives in medical screening come from the breast cancer screening procedure mammography. The US rate of false positive mammograms is up to 15%, the highest in world. One consequence of the high false positive rate in the US is that, in any 10-year period, half of the American women screened receive a false positive mammogram. False positive mammograms are costly, with over $100 million spent annually in the U.S. on follow-up testing and treatment. They also cause women unneeded anxiety. As a result of the high false positive rate in the US, as many as 90–95% of women who get a positive mammogram do not have the condition. The lowest rate in the world is in the Netherlands, 1%. The lowest rates are generally in Northern Europe where mammography films are read twice and a high threshold for additional testing is set (the high threshold decreases the power of the test).

The ideal population screening test would be cheap, easy to administer, and produce zero false-negatives, if possible. Such tests usually produce more false-positives, which can subsequently be sorted out by more sophisticated (and expensive) testing.

Medical testing[edit]

False negatives and false positives are significant issues in medical testing.

Hypothesis: «The patients have the specific disease».

Null hypothesis (H₀): «The patients do not have the specific disease».

Type I error (false positive): «The true fact is that the patients do not have a specific disease but the physicians judges the patients was ill according to the test reports».

False positives can also produce serious and counter-intuitive problems when the condition being searched for is rare, as in screening. If a test has a false positive rate of one in ten thousand, but only one in a million samples (or people) is a true positive, most of the positives detected by that test will be false. The probability that an observed positive result is a false positive may be calculated using Bayes’ theorem.

Type II error (false negative): «The true fact is that the disease is actually present but the test reports provide a falsely reassuring message to patients and physicians that the disease is absent».

False negatives produce serious and counter-intuitive problems, especially when the condition being searched for is common. If a test with a false negative rate of only 10% is used to test a population with a true occurrence rate of 70%, many of the negatives detected by the test will be false.

This sometimes leads to inappropriate or inadequate treatment of both the patient and their disease. A common example is relying on cardiac stress tests to detect coronary atherosclerosis, even though cardiac stress tests are known to only detect limitations of coronary artery blood flow due to advanced stenosis.

Biometrics[edit]

Biometric matching, such as for fingerprint recognition, facial recognition or iris recognition, is susceptible to type I and type II errors.

Hypothesis: «The input does not identify someone in the searched list of people»

Null hypothesis: «The input does identify someone in the searched list of people»

Type I error (false reject rate): «The true fact is that the person is someone in the searched list but the system concludes that the person is not according to the data».

Type II error (false match rate): «The true fact is that the person is not someone in the searched list but the system concludes that the person is someone whom we are looking for according to the data».

The probability of type I errors is called the «false reject rate» (FRR) or false non-match rate (FNMR), while the probability of type II errors is called the «false accept rate» (FAR) or false match rate (FMR).

If the system is designed to rarely match suspects then the probability of type II errors can be called the «false alarm rate». On the other hand, if the system is used for validation (and acceptance is the norm) then the FAR is a measure of system security, while the FRR measures user inconvenience level.

Security screening[edit]

False positives are routinely found every day in airport security screening, which are ultimately visual inspection systems. The installed security alarms are intended to prevent weapons being brought onto aircraft; yet they are often set to such high sensitivity that they alarm many times a day for minor items, such as keys, belt buckles, loose change, mobile phones, and tacks in shoes.

Here, the null hypothesis is that the item is not a weapon, while the alternative hypothesis is that the item is a weapon.

A type I error (false positive): «The true fact is that the item is not a weapon but the system still alarms».

Type II error (false negative) «The true fact is that the item is a weapon but the system keeps silent at this time».

The ratio of false positives (identifying an innocent traveler as a terrorist) to true positives (detecting a would-be terrorist) is, therefore, very high; and because almost every alarm is a false positive, the positive predictive value of these screening tests is very low.

The relative cost of false results determines the likelihood that test creators allow these events to occur. As the cost of a false negative in this scenario is extremely high (not detecting a bomb being brought onto a plane could result in hundreds of deaths) whilst the cost of a false positive is relatively low (a reasonably simple further inspection) the most appropriate test is one with a low statistical specificity but high statistical sensitivity (one that allows a high rate of false positives in return for minimal false negatives).

Computers[edit]

The notions of false positives and false negatives have a wide currency in the realm of computers and computer applications, including computer security, spam filtering, Malware, Optical character recognition and many others.

For example, in the case of spam filtering the hypothesis here is that the message is a spam.

Thus, null hypothesis: «The message is not a spam».

Type I error (false positive): «Spam filtering or spam blocking techniques wrongly classify a legitimate email message as spam and, as a result, interferes with its delivery».

While most anti-spam tactics can block or filter a high percentage of unwanted emails, doing so without creating significant false-positive results is a much more demanding task.

Type II error (false negative): «Spam email is not detected as spam, but is classified as non-spam». A low number of false negatives is an indicator of the efficiency of spam filtering.

See also[edit]

References[edit]

Bibliography[edit]

External links[edit]

• Bias and Confounding – presentation by Nigel Paneth, Graduate School of Public Health, University of Pittsburgh

Ошибки I и II рода при проверке гипотез, мощность

Общий обзор

Принятие неправильного решения

Мощность и связанные факторы

Проверка множественных гипотез

Общий обзор

Большинство проверяемых гипотез сравнивают между собой группы объектов, которые испытывают влияние различных факторов.

Например, можно сравнить эффективность двух видов лечения, чтобы сократить 5-летнюю смертность от рака молочной железы. Для данного исхода (например, смерть) сравнение, представляющее интерес (напри­мер, различные показатели смертности через 5 лет), называют эффектом или, если уместно, эффектом лечения.

Нулевую гипотезу выражают как отсутствие эффекта (например 5-летняя смертность от рака мо­лочной железы одинаковая в двух группах, получаю­щих разное лечение); двусторонняя альтернативная гипотеза будет означать, что различие эффектов не равно нулю.

Критериальная проверка гипотезы дает возможность определить, достаточно ли аргументов, чтобы отвергнуть нулевую гипотезу. Можно принять только одно из двух решений:

1. отвергнуть нулевую гипотезу и принять альтер­нативную гипотезу
   
2. остаться в рамках нулевой гипотезы

Важно: В литературе достаточно часто встречается понятие «принять нулевую гипотезу». Хотелось бы внести ясность, что со статистической точки зрения принять нулевую гипотезу невозможно, т.к. нулевая гипотеза представляет собой достаточно строгое утверждение (например, средние значения в сравниваемых группах равны ).

Поэтому фразу о принятии нулевой гипотезы следует понимать как то, что мы просто остаемся в рамках гипотезы.

Принятие неправильного решения

Возможно неправильное решение, когда отвергают/не отвергают нулевую гипотезу, потому что есть только выборочная информация.

	Верная гипотеза
H0	H1
Результат  применения  критерия	H0	H0 верно принята	H0 неверно принята  (Ошибка второго рода)
H1	H0 неверно отвергнута  (Ошибка первого рода)	H0 верно отвергнута

Ошибка 1-го рода: нулевую гипотезу отвергают, когда она истинна, и делают вывод, что имеется эффект, когда в действительности его нет. Максимальный шанс (вероятность) допустить ошибку 1-го рода обозначается α (альфа). Это уровень значимости критерия; нулевую гипотезу отвергают, если наше значение p ниже уровня значимости, т. е., если p < α.

Следует принять решение относительно значения а прежде, чем будут собраны данные; обычно назначают условное значение 0,05, хотя можно выбрать более ограничивающее значение, например 0,01.

Шанс допустить ошибку 1-го рода никогда не превысит выбранного уровня значимости, скажем α = 0,05, так как нулевую гипотезу отвергают только тогда, когда p< 0,05. Если обнаружено, что p > 0,05, то нулевую гипотезу не отвергнут и, следовательно, не допустят ошибки 1-го рода.

Ошибка 2-го рода: не отвергают нулевую гипотезу, когда она ложна, и делают вывод, что нет эффекта, тогда как в действительности он существует. Шанс возникновения ошибки 2-го рода обозначается β (бета); а величина (1-β) называется мощностью критерия.

Следовательно, мощность — это вероятность отклонения нулевой гипотезы, когда она ложна, т.е. это шанс (обычно выраженный в процентах) обнаружить реальный эффект лечения в выборке данного объема как статистически значимый.

В идеале хотелось бы, чтобы мощность критерия составляла 100%; однако это невозможно, так как всегда остается шанс, хотя и незначительный, допустить ошибку 2-го рода.

К счастью, известно, какие факторы влияют на мощность и, таким образом, можно контролировать мощность критерия, рассматривая их.

Мощность и связанные факторы

Планируя исследование, необходимо знать мощность предложенного критерия. Очевидно, можно начинать исследование, если есть «хороший» шанс обнаружить уместный эффект, если таковой существует (под «хорошим» мы подразумеваем, что мощность должна быть по крайней мере 70-80%).

Этически безответственно начинать исследование, у которого, скажем, только 40% вероятности обнаружить реальный эффект лечения; это бесполезная трата времени и денежных средств.

Ряд факторов имеют прямое отношение к мощности критерия.

Объем выборки: мощность критерия увеличивается по мере увеличения объема выборки. Это означает, что у большей выборки больше возможностей, чем у незначительной, обнаружить важный эффект, если он существует.

Когда объем выборки небольшой, у критерия может быть недостаточно мощности, чтобы обнаружить отдельный эффект. Эти методы также можно использовать для оценки мощности критерия для точно установленного объема выборки.

Вариабельность наблюдений: мощность увеличивается по мере того, как вариабельность наблюдений уменьшается.

Интересующий исследователя эффект: мощность критерия больше для более высоких эффектов. Критерий проверки гипотез имеет больше шансов обнаружить значительный реальный эффект, чем незначительный.

Уровень значимости: мощность будет больше, если уровень значимости выше (это эквивалентно увеличению допущения ошибки 1-го рода, α, а допущение ошибки 2-го рода, β, уменьшается).

Таким образом, вероятнее всего, исследователь обнаружит реальный эффект, если на стадии планирования решит, что будет рассматривать значение р как значимое, если оно скорее будет меньше 0,05, чем меньше 0,01.

Обратите внимание, что проверка ДИ для интересующего эффекта указывает на то, была ли мощность адекватной. Большой доверительный интервал следует из небольшой выборки и/или набора данных с существенной вариабельностью и указывает на недостаточную мощность.

Проверка множественных гипотез

Часто нужно выполнить критериальную проверку значимости множественных гипотез на наборе данных с многими переменными или существует более двух видов лечения.

Ошибка 1-го рода драматически увеличивается по мере увеличения числа сравнений, что приводит к ложным выводам относительно гипотез. Следовательно, следует проверить только небольшое число гипотез, выбранных для достижения первоначальной цели исследования и точно установленных априорно.

Можно использовать какую-нибудь форму апостериорного уточнения значения р, принимая во внимание число выполненных проверок гипотез.

Например, при подходе Бонферрони (его часто считают довольно консервативным) умножают каждое значение р на число выполненных проверок; тогда любые решения относительно значимости будут основываться на этом уточненном значении р.

Связанные определения:
p-уровень
Альтернативная гипотеза, альтернатива
Альфа-уровень
Бета-уровень
Гипотеза
Двусторонний критерий
Критерий для проверки гипотезы
Критическая область проверки гипотезы
Мощность
Мощность исследования
Мощность статистического критерия
Нулевая гипотеза
Односторонний критерий
Ошибка I рода
Ошибка II рода
Статистика критерия
Эквивалентные статистические критерии

В начало

Содержание портала

Гипотеза с точки зрения статистики — это предположение о событии, пропорция, основанная на рассуждениях. Проверка гипотез — это статистический метод, используемый для принятия решений с использованием экспериментальных данных. По сути, мы предполагаем результат, используя некоторые параметры для постановки задачи.

Не поняли? В ПОРЯДКЕ…

Предположим, вы управляете фармацевтической компанией и запускаете лекарство, которое находится на рынке довольно долгое время. Теперь вы хотите знать, сколько процентов населения Индии употребляет этот препарат, когда у них есть связанные заболевания, чтобы спрогнозировать его производство в будущем. Первое, что придет вам в голову, — это обследовать все население Индии и получить от них подробности.

Это непрактично. Работа будет утомительной и сложной. Так что же делать?

Итак, вы начали брать небольшие группы населения по всей Индии, учитывая множество факторов. Эти небольшие группы людей называются образцами. Согласно существующим данным и продажам, у вас есть предположение, что 20% населения Индии употребляет наркотик, и теперь вам необходимо подтвердить это предположение, используя эти образцы (обычно составляют 10% от общей численности населения, и необходимо более 30 образцов). быть взяты). Это предположение о наркотиках, основанное на рассуждениях, называется гипотезой, а метод проверки этой гипотезы — проверкой гипотез.

Ниже я нарисовал блок-схему, чтобы продемонстрировать, как проводится проверка гипотез?

Типы гипотез:

Существуют различные типы гипотез, такие как простые, сложные, логические, статистические и т. Д. В общем, существует два типа.

1. Нулевая гипотеза (Ho): утверждает, что нет связи между двумя переменными / выборками или отсутствует информация для утверждения научной гипотезы. Предполагается, что это правда, если не доказано обратное.
2. Альтернативная гипотеза (H1): В отличие от нулевой гипотезы, альтернативная гипотеза показывает, что наблюдения являются результатом реального эффекта. Это попытка опровергнуть нулевую гипотезу, когда мы получаем достаточно доказательств, чтобы отвергнуть ее. Это также называется исследовательской гипотезой.

Вернемся к приведенному выше примеру. Предположим, вы запускаете новый препарат, похожий на существующий, и предполагаете, что он также будет использоваться 20% индийцев на основании предыдущих наблюдений. Это означает, что продаж как новых, так и старых препаратов не изменится. Это называется нулевой гипотезой (Ho). Если результат окажется выше или ниже 20%, то нулевая гипотеза будет отклонена, а альтернативная гипотеза (H1) будет принята без изменений. будет более эффективным, чем другой, или неэффективным. Эти гипотезы называются математическими альтернативами и могут быть верными по одной.

Но как определить нулевую или альтернативную гипотезу? Для этого нам нужно выполнить проверку гипотез или статистику.

Статистика теста:

Тестовая статистика — это статистика, используемая при проверке гипотез. Это помогает принять решение поддержать или отвергнуть нулевую гипотезу. Существуют различные типы тестовой статистики. Такие как,

Здесь мы рассмотрим только z-тест и t-тест.

z-тест:

z-тест — это тип статистических выводов, используемый для определения того, являются ли среднее значение генеральной совокупности и среднее выборочное значение разными или подобными, если дисперсия генеральной совокупности известна. Z-тест должен быть, когда,

1. Размер выборки превышает 30. Поскольку согласно центральной предельной теореме, когда количество выборок увеличивается, их среднее распределение становится похожим на нормальное распределение.
2. Данные распределяются нормально.
3. Точки данных не зависят друг от друга.
4. Образцы не зависят друг от друга.
5. Существует одинаковая вероятность того, что каждая точка данных будет выбрана для выборки.

Примечание. Если дисперсия генеральной совокупности неизвестна, предполагается, что дисперсия выборки равна дисперсии генеральной совокупности.

Чтобы вычислить z-оценку для генеральной совокупности, нам нужны выборочное среднее (µ), выборка s.d. (σ), среднее значение генеральной совокупности (x) и количество выборок (обычно ›30), как показано ниже.

Примечание. Z-оценка показывает, насколько далеко (в стандартных отклонениях) точка данных от среднего или среднего значения набора данных.

Типы z-теста:

Есть два типа z-тестов. а) z-критерий для одной выборки б) z-критерий для двух выборок

a) z-тест с одной выборкой — используется для проверки того, является ли среднее значение генеральной совокупности больше, меньше или не равно определенному значению. Например, для проверки гипотезы о том, что новые лекарства будут использовать менее или более 20% индейцев, будет принято решение с помощью z-теста с одной выборкой.

б) z-критерий для двух выборок — используется для проверки того, равны ли средние выборки двух разных выборок для двух независимых популяций. Например, предположим, что мы обнаружили, что среднее использование лекарств для первого образца составляет µ1, а для другого образца — µ2. Тогда мы можем сформулировать гипотезу, например,

t-тест:

Подобно z-критерию, t-критерий также используется для определения разницы между выборкой и генеральной совокупностью, но наиболее полезен при определении статистической разницы между двумя независимыми группами выборок, но с неизвестной дисперсией. T-критерий следует использовать, когда:

1. Известна дисперсия генеральной совокупности.
2. Размер выборки менее 30.
3. Среднее значение выборочных распределений соответствует нормальному распределению.
4. Дисперсия каждого образца однородна, или стандартные отклонения образцов примерно равны.

Формула для расчета t-значения:

Примечание: t-критерий хорошо работает, когда количество выборок меньше 30.

Типы t-теста:

Есть три типа z-тестов. a) t-критерий для одной выборки b) t-критерий для парной выборки c) t-критерий для независимых выборок

Примечание. Суть t-критерия для одной выборки и t-критерия для парной выборки аналогична типам z-критерия. t-критерий для независимых выборок сравнивает средние значения для двух совершенно разных групп. .

Уровень значимости (α):

Мы сформулировали нулевую и альтернативную гипотезы и получили z-оценку / t-оценку, используя соответствующую статистику теста. Но чтобы отклонить или принять гипотезу, как мы определим, что наши оценки статистически значимы? Нам нужны доказательства, чтобы принять или отвергнуть гипотезу. Здесь появляется уровень значимости ( α ).

Уровень значимости ( α ) — это мера того, насколько сильным должен быть образец доказательства перед определением статистически значимых результатов. Уровень, противоположный уровню значимости, называется уровнем достоверности (C).

Обычно уровень значимости составляет 5% (0,05) или 1% (0,01), что делает уровень достоверности 95% или 99%. Уровень значимости 0,05 указывает на 5% риск сделать вывод о существовании разницы, хотя фактической разницы нет.

На приведенном выше рисунке ясно показано, что для уровня значимости 1%, если статистика теста находится в пределах 99% доверительного интервала, тогда мы примем нулевую гипотезу (Ho), иначе выберем альтернативную гипотезу (H1).

Давайте рассмотрим другой пример, где уровень значимости (α) равен 5%. Область, внутри которой будет принята нулевая гипотеза, называется Область принятия. Область, в которой она будет отклонена, называется Критическая область / область отклонения. Точка, в которой уровень значимости, разделяющий оба региона, называется Критическое значение.

Примечание. Для нормально распределенной выборки критическое значение (z-оценка / t-оценка) для уровня значимости 5% и 1% (2,5%, 0,5% по обе стороны кривой) составляет ± 1,96 и ± 2,58.

Проблема1:

Случайная выборка из 50 элементов дает среднее значение (µ) 6,2 единицы и стандартное отклонение (σ) 10,24 единицы. Можно ли считать, что он взят из нормально распределенной совокупности со средним значением 5,4 единицы и уровнем значимости (α) 5%?

Шаг 1. Сформируйте гипотезу.

Шаг 2. Выберите подходящую статистику теста и подсчитайте результат.

Поскольку n = 50 (›30), мы собираемся выбрать z-критерий для вычисления z-показателя. Так,

Шаг 3. Получите критическое значение.

Для уровня значимости 5% критическое значение / z-оценка будет составлять ± 1,96.

Шаг 4. Сравните значения и сделайте вывод.

Как мы видим, 1,77 <1,96, что означает, что наша z-оценка находится в приемлемой области. Это означает, что наша нулевая гипотеза сохраняется. Принять Ho и отклонить H1.

Выше мы рассматриваем обе стороны распределения. Что, если мы выберем только одну сторону? В чем будет значение теста? Давайте разбираться …

Односторонний тест и двусторонний тест:

Это два типа проверки гипотез, основанные на альтернативной гипотезе (H1).

Односторонний тест:

Этот тест также называется направленным, потому что мы можем проверить эффект только в одном направлении. Когда мы выполняем односторонний тест, весь процент уровня значимости попадает в конец одного хвоста распределения.

Здесь вся область 5% находится либо слева, либо справа.

двусторонний тест:

Этот тест также называют ненаправленным, потому что мы можем проверить эффект в обоих направлениях. Когда мы выполняем двусторонний тест, половина процентного значения уровня значимости попадает в обе стороны распределения.

Здесь область 2,5% находится слева, а 2,5% области — справа.

p-значение:

Давайте рассмотрим проблему1. Там мы вычислили z-показатель и сравнили его с критическим значением. Мы обнаружили, что z-оценка меньше критического значения, и принимаем нулевую гипотезу. Но какова вероятность того, что нулевая гипотеза верна? Нам нужно вероятностное значение, чтобы количественно оценить нашу вероятность, и это можно сделать с помощью p-значения.

p-значение — это вероятность того, что, если бы нулевая гипотеза была верна, вариация выборки дала бы оценку, которая будет дальше от предполагаемого значения.

or…

Значение p говорит нам, насколько вероятно получение такого результата, если нулевая гипотеза верна.

В. Но как узнать, является ли значение p статистически значимым?

Ответ: Уровень статистической значимости часто выражается как p-значение от 0 до 1. Чем меньше p-значение, тем сильнее доказательство того, что вы должны отклонить нулевую гипотезу. Значение p менее 0,05 (обычно <0,05) является статистически значимым. Это указывает на убедительные доказательства против нулевой гипотезы, поскольку вероятность того, что нулевая гипотеза верна, составляет менее 5%. Однако это не означает 95% вероятности того, что альтернативная гипотеза верна.

Значение p выше 0,05 (›0,05) не является статистически значимым и указывает на убедительные доказательства нулевой гипотезы. Это означает, что мы сохраняем нулевую гипотезу и отвергаем альтернативную гипотезу. Обратите внимание, что вы не можете принять нулевую гипотезу; мы можем только отклонить нуль или не отклонить его.

Проблема2:

Предположим, фармацевтическая компания производит противоаллергический антибиотик. Им необходимо выполнить некоторую проверку качества, чтобы убедиться, что у них правильная дозировка, которая должна составлять 500 мг. В случайной выборке из 125 антибиотиков средняя доза составляет 499,3 мг со стандартным отклонением 6 мг. Какова вероятность того, что антибиотики будут содержать дозу 500 мг?

Ответ: Исходя из вышеупомянутой проблемы, мы можем утверждать, что это двусторонний тест, так как дозировка менее 500 мг будет меньше затронута, а более 500 мг может вызвать побочные эффекты. Поэтому нужно убедиться, что дозировка равна 500мг.

Ho: µ = 500 мг, H1: µ ≠ 500 мг. Количество образцов велико. Итак, выбираем z-тест для определения статистики теста.

Поскольку это двусторонний тест, у нас z = ± 1,304 с обеих сторон. Используя z-таблицу, мы можем определить значение вероятности (p-значение) для соответствующего значения z, которое составляет 0,0968 = 9,68%. Если мы посчитаем с обеих сторон, то общее p-значение будет 0,1936 или 19,36%.

Значение p, равное 0,1936, очень велико, и мы можем сделать вывод, что нулевая гипотеза верна, и мы в значительной степени уверены в этом.

Типы ошибок:

Статистическая проверка гипотез подразумевает, что ни один тест никогда не бывает 100% определенным: это потому, что мы полагаемся на вероятности для экспериментов. Поскольку наблюдения выбираются случайным образом, существует вероятность того, что мы можем допустить ошибку при принятии или отклонении нулевой гипотезы (Ho). Несмотря на то, что проверка гипотез должна быть надежной, могут возникать ошибки двух типов.

Эти ошибки известны как ошибки типа 1 и типа 2.

Ошибки типа I:

Ошибки типа I возникают, когда нулевая гипотеза верна, но каким-то образом отвергается. Это также называется ложным срабатыванием. Так получилось, когда мы случайно переоценили эффект. Это была неудача. Этот тип ошибки не означает, что исследователи сделали что-то не так. План эксперимента, сбор данных, достоверность данных и статистический анализ могут быть правильными, но эта ошибка все равно возникает.

Несмотря на то, что мы не знаем, какие исследования дали ложноположительные результаты, мы знаем частоту их появления. Частота появления ошибок I типа равна уровню значимости проверки гипотезы, который также известен как альфа (α). Это означает, что тест с уровнем достоверности 95% означает 5% -ную вероятность получения ошибки I типа.

Ошибки II типа:

Ошибки типа II возникают, когда нулевая гипотеза ложна, и вы впоследствии ее принимаете. Когда вы выполняете проверку гипотез, и ваше p-значение превышает ваш уровень значимости, ваши результаты не являются статистически значимыми. Это разочаровывает, потому что ваша выборка не дает достаточных доказательств для вывода о том, что эффект, который вы изучаете, существует в популяции.

Однако есть вероятность, что эффект присутствует в популяции, даже если результаты тестирования его не подтверждают. Если это так, то вы только что столкнулись с ошибкой типа II. Вероятность совершения ошибки типа II известна как бета (β).

Приоритет ошибок в тесте полностью зависит от проблемы, которую мы решаем. Предположим, бассейн сильно загрязнен хлором, и люди жалуются на то, что у них горят кожа и глаза. Теперь вы закрыли бассейн и провели повторное тестирование, чтобы удалить эффект хлора. После этого вы взяли образец воды и провели тест, чтобы проверить количество хлора, подходит он для людей или нет. Теперь возникают четыре условия. Бассейн по-прежнему загрязнен, и вы остаетесь закрытым, или бассейн теперь пригоден для общественного пользования, и вы его открыли. Еще есть шанс, что тест пойдет не так. Предположим, ваш тест на загрязнение оказался отрицательным (Условие 1), но он все еще присутствует. По результатам теста вы открыли пул. Точно так же тест на загрязнение оказался положительным (Условие 2), но эффекта больше нет. Судя по тесту, ваш бассейн все еще закрыт.

Наша нулевая гипотеза заключалась в отсутствии загрязнения. Это означает, что условие 1 является ошибкой типа I, а условие 2 — ошибкой типа II. В этом случае установка приоритета для ошибки типа II не повредит, но ошибка типа I может привести к серьезным последствиям.

Вот и все, ребята. Пожалуйста, посетите другие мои блоги. Я написал много блогов о статистическом анализе в машинном обучении.

Использованная литература: