From Wikipedia, the free encyclopedia
Trial and error is a fundamental method of problem-solving[1] characterized by repeated, varied attempts which are continued until success,[2] or until the practicer stops trying.
According to W.H. Thorpe, the term was devised by C. Lloyd Morgan (1852–1936) after trying out similar phrases «trial and failure» and «trial and practice».[3] Under Morgan’s Canon, animal behaviour should be explained in the simplest possible way. Where behavior seems to imply higher mental processes, it might be explained by trial-and-error learning. An example is a skillful way in which his terrier Tony opened the garden gate, easily misunderstood as an insightful act by someone seeing the final behavior. Lloyd Morgan, however, had watched and recorded the series of approximations by which the dog had gradually learned the response, and could demonstrate that no insight was required to explain it.
Edward Lee Thorndike was the initiator of the theory of trial and error learning based on the findings he showed how to manage a trial-and-error experiment in the laboratory. In his famous experiment, a cat was placed in a series of puzzle boxes in order to study the law of effect in learning.[4] He plotted to learn curves which recorded the timing for each trial. Thorndike’s key observation was that learning was promoted by positive results, which was later refined and extended by B. F. Skinner’s operant conditioning.
Trial and error is also a method of problem solving, repair, tuning, or obtaining knowledge. In the field of computer science, the method is called generate and test (Brute force). In elementary algebra, when solving equations, it is guess and check.
This approach can be seen as one of the two basic approaches to problem-solving, contrasted with an approach using insight and theory. However, there are intermediate methods which for example, use theory to guide the method, an approach known as guided empiricism.
This way of thinking has become a mainstay of Karl Popper’s critical rationalism.
Methodology[edit]
The trial and error approach is used most successfully with simple problems and in games, and it is often the last resort when no apparent rule applies. This does not mean that the approach is inherently careless, for an individual can be methodical in manipulating the variables in an attempt to sort through possibilities that could result in success. Nevertheless, this method is often used by people who have little knowledge in the problem area. The trial-and-error approach has been studied from its natural computational point of view [5]
Simplest applications[edit]
Ashby (1960, section 11/5) offers three simple strategies for dealing with the same basic exercise-problem, which have very different efficiencies. Suppose a collection of 1000 on/off switches have to be set to a particular combination by random-based testing, where each test is expected to take one second. [This is also discussed in Traill (1978–2006, section C1.2]. The strategies are:
- the perfectionist all-or-nothing method, with no attempt at holding partial successes. This would be expected to take more than 10^301 seconds, [i.e., 2^1000 seconds, or 3·5×(10^291) centuries]
- a serial-test of switches, holding on to the partial successes (assuming that these are manifest), which would take 500 seconds on average
- parallel-but-individual testing of all switches simultaneously, which would take only one second
Note the tacit assumption here that no intelligence or insight is brought to bear on the problem. However, the existence of different available strategies allows us to consider a separate («superior») domain of processing — a «meta-level» above the mechanics of switch handling — where the various available strategies can be randomly chosen. Once again this is «trial and error», but of a different type.
Hierarchies[edit]
Ashby’s book develops this «meta-level» idea, and extends it into a whole recursive sequence of levels, successively above each other in a systematic hierarchy. On this basis, he argues that human intelligence emerges from such organization: relying heavily on trial-and-error (at least initially at each new stage), but emerging with what we would call «intelligence» at the end of it all. Thus presumably the topmost level of the hierarchy (at any stage) will still depend on simple trial-and-error.
Traill (1978–2006) suggests that this Ashby-hierarchy probably coincides with Piaget’s well-known theory of developmental stages. [This work also discusses Ashby’s 1000-switch example; see §C1.2]. After all, it is part of Piagetian doctrine that children learn first by actively doing in a more-or-less random way, and then hopefully learn from the consequences — which all has a certain resemblance to Ashby’s random «trial-and-error».
Application[edit]
Traill (2008, espec. Table «S» on p.31) follows Jerne and Popper in seeing this strategy as probably underlying all knowledge-gathering systems — at least in their initial phase.
Four such systems are identified:
- Natural selection which «educates» the DNA of the species,
- The brain of the individual (just discussed);
- The «brain» of society-as-such (including the publicly held body of science); and
- The adaptive immune system.
Features[edit]
Trial and error has a number of features:
- solution-oriented: trial and error makes no attempt to discover why a solution works, merely that it is a solution.
- problem-specific: trial and error makes no attempt to generalize a solution to other problems.
- non-optimal: trial and error is generally an attempt to find a solution, not all solutions, and not the best solution.
- needs little knowledge: trials and error can proceed where there is little or no knowledge of the subject.
It is possible to use trial and error to find all solutions or the best solution, when a testably finite number of possible solutions exist. To find all solutions, one simply makes a note and continues, rather than ending the process, when a solution is found, until all solutions have been tried. To find the best solution, one finds all solutions by the method just described and then comparatively evaluates them based upon some predefined set of criteria, the existence of which is a condition for the possibility of finding a best solution. (Also, when only one solution can exist, as in assembling a jigsaw puzzle, then any solution found is the only solution and so is necessarily the best.)
Examples[edit]
Trial and error has traditionally been the main method of finding new drugs, such as antibiotics. Chemists simply try chemicals at random until they find one with the desired effect. In a more sophisticated version, chemists select a narrow range of chemicals it is thought may have some effect using a technique called structure–activity relationship. (The latter case can be alternatively considered as a changing of the problem rather than of the solution strategy: instead of «What chemical will work well as an antibiotic?» the problem in the sophisticated approach is «Which, if any, of the chemicals in this narrow range will work well as an antibiotic?») The method is used widely in many disciplines, such as polymer technology to find new polymer types or families.
Trial and error is also commonly seen in player responses to video games — when faced with an obstacle or boss, players often form a number of strategies to surpass the obstacle or defeat the boss, with each strategy being carried out before the player either succeeds or quits the game.
Sports teams also make use of trial and error to qualify for and/or progress through the playoffs and win the championship, attempting different strategies, plays, lineups and formations in hopes of defeating each and every opponent along the way to victory. This is especially crucial in playoff series in which multiple wins are required to advance, where a team that loses a game will have the opportunity to try new tactics to find a way to win, if they are not eliminated yet.
The scientific method can be regarded as containing an element of trial and error in its formulation and testing of hypotheses. Also compare genetic algorithms, simulated annealing and reinforcement learning – all varieties for search which apply the basic idea of trial and error.
Biological evolution can be considered as a form of trial and error.[6] Random mutations and sexual genetic variations can be viewed as trials and poor reproductive fitness, or lack of improved fitness, as the error. Thus after a long time ‘knowledge’ of well-adapted genomes accumulates simply by virtue of them being able to reproduce.
Bogosort, a conceptual sorting algorithm (that is extremely inefficient and impractical), can be viewed as a trial and error approach to sorting a list. However, typical simple examples of bogosort do not track which orders of the list have been tried and may try the same order any number of times, which violates one of the basic principles of trial and error. Trial and error is actually more efficient and practical than bogosort; unlike bogosort, it is guaranteed to halt in finite time on a finite list, and might even be a reasonable way to sort extremely short lists under some conditions.
Jumping spiders of the genus Portia use trial and error to find new tactics against unfamiliar prey or in unusual situations, and remember the new tactics.[7] Tests show that Portia fimbriata and Portia labiata can use trial and error in an artificial environment, where the spider’s objective is to cross a miniature lagoon that is too wide for a simple jump, and must either jump then swim or only swim.[8][9]
See also[edit]
- Ariadne’s thread (logic)
- Brute-force attack
- Brute-force search
- Dictionary attack
- Empiricism
- Genetic algorithm
- Learning curve
- Margin of error
- Regula falsi
References[edit]
- ^ Campbell, Donald T. (November 1960). «Blind variation and selective retention in creative thoughts as in other knowledge processes». Psychological Review. 67 (6): 380–400. doi:10.1037/h0040373. PMID 13690223.
- ^ Concise Oxford Dictionary p1489
- ^ Thorpe W.H. The origins and rise of ethology. Hutchinson, London & Praeger, New York. p26. ISBN 978-0-03-053251-1
- ^ Thorndike E.L. 1898. Animal intelligence: an experimental study of the association processes in animals. Psychological Monographs #8.
- ^ X. Bei, N. Chen, S. Zhang, On the Complexity of Trial and Error, STOC 2013
- ^ Wright, Serwall (1932). «The roles of mutation, inbreeding, crossbreeding and selection in evolution» (PDF). Proceedings of the Sixth International Congress on Genetics. Volume 1. Number 6: 365. Retrieved 17 March 2014.
- ^ Harland, D.P. & Jackson, R.R. (2000). ««Eight-legged cats» and how they see — a review of recent research on jumping spiders (Araneae: Salticidae)» (PDF). Cimbebasia. 16: 231–240. Archived from the original (PDF) on 28 September 2006. Retrieved 5 May 2011.
- ^ Jackson, Robert R.; Fiona R. Cross; Chris M. Carter (2006). «Geographic Variation in a Spider’s Ability to Solve a Confinement Problem by Trial and Error». International Journal of Comparative Psychology. 19 (3): 282–296. doi:10.46867/IJCP.2006.19.03.06. Retrieved 8 June 2011.
- ^ Jackson, Robert R.; Chris M. Carter; Michael S. Tarsitano (2001). «Trial-and-error solving of a confinement problem by a jumping spider, Portia fimbriata«. Behaviour. Leiden: Koninklijke Brill. 138 (10): 1215–1234. doi:10.1163/15685390152822184. ISSN 0005-7959. JSTOR 4535886.
Further reading[edit]
- Ashby, W. R. (1960: Second Edition). Design for a Brain. Chapman & Hall: London.
- Traill, R.R. (1978–2006). Molecular explanation for intelligence…, Brunel University Thesis, HDL.handle.net
- Traill, R.R. (2008). Thinking by Molecule, Synapse, or both? — From Piaget’s Schema, to the Selecting/Editing of ncRNA. Ondwelle: Melbourne. Ondwelle.com — or French version Ondwelle.com.
- Zippelius, R. (1991). Die experimentierende Methode im Recht (Trial and error in Jurisprudence), Academy of Science, Mainz, ISBN 3-515-05901-6
метод проб и ошибок
- метод проб и ошибок
-
— способ выработки новых форм поведения в проблемных ситуациях. М. п. и о., широко используемый бихевиоризмом для объяснения научения как вероятностного процесса, получил распространение в психологии после работ Э. Л. Торндайка, согласно к-рым слепые пробы, ошибки и случайный успех, закрепляющий удачные пробы, определяют путь приобретения индивидуального опыта у животных и человека. Тем самым была выделена согласованность поведения со средой на вероятностной основе, что позволило при интерпретации категории действия выйти за пределы жесткой альтернативы: либо механистической, либо телеологической его трактовки. Гештальтпсихология подвергла М. п. и о. критике, противопоставив ему решение проблемы путем инсайта. Непродуктивность и теоретическая слабость такого противопоставления была показана И. П. Павловым. Свое значение М. п. и о. сохранил лишь в узкой сфере искусственно создаваемых ситуаций; в частности, он вошел в состав конструктивных принципов кибернетических устройств.
Краткий психологический словарь. — Ростов-на-Дону: «ФЕНИКС».
.
1998.
- метод проб и ошибок
-
— вид научения — способ выработки новых форм поведения в проблемных ситуациях. Широко использовался бихевиоризмом для объяснения научения как вероятностного процесса; распространился в психологии после работ Э.Л. Торндайка (последние годы XIX в.), согласно коим случайно совершенные двигательные и мыслительные акты, за счет коих оказалась решенной значимая задача, и закрепление их при случайном успехе определяют путь приобретения индивидуального опыта у животных и человека/В следующих пробах время, затрачиваемое на решение аналогичных задач в аналогичных условия, постепенно — хотя не линейно — уменьшается, пока не обретает форму мгновенного решения. Тем самым была выделена согласованность поведения со средой на вероятностной основе, что позволило при интерпретации категории действия выйти за пределы жесткой альтернативы: либо механистической, либо телеологической его трактовки.
Последующая разработка проблемы научения — в частности, более точный анализ поведения животных методом проб и ошибок — обнаружила слабость и ограниченность объяснительных возможностей метода, ибо он не учитывает характерную для поведения направленность каждой пробы, ее включенность в определенную психическую структуру. Показано, что поведение при научении не является полностью хаотическим и нецелесообразным, как считал Торндайк, но интегрирует в себе прошлый опыт и новые условия для решения задачи.
Гештальт-психология критиковала метод проб и ошибок, противопоставляя ему решение проблемы путем озарения. Но И. П. Павлов показал непродуктивность и теоретическую слабость такого противопоставления. Свое значение метод проб и ошибок сохранил лишь в узкой сфере искусственно создаваемых ситуаций; в частности, он вошел в состав конструктивных принципов кибернетических устройств.
Словарь практического психолога. — М.: АСТ, Харвест.
С. Ю. Головин.
1998.
- метод проб и ошибок
-
Автор.
Э.Торндайк (1898г.).
Категория.
Форма научения.
Специфика.
Основан на закреплении случайно совершенных двигательных и мыслительных актов, за счет которых была решена значимая для животного задача. В следующих пробах время, которое затрачивается животным на решение аналогичных задач в аналогичных условиях, постепенно, хотя и не линейно, уменьшается, до тех пор, пока не приобретает форму мгновенного решения.
Критика.
В дальнейшем более точный анализ поведения методом проб и ошибок показал, что оно не является полностью хаотическим и нецелесообразным, как считал Торндайк, но интегрирует в себе прошлый опыт и новые условия для решения задачи.
Психологический словарь.
И.М. Кондаков.
2000.
- МЕТОД ПРОБ И ОШИБОК
-
(англ. trial-and-error learning) — форма научения, детально описанная в докторской диссертации Э. Торндайка (1898). Торндайк придавал доминирующее значение навыку, который, согласно его взглядам, образуется путем закрепления случайных двигательных и мыслительных актов, приводящих к достижению необходимых для живого существа результатов. Так, кошка, посаженная в т. н. проблемную клетку и лишенная пищи, начинает метаться по клетке, находит выход, выходит на свободу и получает пищу. При повторении опытов время, затрачиваемое животным на то, чтобы выйти из клетки, постепенно, хотя и с большими колебаниями, уменьшается. В конце концов животное открывает клетку сразу, что м. б. воспринято наблюдателем, не видевшим предшествующих опытов, как «догадка» животного.
Критики М. п. и о. отмечали, что хаотические и нецелесообразные движения во время научения наблюдаются г. о. в ситуациях, когда проблема неадекватна уровню развития обследуемого (как животного, так и человека), чрезмерно трудна. При решении адекватной проблемы испытуемый прежде всего пытается применить прошлый опыт с учетом того нового, что содержится в проблеме. Тем не менее в процессе формирования новых форм поведения возникает экспериментальный поиск с последующей проверкой, предполагающей применение М. п. и о. в ограниченных пределах. (Ср. Теория поэтапного формирования умственных действий.)
Большой психологический словарь. — М.: Прайм-ЕВРОЗНАК.
Под ред. Б.Г. Мещерякова, акад. В.П. Зинченко.
2003.
Полезное
Смотреть что такое «метод проб и ошибок» в других словарях:
-
Метод Проб И Ошибок — форма научения, описанная Э. Торндайком в 1898 г., основанная на закреплении случайно совершенных двигательных и мыслительных актов, за счет которых была решена значимая для животного задача. В следующих пробах время, которое затрачивается… … Психологический словарь
-
МЕТОД ПРОБ И ОШИБОК — англ. method, trail and error; нем. Methode von Versuch und Irrtum. 1. Стихийный способ выработки новых форм поведения в проблемных ситуациях, когда безуспешные попытки решения проблемы отбрасываются, а успешные закрепляются. 2. По Э. Торндайку… … Энциклопедия социологии
-
метод проб и ошибок — — [Я.Н.Лугинский, М.С.Фези Жилинская, Ю.С.Кабиров. Англо русский словарь по электротехнике и электроэнергетике, Москва] Тематики электротехника, основные понятия EN trial and error method … Справочник технического переводчика
-
Метод проб и ошибок — Для улучшения этой статьи желательно?: Найти и оформить в виде сносок ссылки на авторитетные источники, подтверждающие написанное. Метод проб … Википедия
-
метод проб и ошибок — bandymų ir klaidų metodas statusas T sritis automatika atitikmenys: angl. cut and try method; hit and miss method; trial and error method; trial and error approach vok. empirische Erprobung, f; empirisches Ermittlungsverfahren, n; Versuch Irrtum… … Automatikos terminų žodynas
-
метод проб и ошибок Ньютона-Рафсона — — [http://slovarionline.ru/anglo russkiy slovar neftegazovoy promyishlennosti/] Тематики нефтегазовая промышленность EN Newton Raphson technique … Справочник технического переводчика
-
метод проб и ошибок — метод последовательного приближения к оптимальному решению путем отклонения вариантов, не отвечающих определенным критериям выбора. См. также процесс поиска оптимального решения … Толковый переводоведческий словарь
-
Метод проб и ошибок — это метод случайного подбора частных методов и приемов действий в расчете лишь на возможный успех. В обычной жизни его еще называют методом «тыка». Этот метод обеспечивает быструю педагогическую реакцию и быструю отдачу со стороны воспитанника.… … Основы духовной культуры (энциклопедический словарь педагога)
-
МЕТОД ПРОБ И ОШИБОК — один из видов научения, при котором умения и навыки приобретаются в результате многократного повторения связанных с ними движений и устранения допускаемых ошибок [66, c. 186; 67, c. 208; 80, c. 284; 82, c. 411] … Современный образовательный процесс: основные понятия и термины
-
МЕТОД ПРОБ И ОШИБОК — один из видов научения, при к ром умения и навыки приобретаются в результате многократного повторения связанных с ними движений и устранения допускаемых ошибок … Педагогический словарь
Метод проб и ошибок
– старейший из методов поиска новых
решений.
Впервые метод проб
и ошибок был описан немецким физиологом
Э.Торндайком в 1898г.
Метод проб и ошибок
— форма обучения, описанная, основанная
на закреплении случайно совершенных
двигательных и мыслительных актов, за
счет которых была решена значимая для
животного задача. В следующих пробах
время, которое затрачивается животным
на решение аналогичных задач в аналогичных
условиях, постепенно, хотя и не линейно,
уменьшается, до тех пор, пока не приобретает
форму мгновенного решения. В дальнейшем
более точный анализ поведения методом
проб и ошибок показал, что оно не является
полностью хаотическим и нецелесообразным,
как считал Торндайк, но интегрирует в
себе прошлый опыт и новые условия для
решения задачи.
Сегодня, с развитием
электронно-вычислительной техники,
метод проб и ошибок стал отправной
точкой для создания разнообразных
методов случайного поиска, где используется
не просто перебор всех возможных
вариантов, а сложная система «весовых»
коэффициентов, которая позволяют
отбросить неэффективные варианты уже
на ранних этапах поиска.
Метод проб и ошибок
— способ выработки новых форм поведения
в проблемных ситуациях. М. п. и о., широко
используемый бихевиоризмом для объяснения
научения как вероятностного процесса,
получил распространение в психологии
после работ Э. Л. Торндайка, согласно
которым слепые пробы, ошибки и случайный
успех, закрепляющий удачные пробы,
определяют путь приобретения
индивидуального опыта у животных и
человека. Тем самым была выделена
согласованность поведения со средой
на вероятностной основе, что позволило
при интерпретации категории действия
выйти за пределы жесткой альтернативы:
либо механистической, либо телеологической
его трактовки. Гештальтпсихология
подвергла М. п. и о. критике, противопоставив
ему решение проблемы путем инсайта.
Непродуктивность и теоретическая
слабость такого противопоставления
была показана И. П. Павловым. Свое значение
М. п. и о. сохранил лишь в узкой сфере
искусственно создаваемых ситуаций; в
частности, он вошел в состав конструктивных
принципов кибернетических устройств.
2. Метод случайного поиска.
Метод случайного
поиска относится к группе итерационных
методов минимизации.
Итерационные
методы минимизации функции F(x) состоят
в построении последовательности
векторов, то есть
точек x0, x1, …, xk, таких, что F(x0) > F(x1)
>…>F(xk)>… Любой такой метод называется
методом спуска. Естественно, должна
быть обеспечена сходимость. Иными
словами, рассматриваются методы,
позволяющие получить точку минимума
за конечное число шагов, или приблизиться
к ней достаточно близко при соответствующем
числе шагов. Дето в том, что теоретически
все сходящиеся методы этим свойством
обладают, но практически близость к
минимуму в задачах большой размерности
ограничивается ошибками вычислений. В
этой связи необходимо вести вычисления
с самой большой возможной точностью.
Для построения итерационной
последовательности необходимо выбрать
начальное приближение x0. В задачах с
ограничениями это должна быть допустимая
точка, а в задачах без ограничений
теоретически любая точка. Однако
целесообразно использовать всю имеющуюся
информацию о поведении целевой функции
F(x), чтобы выбрать x0 поближе к точке
минимума.
После того, как
начальное приближение получено, прежде
чем перейти к следующей точке нужно
принять два решения:
1). Выбрать
направление, по которому пойдем из x0 в
точку с меньшим значением целевой
функции (направление спуска).
2). Определить
величину шага по направлению спуска.
Для задач безусловной
минимизации любое напрвление является
возможным (никакие ограничения не
мешают), но далеко не все направления
приемлемы. Нас могут интересовать только
те направления, которые обеспечивают
убывание целевой функции, хотя бы при
достаточно малом шаге. Предполагая
непрерывность первых частных производных
целевой функции и используя её разложение
в ряд Тэйлора в произвольной точке х,
получим F(x+λp) ~ F(x) + X(g,p). Здесь g — градиент
функции, вычисленный в точке х. Отсюда
следует, что приращение функции F(x+Xp) –
F(x) < 0 при отрицательном скалярном
произведении (g,p). Итак, направление
спуска должно составлять острый угол
с антиградиентом. Этот вывод справедлив
и для задач с ограничениями, но там ещё
дополнительно требуется, чтобы при
достаточно малом шаге не нарушалось ни
одно из ограничений.
Методы
функционально-структурного исследования
объектов.
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
- #
- #
- #
- #
- #
- #
- #
- #
- #
- #
- #
Метод проб и ошибок
-
Ме́тод проб и оши́бок (в просторечии также: метод (научного) тыка) — является врождённым эмпирическим методом мышления человека. Также этот метод называют методом перебора вариантов.
В 1898 году описан Э. Торндайком как форма научения, основанная на закреплении случайно совершённых двигательных и мыслительных актов, за счёт которых была решена значимая для животного задача. В следующих пробах время, которое затрачивается животным на решение аналогичных задач в аналогичных условиях, постепенно, хотя и не линейно, уменьшается, до тех пор, пока не приобретает форму мгновенного решения. Последующий анализ метода проб и ошибок показал, что он не является полностью хаотическим и нецелесообразным, а интегрирует в себе прошлый опыт и новые условия для решения задачи.
Источник: Википедия
Связанные понятия
Эвристический алгоритм (эвристика) — алгоритм решения задачи, включающий практический метод, не являющийся гарантированно точным или оптимальным, но достаточный для решения поставленной задачи. Позволяет ускорить решение задачи в тех случаях, когда точное решение не может быть найдено.
Реше́ние зада́ч — процесс выполнения действий или мыслительных операций, направленный на достижение цели, заданной в рамках проблемной ситуации — задачи; является составной частью мышления.
Эври́стика (от др.-греч. εὑρίσκω — «отыскиваю», «открываю») — отрасль знания, научная область, изучающая специфику творческой деятельности.
Обобще́ние поня́тий — логическая операция, посредством которой в результате исключения видового признака получается другое понятие более широкого объема, но менее конкретного содержания; форма приращения знания путём мысленного перехода от частного к общему в некоторой модели мира, что обычно соответствует и переходу на более высокую ступень абстракции. Результатом логической операции обобщения является гипероним.
Детерминированность (от лат. determinans — определяющий) — определяемость. Детерминированность может подразумевать определяемость на общегносеологическом уровне или для конкретного алгоритма. Под жёсткой детерминированностью процессов в мире понимается однозначная предопределённость, то есть у каждого следствия есть строго определённая причина. В таком смысле является антонимом стохастичности. Но детерминированность не всегда тождественна предопределённости. Например, может быть детерминированность…
Эволюционные алгоритмы — направление в искусственном интеллекте (раздел эволюционного моделирования), которое использует и моделирует процессы естественного отбора.
Обучение с подкреплением (англ. reinforcement learning) — один из способов машинного обучения, в ходе которого испытуемая система (агент) обучается, взаимодействуя с некоторой средой. С точки зрения кибернетики, является одним из видов кибернетического эксперимента. Откликом среды (а не специальной системы управления подкреплением, как это происходит в обучении с учителем) на принятые решения являются сигналы подкрепления, поэтому такое обучение является частным случаем обучения с учителем, но учителем…
Формализа́ция — представление какой-либо содержательной области (рассуждений, доказательств, процедур классификации, поиска информации, научных теорий) в виде формальной системы или исчисления.
Выбор модели — это задача выбора статистической модели из набора моделей-кандидатов по имеющимся данным. В простейшем случае рассматривается существующий набор данных. Однако задача может вовлекать планирование экспериментов, так что сбор данных связан с задачей выбора модели. Если заданы кандидаты в модели с одинаковой силой предсказания или объяснения, наиболее простая модель скорее всего будет лучшим выбором (бритва Оккама).
Проклятие размерности (ПР) — термин, используемый в отношении ряда свойств многомерных пространств и комбинаторных задач. В первую очередь это касается экспоненциального роста необходимых экспериментальных данных в зависимости от размерности пространства при решении задач вероятностно-статистического распознавания образов, машинного обучения, классификации и дискриминантного анализа. Также это касается экспоненциального роста числа вариантов в комбинаторных задачах в зависимости от размера исходных…
Обуче́ние с учи́телем (англ. Supervised learning) — один из способов машинного обучения, в ходе которого испытуемая система принудительно обучается с помощью примеров «стимул-реакция». С точки зрения кибернетики, является одним из видов кибернетического эксперимента. Между входами и эталонными выходами (стимул-реакция) может существовать некоторая зависимость, но она неизвестна. Известна только конечная совокупность прецедентов — пар «стимул-реакция», называемая обучающей выборкой. На основе этих…
Байесовская вероятность — это интерпретация понятия вероятности, используемая в байесовской теории. Вероятность определяется как степень уверенности в истинности суждения. Для определения степени уверенности в истинности суждения при получении новой информации в байесовской теории используется теорема Байеса.
Переобучение (переподгонка, пере- в значении «слишком», англ. overfitting) в машинном обучении и статистике — явление, когда построенная модель хорошо объясняет примеры из обучающей выборки, но относительно плохо работает на примерах, не участвовавших в обучении (на примерах из тестовой выборки).
Байесовское программирование — это формальная система и методология определения вероятностных моделей и решения задач, когда не вся необходимая информация является доступной.
Обучение без учителя (самообучение, спонтанное обучение, англ. Unsupervised learning) — один из способов машинного обучения, при котором испытуемая система спонтанно обучается выполнять поставленную задачу без вмешательства со стороны экспериментатора. С точки зрения кибернетики, это является одним из видов кибернетического эксперимента. Как правило, это пригодно только для задач, в которых известны описания множества объектов (обучающей выборки), и требуется обнаружить внутренние взаимосвязи, зависимости…
Поиск с возвратом, бэктрекинг (англ. backtracking) — общий метод нахождения решений задачи, в которой требуется полный перебор всех возможных вариантов в некотором множестве М. Как правило позволяет решать задачи, в которых ставятся вопросы типа: «Перечислите все возможные варианты …», «Сколько существует способов …», «Есть ли способ …», «Существует ли объект…» и т. п.
Случа́йность — проявление внешних неустойчивых связей в действительности, проявление результата пересечения (совпадения) независимых процессов или событий; проявление неотъемлемого дополнения к законам необходимости.
В математической статистике семплирование — обобщенное название методов манипулирования начальной выборкой при известной цели моделирования, которые позволяют выполнить структурно-параметрическую идентификацию наилучшей статистической модели стационарного эргодического случайного процесса.
Имитационное моделирование (англ. simulation modeling) — метод исследования, при котором изучаемая система заменяется моделью, с достаточной точностью описывающей реальную систему (построенная модель описывает процессы так, как они проходили бы в действительности), с которой проводятся эксперименты с целью получения информации об этой системе. Такую модель можно «проиграть» во времени, как для одного испытания, так и заданного их множества. При этом результаты будут определяться случайным характером…
Темпоральная логика (англ. temporal (от лат. tempus) logic) — это логика, в высказываниях которой учитывается временной аспект. Используется для описания последовательностей явлений и их взаимосвязи по временной шкале.
Минимакс — правило принятия решений, используемое в теории игр, теории принятия решений, исследовании операций, статистике и философии для минимизации возможных потерь из тех, которые лицу, принимающему решение, нельзя предотвратить при развитии событий по наихудшему для него сценарию.
Зада́ча — проблемная ситуация с явно заданной целью, которую необходимо достичь; в более узком смысле задачей также называют саму эту цель, данную в рамках проблемной ситуации, то есть то, что требуется сделать. В первом значении задачей можно назвать, например, ситуацию, когда нужно достать предмет, находящийся очень высоко; второе значение слышно в указании: «Ваша задача — достать этот предмет». Несколько более жёсткое понимание «задачи» предполагает явными и определёнными не только цель, но и…
Эмпирические исследования – наблюдение и исследование конкретных явлений, эксперимент, а также обобщение, классификация и описание результатов исследования эксперимента, внедрение их в практическую деятельность человека.
Предме́тная о́бласть — множество всех предметов, свойства которых и отношения между которыми рассматриваются в научной теории. В логике — подразумеваемая область возможных значений предметных переменных логического языка.
Агентное моделирование (англ. agent-based model (ABM))— метод имитационного моделирования, исследующий поведение децентрализованных агентов и то, как такое поведение определяет поведение всей системы в целом. В отличие от системной динамики аналитик определяет поведение агентов на индивидуальном уровне, а глобальное поведение возникает как результат деятельности множества агентов (моделирование «снизу вверх»).
Те́зис Чёрча — Тью́ринга — это гипотеза, постулирующая эквивалентность между интуитивным понятием алгоритмической вычислимости и строго формализованными понятиями частично рекурсивной функции и функции, вычислимой на машине Тьюринга. В связи с интуитивностью исходного понятия алгоритмической вычислимости, данный тезис носит характер суждения об этом понятии и его невозможно строго доказать или опровергнуть. Перед точным определением вычислимой функции математики часто использовали неофициальный термин…
Коннекционизм (англ. connectionism) — один из подходов в области искусственного интеллекта, когнитивной науки (когнитивистики), нейробиологии, психологии и философии сознания. Коннекционизм моделирует мыслительные или поведенческие явления процессами становления в сетях из связанных между собой простых элементов. Существует много различных форм коннекционизма, но наиболее общие используют нейросетевые модели. В рамках этого течения предпринимаются попытки объяснить умственные способности человека…
Фа́кторный анализ — многомерный метод, применяемый для изучения взаимосвязей между значениями переменных. Предполагается, что известные переменные зависят от меньшего количества неизвестных переменных и случайной ошибки.
Наи́вный ба́йесовский классифика́тор — простой вероятностный классификатор, основанный на применении теоремы Байеса со строгими (наивными) предположениями о независимости.
Структурная индукция — конструктивный метод математического доказательства, обобщающий математическую индукцию (применяемую над натуральным рядом) на произвольные рекурсивно определённые частично упорядоченные совокупности. Структурная рекурсия — реализация структурной индукции в форме определения, процедуры доказательства или программы, обеспечивающая индукционный переход над частично упорядоченной совокупностью.
Детерминированный алгоритм — алгоритмический процесс, который выдаёт уникальный и предопределённый результат для заданных входных данных.
Вывод (лат. conclusio) в логике — процесс рассуждения, в ходе которого осуществляется переход от некоторых исходных суждений (предпосылок) к новым суждениям — заключениям. Вывод может проводиться в несколько этапов—умозаключений.
Представление знаний — вопрос, возникающий в когнитологии (науке о мышлении), в информатике и в исследованиях искусственного интеллекта.
Апостерио́рная вероя́тность — условная вероятность случайного события при условии того, что известны апостериорные данные, т.е. полученные после опыта.
По́иск в простра́нстве состоя́ний (англ. state space search) — группа математических методов, предназначенных для решения задач искусственного интеллекта.
Случайность имеет множество применений в области науки, искусства, статистики, криптографии, игр, азартных игр, и других областях. Например, случайное распределение в рандомизированных контролируемых исследованиях помогает ученым проверять гипотезы, а также случайные и псевдослучайные числа находят применение в видео-играх, таких как видеопокер.
Подробнее: Применения случайности
Автокорреляция — статистическая взаимосвязь между последовательностями величин одного ряда, взятыми со сдвигом, например, для случайного процесса — со сдвигом по времени.
Алгоритм Баума — Велша используется в информатике и статистике для нахождения неизвестных параметров скрытой марковской модели (HMM). Он использует алгоритм прямого-обратного хода и является частным случаем обобщённого EM-алгоритма.
Семплирование по Гиббсу — алгоритм для генерации выборки совместного распределения множества случайных величин. Он используется для оценки совместного распределения и для вычисления интегралов методом Монте-Карло. Этот алгоритм является частным случаем алгоритма Метрополиса-Гастингса и назван в честь физика Джозайи Гиббса.
Исчисление процессов или алгебра процессов — семейство связанных подходов к формальному моделированию параллельных систем.
Математическая абстракция — абстракция в математике, мысленное отвлечение. Типы абстрагирования, применяемых в математике: «чистое» отвлечение, идеализация и их различные вариации.
Эмпирическая закономерность (от греч. εμπειρια — опыт; см. Эмпирические данные), правило большого пальца (англ. rule of thumb) — зависимость, основанная на экспериментальных данных и позволяющая получить приблизительный результат, в типичных ситуациях близкий к точному. Такие закономерности легко запоминаются и дают возможность обходиться без сложных инструментальных измерений, чтобы вычислить некую величину. Подобные принципы используются в эвристике, широко распространённой в математике, психологии…
Отображение онтологий (англ. ontology alignment или ontology matching) — это процесс установления соответствий между понятиями (концептами) нескольких онтологий. Множество таких соответствий и называется «отображением». Термин имеет разное значение в компьютерной, когнитивной областях и философии.
Тест стандартными прогрессивными матрицами Равена (Рейвена) — тест, предназначенный для дифференцировки испытуемых по уровню их интеллектуального развития. Авторы теста Джон Рейвен и Л. Пенроуз. Предложен в 1936 году. Тест Равена известен как один из наиболее «чистых» измерений фактора общего интеллекта g, выделенного Ч.Э. Спирменом. Успешность выполнения теста SPM интерпретируется как показатель способности к научению на основе обобщения собственного опыта и создания схем, позволяющих обрабатывать…
Выявление аномалий (также обнаружение выбросов) — это опознавание во время интеллектуального анализа данных редких данных, событий или наблюдений, которые вызывают подозрения ввиду существенного отличия от большей части данных. Обычно аномальные данные превращаются в некоторый вид проблемы, такой как мошенничество в банке, структурный дефект, медицинские проблемы или ошибки в тексте. Аномалии также упоминаются как выбросы, необычности, шум, отклонения или исключения.
Коэффициент Байеса — это байесовская альтернатива проверке статистических гипотез. Байесовское сравнение моделей — это метод выбора моделей на основе коэффициентов Байеса. Обсуждаемые модели являются статистическими моделями. Целью коэффициента Байеса является количественное выражение поддержки модели по сравнению с другой моделью, независимо от того, верны модели или нет. Техническое определение понятия «поддержка» в контексте байесовского вывода дано ниже.
Латентно-семантический анализ (ЛСА) (англ. Latent semantic analysis, LSA) — это метод обработки информации на естественном языке, анализирующий взаимосвязь между библиотекой документов и терминами, в них встречающимися, и выявляющий характерные факторы (тематики), присущие всем документам и терминам.
Статистическое модели́рование — исследование объектов познания на их статистических моделях. «Статистические модели необходимы для теоретического изучения влияния флуктуаций, шумов и т.п. на процессы. При учёте случайных процессов движение системы будет подчиняться уже не динамическим законам, а законам статистики. В соответствии с этим могут быть поставлены вопросы о вероятности того или иного движения, о наиболее вероятных движениях и о других вероятностных характеристиках поведения системы».Оценка…
Интеллектуальный агент в первом смысле — это часть технологии разработки операционных систем, и хотя алгоритмы, в нём используемые, могут базироваться на более сложных моделях, чем даже алгоритмы многих SCADA — систем, диапазон и методика его воздействия на состояние системы очень жестко детерминируется. «Интеллектуальный агент» во втором смысле так же не может быть полностью независимым, выполняя свои задачи, но методики его разработки на много порядков сложнее, в силу абсолютно иного уровня сложности…
Чёрный я́щик — термин, используемый для обозначения системы, внутреннее устройство и механизм работы которой очень сложны, неизвестны или неважны в рамках данной задачи. «Метод чёрного ящика» — метод исследования таких систем, когда вместо свойств и взаимосвязей составных частей системы, изучается реакция системы, как целого, на изменяющиеся условия.
Институт проблем информатики РАН
Электронный журнал «ИССЛЕДОВАНО В РОССИИ» http://zhurnal.ape.relarn.ru/articles/2003/104.pdf 1 2 2 9
Метод «проб и ошибок» и поисковая оптимизация: анализ, классификация, трактовка понятия «естественный отбор»
С.Н. Гринченко (sgrinchenko@ipiran.ru)
1. Введение. Постановка проблемы
В последние десятилетия в научной и научно-популярной литературе, да и в обыденном использовании, все чаще встречается словосочетание метод «проб и ошибок» (для краткости буду далее всюду, даже в цитатах, обозначать его МПиО . С.Г.). На первый взгляд его смысл и основная идея довольно очевидны: использование случайности при поиске некоего полезного результата. Среди многочисленных попыток реализации МПиО как при объяснении (фактически, моделировании) некоторых процессов в природе и обществе, так и при решении практических задач в технике, имеется ряд весьма успешных (правда, на фоне также достаточно представительного ряда неудачных). По-видимому, растущая тенденция его применения и объясняется преобладанием положительных оценок этого метода над отрицательными.
Это находит свое отражение в практически превалирующей в настоящее время не только среди биологов-эволюционистов, но и среди более широкого круга специалистов . философов, прикладных математиков и др. . и даже неспециалистов, точке зрения на эволюцию живой природы именно как на процесс «проб и ошибок». Под ним здесь подразумевают генетическую «изменчивость», приводящую через «наследственность» к «естественному отбору» = «выживанию наиболее приспособленных».
В наиболее яркой форме эту точку зрения выразил в своей монографии «Феномен науки. Кибернетический подход к эволюции» В.Ф.Турчин: «В процессе эволюции жизни, насколько нам известно, всегда происходило и происходит сейчас увеличение общей массы живого вещества и усложнение его организации. Усложняя организацию биологических образований, природа действует по методу проб и ошибок. Существующие образования воспроизводятся во многих экземплярах, которые, однако, не вполне тождественны оригиналу, а отличаются от него наличием небольших случайных вариаций. Эти экземпляры служат затем материалом для естественного отбора. Они могут выступать и как отдельные живые существа . тогда отбор приводит к закреплению полезных вариаций, и как элементы более сложного образования . тогда отбор направлен также и на структуру нового образования (например, при возникновении многоклеточных организмов). И в том и в другом случае отбор является результатом борьбы за существование, в которой более жизнеспособные образования вытесняют менее жизнеспособные. Этот механизм развития жизни, открытый Чарльзом Дарвином, можно назвать основным законом эволюции. В наши цели не входит обоснование или обсуждение этого закона с точки зрения тех законов природы, которые можно было бы провозгласить более фундаментальными. Будем принимать основной закон эволюции как нечто данное» ([1], стр. 21). Можно констатировать, что позиция ряда авторов, наиболее развернуто представленная В.Ф.Турчиным, состоит в том, что эволюция живой природы адекватно описывается именно в терминах МПиО.
Но действительно ли это так? Достаточен ли МПиО для воспроизведения хотя бы основных свойств биологической эволюции . притом, что необходимость его для этого очевидна? Не определяются ли существующие трудности в развитии ее теории (в частности, связанные с необходимостью отражения имеющихся фактов «направленности» и «канализируемости» эволюции) именно с ограниченностью привлекаемого для ее объяснения механизма МПиО как такового? Моя позиция при ответе на эти вопросы следующая: эволюция живой природы адекватно описывается в терминах другого (хотя и близкого к упомянутому) метода поисковой оптимизации, а именно предложенного Л.А.Растригиным (см., напр., [2-5]) метода «случайного поиска», точнее, его важнейшей разновидности . метода «адаптивного случайного поиска», еще точнее . иерархии алгоритмов «адаптивного случайного поиска», представляющей собой «каркас» модели системы Природы (см., напр., [6-10]). Метод же «проб и ошибок», с моей точки зрения, следует трактовать как слепой поиск . предельно упрощенный, даже вырожденный, вариант алгоритма из класса методов «случайного поиска» (кстати говоря, в основу последнего . при его создании . МПиО и был положен!). А собственно МПиО должен во всех случаях рассматриваться лишь как нулевое приближение к этим своим более сложным аналогам, также базирующимся на использовании случайности как на фундаментальном свойстве оптимизационных алгоритмов этого класса. Необходимость в подобном уточнении терминологии вполне назрела, что будет продемонстрировано ниже на конкретных примерах.
Таким образом, задача настоящей работы . подробный анализ существующей в настоящее время практики употребления в научной литературе понятия (и термина) МПиО, его сходств и различий по сравнению с перечисленными вариантами метода случайного поиска (включая и его предельно вырожденный вариант . слепой поиск). На базе данного анализа будет сформирована объединенная классификация всех перечисленных методов оптимизации, и выработаны проекты таких определений всех этих методов, которые позволили бы избежать в будущем множества недоразумений при их применении на практике. В заключение будут кратко рассмотрены примеры использования как конкретного МПиО, так и методов поисковой оптимизации в целом для интерпретации таких центральных понятий ряда теорий биологической эволюции, как «изменчивость» и «естественный отбор», а также их взаимосвязи в контексте более общих модельных представлениях об эволюционных процессах.
2. Метод «проб и ошибок» (МПиО)
. англ. [.trial-and-error.], русск. сленг: «метод тыка», вариант: «метод научного тыка» . с моей точки зрения может быть определен, как «абсолютно случайный» перебор некоторых «пробных» действий, с проверкой эффективности каждого и выработкой соответствующей реакции («удача» либо «ошибка»).
2.1. Об оценках МПиО
Л.А.Растригин так характеризовал его в ряде своих работ: метод «проб и ошибок» . метод, в котором решение ищется случайно, и при удаче принимается, а при неудаче отвергается с тем, чтобы вновь обратиться к случайности как источнику потенциально неограниченных возможностей. И далее: МПиО «строго говоря, нельзя назвать даже методом, так как трудно определить, в чем же, собственно, он состоит. В действительности его правильней было бы назвать методом случайных проб и исправления ошибок. этот метод опирается на два существенных предположения: нероковой характер ошибок (последствия неудачных результатов легко устранимы, стоимость исправления допущенной ошибки не велика) и отсутствие априорных (предварительных) соображений о том, как и в каком направлении делать пробы. Эти соображения почти неизбежно приводят к случаю. Действительно, случайность в такой ситуации является единственно разумной мерой: случайность почти ничего не стоит и всегда содержит в себе искомое решение. Это значит, что достаточно длительный поиск всегда приведет к решению задачи» (см. [5], стр. 6).
Очень многими принято считать МПиО чуть ли не эталоном неэффективного процесса оптимизации, к которому поэтому можно относиться с иронией. Но это с одной стороны. С другой же стороны, оказывается, что существенная часть касающихся его публикаций содержит весьма положительные оценки его эффективности при решении самых различных задач.
Как же это может иметь место одновременно? Какие его свойства определяют столь противоположные оценки, как теоретиков, так и практиков? Всегда ли имеется в виду одно и то же содержание метода? Прежде, чем отвечать на эти вопросы, приведу в подтверждение разноречивости оценок эффективности МПиО несколько цитат, содержащих такие (иногда эмоциональные) оценки. Большинство источников указанных цитат найдены в Интернете с помощью поисковых машин Google (www.google.com.ru), Яндекс (www.ya.ru), Рамблер (www.rambler.ru) и Апорт (www.aport.ru).
2.1.1. МПиО: оценки негативного характера
Для иллюстрации отрицательного отношения к МПиО приведу несколько цитат различных авторов.
Из области теории изобретательского творчества: «Главный недостаток МПиО — это, во-первых, медленное генерирование новых идей, а во-вторых, отсутствие защиты от психологической инерции (т.е. выдвижение идей тривиальных, обыденных, неоригинальных)… Причина неэффективности подобных методов в том, что они не меняют сути старой технологии перебора вариантов, сам этот перебор. Нужен принципиально новый инструмент творчества, а не «косметический» ремонт старого» [11].
Из той же области: «Стандартный метод решения изобретательских задач — это МПиО. Конечно, изобретатель не перебирает подряд все бесчисленное множество возможных вариантов. Нет, сначала идут пробы привычные, логичные, оправданные. Но когда они не срабатывают, когда труд ушедших месяцев, лет оказывается безрезультатным, в ход идет перебор любых, ненормальных, «диких», случайных проб. И вот тогда «однажды»… МПиО парадоксально неэффективен. Он — главный виновник задержки изобретений. Самый страшный враг человечества . это тот нерациональный метод мышления, который именуется «героикой творческого труда», которому поют дифирамбы и который считается столь же неотъемлемым свойством изобретателя, как борода у попа, как облака на небе, как звезды в космосе, как пятна на солнце, как вода в океане и как еще сто тысяч таких же незыблемых и привычных «как». МПиО считается нормой! Это порочный взгляд, потому что он предписывает обязательным применение порочного метода. Из-за самого существования которого человечество тысячелетиями систематически недосчитывается миллионов жизней. МПиО . своеобразный идол творческого труда… Я не очень-то разбираюсь в вероисповеданиях и не знаю, бывают ли идолы добрыми. Одно я знаю совершенно точно: изо всех самых злых идолов, когда-либо придуманных людьми, МПиО самый кровожадный. Мы привыкли приносить жертвы на алтарь нашей веры. Но ни одному божеству за все долгие тысячелетия преданности люди не платили такой дани, которую ежечасно вручают идолу творчества. МПиО . злейший и ужаснейший враг человечества. И вместе с тем, этот метод загадочен, таинствен и завораживающе привлекателен, как в те далекие времена, когда слова «интуиция» и «озарение» не писались и даже не произносились из-за отсутствия языка и письменности… МПиО романтичен для поэтов. Для изобретателей-практиков он . тяжелейшая драма, обесценивающая годы неудачных поисков» [12].
Обсуждая процесс поиска новых форм организации и управления в СССР в конце 80-х гг. ХХ века, С.П.Никаноров писал: «В настоящее время идут два параллельных, влияющих друг на друга, но не связанных функционально процессов. Первый представляет собой процесс ликвидации не оправдавших себя организационных форм, второй — тщательный поиск и освоение новых. Общая тенденция при этом состоит в том, чтобы усилить самостоятельность низовых звеньев народного хозяйства, что, как предполагается, будет стимулировать процессы их рациональной самоорганизации и приведет к образованию новых, эффективных организационно-экономических форм. Нельзя не видеть, что способ проб и ошибок прямо противоположен другому, который основан на расчете или, шире, — проектировании необходимых форм. МПиО чрезвычайно расточителен, он является медленно, негарантированно и неконтролируемо действующим, допускающим лишь в небольшой степени свое совершенствование. И, что, возможно, хуже всего, он ведет к деинтеллектуализации специалистов и руководителей. Специалисты, указывающие на якобы существующее преимущество рыночных систем во многих странах как на воплощение самоорганизации, упускают из виду не только мощное регулирующее влияние государства, в частности, использование системы типа PPBS, PATTERN и др., но и не придают значения вековому становлению рыночных отношений как конкретно-исторической форме, охватывающей все стороны общества» [13].
Из области банковской деятельности: «Используя печально известный МПиО, банки бредут тернистым путем комплексной или не очень комплексной автоматизации, теряя по дороге людей, деньги, время» [14]. И т.д.
Таким образом, во всех перечисленных цитатах их авторы, не анализируя ни внутреннюю структуру, ни параметры МПиО, прямо или косвенно дают этому методу отрицательную оценку как таковому.
2.1.2. МПиО: оценки нейтрально-критического и нейтрального характера
Часто авторы характеризуют МПиО достаточно нейтрально или неоднозначно, но отмечают при этом его недостаточность при конкретных применениях и необходимость дальнейшего развития. Это демонстрируют следующие цитаты.
Из области педагогики: «Иллюзия же успешности педагогической науки и практики зиждется на неспособности большинства ученых видеть глубинные, сущностные пласты педагогического предмета. Дело в том, что в педагогике, в самой практике в начальных и широких границах можно обходиться так называемым «здравым смыслом», «жизненным опытом», «методом проб и ошибок» без помощи науки в собственном смысле слова. И представители педагогической науки довольствуются данным поверхностным описанием педагогических явлений» [15].
Из области исследования социального поведения: «Весьма важно уяснить социально-правовые аспекты проблемы терроризма, без чего противодействие этому явлению приобретает неакцентированный характер поиска решения по принципу проб и ошибок» [16].
Из области теории компьютерного программирования: «В мире, где строительство и разрушение бесплатны, выбирается метод проб и ошибок, а фундаментальные исследования остаются для простаков. Программное обеспечение разрабатывается именно в таком мире. Программист создает чертеж в виде программы на языке высокого уровня. Затем он позволяет компилятору и компоновщику в мгновение ока и почти без затрат построить программный продукт. Создание чертежа требует значительных усилий, но строительство с помощью компилятора и компоновщика практически бесплатно. Программисту вообще не надо беспокоиться о сносе и уборке обломков . по крайней мере, до тех пор, пока ему достаточно дискового пространства. Неудивительно, что идеология проб и ошибок так глубоко укоренилась в процессе разработки программного обеспечения, а сообщество программистов не удосужилось исследовать основные принципы разработки программного обеспечения. МПиО завел нас достаточно далеко. Но рост сложности современных программных систем подводит нас к жесткому пределу. За пределами определенного уровня сложности создание качественных архитектур методом проб и ошибок становится невозможным» [17].
Из области синергетики, о проблеме коэволюции: «Движение от одного состояния к другому должно происходить по определенной траектории . это задача оптимизации. Однако, это движение (развитие) всегда целенаправленно. Так вот, модели призваны заменить технологии проб и ошибок (что иногда длится недопустимо долго) . технологиями научно обоснованными, и это наиважнейшая задача научной интеллигенции в XXI веке» [18].
Из области методологии науки: «Большинство людей убеждено в существовании «научного метода». В то же время многие считают, что «научный метод» — это миф. Одна из причин такого мнения . понимание метода как совокупности правил, которые гарантированно, или без ошибок, должны давать результаты. Но метод, вообще говоря, — это только метод попыток или проб, или «проб и ошибок». Требование безошибочности часто заменяется требованием, чтобы ошибок было мало или чтобы вероятность ошибки была мала» [19]. И т.д.
Таким образом, перечисленные цитаты демонстрируют, что их авторы, опять-таки не анализируя МПиО и не формулируя для него каких-либо определений, дают этому методу неоднозначную либо нейтрально-критическую, а иногда и просто нейтральную оценку.
2.1.3. МПиО: оценки позитивного характера
Для иллюстрации положительного отношения к МПиО также приведу несколько цитат ряда авторов из самых различных областей деятельности.
Из области исследования социального поведения: «Неплохим примером того, как человек именно методом проб и ошибок добирается до своего истинного призвания, может послужить Жан Жак Руссо» [20].
Из области педагогики: «Трактуя учение как субъектную деятельность ученика, Н.А.Менчинская отстаивала необходимость .проб и ошибок. при усвоении знаний. Ученик
(конечно, под руководством взрослого) сам должен .строить. понятие (знание); отчленять признаки существенные от несущественных (а не получать их в готовом виде), опираться на свой личный опыт познания, соотносить его с тем, что предлагает взрослый, т.е. осуществлять развернутую поисковую деятельность, а не пользоваться готовыми .ориентирами.. Настоящая поисковая деятельность без проб и ошибок невозможна» [21].
Из областей педагогики и программирования: «Итак, каков же наиболее эффективный метод изучения программного обеспечения? Экспериментирование. Да, простой МПиО получил самую высокую оценку среди 30 способов обучения (см. таблицу с оценками)» [22].
Из области программирования: «Использовать картинки в форматах GIF и JPEG нужно с умом. Попробуйте создавать файлы GIF с меньшим числом битов на элемент изображения (пиксель). Например, зачем сохранять изображение с одним байтом данных на каждый пиксель, если можно ограничиться всего одним битом (при условии, что в изображении не использованы 256 цветов). Такая сокращенная версия файла будет в 8 раз меньше, а передаваться в 8 раз быстрее. Методом проб и ошибок можно уточнить, сколько именно бит данных достаточно для получения удовлетворительного качества изображения» [23]; а также: «Эволюция Windows . МПиО, который должен привести, наконец-то, к чему-то стоящему, стабильному, устойчивому» [24] и «Разработка по методу Linux . это МПиО, построенный на интенсивном тестировании» [25].
Из области компьютерного синтеза музыки: «Преимущества пошаговой записи, благодаря которым множество электронщиков использует ее, заключаются не только в возможности записи сложнейших тем, коррекции в них ошибок и добавлении требуемых нюансов. Созданные таким образом фрагменты можно потом с легкостью реаранжировать, пустить наоборот, а также полностью изменить с помощью проб и ошибок» [26].
Из области медицины и фармакологии: «Специалисты знают, что люди по-разному реагируют на гипотензивные препараты. Если лекарство позволяет нормализовать давление одного пациента, это не означает, что оно поможет и другому. Поэтому оптимальный метод поиска лекарства для гипертоника . это МПиО» [27]; «Методом проб и ошибок в той или иной степени пользовались и продолжают пользоваться все естественные науки, однако для таких наук о биологически активных соединениях, как фармакология или токсикология, этот метод является прямо-таки доминирующим» [28].
Из области сравнительного исследования биологической и технической эволюции: «Весь ход технического и научного прогресса, а также изучение природы живых существ и законов их эволюции показывает, что пути развития природы и техники различны. Для своего развития природа использует МПиО путем случайного перебора вариантов и закрепления удачных вариантов в генетическом коде, передаваемом последовательно по наследству. Человек использует МПиО путем целенаправленного (?! . С.Г.) перебора вариантов в информационной среде, способствующей накоплению и быстрому распространению этой информации в обществе. Это позволяет человеку в миллионы раз сократить время и затраты на поиск оптимального варианта, что обеспечивает колоссальный прогресс науки и техники даже в пределах жизни одного поколения» [29]. И т.д.
Таким образом, во всех перечисленных цитатах (кроме последней) их авторы, не анализируя ни внутреннюю структуру, ни параметры МПиО, дают этому методу положительную оценку как таковому.
•••••
Цитирование можно было бы продолжить, но и уже представленных в подразделе 2.1 материалов достаточно для того, чтобы сделать некоторые предварительные выводы.
Первое, что бросается в глаза: большинство как негативных, так и позитивных оценок МПиО используют этот термин как данность и не содержат попыток уточнения его смысла. Но иногда в литературе встречаются высказывания, подобные приведенному в последней цитате из статьи И.А.Азарьева (относительно того, что МПиО «используется путем целенаправленного перебора вариантов»), которые явно расширяют диапазон его свойств, интуитивно предполагаемых большинством авторов и читателей.
Действительно, что подразумевать под «целенаправленным перебором вариантов»? Имеется ли в виду, что такие варианты неравноправны с позиций некоторого целевого алгоритма, и, соответственно, могут выбираться не «абсолютно» случайно, а на основе некоторого имеющегося опыта о ходе предыдущей реализации данного поискового процесса? Похоже на то, что цитированный автор имел в виду именно это. Остается вопрос: может ли подобный гипотетический . модифицированный! . метод продолжать называться методом «проб и ошибок»? И не лучше ли присвоить такому методу собственное оригинальное наименование, более точно отражающее подобное расширение его свойств по отношению к МПиО?
Существование этой и подобных ей расширительных интерпретаций МПиО заставляют более подробно рассмотреть определения этого термина, даваемые ему различными авторами.
2.2. МПиО: вербальные определения в изданиях энциклопедического характера
2.2.1. Определения МПиО, явно характеризующие поиск как «слепой»
Как ни удивительно, но, несмотря на чрезвычайно частое употребление в самых различных областях науки и практики (а зачастую . и в обыденной жизни) термина «метод / принцип / алгоритм / способ «проб и ошибок»», в большинстве ведущих энциклопедий (в частности, БСЭ, Encyclopedia Britannica, Брокгауз и Эфрон, ММЭ и др. . за несколькими исключениями, о которых будет упомянуто ниже) нет специальных статей, посвященных его определению и трактовке. Так, БСЭ дает ему определение в статье «Бихевиоризм»: «Для объяснения того, каким образом выбирается данная реакция (человека . С.Г.) в ответ на данное воздействие, Торндайк выдвинул принцип .проб и ошибок., согласно которому выработка всякой новой реакции начинается со слепых проб, продолжающихся до тех пор, пока одна из них не приведет к положительному эффекту» [30]. То есть в данном крайне лаконичном описании метода все же делается акцент на тот факт, что пробы являются «слепыми», или, в эквивалентной трактовке, «равновероятно» случайными.
Словарь «Психология» также утверждает: «Главным течением американской психологии становится бихевиоризм, согласно которому психология не должна выходить за пределы внешне наблюдаемых телесных реакций на внешние стимулы. Динамика этих реакций мыслилась как слепой поиск, случайно ведущий к успешному действию, закрепляемому повторением {метод проб и ошибок}. Программные установки этого направления выразил Дж.Б.Уотсон (1913)» [31].
Encyclopedia Britannica упоминает об алгоритме «проб и ошибок» (.trial and error.) в статье «Кибернетические системы. Самообучающиеся механизмы» при описании процесса движения мыши в лабиринте: «Вначале мышь использует простой (simple) алгоритм «проб и ошибок», наталкиваясь на стенки до тех пор, пока не найдет выхода. В течение процесса этого типа поиска, она «учится» и запоминает план лабиринта. После однажды достигнутой (случайно) цели, мышь будет использовать полностью отличный, намного больше экономичный и, по-видимому, «интеллектуальный» алгоритм для достижения цели в последующем эксперименте, основанный на «знании» расположения лабиринта» [32]. То есть «первичный» алгоритм, или собственно МПиО, рассматривается как «простой» (надо полагать, что в данном контексте определение «простой» использовано как синоним определения «слепой» . blind). Но здесь автора энциклопедической статьи явно больше интересует механизм самообучения . совсем другой, «интеллектуальный» поисковый алгоритм, который в ходе повторов пробега мыши по лабиринту приходит на смену «простому». Можно ли будет этот последний алгоритм рассматривать как эволюционное развитие первого, из цитируемого текста неясно.
В другой статье «Поведение животных. Пробы и ошибки» (которую можно рассматривать как специальную, т.е. непосредственно определяющую термин, несмотря на то, что в ней речь идет скорее об обучении животного по МПиО, а не о самом методе) Encyclopedia Britannica формулирует: «В обучении по МПиО животное учится, чтобы вести себя специфическим способом путем ассоциирования (associating) всего, что ведет к желаемому эффекту. Если нога собаки поднята экспериментатором и затем дана пища, в дальнейшем собака, после нескольких таких проб, будет спонтанно поднимать свою ногу в предвкушении пищи. Как классическое психологическое кондиционирование (conditioning), так и обучение по МПиО называют ассоциативным обучением, потому что в обоих случаях необусловленный ответ ассоциирован с обусловленным стимулом. В природных ситуациях животное, вероятно, обучается ассоциировать некоторую свою спонтанную деятельность с некоторыми желательными результатами, фиксируя, таким образом, обусловленные стимулы и отклик. Обучение этого типа часто происходит в тех случаях, когда животные модифицируют свое поведение в течение возбуждающих желание последовательностей типа питания и спаривания» [33]. То есть в данном определении вообще отсутствуют какие-либо указания на свойства МПиО как такового, он только именуется . в контексте описания обучения животного . без раскрытия деталей его поведения.
В статье «Мышление. Пробы и ошибки» (которую также будем рассматривать как специальную, хотя и она посвящена обсуждению подходов к «решению проблем», а не анализу МПиО как такового) Encyclopedia Britannica предлагает более обобщенную трактовку данного метода: «Деятельность в области решения проблем (problem-solving) распадается на две категории: первая подчеркивает простые (simple) пробы и ошибки; вторая требует некоторой степени понимания. Путем проб и ошибок индивидуум действует главным образом с помощью исследования и управления элементами проблемной ситуации в усилиях разобраться в своих возможностях и нащупать шаги, которые могли бы привести его ближе к цели. Это поведение наиболее подходит в случае, когда «решатель проблем» испытывает недостаток предварительного знания относительно характера решения, или когда нет единственного правила, лежащего в основе решения. Деятельность путем проб и ошибок не обязательно очевидна (как при попытке приспособить вместе части механической головоломки); она может быть неявной или опосредованной так же, как индивидуальное отражение задачи и символическое тестирование возможностей при их обдумывании» [34]. То есть в данном определении подчеркивается тот факт, что МПиО следует использовать именно при недостатке априорной информации о решаемой с его помощью проблеме, а его собственные свойства опять-таки не рассматриваются.
В свою очередь, база знаний de facto констатирует: «МПиО . способ выработки новых форм поведения в проблемных ситуациях. МПиО, широко используемый бихевиоризмом для объяснения научения как вероятностного процесса, получил распространение в психологии после работ Э.Л.Торндайка, согласно которым слепые пробы, ошибки и случайный успех, закрепляющий удачные пробы, определяют путь приобретения индивидуального опыта у животных и человека. Тем самым была выделена согласованность поведения со средой на вероятностной основе, что позволило при интерпретации категории действия выйти за пределы жесткой альтернативы: либо механистической, либо телеологической его трактовки. Последующая разработка проблемы научения обнаружила слабость и ограниченность объяснительных возможностей МПиО, поскольку он не учитывает характерную для поведения направленность каждой пробы (! . С.Г.), ее включенность в определенную психическую структуру. Гештальтпсихология подвергла МПиО критике, противопоставив ему решение проблемы путем инсайта. Непродуктивность и теоретическая слабость такого противопоставления была показана И.П.Павловым. Свое значение МПиО сохранил лишь в узкой сфере искусственно создаваемых ситуаций; в частности, он вошел в состав конструктивных принципов кибернетических устройств» [35]. То есть, акцентируется внимание на несоответствии «слепого» МПиО современному пониманию поведения как направленного. И т.д.
•••••
Обобщая точки зрения, представленные выше в пункте 2.2.1, можно констатировать, что все они:
а) достаточно близки,
б) рассматривают МПиО как «слепой» / «простой» алгоритм, который настолько элементарен, что не нуждается в пояснениях его структуры и параметров,
в) обычно рекомендуют использовать МПиО при недостатке или полном отсутствии априорной информации об объекте его приложения.
2.2.2. Определения МПиО, не разделяющие понятия «слепого» и «направленного» поиска
В отличие от изложенной позиции, психологический словарь (также в специальной статье) дает определение, что «МПиО . форма научения, описанная Э.Торндайком в 1898 г., основанная на закреплении случайно совершенных двигательных и мыслительных актов, за счет которых была решена значимая для животного задача. В следующих пробах время, которое затрачивается животным на решение аналогичных задач в аналогичных условиях, постепенно, хотя и не линейно, уменьшается, до тех пор, пока не приобретает форму мгновенного решения. В дальнейшем более точный анализ поведения методом проб и ошибок показал, что оно не является полностью хаотическим и нецелесообразным, как считал Торндайк, но интегрирует в себе прошлый опыт (курсив мой . С.Г.) и новые условия для решения задачи» [36]. То есть в данном случае автор статьи делает акцент, во-первых, на изменении вероятностных свойств метода в процессе его функционирования, и, во-вторых, на определенную целесообразность такого изменения. Практически это последнее определение кардинально отличается от вышеприведенной трактовки БСЭ и Encyclopedia Britannica. Недостатком данного определения является его неоднозначность: не вполне понятно, с какого момента времени указанная форма научения не должна больше рассматриваться как полностью хаотическая и нецелесообразная, и, главное, все ли специалисты, использующие данный термин в той или иной конкретной ситуации, согласны с тем, что он интегрирует в себе прошлый опыт?
Известный энциклопедический Интернет-сайт www.dictionary.com (со ссылкой на The American Heritage® Dictionary of the English Language, Fourth Edition) дает МПиО следующее определение: «Метод достижения корректного решения или удовлетворительного результата с помощью попыток использования различных средств или теорий до тех пор, пока ошибка уменьшится в достаточной степени или будет ликвидирована» [37]. Как видим, здесь алгоритм генерации «попыток» вообще не рассматривается.
Иногда в качестве синонима МПиО используют термин «эвристический метод». Так, в Толковом словаре английского языка Random House «под эвристикой понимается метод дискуссии, а также изучение эвристической процедуры (методики). Термин «эвристический» (heuristically) толкуется там же более вариативно: 1. Служащий для того, чтобы указывать; стимулирующий интерес как средство дальнейшего исследования. 2. Вдохновляющий человека, чтобы изучать, обнаруживать, понимать, или решать проблемы по-своему, как экспериментируя, оценивая возможные ответы или решения, так и методом проб и ошибок: эвристический обучающий метод. 3. Имеющий отношение, или основанный на экспериментировании, оценке, или методах проб и ошибок. 4. Компьютеры, Математика. Имеющий отношение к решению проблемы методом проб и ошибок в том случае, когда алгоритмический подход непрактичен» [38]. И здесь алгоритм генерации «проб» не рассматривается.
Большое внимание данному вопросу уделяется на энциклопедическом Интернет-сайте, представляющем проект Principia Cybernetica. В специальной статье The trial-and-error method Ф.Хейлиген и В.Ф.Турчин вначале определяют его как метод, в котором «генерируются различные возможные конфигурации, после испытания их «приспособленности» хорошие сохраняются, а плохие или «ошибки» устраняются (элиминируются)» [39]. Таким образом, в данном определении авторы вообще не упоминают о способе генерации новых конфигураций и тем более о центральной проблеме . используется ли при этом прошлый опыт или нет?
Но далее в этой же статье они разъясняют это довольно общее определение следующим образом: «Согласно неодарвинистской точке зрения, эволюция происходит путем создания случайных комбинаций (живой) материи, с последующей борьбой за существование, в результате которой некоторые комбинации выживают и размножаются, в то время как другие погибают. Поппер (Popper) описывает это как работу общего метода проб и устранения ошибок. Кэмпбелл (Campbell) использует термин .слепое изменение и выборочное сохранение. (blind variation and selective retention) [40]. Ньюэлл (Newell) и Саймон (Simon) в их теории .решения проблем. (problem solving) назвали этот механизм «генерируй и тестируй» («generate and test»). Здесь мы будем говорить просто о методе .проб и ошибок.. Мы не должны использовать термин «слепой», потому что в культурной эволюции или при .решении проблем. мы часто имеем дело с осознанным и направленным выбором (курсив мой . С.Г.). Но даже по отношению к биологической эволюции мы не можем увериться, а тем более подтвердить фактами, что вариации слепы. Верно, что мы создаем нашу теорию и проверяем ее фактами в предположении, что вариации слепы. Но реально мы не используем факт, что вариация, в действительности, слепа или случайна («случайна» и «слепа» используются как синонимы! . С.Г.), то есть все физически и логически возможные выборы равновероятны. Успех теории (? . если имеется в виду успех теории биоэволюции, то это слишком сильное и, как минимум, спорное утверждение: подробности см. ниже . С.Г.) доказывает, что слепота, в нынешнем состоянии теории, является достаточной, но не доказывает, что она необходима. Основное требование . то, что большое количество возможных состояний или решений исследуется через процесс вариации. Принцип настолько мощен, что любой тип вариации или пробы, управляемый предвидением или нет (курсив мой . С.Г.), сопровождаемый устранением «плохих» или «непригодных» проб, и сохранением или размножением «пригодных» проб, приведет к эволюции. Факт, что успешные шаги сохранены, ведет к необратимому накоплению, «эффекту храповика», который и позволяет движение только в специфическом общем направлении, без движения назад (см. принцип асимметричных переходов)» [там же].
Этот комментарий весьма разноречив. С одной стороны, Ф.Хейлиген и В.Ф.Турчин ссылаются . как на одно из сходных понятий . на введенный Кэмпбеллом термин «слепое изменение и выборочное сохранение» (причем в статье Ф.Хейлигена с этим названием, помещенной на том же сайте, «слепота изменений» не подвергается сомнению [41]). С другой стороны, упоминание Ф.Хейлигена и В.Ф.Турчина, что «реально мы не используем факт, что вариация, в действительности, слепа или случайна», и прямое формулирование того, что «основное требование — то, что большое количество возможных состояний или решений исследуется через процесс вариации», указывают на то, что авторы вообще не различают в МПиО «тип вариации или пробы: управляемый предвидением или нет».
С этой позицией можно было бы согласиться, если бы не одно «но»: она не вполне согласуется с исторически сложившейся традицией употребления термина МПиО преимущественно в смысле использования именно слепых вариаций . хотя, как было показано выше, имеют место и отдельные трактовки их как направленных (целенаправленных). В любом случае практика одновременного использования двух достаточно противоречивых определений одного и того же термина не может быть признана вполне приемлемой.
•••••
Обобщая точки зрения, представленные выше в данном пункте 2.2.2, можно констатировать, что все они:
а) неоднозначны,
б) в части из них МПиО рассматривается как достаточно сложный алгоритм, который обладает возможностью варьировать размер своей памяти от нуля до некоторой заметной величины, что обеспечивает «направленность» поиска, и
в) опять-таки рекомендуют использовать МПиО при недостатке или полном отсутствии априорной информации об объекте его приложения.
Подытоживая же данные, приведенные в подразделе 2.2 в целом, приходится признать, что информационный поиск в изданиях энциклопедического характера не дал результата . однозначного определения сущности МПиО. Следовательно, с этой целью следует обратиться к научным публикациям, в которых он используется.
Продолжение
Алфавитный указатель:
- Гринченко С.Н.
Рубрики:
- Академия
