наилучший из возможных

Две цитаты из Лейбница, использованные в Confusion Нила Стивенсона в качестве эпиграфов:

... God has chosen the world that is most perfect, that is to say, the one that is at the same time the simplest in hypotheses and the richest in phenomena.

... At bottom, all our experience assures as of only two things, namely, that there is a connection among our appearances, which provides us the means to predict future appearances with success, and that this connection must have a constant cause.

В этих высказываниях фактически содержится вся философия современной статистической теории обучения. С точки зрения наблюдателя, ищущего закономерности в интересующих его явлениях с целью формулировки гипотез о будущих явлениях, наш мир действительно "наилучший из возможных". Шеннон в одной из своих статей писал, что можно обладать некоторой информацией о прошлом, но не иметь при этом возможности им управлять, и иметь ограниченные возможности управлять будущим, не зная его наперед (между прочим, на этом основан беллмановский принцип динамического программирования). Вторая из вышеприведенных цитат очень хорошо, по-моему, суммирует эту двойственность между информацией и управлением.

бритва Оккама

Как на самом деле формулируется принцип, известный как "бритва Оккама"? Распространенный и часто цитируемый вариант "entia non sunt multiplicanda praeter necessitatem" (не следует умножать сущности сверх необходимости), как утверждается в работе William Thorburn, "The Myth of Occam's Razor", Mind 27 (1918), 345-353 (см. также комментарии), на самом деле Оккаму не принадлежит. То его высказывание, которое можно принять за исходный вариант эпистемологического принципа минимального объяснения, гласит "rustra fit per plura, quod potest fieri per pauciora" (в английском переводе, it is vain to do with more that which can be done with less). В отличие от расхожей фразы о преумножении сущностей, в этом высказывании нет номиналистских коннотаций.

Еще информация:

William Ockham (c. 1285–1349) … is remembered as an influential nominalist, but his popular fame as a great logician rests chiefly on the maxim known as Ockham's razor Entia non sunt multiplicanda praeter necessitatem or "Entities should not be multiplied unnecessarily." The term razor refers to the act of shaving away unnecessary assumptions to get to the simplest explanation. No doubt this represents correctly the general tendency of his philosophy, but it has not so far been found in any of his writings. His nearest pronouncement seems to be Numquam ponenda est pluralitas sine necessitate, which occurs in his theological work on the Sentences of Peter Lombard (Quaestiones et decisiones in quattuor libros Sententiarum Petri Lombardi (ed. Lugd., 1495), i, dist. 27, qu. 2, K). In his Summa Totius Logicae, i. 12, Ockham cites the principle of economy, Frustra fit per plura quod potest fieri per pauciora. (Thorburn, 1918, pp. 352-3; Kneale and Kneale, 1962, p. 243).

http://en.wikipedia.org/wiki/Occam's_razor (там в конце есть ссылка на факсимиле статьи Торберна)