из истории теории информации

[ded_maxim]

Наконец-то добрался до "Криптономикона" Стивенсона. Помню, ygam сетовал на многочисленные анахронизмы в книге -- типа, уже в 1941-м году идет речь о теории информации, информационных каналах и т.д., хотя первая работа Шеннона на эту тему вышла только в 1948-м году. На самом деле, все не так просто. Дело в том, что Шеннон интересовался вопросами передачи информации по каналам с помехами еще до начала войны и был подробно знаком с работой Хартли 1928-го года, где впервые появились термины вроде "rate of communication", "intersymbol interference", "capacity of a system to transmit information", как и, собственно, сама идея измерять количество информации логарифмом числа возможных сообщений. Вот что говорится в крайне познавательном обзоре S. Verdú, "Fifty Years of Shannon Theory," IEEE Trans. Information Theory, Special Commemorative Issue, vol. 44, no. 6, pp. 2057-2078, Oct. 1998 (PDF):

Probabilistic modeling of information sources has in fact a very long history as a result of its usefulness in cryptography. As early as 1380 and 1658, tables of frequencies of letters and pairs of letters, respectively, had been compiled for the purpose of decrypting secret messages. At the conclusion of his WWII work on cryptography, Shannon prepared a classified report where he included several of the notions (including entropy and the phrase “information theory”) pioneered in [his 1948 article]. However, Shannon had started his work on information theory (and, in particular, on probabilistic modeling of information sources) well before his involvement with cryptography. Having read Hartley’s paper in his undergraduate days, Shannon, as a twenty-two-year-old graduate student at MIT, came up with a ground-breaking abstraction of the communication process subject to a mean-square fidelity criterion. After writing his landmark Master’s thesis on the application of Boole’s algebra to switching circuits and his Ph.D. dissertation on population dynamics, Shannon returned to communication theory upon joining the Institute for Advanced Study at Princeton and, then, Bell Laboratories in 1941.

Так что в предположении, что Лоренс Уотерхауз, Алан Тьюринг и Рудольф фон Хакльхебер вполне могли встретиться с Шенноном в Принстоне и таким образом познакомиться с теоретико-информационными идеями уже в начале сороковых годов, в принципе сильных натяжек нет. Было бы намного интереснее, конечно, если б Стивенсон "вписал" и Шеннона в книгу качестве одного из персонажей, пусть даже второстепенного.

Comments

[occuserpens.livejournal.com]

Хммм... А я как не видел смысла в альтернативной истории, так и не вижу.

[furia-krucha.livejournal.com]

А в том, чтобы писать тексты, где в каждой строчке строго определённое число слогов, и ударные слоги образуют узор, какой смысл?

[occuserpens.livejournal.com]

ага, совсем другое дело!

[boriskogan.livejournal.com]

Who do you think served as a prototype for Lawrence (Daniel is from the Trilogy) Waterhouse?

[ded-maxim.livejournal.com]

Oh, right, Lawrence... Shit, the Baroque Cycle is still so fresh in my mind that it immediately spits out "Daniel" instead of "Lawrence." I'm actually sad that I've gotten through the Cycle, and now it's over. It was a great read all the way through. Particularly the Leibniz-Newton bits.

As for who served as a prototype for Lawrence, I haven't really given it much thought yet.

[boriskogan.livejournal.com]

The Baroque Cycle was awesome. I think Stephenson is my favorite late-20th century fiction author. Gibson used to be up there, but lately he's kind of sucked.

I personally think that Lawrence was based on some ancestor of Stephenson's, but I don't know science history well enough to guess accurately.

[ygam.livejournal.com]

Possibly. Of course no cryptanalysis-obfuscation unit existed; the Germans did not even consider the possibility that the Enigma was broken, and assumed that their submarines were sunk because of superior British radar.

[ded-maxim.livejournal.com]

Right. But as an information theorist I think that the whole idea of a cryptanalysis-obfuscation unit is rather cool. By the way, what was the name of that Peter Calcovoressi book, Top Secret Ultra? I think I will read it after I'm done with Cryptonomicon.

[ygam.livejournal.com]

Yes, Top Secret Ultra.

[ded-maxim.livejournal.com]

Sorry, I misspelled his name, it's Calvocoressi of course. Duke library has that book, so I will check it out.

[boriskogan.livejournal.com]

http://en.wikipedia.org/wiki/Ultra

"The Allies were seriously concerned with the prospect of the Axis command finding out that they had broken into the Enigma traffic. This was taken to the extreme that, for instance, though they knew from intercepts the whereabouts of U-boats lying in wait in mid-Atlantic, the U-boats often were not hunted unless a "cover story" could be arranged — a search plane might be "fortunate enough" to sight the U-boat, thus explaining the Allied attack. Ultra information was used to attack and sink many Afrika Korps supply ships bound for North Africa; but, as in the North Atlantic, every time such information was used, an "innocent" explanation had to be provided: often scout planes were sent on otherwise unnecessary missions, to ensure they were spotted by the Germans. The British were, it is said, more disciplined about such measures than the Americans, and this difference was a source of friction between them."

While I don't know if special operations were used to cover up the use of Ultra/Magic, it's quite possible. It's not too likely-most special operations in the sense that we think of them today were OSS liaison elements working with local resistance movements, Jedburghs, etc. As far as I know, anyway.

[boriskogan.livejournal.com]

http://en.wikipedia.org/wiki/Gardening_%28cryptanalysis%29

[ded-maxim.livejournal.com]

I was just about to say that this was a typical case of a chosen-plaintext attack, but the Wikipedia entry already says that. This seems like quite an obvious thing to do. What is much less likely is to attempt to manipulate statistical regularities on a large scale in order to effectively disguise what statisticians would call "large-deviation events". In other words, if the enemy were to conduct a statistical analysis of a bunch of events in order to conclude whether a given event was anomalous or not, the goal would be to make certain changes to the entire sample he would see in order to force him to accept certain events as normal. In fact, I am working right now on a project to develop statistical methodology for detecting anomalous contacts between some people in a group, and it's quite interesting to look at possible strategies for them to try and disguise the anomalous nature of their meeting.

[boriskogan.livejournal.com]

Yeah, I know it's a chosen-plaintext attack and not a counter-intelligence measure. Still, if the allies were smart enough to manipulate the Germans into revealing their crypto, why is it a stretch to say they might have been smart enough to manipulate them into not seeing that their crypto had been compromised?

If you don't mind me asking, who are you developing this methodology for? Who's the end-user?

[ded-maxim.livejournal.com]

The project is funded by DARPA, so the stated goal is effective surveillance, discovery of possible new locations of IED's given records of previously found ones, etc., but we're hoping also to have some applications to life sciences as well -- find anomalous patterns of biomarkers in the patient's blood, for instance.

[boriskogan.livejournal.com]

I'm gonna have to talk to you about another possible application of this next time I'm in NC, if you don't mind.

[ded-maxim.livejournal.com]

I'd love to. Drop me a note when you're in NC, and we'll have a few beers and talk about these things.

[ygam.livejournal.com]

Я вчера говорил об этом с этим человеком (http://www.linkedin.com/pub/oscar-zhuk/a/807/652); он не знает твоего имени.

[ded-maxim.livejournal.com]

Ну, я кагбе тоже не совсем в курсе, кто это такой.

[(Anonymous)]

дорогой дед Максим. где-то в вашем ЖЖ вы обрушивались на Сократа, что, мол, его не было, а знаем мы только благодаря Платону. надо сказать, не вы первооткрыватель, вернее, не только вам в голову приходила подобная мысль.

однако существует ряд фактов, которые можно привести против такой гипотезы:
1. во-первых, о Сократе мы знаем из двух источников: 1) сократических диалогов Платона 2) сократических диалогов Ксенофанта, одного из первых греческих историков. существуют разночтения между этими источниками. в частности, относительно судебного процесса пишут и Платон (в "Апологии Сократа") и Ксенофант. однако в платоновском диалоге упоминается о трёх камушках, которые решили судьбу Сократа. то есть разница между камушками, поданными "за", и камушками, поданными "против" осуждения Сократа, составляла три камушка. а у Ксенофанта - 30. в разных вариантах рукописей "Апологии" встречаются и другие цифры, например, 7 и 23. этому посвящена обширная литература. хотя это - всего лишь единичный случай различий. таких там - несколько десятков. если бы Сократ был преднамеренной фальсификацией, скорее всего, разночнений не было бы.

2. Сама "Апология Сократа" стилистически крайне разнородна, о чём пишут практически все исследователи, начиная с 18 века. в одних пассажах Сократ пускается в очень длинные размышления в духе Платоновских диалогов среднего периода творчества. в других язык Сократа становится близким к языку комедий Аристафана, т.е. разговорному древнегреческому языку. следовательно, скорее всего, Платон задействовал при создании "Апологии" материал из реального судебного процесса, добавив собственные мысли. т.е. Сократ платоновского диалога - это Сократ-реальный + Платон.

3. ни один из античных авторов не поставил под сомнение реальность существования Сократа. Сократ выведен в комическом свете в пьесе Аристафана "Лягушки". Аристотель пишет, что был учеником Сократа. Диоген Лаэртский в "Историях о философах" приводит анекдоты про Сократа, взятые из какого-то другого источника, нежели Платон. о Сократе как о достоверно существовавшем лице пишут и поздние авторы, даже такие критически настроенные, как отцы церкви.

естественно ясного портрета Сократа и его жизнеописания в античных источниках нет, но его и не могло было быть, так как ни одному историку не пришло бы в голову его создавать. Сократ не был царём, от его судьбы не зависела судьба Греции. то что мы имеем под образом Сократа сегодня - это компиляции немецких учёных 19 века, частично переведённая на другие языки.

и надо иметь ввиду при обсуждении таких вопросов, что то, что мы имеем всего два источника сведений о Сократе, ещё не означает, что других не было. они были, но не дошли до нас, т.к. в средневековье был составлен список "наследия античности", которое постоянно переписывалось в монастырях. если кто-то из авторов не попадал в него, то, значит, его сочинения (пусть и о Сократе) не переписывали, м для будущих поколений они не сохранялись.