В настоящее время не существует внятного определения Информации, и само это понятие окружено мистикой. Цель данных заметок дать техническое определение этому понятию и предложить способы его количественной оценки.
В 1948 году Клодом Шенноном была предложена расчетная формула для вычисления того, что он (крайне неудачно) назвал "количество информации".
Введенное Бенуа Мандельбротом в 1975 году понятие фрактала ("Фрактальная геометрия природы") позволило удачно объединить многие, ранее рассматривавшиеся отдельно явления.
Для классической модели термодинамики - идеального газа под поршнем - будем использовать термин "газовый фрактал" (чем он на самом деле и является).
Закон Клапейрона-Менделеева (1834) устанавливает связь между объемом газа V, его давлением P и абсолютной температурой Т (выбирая подходящим образом размерности):
Странным образом, фундамент теории информации выстроен на заблуждении об аддитивности энтропии.
Между тем, ее неаддитивность прямо следует из существования энтропийного предела.
Рассмотрим, например, сложение двух сообщений с единичной энтропией. Неважно, как именно это будет реализовано. Например, симметричное шифрование можно рассматривать как сложение сообщения с ключом. Результирующая энтропия, разумеется, не может превышать единицу.
Все методы трансформации текста естественно распадаются на две группы: диссипативные, связанные с потерей информации (аннотирование, реферирование, компиляция, сжатие данных с потерями - lossy data compression) и консервативные, без потерь информации (перевод с одного языка на другой, шифрование, сжатие данных без потерь - lossless data compression) .
Неаддитивность энтропии приводит, иногда, к "парадоксальным" ситуациям.
В термодинамике известен парадокс Гиббса, аналогичный "парадокс" может быть предложен для информационной энтропии.
Пусть M - произвольное сообщение длины L с энтропией H.
В "Семантика дуэльных игр" было показано, что, в общем виде, игру можно рассматривать как процесс диффузии ресурса игрока. Продолжая термодинамическую аналогию, рассмотрим коммуникацию как аналог газового трансформатора.
Принимая размерности единиц такими, чтобы в законе Клапейрона-Менделеева размерный множитель k = 1, имеем условие равновесия для двух соединенных цилиндров p1 * v1 = p2 * v2.
Дуэльными будем называть игры с участием двух игроков, соперничающих за общий ресурс. Например, шашки-шахматы, морской бой, крестики-нолики итп. Общим для всех подобных игр является несколько условий: игра идет на общем поле (или общими предметами, как в картах), игра начинается с определенной стартовой позиции (общей или симметричной) для игроков, в ходе игры участники коммуницируют друг с другом путем отсылки сообщений (объявления ходов).
Среди многочисленного хлама - литературы на тему "Золотого сечения", попалась статья Олега Боднара "Теория относительности и филлотаксис: сходство и различие геометрических интерпретаций".
Словарь определяет филлотаксис как листорасположение (чаще всего, спиральное), но на самом деле, значение его выходит за расположение одних только листьев и, пожалуй, применимо в целом ко всему растительному фракталу. Математически, последовательность Фибоначчи одна из простейших рекурсивных, и в природных фракталах встречается повсеместно.
Вспомнилось, что эту подборку статей я уже видел на habr.com (https://habr.com/en/post/403225). Комментирование там требует регистрации, так что в тот раз я оставил все свои замечания при себе. Но сейчас решил все же попытаться продраться через все бесконечное словоблудие в поисках крупиц истины.
Автор пишет: