Запись - gazlan

Аватар пользователя gazlan

Измерение информации

В настоящее время не существует внятного определения Информации, и само это понятие окружено мистикой. Цель данных заметок дать техническое определение этому понятию и предложить способы его количественной оценки.

В 1948 году Клодом Шенноном была предложена расчетная формула для вычисления того, что он (крайне неудачно) назвал "количество информации".

Аватар пользователя gazlan

Тексты и оценки

Введенное Бенуа Мандельбротом в 1975 году понятие фрактала ("Фрактальная геометрия природы") позволило удачно объединить многие, ранее рассматривавшиеся отдельно явления.

Для классической модели термодинамики - идеального газа под поршнем - будем использовать термин "газовый фрактал" (чем он на самом деле и является).

Закон Клапейрона-Менделеева (1834) устанавливает связь между объемом газа V, его давлением P и абсолютной температурой Т (выбирая подходящим образом размерности):

Аватар пользователя gazlan

Энтропия и релятивизм

Странным образом, фундамент теории информации выстроен на заблуждении об аддитивности энтропии.

Между тем, ее неаддитивность прямо следует из существования энтропийного предела.

Рассмотрим, например, сложение двух сообщений с единичной энтропией. Неважно, как именно это будет реализовано. Например, симметричное шифрование можно рассматривать как сложение сообщения с ключом. Результирующая энтропия, разумеется, не может превышать единицу.

Аватар пользователя gazlan

Диакоптика трансформаторов текста

Все методы трансформации текста естественно распадаются на две группы: диссипативные, связанные с потерей информации (аннотирование, реферирование, компиляция, сжатие данных с потерями - lossy data compression) и консервативные, без потерь информации (перевод с одного языка на другой, шифрование, сжатие данных без потерь - lossless data compression) .

Аватар пользователя gazlan

Энтропия и парадокс Гиббса

Неаддитивность энтропии приводит, иногда, к "парадоксальным" ситуациям.

В термодинамике известен парадокс Гиббса, аналогичный "парадокс" может быть предложен для информационной энтропии.

Пусть M - произвольное сообщение длины L с энтропией H.

Аватар пользователя gazlan

Термодинамическая модель коммуникации

В "Семантика дуэльных игр" было показано, что, в общем виде, игру можно рассматривать как процесс диффузии ресурса игрока. Продолжая термодинамическую аналогию, рассмотрим коммуникацию как аналог газового трансформатора.

Принимая размерности единиц такими, чтобы в законе Клапейрона-Менделеева размерный множитель k = 1, имеем условие равновесия для двух соединенных цилиндров p1 * v1 = p2 * v2.

Аватар пользователя gazlan

Семантика дуэльных игр

Дуэльными будем называть игры с участием двух игроков, соперничающих за общий ресурс. Например, шашки-шахматы, морской бой, крестики-нолики итп. Общим для всех подобных игр является несколько условий: игра идет на общем поле (или общими предметами, как в картах), игра начинается с определенной стартовой позиции (общей или симметричной) для игроков, в ходе игры участники коммуницируют друг с другом путем отсылки сообщений (объявления ходов).

Аватар пользователя gazlan

Инварианты и поклонники

Среди многочисленного хлама - литературы на тему "Золотого сечения", попалась статья Олега Боднара "Теория относительности и филлотаксис: сходство и различие геометрических интерпретаций".

Словарь определяет филлотаксис как листорасположение (чаще всего, спиральное), но на самом деле, значение его выходит за расположение одних только листьев и, пожалуй, применимо в целом ко всему растительному фракталу. Математически, последовательность Фибоначчи одна из простейших рекурсивных, и в природных фракталах встречается повсеместно.

Аватар пользователя gazlan

Замечания. Семь статей "ни о чем"

Попалось - Философия информации, часть 1-я.

Вспомнилось, что эту подборку статей я уже видел на habr.com (https://habr.com/en/post/403225). Комментирование там требует регистрации, так что в тот раз я оставил все свои замечания при себе. Но сейчас решил все же попытаться продраться через все бесконечное словоблудие в поисках крупиц истины.

Автор пишет:

RSS-материал