Неаддитивность энтропии приводит, иногда, к "парадоксальным" ситуациям.

В термодинамике известен парадокс Гиббса, аналогичный "парадокс" может быть предложен для информационной энтропии.

Пусть M - произвольное сообщение длины L с энтропией H.