information-theory

Теория информации вступает в игру там, где всегда присутствует кодирование и декодирование. Например: сжатие (мультимедиа), криптография. В теории информации мы сталкиваемся с такими терминами, как" энтропия"," Самоинформация"," взаимная информация", и весь предмет основывается на этих терминах. Которые прос...

EDIT : Вау, много отличных ответов. Да, я использую это как функцию пригодности для оценки качества сорта, выполняемого генетическим алгоритмом. Таким образом, оценка стоимости важна (т. е. она должна быть быстрой, предпочтительно O(n).) Как часть приложения ИИ, с которым я играю, я хотел бы иметь возмо...

Хорошо известно, что GZIP или DEFLATE (или любой механизм сжатия) могут иногда увеличивать размер файла. Существует ли максимум (процент или константа), что файл может быть увеличен? Что это? Если файл имеет размер X байт,и я собираюсь его разархивировать, и мне нужно заранее запланировать файловое простран...

При создании разделов фазовом пространстве в Alpha раздела, Он предназначен, чтобы найти, как хорошо, что partiton это. В этой перспективе нам необходимо выяснить источник энтропии. Теперь я много гуглил, но не мог узнать, что такое энтропия источника. Может ли кто-нибудь объяснить: Чем энтропия Шеннона о...

Я недавно начал курс по сжатию данных в моем университете. Однако я нахожу использование термина "энтропия" применительно к информатике довольно неоднозначным. Насколько я могу судить, это примерно переводится как "случайность" системы или структуры. каково правильное определение компьютерной науки "энтропия...