алгоритм расширения - 70%. Это самый худший случай сжатия, наблюдаемый при
сравнении алгоритмов.
Два объектых файла М68000 были сжаты ( файлы 5 и 6 ) также хорошо, как и файлы
вывода TEX в формате .DVI ( файл 7 ). Они имеют меньшую избыточность, чем
текстовые файлы, и поэтому ни один метод сжатия не может сократить их размер
достаточно эффективно. Тем не менее, обоим алгоритмам удается успешно сжать
данные, причем алгоритм расширения дает результаты, большие результатов работы
Л-алгоритма приблизительно на 10%.
Были сжаты три графических файла, содержащие изображения человеческих лиц (
файлы 8, 9 и 10 ). Они содержат различное число точек и реализованы через 16
оттенков серого цвета, причем каждый хранимый байт описывал 1 графическую точку.
Для этих файлов результат работы Л-алгоритма составлял приблизительно 40% от
первоначального размера файла, когда как алгоритма расширения - только 25% или
60% от H . На первый взгляд это выглядит невозможным, поскольку H есть
теоретический информационный минимум, но алгоритм расширения преодолевает его за
счет использования марковских характеристик источников.
Последние 3 файла были искусственно созданы для изучения класса источников, где
алгоритм расширяемого префикса превосходит ( файлы 11, 12 и 13 ) все остальные.
Все они содержат одинаковое количество каждого из 256 кодов символов, поэтому H
одинакова для всех 3-х файлов и равна длине строки в битах. Файл 11, где полное
множество символов повторяется 64 раза, алгоритм расширения префикса преобразует
незначительно лучше по сравнению с H . В файле 12 множество символов повторяется
64 раза, но биты каждого символа обращены, что препятствует расширению
совершенствоваться относительно H . Ключевое отличие между этими двумя случаями
состоит в том, что в файле 11 следующие друг за другом символы вероятно исходят
из одного поддерева кодов, в то время как в файле 12 это маловероятно. В файле
13 множество символов повторяется 7 раз, причем последовательность, образуемая
каждым символом после второго повторения множества, увеличивается вдвое.
Получается, что файл заканчивается группой из 32 символов "a", за которой
следуют 32 символа "b" и т.д. В этом случае алгоритм расширяемого префикса
принимает во внимание длинные последовательности повторяющихся символов, поэтому
результат был всего 25% от H , когда как Л-алгоритм никогда не выделял символ,
вдвое более распространенный в тексте относительно других, поэтому на всем
протяжении кодирования он использовал коды одинаковой длины.
Когда символ является повторяющимся алгоритм расширяемого префикса
последовательно назначает ему код все меньшей длины: после по крайней мере log n
повторений любой буквы n-буквенного алфавита, ей будет соответствовать код
длиной всего лишь в 1 бит. Это объясняет блестящий результат применения
алгоритма расширения к файлу 13. Более того, если буквы из одного поддерева
дерева кодов имеют повторяющиеся ссылки, алгоритм уменьшит длину кода сразу для
всех букв поддерева. Это объясняет, почему алгоритм хорошо отработал для файла
11.
Среди графических данных редко когда бывает, чтобы несколько последовательных
точек одной графической линии имели одинаковую цветовую интенсивность, но в
пределах любой области с однородной структурой изображения, может быть применено
свое распределение статичной вероятности. При сжатии последовательных точек
графической линии, происходит присвоение коротких кодов тем точкам, цвета
которых наиболее распространены в текущей области. Когда алгоритм переходит от
области с одной структурой к области с другой структурой, то короткие коды
быстро передаются цветам, более распространенным в новой области, когда как коды
уже не используемых цветов постепенно становятся длиннее. Исходя из характера
такого поведения, алгоритм расширяемого префикса можно назвать ЛОКАЛЬНО
АДАПТИВНЫМ. Подобные локально адаптивные алгоритмы способны достигать приемлимых
результатов пpи сжатии любого источника Маркова, который в каждом состоянии
имеет достаточную длину, чтобы алгоритм приспособился к этому состоянию.
Другие локально адаптированные алгоритмы сжатия данных были предложены Кнутом и
Бентли . Кнут предложил локально адаптированный алгоритм Хаффмана, в котором
код, используемый для очередной буквы определяется n последними буквами. Такой
подход с точки зрения вычислений ненамного сложнее, чем простые адаптированные
алгоритмы Хаффмана, но соответствующее значение n зависит от частоты изменения
состояний источника. Бентли предлагает использовать эвристическую технику
перемещения в начало ( move-to-front ) для организации списка последних
использованных слов ( предполагая, что текст источника имеет лексическую (
словарную ) структуру ) в соединении с локально адаптированным кодом Хаффмана
для кодирования количества пробелов в списке. Этот код Хаффмана включает
периодическое уменьшение весов всех букв дерева посредством умножения их на
постоянное число, меньше 1. Похожий подход использован и для арифметических
кодов. Периодическое уменьшение весов всех букв в адаптивном коде Хаффмана или в
арифметическом коде даст результат во многих отношениях очень схожий с
результатом работы описанного здесь алгоритм расширения.
Компактные структуры данных, требуемые алгоритмом расширяемого префикса,
позволяют реализуемым моделям Маркова иметь дело с относительно большим числом
состояний. Например, модели более чем с 30 состояниями могут быть реализованы в
196К памяти, как это сделано в команде сжатия в системе ЮНИКС Беркли.
Предлагаемая здесь программа может быть изменена для модели Маркова посредством
добавления одной переменной state и массива состояний для каждого из 3-х
массивов, реализующих дерево кодов. Деревья кодов для всех состояний могут
бытьинициированы одинаково, и один оператор необходимо добавить в конец
процедуры splay для изменения состояния на основании анализа предыдущей буквы (
или в более сложных моделях, на основании анализа предыдущей буквы и предыдущего
состояния ).
Для системы с n состояниями, где предыдущей буквой была С, легко использовать
значение С mod n для определения следующего состояния. Такая модель Маркова
слепо переводит каждую n-ю букву алфавита в одно состояние. Для сжатия
текстового, объектного и графического ( файл 8 ) файлов значения n изменялись в
пределах от 1 до 64. Результаты этих опытов показаны на рисунке 6. Для
объектного файла было достаточно модели с 64 состояниями, чтобы добиться
результата, лучшего чем у команды сжатия, основанной на методе Зива-Лемпела, а
модель с 4 состояниями уже перекрывает H . Для текстового файла модель с 64
состояниями уже близка по результату к команде сжатия, а модель с 8 состояниями
достаточна для преодоления барьера H . Для графических данных ( файл 8 ) модели
с 16 состояниями достаточно, чтобы улучшить результат команды сжатия, при этом
все модели по своим результатам великолепно перекрывают H . Модели Маркова более
чем с 8 состояниями были менее эффективны, чем простая статичная модель,
применяемая к графическим данным, а самый плохой результат наблюдался для модели
с 3 состояниями. Это получилось по той причине, что использование модели Маркова
служит помехой локально адаптированному поведению алгоритма расширяемого
префикса.
Оба алгоритма, Л- и расширяемого префикса, выполняются по времени прямо
пропорционально размеру выходного файла, и в обоих случаях, выход в наихудшем
варианте имеет длину O(H ), т.о. оба должны выполняться в худшем случае за время
O(H ). Постоянные коэффициенты отличаются, поскольку алгоритм расширяемого
префикса производит меньше работы на бит вывода, но в худшем случае производя на
выходе больше битов. Для 13 файлов, представленных в таблице I, Лалгоритм
выводит в среднем 2К битов в секунду, когда как алгоритм расширяемого префикса -
более 4К битов в секунду, т.о. второй алгоритм всегда намного быстрее. Эти
показатели были получены на рабочей станции М68000, серии 200 9836CU Хьюлет
Паккард, имеющей OC HP-UX. Оба алгоритма были реализованы на Паскале, сходным по
описанию с представленным здесь языком.
АРИФМЕТИЧЕСКИЕ КОДЫ.
Tекст, полученный при сжатии арифметических данных, рассматривается в качестве
дроби, где каждая буква в алфавите связывается с некоторым подинтервалом
открытого справа интервала [0,1). Текст источника можно рассматривать как
буквальное представление дроби, использующей систему исчисления, где каждая
буква в алфавите используется в качестве числа, а интервал значений, связанных с
ней зависит от частоты встречаемости этой буквы. Первая буква сжатого текста
(самая "значащая" цифра) может быть декодирована нахождением буквы, полуинтеpвал
которой включает значение пpедставляющей текст дроби. После определения
очередной буквы исходного текста, дробь пересчитывается для нахождения
следующей. Это осуществляется вычитанием из дроби основы связанной с найденной
буквой подобласти, и делением результата на ширину ее полуинтервала. После
завершения этой операции можно декодировать следующую букву.
В качестве примера арифметического кодирования рассмотрим алфавит из 4-х букв
(A, B, C, D) с вероятностями ( 0.125, 0.125, 0.25, 0.5 ). Интервал [ 0,1) может
быть разделен следующим образом:
A = [ 0, 0.125 ), B = [ 0.125, 0.25 ), C = [ 0.25, 0.5 ), D = [ 0.5, 1 ).
Деление интервала легко осуществляется посредством накопления вероятностей
каждой буквы алфавита и ее предшественников. Дан сжатый текст 0.6 (
представленный в виде десятичной дроби ), тогда первой его буквой должна быть D,