Суффиксное дерево

Материал из Википедии — свободной энциклопедии

Эту статью следует викифицировать.
Пожалуйста, оформите её согласно общим правилам и указаниям.

Суффиксное дерево — способ организации данных (строк), позволяющий выяснять, входит ли строка w в строку t, за время O(|w|), где w — длина строки w.

Содержание

1 Основные определения и описание структуры
2 Свойства суффиксных деревьев
3 Требования суффиксного дерева к памяти
4 Построение дерева за линейное время. Алгоритм mcc. (McCreight's Algorithm)
5 Внешние ссылки

[править] Основные определения и описание структуры

$Σ$ — непустое конечное множество символов, называемое алфавитом. Последовательность символов (возможно, пустая) из алфавита обозначается буквами r, s и t. $t - 1$ представляет собой перевёрнутую строку. Отдельные символы обозначаются буквами x, y или z. $\varepsilon$ — пустая строка. Символами из алфавита являются буквы a, b, .... Пока размер алфавита принимается постоянным. |t| обозначает длину строки t. $Σ m$ — все строки длины m, $\Sigma^*=\bigcup\limits_{i=0}^{\infty}\Sigma^i$ и $\Sigma^+=\Sigma^*\backslash \{\varepsilon\}$ .

Префикс w строки t — строка такая, что wv = t для некоторой (возможно, пустой) строки v. Префикс называется собственным, если |v| $\ne$ 0.

Суффикс w строки t — строка такая, что vw = t для некоторой (возможно, пустой) строки v. Суффикс называется собственным, если |v| $\ne$ 0. Например, для строки «substring» подстрока «sub» является собственным префиксом, «ring» — собственным суффиксом.

Подстрока w строки t называется правым ветвлением, если t может быть представлена как uwxv и $u' w y v'$ для некоторых строк $u, v, u'$ и $v'$ , а также букв x $\ne$ y. Левое ветвление определяется аналогично. Например, для «eabceeabcd» подстрока «abc» является правым ветвлением, т.к. в обоих её вхождениях в t справа от неё стоят различные символы, зато та же подстрока не является левым ветвлением, потому что слева от неё в обоих вхождениях стоит одинаковый символ «e».

$Σ +$ -дерево T — корневое дерево с рёбрами, помеченными последовательностями из $Σ +$ . Для каждого символа a из алфавита каждый узел в дереве T имеет не более одного ребра, метка которого начинается c символа a. Ребро от t до s с меткой v мы будем обозначать $t \longrightarrow_v s$ .

Пусть k — узел $Σ +$ -дерева T, тогда path(k) — строка, которая представляет собой конкатенацию всех меток рёбер от корня до k. Мы назовем $\overline{w}$ местоположением w, для которого path( $\overline{w}$ ) = w.

Т.к. каждая ветвь уникальна, если path(t) = w, мы можем обозначить узел t за $\overline{w}$ . Поддерево узла $\overline{w}$ обозначается $T_{\overline{w}}$ .

Слова, которые представлены в $Σ +$ -дереве T, задаются множеством, которое обозначается words(T). Слово w входит во множество words(T) тогда и только тогда, когда существует строка v (возможно, пустая) такая, что $\overline{wv}$ — узел дерева T.

Если строка w входит в words(T), w = uv, $\overline{u}$ — узел дерева T, пару $(\overline{u}, v)$ будем называть ссылочной парой w по отношению к дереву T. Если u — наидлиннейший префикс такой, что $(\overline{u}, v)$ — ссылочная пара, мы будем называть $(\overline{u}, v)$ канонической ссылочной парой. Тогда мы будем писать $\widehat{w} = (\overline{u},v)$ . Местоположение $\widehat{w} = (\overline{u},v)$ называется явным, если |v| = 0, и неявным в противном случае.

$Σ +$ -дерево T, в котором каждое ребро помечено одиночным символом, называется атомарным (для него каждое местоположение является явным). $Σ +$ -дерево T, в котором каждый узел является либо корнем, либо листом или узлом ветвления, называется компактным.

Атомарное $Σ +$ -дерево также называют $t r i e$ (луч). Атомарное и компактное $Σ +$ -дерево однозначно определены словами, которые они содержат.

Суффиксное дерево для строки t — это $Σ +$ -дерево такое, что words(T) = {w| w — подслово t}. Для строки t атомарное суффиксное дерево обозначается ast(t), компактное суффиксное дерево обозначается cst(t).

Обратное префиксное дерево строки t — это суффиксное дерево для строки $t - 1$ .

Вложенный суффикс — суффикс, который входит в строку t где-нибудь ещё, наидлиннейший вложенный суффикс называется активным суффиксом строки t.

[править] Свойства суффиксных деревьев

Лемма. Местоположение w явно в компактном суффиксном дереве тогда и только тогда, когда w не является вложенным суффиксом t или w — правое ветвление.

Доказательство. $\Rightarrow$ . Если $\overline{w}$ явно, то это может быть либо лист, либо вершина ветвления или корень (в этом случае $w = \varepsilon$ и w — вложенный суффикс t).

Если $\overline{w}$ — лист, тогда также является и суффиксом t. Значит, это должен быть не вложенный суффикс, т.к. иначе он появился бы где-нибудь ещё в строке t: $\exists$ v — суффикс t такой, что w — префикс v. Этот узел не может быть листом.

Если $\overline{w}$ — узел ветвления, тогда должны существовать, по меньшей мере, два выходящих ребра из $\overline{w}$ с различными метками. Это означает, что существуют два различных суффикса u, v, что w — префикс u и w — префикс v, где v = wxs, u = $w x' s'$ , x $\ne x'$ . Следовательно, w — правое ветвление.

$\Leftarrow$ . Если w не является вложенным суффиксом t, это должен быть лист. Если w — правое ветвление, то имеются два суффикса u и v, u = wxs, v = $w x' s'$ , x $\ne x'$ , тогда w является узлом ветвления. Лемма доказана.

Теперь легко видеть, почему ответ на вопрос, входит ли слово w в строку t, может быть найден за время O(|w|): нужно только проверить, является ли w местоположением (явным или неявным) в cst(t).

Метки рёбер должны представлять собой указатели на положение в строке, чтобы суффиксное дерево расходовало память размером O(n). Метка (p,q) ребра означает подстроку $t_p\ldots t_q$ или пустую строку, если p > q.

Укконен вводит название открытые рёбра для рёбер, заканчивающихся в листьях. Пометки открытых рёбер записывают как (p, $\infty$ ) вместо (p, |t|), где $\infty$ — длина, всегда большая, чем |t|.

Пусть T — $Σ +$ -дерево. Пусть $\overline{aw}$ — узел T, v — наидлиннейший суффикс w такой, что $\overline{v}$ — также узел T. Непомеченное ребро от $\overline{aw}$ до $\overline{v}$ называется суффиксным звеном. Если v = w, оно называется атомарным.

Утверждение. В ast(t) и cst(t$), где $ $\notin$ t, все суффиксные звенья являются атомарными.

Доказательство. Символ $ называется символом-стражем. Первая часть (для ast(t)) следует из определения, т.к. местоположения являются явными. Для доказательства второй (случай cst(t)) части мы должны показать, что для каждого узла $\overline{aw}$ $\overline{w}$ также является узлом cst(t). Если $\overline{aw}$ — узел cst(t), то является либо листом, либо узлом ветвления. Если является листом, тогда w — не вложенный суффикс t. Благодаря символу-стражу, из леммы следует, что все суффиксы (включая корень, пустой суффикс) являются явными, т.к. только корень — вложенный суффикс. Поэтому w является листом или корнем. Если $\overline{aw}$ — узел ветвления, тогда aw — правое ветвление, как и w. Следовательно, местоположение $\overline{w}$ явно по лемме. Утверждение доказано.

Как следует из этого доказательства, символ-страж гарантирует существование листьев для всех суффиксов. С таким символом не может быть вложенных суффиксов, кроме пустого. Если мы опустим символ-страж, некоторые суффиксы могут стать вложенными, и их местоположения станут неявными.

[править] Требования суффиксного дерева к памяти

Утверждение. Компактное суффиксное дерево может быть представлено в виде, требующем O(n) памяти.

Доказательство. Суффиксное дерево содержит не более одного листа на каждый суффикс (в точности один с символом-стражем). Каждый внутренний узел должен быть узлом ветвления, следовательно, внутренний узел имеет по меньшей мере двух потомков. Каждое ветвление увеличивает число листьев по меньшей мере на единицу, поэтому мы имеем не более n внутренних узлов и не более n листьев.

Для представления строк, являющихся метками рёбер, мы используем индексацию в исходной строке, как описано выше. Каждый узел имеет не более одного предка и, таким образом, общее число ребер не превышает 2n.

Аналогично, каждый узел имеет не более одного суффиксного звена, тогда общее число суффиксных звеньев также ограничено числом 2n. Утверждение доказано.

Как пример суффиксного дерева с 2n-1 вершинами можно рассмотреть дерево для слова $a n $$ . Размер атомарного суффиксного дерева для строки t составляет O( $n 2$ ).

[править] Построение дерева за линейное время. Алгоритм mcc. (McCreight's Algorithm)

Алгоритм mсс начинает работу с пустого дерева и добавляет суффиксы начиная с самого длинного. Алгоритм mcc не является on-line алгоритмом, т.е. для его работы необходима вся строка целиком. Для корректной работы требуется, чтобы строка завершалась специальным символом, отличным от других, так, чтобы ни один суффикс не являлся префиксом другого суффикса. Каждому суффиксу в дереве будет соответствовать лист. Для алгоритма мы определим $s u f i$ — текущий суффикс (на шаге $i$ ), $h e a d i$ (голова) — наибольший префикс суффикса $s u f i$ , который является также префиксом другого суффикса $s u f j$ , где $j < i$ . $t a i l i$ (хвост) определим как $s u f i - h e a d i$ .

Ключевой идеей алгоритма mcc является соотношение между $h e a d i$ и $h e a d i - 1$ .

Лемма. Если $h e a d i - 1 = a w$ где $a$ — буква алфавита, $w$ — строка (может быть пустая), тогда $w$ — префикс $h e a d i$ .

Доказательство. Пусть $h e a d i - 1 = a w$ . Тогда существует $j$ , $j < i$ , такой, что $a w$ является как префиксом $s u f i - 1$ , так и префиксом $s u f j - 1$ . Тогда $w$ — префикс $s u f j$ и $s u f j$ , следовательно, $w$ является префиксом головы $h e a d i$ . Лемма доказана.

Мы знаем местоположение $h e a d i - 1 = a w$ , и если мы будем иметь суффиксное звено,то можем быстро перейти к местоположению $w$ — префикса головы $h e a d i$ без необходимости находить путь от корня дерева. Но местоположение $\overline{w}$ могло бы не являться явным (если местоположение $\overline{head_{i-1}}$ не было явным на предыдущем шаге) и суффиксное звено могло бы быть ещё не установлено для узла $\overline{head_{i-1}}$ . Решение, данное МакКреем, находит узел $\overline{head_i}$ за два шага: "повторное сканирование" ("rescanning") и "сканирование" ("scanning"). Мы проходим дерево наверх от узла $\overline{head_{i-1}}$ пока не найдем суффиксное звено, следуем по нему и затем применяем повторное сканирование пути до местоположения $w$ (которое является простым, потому что мы знаем длину $w$ и это местоположение существует, так что мы не должны читать полные метки ребер, двигаясь вниз по дереву, мы можем просто проверять только начальные буквы и длину слов).

Рисунок демонстрирует эту идею. Вместо попытки найти путь от корня до узла $f$ , алгоритм переходит до $a$ , следует суффиксному звену до $d$ , проводит повторное сканирование пути до (возможно неявного) местоположения $e$ и остается найти путь до $f$ , проходя посимвольно.

Алгоритм состоит из трех частей.

1. Сначала он определяет структуру предыдущей головы, находит следующее доступное суффиксное звено и следует по нему.

2. Затем он повторно сканирует часть предыдущей головы, для которой длина является известной (эта часть названа $β$ ).

3. Наконец алгоритм устанавливает суффиксное звено для $h e a d i - 1$ , сканирует оставшуюся часть $h e a d i$ (названную $γ$ ) и добавляет новый лист для $t a i l i$ .

Узел ветвления создается во второй фазе повторного сканирования, если не существует местоположения $w$ . В этом случае сканирование не является необходимым, потому что если $h e a d i$ была бы длиннее чем $αβ$ , тогда $αβγ$ являлось бы правым ветвлением, но по лемме $αβ$ является также правым ветвлением, так узел $\overline{\alpha\beta}$ уже должен существовать. Узел создается в третьей фазе, если местоположение $\overline{head_i}$ ещё не явно.

Обратите внимание, что если $| α | = 0$ тогда $\overline{\alpha} = root$ и узнается одинаково быстро, как следуя суффиксному звену согласно строке 7 алгоритма.

Процедура Rescan ищет местоположение $αβ$ . Если местоположение $\overline{\alpha\beta}$ еще не явно, добавляется новый узел. Этот случай имеет место, когда голова ( $h e a d$ ) просмотрена целиком: если голова длиннее (и узел уже определен), $αβ$ должно являться префиксом более чем двух суффиксов и также является левым ветвлением $t$ . Местоположение $\overline{\alpha\beta}$ может являться только явным, если этот узел уже является узлом ветвления, и если $αβ$ не было левым ветвлением тогда $h e a d i - 1$ , должно быть, был длиннее, потому что встретился более длинный префикс.