Реферат: Операторы в вейвлетном базисе

Белорусский государственный университет

Факультет прикладной математики и информатики

Кафедра математической физики

ГРОМОВА МАРИЯ МИХАЙЛОВНА

ОПРЕАТОРЫ В ВЕЙВЛЕТНОМ БАЗИСЕ

Курсовая работа студентки 4 курса

Научный руководитель:

Глушцов Анатолий Ильич

кафедры МФ

кандидат физ.-мат. наук

Минск 2004

СОДЕРЖАНИЕ

ВВЕДЕНИЕ………..………………………………………………………..3

1. МНОГОМАСШТАБНЫЙ АНАЛИЗ И ВЕЙВЛЕТЫ………………...5

2. БЫСТРОЕ ВЕЙВЛЕТ-ПРЕОБРАЗОВАНИЕ….……………………...9

3. ДВУМЕРНЫЕ ВЕЙВЛЕТЫ…………………………………………..12

4. МАТРИЧНЫЕ ОПЕРАЦИИ………………………………………….13

4.1. Матричное умножение………………………………………...13

4.2. Обращение матрицы…………………………………………...16

4.3. Вычисление экспоненты, синуса и косинуса от матрицы.….16

ЛИТЕРАТУРА……………………………………………………………18

ВВЕДЕНИЕ

Вейвлет-преобразование сигналов (wavelet transform), теория которого оформилась в начале 90-х годов, является не менее общим по областям своих применений, чем классическое преобразование Фурье. Принцип ортогонального разложения по компактным волнам состоит в возможности независимого анализа функции на разных масштабах ее изменения. Вейвлет-представление сигналов (функций времени) является промежуточным между полностью спектральным и полностью временным представлениями.

Компактные волны относительно независимо были предложены в квантовой физике, физике электромагнитных явлений, математике, электронике и сейсмогеологии. Междисциплинарные исследования привели к новым приложениям данных методов, в частности, в сжатии образов для архивов и телекоммуникаций, в исследованиях турбулентности, в физиологии зрительной системы, в анализе радарных сигналов и предсказании землетрясений. К сожалению, объем русскоязычной научной литературы по тематике вейвлет-преобразований (да и нейронных сетей) относительно невелик.

Базовая идея восходит к временам 200-летней давности и принадлежит Фурье: аппроксимировать сложную функцию взвешенной суммой простых функций, каждая из которых, в свою очередь, получается из одной функции-прототипа. Эта функция-прототип выполняет роль строительного блока, а искомая аппроксимация получается комбинированием одинаковых по структуре блоков. При этом, если "хорошая" аппроксимация получается при использовании небольшого числа блоков, то тем самым достигается значительное уплотнение информации. В качестве таких блоков Фурье использовал синусоиды с различными периодами.

Что прежде всего отличает вейвлет-анализ от анализа Фурье? Основным недостатком Фурье-преобразования является его "глобальная" чувствительность к "локальным" скачкам и пикам функции. При этом модификация коэффициентов Фурье (например, обрезание высоких гармоник с целью фильтрации шума) вносит одинаковые изменения в поведение сигнала на всей области определения. Это особенность оказывается полезной для стационарных сигналов, свойства которых в целом мало меняются со временем.

При исследовании же нестационарных сигналов требуется использование некоторых локализованных во времени компактных волн, коэффициенты разложения по которым сохраняют информацию о дрейфе параметров аппроксимируемой функции. Первые попытки построения таких систем функций сводились к сегментированию сигнала на фрагменты ("окна") с применением разложения Фурье для этих фрагментов. Соответствующее преобразование - оконное преобразование Фурье - было предложено в 1946-47 годах Jean Ville и, независимо, Dennis Gabor. В 1950-70-х годах разными авторами было опубликовано много модификаций времени-частотных представлений сигналов.

В конце 70-х инженер-геофизик Морли (Jean Morlet) столкнулся с проблемой анализа сигналов, которые характеризовались высокочастотной компонентой в течение короткого промежутка времени и низкочастотными колебаниями при рассмотрении больших временных масштабов. Оконные преобразования позволяли проанализировать либо высокие частоты в коротком окне времени, либо низкочастотную компоненту, но не оба колебания одновременно. В результате был предложен подход, в котором для различных диапазонов частот использовались временные окна различной длительности. Оконные функции получались в результате растяжения-сжатия и смещения по времени гаусиана. Морли назвал эти базисные функции вейвлетами (wavelets) - компактными волнами. В дальнейшем благодаря работам Мейера (Yves Meyer), Добеши (Ingrid Daubechies), Койфмана (Ronald Coifman), Маллы (Stephane Mallat) и других теория вейвлетов приобрела свое современное состояние.

Среди российских ученых, работавших в области теории вейвлетов, необходимо отметить С.Б. Стечкина, И.Я. Новикова, В.И. Бердышева.

1. МНОГОМАСШТАБНЫЙ АНАЛИЗ И ВЕЙВЛЕТЫ

Определение 1. Многомасштабный анализ (multiresolutional analysis) – разложение гильбертова пространства L2(Rd), d³1, в последовательность замкнутых подпространств

, (1.1)

обладающих следующими свойствами:

1. , и полно в L2(Rd),

2. Для любого fÎ L2(Rd), для любого jÎ Z, f(x)ÎVj тогда и только тогда, когда

f(2x) ÎVj-1,

3. Для любого fÎ L2(Rd), для любого kÎ Zd, f(x)ÎV0 тогда и только тогда, когда f(x-k)ÎV0,

4. Существует масштабирующая (scaling) функция jÎV0, что {j(x-k)}kÎZd образует

базис Ритца в V0.

Для ортонормальных базисов можно переписать свойство 4 в виде:

4’. Существует масштабирующая функция jÎV0, что {j(x-k)}kÎZd образует ортонормальный базис в V0.

Определим подпространство Wj как ортогональное дополнение к Vj в Vj-1,

, (1.2)

и представим пространство L2(Rd) в виде прямой суммы

(1.3)

Выбирая масштаб n, можем заменить последовательность (1.1) следующей последовательностью:

(1.4)

и получить

(1.5)

Если имеем конечное число масштабов, то, не нарушая общности, можно положить j=0 и рассматривать

, V0Î L2(Rd) (1.6)

вместо (1.4). В числовой реализации подпространство V0 конечномерно.

Функция j - так называемая масштабирующая (скейлинг-) функция. С ее помощью можно определить функцию y - вейвлет - такую, что набор {y(x-k)}kÎZ образует ортонормальный базис в W0. Тогда

, m=0..M-1. (1.7)

Из свойства 4’ непосредственно следует, что, во-первых, функция j может быть представлена в виде линейной комбинации базисных функций пространства V-1 . Так как функции {jj,k(x)=2-j/2j(2-jx-k)}kÎZ образуют ортонормальный базис в Vj, то имеем

. (1.8)

Вообще говоря, сумма в выражении (1.8) не обязана быть конечной. Можно переписать (1.8) в виде

, (1.9)

где

, (1.10)

а 2p-периодическая функция m0 определяется следующим образом:

. (1.11)

Во-вторых, ортогональность {j(x-k)}kÎZ подразумевает, что

(1.12)

и значит

(1.13)

и . (1.14)

Используя (1.9), получаем

(1.15)

и, рассматривая сумму в (1.15) по четным и нечетным индексам, имеем

. (1.16)

Используя 2p-периодичность функции m0 и (1.14), после замены x/2 на x, получаем необходимое условие

(1.17)

для коэффициентов hk в (1.11). Заметив, что

(1.18)

и определив функцию y следующим образом:

, (1.19)

где

, k=0,…,L-1 , (1.20)

или преобразование Фурье для y

, (1.21)

где

, (1.22)

можно показать, что при каждом фиксированном масштабе jÎZ вейвлеты

{yj,k(x)=2-j/2y(2-jx-k)}kÎZ образуют ортонормальный базис пространства Wj.

Равенство (1.17) определяет пару квадратурных зеркальных фильтров (quadrature mirror filters, QMF) H и G, где и . Коэффициенты QMF H и G вычисляются с помощью решения системы алгебраических уравнений. Число L коэффициентов фильтра в (1.11) и (1.22) связано с числом исчезающих моментов М, и всегда четно.

Выбранный фильтр Н полностью определяет функции j и y и, таким образом, многомасштабный анализ. Кроме того, в правильно построенных алгоритмах значения функций j и y почти никогда не вычисляются. Благодаря рекурсивному определению вейвлетного базиса, все операции проводятся с квадратурными зеркальными фильтрами H и G, даже если в них используются величины, связанные с j и y.

4. ОПЕРАТОРЫ

Сжатие операторов или, другими словами, представление их в разреженном виде в ортонормированном базисе непосредственно влияет на скорость вычислительных алгоритмов.

Нестандартная форма оператора Т с ядром K(x,y) достигается вычислением следующих выражений:

(4.1)

(4.2)

(4.3)

4.1 Оператор d/dx в вейвлетном базисе

Нестандартные формы некоторых часто используемых операторов могут быть вычислены явно. Построим нестандартную форму оператора d/dx. Матричные элементы , , матриц , , и матрицы , где i, l, jÎ Z для оператора d/dx легко вычисляются как

(4.4)

(4.5)

(4.6)

(4.7)

где

(4.8)

(4.9)

(4.10)

(4.11)

Кроме того, используя (1.8) и (1.19), имеем

(4.12)

(4.13)

(4.14)

Таким образом представление d/dx полностью определяется величинами или, другими словами, отображением d/dx на подпространство V0.

Предложение 4.1. 1. Если существует интеграл (4.11), тогда коэффициенты , lÎ Z в (5.8) удлвлетворяют следующей системе линейных алгебраических уравнений:

(4.15)

(4.16)

где

(4.17)

2. Если , тогда система (4.15)-(4.16) имеет единственное решение с конечным числом ненулевых , а именно с и .

Замечание. Если М=1, тогда система (4.15)-(4.16) имеет единственное решение, но интеграл (4.11) может не быть абсолютно сходящимся. Для базиса Хаара () , мы получаем простейший конечный дифференциальный оператор .

Замечание 2. Заметим, что выражения (4.12) и (4.13) для и () могут быть упрощены с помощью смены порядка суммирования в (5.10) и (5.11) и введения коэффициентов корреляции , и . Выражение для особенно просто: .

Для доказательства Предложения 4.1 можно обратиться к [2].

Для решения системы (4.15)-(4.16) можно также воспользоваться итерационным алгоритмом. Начать можно с и , а дальше итерировать, используя (4.15) для вычисления .

4.2 Оператор dn/dxn в вейвлетном базисе

Так же как и для оператора d/dx, нестандартная форма оператора dn/dxn полностью определяется своим отображением на подпространство V0, т.е. коэффициентами

, lÎ Z, (4.18)

если интеграл существует.

Предложение 4.2. 1. Если интеграл в выражении (4.18) существует, тогда коэффициенты , lÎ Z удовлетворяют следующей системе линейных алгебраических уравнений

(4.19)

(4.20)

где дано в формуле (4.17).

2. Пусть M ≥ (n+1)/2, где М – число исчезающих моментов. Если интеграл в (4.18) существует, тогда система (4.19)-(4.20) имеет единственное решение с конечным числом нулевых коэффициентов , а именно для . Также для четных n

(4.21)

(4.22)

(4.23)

а для нечетных n

(4.24)

(4.25)

Замечание 3. Если M ≥ (n+1)/2, тогда решение линейной системы в Предложении 2 может существовать, когда интеграл в (4.18) не является абсолютно сходящимся.

Интегральные уравнения второго рода

Линейное интегральное уравнение Фредгольма есть выражение вида

где ядро , а неизвестная функция f(x) и функция в правой части , . Для простоты будем рассматривать интервал и введём следующее обозначение для всех и :

Предположим, что {φ1, φ1,…} – ортонормальный базис для ; ядро представимо в этом базисе в следующем виде:

где коэффициенты Kij вычисляются по формуле

Аналогично функции f и g представимы в виде

, ,

где коэффициенты fi и gi вычисляются по формулам:

, , i=1,2,…

Интегральное уравнение в этом случае соответствует бесконечной системе уравнений

, i=1,2,…

Представление ядра может быть урезано до конечного числа слагаемых, что приводит к представлению интегрального оператора R:

, , ,

который аппроксимирует K. Тогда интегральное уравнение аппроксимируется системой n уравнений с n неизвестными:

, i=1,2,…,n

ПРИЛОЖЕНИЕ 1

function [a,r]=dif_r(wname)

[LO_D,HI_D,LO_R,HI_R] = wfilters(wname);

% вычисление коэффициентов a2k-1

len=length(LO_D);

a=zeros(len-1,1);

for k=1:len-1;

for i=0:len-2*k;

a(2*k-1)=a(2*k-1)+2*LO_D(i+1)*LO_D(i+2*k);

end;

% вычисление коэффициентов rl

f=zeros(len-2,1);

f(1)=-1/2;

R=zeros(len-2);

for l=len-2:-1:2;

R(l,l)=-1;

if (2*l<=len-2)

R(l,2*l)=2;

end;

for n=1:2:len-1;

if (abs(2*l-n)<len-2);

if ((2*l-n)<0);

R(l,abs(2*l-n))=-a(n)+R(l,abs(2*l-n));

else

R(l,2*l-n)=a(n)+R(l,2*l-n);

end;

if (abs(2*l+n)<len-2);

if ((2*l+n)<0);

R(l,abs(2*l+n))=-a(n)+R(l,abs(2*l+n));

else

R(l,2*l+n)=a(n)+R(1,2*l+n);

end;

for j=1:len-2;

R(1,j)=j;

end;

r=inv(R)*f;

ПРИЛОЖЕНИЕ 2

function [al, bet, gam]=difcoef(wname,N)

% извлечение коэффициентов rl

[LO_D,HI_D,LO_R,HI_R] = wfilters(wname);

[a,r]=dif_r(wname);

L=length(LO_D);

% вычисление значений αl, βl, γl

J=length(r):-1:1;

R=[-r(J);0; r];

K=L+1;

al=zeros(2*L+1,1);

bet=al;

gam=al;

for i=-L+1:L+1;

for k=L+1:2*L;

for k1=L+1:2*L;

if(((2*i+k-k1+L)<length(R)+1)&&((2*i+k-k1+L)>0))

al(i+L)=HI_D(k-L)*HI_D(k1-L)*R(2*i+k-k1+L)+al(i+L);

bet(i+L)=HI_D(k-L)*LO_D(k1-L)*R(2*i+k-k1+L)+bet(i+L);

gam(i+L)=LO_D(k-L)*HI_D(k1-L)*R(2*i+k-k1+L)+gam(i+L);

end;

ПРИЛОЖЕНИЕ 3

1. Вейвлет Добеши с M=2.
a1=1.1250 a3=-0.1250
r1=-0.6667 r2=0.0833

2. Вейвлет Добеши с M=3.
a1=1.1719 a3=-0.1953 a5=0.0234

r1=-0.7452 r2=0.1452 r3=-0.0146 r4=-0.0003

3. Вейвлет Добеши с M=4.
a1=1.19628906249870 a3=-0.23925781249914
a5=0.04785156250041 a7=-0.00488281249997

r1=-0.79300950497055 r2=0.19199897079726 r3=-0.03358020705113

r4= 0.00222404967066 r5=0.00017220619000 r6=-0.00000084085054

4. Вейвлет Добеши с M=5.
a1=1.21124267578280 a3=-0.26916503906311 a5=0.06921386718738

a7=-0.01235961914130 a9=0.00106811523422

r1=-0.82590601185686 r2=0.22882018706986 r3=-0.05335257193327

r4=0.00746139636621 r5=-0.00023923581985 r6=-0.00005404730164

r7=-0.00000025241171 r8=-0.00000000026960

5. Вейвлет Добеши с M=6.

a1=1.22133636474683 a3=-0.29079437255810 a5=0.08723831176674

a7=-0.02077102661228 a9=0.00323104858448 a11=-0.00024032592766

r1=-0.85013666156022 r2=0.25855294414318 r3=-0.07244058999853

r4=0.01454551104340 r5=-0.00158856154379 r6=0.00000429689148

r7=0.00001202657519 r8=0.00000042069120 r9=-0.00000000289967

r10=0.00000000000070

6. Вейвлет Койфмана с M=2.
a1=1.20035616471068 a3=-0.24753371156550 a5=0.05401594511476

a7=-0.00724698442340 a9=0.00043220193586 a11=-0.00002361577240

r1=-0.80177838961957 r2=0.20214744976459 r3=-0.03943577686925

r4=0.00404789045961 r5=-0.00008445623632 r6=0.00000255044096

r7=0.00000088836508 r8=0.00000000237860 r9=-0.00000000002099

r10=0.00000000000000

7. Симлет с M=2.

a1=1.12499999999971 a3=-0.12499999999971

r1=-0.66666666666616 r2=0.08333333333308

8. Симлет с M=3.

a1=1.17187500000666 a3=-0.19531250000432 a5=0.02343749999766
r1=-0.74520547946903 r2=0.14520547945865 r3=-0.01461187214494
r4=-0.00034246575336

9. Симлет с M=4.

a1=1.19628906249990 a3=-0.23925781249985 a5=0.04785156249993

a7=-0.00488281249998

r1=-0.79300950497424 r2=0.19199897079876 r3=-0.03358020705098

r4=0.00222404967071 r5=0.00017220619000 r6=-0.00000084085054

ПРИЛОЖЕНИЕ 4

1. Вейвлет Добеши с M=2.

α-3=-0.00520833333331	β-3 =-0.00139556871057	γ-3=0.01943776462271
α-2=0.04687500000004	β-2=0.02222890204378	γ-2=-0.04027109795592
α-1=0.71874999999873	β-1=-0.03887552924536	γ-1=0.00279113742108
α1=-0.71874999999873	β1=-0.00279113742108	γ1=0.03887552924536
α2=-0.04687500000004	β2=0.04027109795592	γ2=-0.02222890204378
α3=0.00520833333331	β3=-0.01943776462271	γ3=0.00139556871057

2. Вейвлет Добеши с M=3.

α-5= -0.00000401327055	β-5 =0.00000042496289	γ-5=-0.00003790058109
α-4=0.00173507063342	β-4=-0.00018594182937	γ-4= 0.01618803080395
α-3= -0.01438088613327	β-3= 0.00249383057321	γ-3= -0.05023776816965
α-2= 0.09779091752885	β-2=-0.02225975249164	γ-2=0.03807446337594
α-1=0.84450449488848	β-1=0.05176823864378	γ-1=0.02782997442973
α1= -0.84450449488848	β1= -0.02782997442973	γ1=-0.05176823864378
α2=-0.09779091752885	β2= -0.03807446337594	γ2= 0.02225975249164
α3= 0.01438088613327	β3= 0.05023776816965	γ3= -0.00249383057321
α4= -0.00173507063342	β4=-0.01618803080395	γ4=0.00018594182937
α5=0.00000401327055	β5=0.00003790058109	γ5=-0.00000042496289

Вейвлет Добеши с M=4.

α-7=0.00000000205286	β-7 =0.00000000009443	γ-7=-0.00000004462725
α-6=-0.00000544992677	β-6 =-0.00000025123058	γ-6=0.00011822433115
α-5=-0.00041543477135	β-5 =-0.00001769213018	γ-5=0.00969983443149
α-4=0.00432716179594	β-4=0.00030224225713	γ-4= -0.04151919818136
α-3=-0.02134228538239	β-3=-0.00242879427312	γ-3= 0.05677199535135
α-2=0.14516544960962	β-2=0.01699891329704	γ-2=-0.00862627283270
α-1=0.93050197130889	β-1=-0.04758076037403	γ-1=-0.04917088083201
α1=-0.93050197130889	β1= 0.04917088083201	γ1=0.04758076037403
a2=-0.14516544960962	β2= 0.00862627283270	γ2=-0.01699891329704
a3=0.02134228538239	β3= -0.05677199535135	γ3=0.00242879427312
α4=-0.00432716179594	β4=0.04151919818136	γ4=-0.00030224225713
a5=0.00041543477135	β5=-0.00969983443149	γ5=0.00001769213018
a6=0.00000544992677	β6=-0.00011822433115	γ6=0.00000025123058
α7=-0.00000000205286	β7= 0.00000004462725	γ7=-0.00000000009443

3. Симлет с M=2.

α-3=-0.00520833333331	β-3 =-0.00139556871057	γ-3=0.01943776462271
α-2=0.04687500000004	β-2=0.02222890204378	γ-2=-0.04027109795592
α-1=0.71874999999873	β-1=-0.03887552924536	γ-1=0.00279113742108
α1=-0.71874999999873	β1=-0.00279113742108	γ1=0.03887552924536
α2=-0.04687500000004	β2=0.04027109795592	γ2=-0.02222890204378
α3=0.00520833333331	β3=-0.01943776462271	γ3=0.00139556871057

ЛИТЕРАТУРА

1. Beylkin G. Wavelets and Fast Numerical Algorithms

2. Beylkin G. Wavelets, Multiresolution Analysis and Fast Numerical Algorithms

3. Beylkin G. In The Representation.of Operators in Bases of Compactly Supported Wavelets

4. Bradley K. Alpert A Class of Bases in L2 for the Sparse Representation of Integral Operators

5. Дремин И.М., Иванов О.В., Нечитайло В.А. Вейвлеты и их использование // Успехи физических наук – 2001, №5. – С.465-500