Wykład 4 - oszczędne próbkowanie

Akwizycja i przetwarzanie
sygnałów cyfrowych
Tadeusz Chmaj
Instytut Teleinformatyki
ITI PK Kraków
21 luty 2011
Tadeusz Chmaj
Wykład II
Rewolucja cyfrowa i jej skutki
Rewolucja cyfrowa - dane cyfrowe: podstawowy rodzaj
informacji multimedialnych, medycznych, geologicznych
itp.
Takie dane - najcz˛eściej pozyskiwane z analogowych
danych w procesie akwizycji
Konieczność pozyskiwania (akwizycji) danych cyfrowych –
wieksze
˛
wymagania na sprz˛et i oprogramowanie
wspierajace:
˛
rosnac
˛ a˛ rozdzielczość, konieczność głebszego
˛
próbkowania (przetworniki A/C, matryce aparatów, kamer
itp.)
wzrost ilości sensorów pomiarowych
zwiekszaj
˛
aca
˛ sie˛ róznorodność sygnałów (akustyczne,
radiowe, podczerwone, optyczne, UV, X-ray, gamma
niektóre kanały pozyskiwania danych cyfrowych - duży
koszt (n.p. CT, MRI, rozległe sieci sensorów)
Rezultat - zalew danych, konieczność opanowania tego już
u źródła (czyli w procesie akwizycji danych)
Tadeusz Chmaj
Wykład II
Akwizycja danych - podejście klasyczne
Akwizycja - digitalizacja składajaca
˛ sie˛ z:
próbkowania - podstawowy parametr: czestotliwość
˛
próbkowania fs
kwantyzacji - podstawowe parametry: głebokość
˛
bitowa
bpc, ilość kanałów nk
kodowania binarnego
podstawa - twierdzenie o próbkowaniu (Nyquist,
Kotelnikow, Shannon) – ustala skale˛ rozmiaru danych
Jeżeli funkcja nie zawiera w swoim widmie cz˛estości
wiekszych
˛
niż B, to można ja˛ wiernie zrekonstruować z
próbek wzietych
˛
z cz˛estościa co najmniej 2 ∗ B (cz˛estość
Nyquista)
Tadeusz Chmaj
Wykład II
Podejście klasyczne – realizacja
Tw. o próbkowaniu - określa standarowy sposób akwizycji
danych i dalszego ich przetwarzania
Stosuje sie˛ do próbkowania danych jedno– (głos), dwu–
(obraz) ... - wymiarowych
Realizacja akwizycji danych w oparciu o te˛ zasade:
˛
mierz wszystko (z czestości
˛
a˛ Nyquista) – rozmiar danych N
kompresuj (czyli usuń nadmiarowa˛ informacje)
˛ - operacja
nieliniowa, zależna od sygnału – rozmiar danych K
aby zrekonstruować sygnał – operacja odwrotna
Tadeusz Chmaj
Wykład II
Podejście klasyczne - analiza
Podejście klasyczne - gwarantuje sukces - ale kosztem
konieczności rejestracji ogromnej ilości danych
Shannon był pesymista˛ - wymagania wysokiej cz˛estości
próbkowania fs ≃ B dotycza˛ najgorszej ewentualności (np.
obrazów które dla nas sa˛ szumem)
zwykle - silna nadmiarowość; możliwość (a nawet
konieczność) jej redukcji (kompresja)
metoda kompresji - kodowanie transformacyjne (wybór
odpowiedniej reprezentacji sygnału)
zazwyczaj istotna wielkość "transferu informacji" – K wielkość znacznie mniejsza (K << N) niż rozmiar N
informacji zadany przez pasmo N ∼ B
szeroka klasa ważnych danych nie wymaga ilości danych
wynikajacych
˛
z reguły Nyquista
Tadeusz Chmaj
Wykład II
Wady podejścia klasycznego
1
2
Mierzymy współczynniki falkowe
Odrzucamy mało znaczace
˛ (mniejsze niż zadany próg)
1.8%
2.5%
3.9%
100%
Tadeusz Chmaj
Wykład II
Akwizycja danych – wady podejścia klasycznego
1
Mierzymy wszystko, po czym wiekszość
˛
wyrzucamy
czy to ma sens ?
obraz uzyskany z 6500 współczynników falkowych (2.5%)
niewiele gorszy od obrazu z pełnych danych
nieistotne dla zdjeć
˛ fotograficznych, ale ważne tam, gdzie
pozyskiwanie danych jest trudne, kosztowne lub ryzykowne
(np. akwizycja danych medycznych)
2
Czy da sie˛ mierzyć tylko to, co niezbedne?
˛
problem: nie wiemy z góry, które współczyniki bed
˛ a˛ ważne
wniosek: protokół pomiaru musi być niezależny od danych
3
Compressive Sensing – próba realizacji tego zadania
chcemy by ilość pomiarów K « N, gdzie N – naturalny
rozmiar problemu wynikajacy
˛ z szerokości pasma
pomimo tego wymagamy, by sygnał dał sie˛ zrekonstruować
z tej ilości pomiarów
kiedy to jest możliwe?
Tadeusz Chmaj
Wykład II
CS – nowe podejście do problemu akwizycji
1
2
Compressed Sensing (oszcz˛edne próbkowanie) - nowe
podejście do problemu akwizycji i rekonstrukcji danych bez
konieczności spełnienia warunku Nyquista
Możliwe tylko wtedy, gdy:
mamy specjalny rodzaj sygnału (rzadkość)
zapewnimy spełnienie pewnych wymagań w procesie
akwizycji danych ("niekoherencja")
3
Definicja:
Sygnał rzadki – taki, dla którego istnieje baza w której ilość
składowych różnych od zera << N – naturalnego rozmiaru
tego sygnału
Sygnał S-rzadki - dokładnie S składowych 6= 0
Sygnał kompresowalny - gdy rozkład w odpowiedniej bazie
ma tylko kilka dużych i wiele małych współczynników
rzadkość - sytuacja, w której sygnal niesie znacznie mniej
informacji niż to wynika z szerokości jego pasma (ilość
rzeczywistych stopni swobody << N - rozmiaru sygnału)
CS ważne, bo wiele naturalnych sygnałów to sygnały
rzadkie lub kompresowalne)
Tadeusz Chmaj
Wykład II
Pomiar sygnału
by dokonać pomiaru
wybieramy pewna˛ ilość sygnałów wzorcowych ϕi
wyznaczamy korelacje miedzy mierzonym wektorem a
wzorcami yi = ϕT x , i = 1, ...M
- interesuje nas sytuacja M << N gdzie M - ilość
pomiarów, N - rozmiar wektora x
- jest to pomiar połaczony
˛
z kompresja˛ (compressed
sensing)
Tadeusz Chmaj
Wykład II
Pomiar i rekonstrukcja jako problem algebraiczny
W zapisie macierzowym:
y = Ax
x - poszukiwane rozwiazanie;
˛
wektor o wymiarze N
y - wektor pomiaru o wymiarze M równym ilości pomiarów
A - macierz pomiaru o wymiarze M × N, której wiersze to
wektory ϕ
Wyznaczenie rozwiazania
˛
x - rozwiazanie
˛
równania
liniowego. Możliwe przypadki:
M > N – układ nadokreślony – rozwiazanie
˛
jednoznaczne,
łatwe do wyliczenia (w sensie minimalizcji błedu)
˛
M = N, macierz A nieosobliwa – dokładnie jedno
rozwiazanie
˛
K < N – odpowiada CS – układ niedookreślony – istnieje
nieskończenie wiele rozwiaza
˛ ń; jak wybrać właściwe?
Tadeusz Chmaj
Wykład II
Określenie systemu CS
By określić protokół CS należy zadać:
macierz pomiaru A o rozmiarach MxN która
jest niezależna od danych
zapewnia uzyskiwanie stabilnych rozwiaza
˛ ń dla K -rzadkiego
sygnału na podstawie M ∼ kilka K << N pomiarów
algorytm rekonstrukcji rozwiazania
˛
z małej M ≈ K ilości
pomiarów
intuicyjnie - dobra macierz pomiaru "nie gubi informacji"
dla sygnałów rzadkich
matematycznie - zapewnia niekoherencje,
˛ warunek RIP
jest jakby funkcja˛ skrótu dla mierzonego sygnału
typowo - macierz pomiaru to czysto losowa macierz (szum
biały)
nie musimy wiedzieć:
w której bazie sygnał jest rzadki
ile jest "dużych składowych"
Tadeusz Chmaj
Wykład II
Algorytm rekonstrukcji
Rzadkość - dodatkowy warunek, które pozwala wybrać
właściwe rozwiazanie
˛
Zasada: spośród rozwiaza
˛ ń niedookreślonego równania
Ax = y wybierz to, które ma najmniej składowych
niezerowych:
(P0)
min k x kl0
x
k Ax = y
Problem – (P0) trudny obliczeniowo (NP–zupełny)
Dla wielu przypadków P0 równoważny (P1)
(P1)
min k x kl1
x
k Ax = y
(P1) równoważny problemowi programowania liniowego –
istnieje efektywne rozwiazanie,
˛
gdy problem rzadki, a liczba
pomiarów K ≥ Cµ2 S log N, C ∼ 1
Tadeusz Chmaj
Wykład II
Compressed Sensing – przykłady, zastosowania
Tadeusz Chmaj
Wykład II
Compressed Sensing – przykłady, zastosowania
Tomografia Komputerowa
Rekonstrukcja – przykład numeryczny
Przypadki klasyfikacji - rozpoznawanie twarzy
Tadeusz Chmaj
Wykład II