Editace stránky Implementace databázových systémů/Komprese

Z ωικι.matfyz.cz
Přejít na: navigace, hledání

Varování: Nejste přihlášen(a). Pokud uložíte jakoukoli editaci, bude vaše IP adresa zveřejněna v historii této stránky. Pokud se přihlásíte nebo si vytvoříte účet, budou vaše editace připsány vašemu uživatelskému jménu a získáte i další výhody.

Editace může být zrušena. Zkontrolujte a pak potvrďte změny zobrazené níže.
Aktuální verze Váš text
Řádka 3: Řádka 3:
 
okruhy 14/15: ''Komprese dat: modely textu, kódování, Huffmanovo kódování (statické, dynamické), aritmetické kódování, LZ algoritmy, komprese bitových map, rídkých matic, Burrows-Wheelerova transformace.''
 
okruhy 14/15: ''Komprese dat: modely textu, kódování, Huffmanovo kódování (statické, dynamické), aritmetické kódování, LZ algoritmy, komprese bitových map, rídkých matic, Burrows-Wheelerova transformace.''
  
=== Modely textu===
+
=== Modely textu, kódování ===
 
[[Image:Komprese.png|right|thumb|604px|komprese textu]]
 
[[Image:Komprese.png|right|thumb|604px|komprese textu]]
 
obecné typy redukce dat:
 
obecné typy redukce dat:
*'''ztrátová '''(nazývá se <u>kompakce</u>) - např. obraz, zvuk, video
+
*ztrátová (nazývá se kompakce) - např. obraz, zvuk, video
*'''bezeztrátová '''(nazývá se <u>komprese</u> a je reverzibilní přes dekopresi)
+
*bezeztrátová (nazývá se komprese a je reverzibilní přes dekopresi)
  
 
Proces komprese má 2 fáze:
 
Proces komprese má 2 fáze:
* '''modelování '''(modely textu) - přiřazení pravděpodobností jednotkám textu (znaky nebo m-tice znaků pevné délky)
+
* modelování (modely textu) - přiřazení pravděpodobností jednotkám textu (znaky nebo m-tice znaků pevné délky)
* '''kódování '''- transformace do nového kódu pomocí modelu
+
* kódování - transformace do nového kódu pomocí modelu
  
dělení modelů (💡 jako by slovníky):
+
'''prefixový kód''' - jednotliva kodova slova nejsou prefixem zadneho jineho slova
*statické - model je statický pro všechny dokumenty (uložen jednou)
+
*semiadaptivní (polostatické) -  ∀dokument má vlastní model (pošle se s dokumentem)
+
*dynamické (adaptivní) - oba algoritmy si model tvoří na základě již zpracovaných dat (musí se dekodovat od zacatku)
+
[[Soubor:200px-Injection.svg.png|thumb|200x200px|f: A → C⁺ je <u>prosté</u> kódové zobrazení znaků z abecedy A do prostoru slov v abecedě C]]
+
====kódování====
+
{{Zkazky|
+
* '''komprese (2015, konzultace Kopecký)''' - pod kódováním bych já asi viděl obecnou problematiku kódování (tj. věci jako reprezentace nějaké posloupnosti znaků slovy nějaké abecedy, prefixovost, jednoznačnou dekódovatelnost, vztah mezi prefixovostí a jednoznačnou dekódovatelností, entropii, a podobně. To další jsou pak speciální případy s nějakými konkrétními vlastnostmi. Když budete umět Fibbonaciho/Eliasovy kódy jako speciální případy pro nekonečné množiny s nerovnoměrnou pravděpodobností výskytu znaků, určitě to nebude na škodu.
+
* '''komprese, obecně + komprese čísel (2008 Kopecký)''' - opět jsem neměl moc jasnou představu, kde je to využíváno - nicméně po lehkým naťuknutí jsem rovnou použil předchozí pohovor o indexaci dokumentů a správně řekl, že se to používá v tom invertovaném souboru pro kódování seznam těch dokumentů, kde se term vyskytuje. Pak jsem byl ještě poučen, že jak je ten seznam setřízen, tak se nekódují konkrétní čísla, ale přírustek od předchozího indexu.
+
}}
+
'''Kód K = (A,C,f)''', kde
+
*A = {a₁, ..., aₙ} je zdrojová abeceda, |A| = n
+
*C = {c₁, ..., cₘ} je cílová abeceda, |C| = m, obvykle C = {0,1}
+
*f: A → C⁺ je <u>prosté</u> kódové zobrazení znaků z abecedy A do prostoru slov v abecedě C.
+
* vlastnosti:
+
** '''jednoznačně dekódovatelný''' - ∀zakódovaný (cílový) řetěz ''Y'' ∃ max. 1 zdrojový řetěz ''X'' že f(''X'') = ''Y''.
+
** '''<u>prefixový</u>''' - jednotliva kodova slova nejsou prefixem zadneho jineho slova
+
*** 💡 prefixový ⇒ jednoznačně dekódovatelný (opačně neplatí)
+
'''Entropie '''(míra informace) znaku ai v textu je rovna hodnotě E(''a''ᵢ) = -log( "pst výskytu znaku aᵢ v textu" ) bitů.
+
* 💡 tj. "obrácená hodnota" - čím je znak častější tím menší má entropii = tím méně informace nese (tím menší počet bitů je potřeba na její reprezentaci)
+
* 💡 použítí viz: [[Databázové modely a jazyky#Indexace VDIS|IDF/ITF]]
+
  
* prům. entropie 1 znaku: AE(A) = -Σ ("pst výskytu znaku ai v textu") log( "pst výskytu znaku ''a''ᵢ v textu" )
+
dělení modelů:
** očekávaná délka 1 znaku přes ∀znaky a jejich psti
+
*statická - model je statický pro všechny dokumenty (uložen jednou)
* entropie zprávy: E(A) = E(a₁...aₖ) = -Σ log( "pst výskytu znaku ''a''ᵢ v textu" )
+
*semiadaptivní (polostatické) - každý dokument má vlastní model (pošle se s dokumentem)
** 💡 tj. součet entropií znaků ve zprávě
+
*dynamická (adaptivní) - oba algoritmy si model tvoří na základě již zpracovaných dat (musí se dekodovat od zacatku)
** platí že délka zakódované zprávy je |f(A)| > E(A)
+
** '''redundance:''' R = |f(A)| - E(A)
+
{{collapse|1=speciální případy pro nekonečné množiny s nerovnoměrnou pravděpodobností výskytu znaků|2=&nbsp;
+
;Fibonacciho kody
+
* Zalozeno na fibonacciho cislech radu >=2 (např. při řádu 4, se Fib. číslo Fₙ = Fₙ₋₁ + Fₙ₋₂ + Fₙ₋₃ + Fₙ₋₄). Cislo se rozdeli hladovou metodou na scitance v podobe fibonacciho cisel. Ty se seradi od nejmensiho po nejvetsi, zapisi formou '1' je, '0' neni scitanec a zakonci se jednickou navic.
+
* pr. (fib cisla 1,2,3,5,8,13,21)
+
* 1 -> 11, 2 -> 011, 3 ->0011, 4 -> 1011, 12-> 101011, 32 ->00101011
+
* prosty binarni zapis by byl sice kratsi, ale neodlisitelny. Tady mi dve jednicky delaji jasny konec znaku. (pokud se vyskytují dvě jedničky za sebou někde jinde, je možné je nahradit vyšším Fibonacciho číslem, pokud postupuju při určování jedniček od nejvyššího čísla, tak se mi to nestane)
+
;Eliášovy kódy
+
* řada kódování, které mají různé vlstanosti
+
* alfa kód (unární) – n-1 nul a na konci jednička, dekódovatelné, ale velmi dlouhé kódy
+
* beta kód (binární) – klasické binární kódování, krátké kódy, ale nedekódovatelné
+
* modifikovaný beta kód – stejně jako beta kód, ale bez úvodní jedničky
+
* theta kód – speciální znak pro rozlišení konce kódu
+
* gama kód – modifikovaný beta kód je obalený alfa kódem délky tohoto kódu – např. 37, v binárním kódu 100101, v modifikovaném beta kódu <font color="blue">'''00101'''</font>, v gama kódu '''<font color="teal">0</font><font color="blue">0</font><font color="teal">0</font><font color="blue">0</font><font color="teal">0</font><font color="blue">1</font><font color="teal">0</font><font color="blue">0</font><font color="teal">0</font><font color="blue">1</font><font color="teal">1</font>'''
+
** jednička na liché pozici určuje konec znaku v textu (krátké kódy + dekódovatelný)
+
* modifikovaný gama kód – na začátku má alfa kód délky modifikovaného beta kódu a za ním modifikovaný betakód '''<font color="teal">000001</font><font color="blue">00101</font>'''
+
** není regulární (asi, že je potřeba dekódovat zprávu vždy odzačátku)
+
* delta kód – obdoba modifikovaného gama kódu, ale místo alfa kódu délky využívá gama kódu délky '''<font color="teal">01001</font><font color="blue">00101</font>''', kde '''<font color="teal">01001</font>''' je gama kód pro 6 (délka beta(37))
+
* omega kód – pro velmi velká čísla – posloupnost beta kódů zakončená nulou B₀,B₁,...,'''<font color="blue">Bₖ</font>,<font color="red">0</font>''' –
+
** Bₖ je binární zápis slova, Bᵢ₋₁ je binárním vyjádřením délky slova Bᵢ znižené o 1, velikost B₀ je 2
+
** př: 37: '''<font color="gold">10</font><font color="teal">101</font><font color="blue">100101</font><font color="red">0</font>'''
+
** '''<font color="gold">00</font><font color="blue">1</font><font color="red">0</font> '''(1), '''<font color="gold">01</font><font color="blue">10</font><font color="red">0</font> '''(2), '''<font color="gold">01</font><font color="blue">11</font><font color="red">0</font> '''(3) nula na konci kódu je příznak toho, že při dekódování, pokud načtu první znak nulu, znamená to, že poslední přečtená část byla '''<font color="blue">Bₖ</font>''' a ne nějaké '''<font color="teal">Bᵢ</font>''', i<k)
+
* kódování čísel se používá například při indexaci dokumentů, kdy mám invertovaný soubor, kde je index termů a každý term má seznam ID dokumentů, ve kterých se vyskytuje (pro urychlení vyhodnocování dotazů je tento seznam setřízen – tyhle čísla se pak kódují nějakým prefixovým kódem. Optimalizace, využívá toho, že menší čísla mají kratší kódy – místo jednotlivých ID se kódují pouze přírustky ID (tzn. mám-li seznam 2,8,13,15 – tak se kódují čísla 2, 6, 5, 2)
+
 
+
 
+
Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf OZD II] (od slajdu 21) (Fibonacciho, Eliasovy kódy, fázování)
+
}}
+
 
+
==Znakové==
+
  
 
=== Huffmanovo kódování (statické, dynamické) (🎓🎓🎓) ===  
 
=== Huffmanovo kódování (statické, dynamické) (🎓🎓🎓) ===  
Řádka 77: Řádka 27:
 
  | Huffmanovo k. se pouziva v poslední fázi u  
 
  | Huffmanovo k. se pouziva v poslední fázi u  
 
}}
 
}}
[[Image:Stathuff.png|thumb|205px|StatickyHuffman(EMA MELE MASO)<br>
+
{{Zkazky|
seřadíme podle vyskytu, spojováním uzlů podle nejmenší četnosti zleva vytváříme binární strom
+
* '''Huffmanovo kódování (?)''' - stručně jsem popsal a nakreslil příklad k statické verzi, popsal jsem jak funguje dynamická, jak se mění strom atd.
]]
+
* '''Huffmanovo kódovanie (Galamboš)''' - toto som vedel, takže sa v tom moc nevŕtal  
{{Zkazky|* '''Huffmanovo kódování - statické, dynamické (2015, Holubová)''' - Hned na zacatku mi bylo receno, ze se mam zamerit na dynamicke H. kodovani. Mel jsem cokoliv zakodovat a dekodovat.
+
* '''Huffmanovo kódování - statické, dynamické (Holubová)''' - Hned na zacatku mi bylo receno, ze se mam zamerit na dynamicke H. kodovani. Mel jsem cokoliv zakodovat a dekodovat.
* '''Huffmanovo kódování (2009)''' - stručně jsem popsal a nakreslil příklad k statické verzi, popsal jsem jak funguje dynamická, jak se mění strom atd.
+
* '''Huffmanovo kódovanie (2008, Galamboš)''' - toto som vedel, takže sa v tom moc nevŕtal  
+
 
}}
 
}}
===='''Staticke Huffmanovo''' kodovaní====
+
====Staticke Huffmanovo kodovaní====
;Kodování:
+
{{zarovka
 +
|
 
# Spočítáme frekvence výskytů symbolů (včetně mezer).
 
# Spočítáme frekvence výskytů symbolů (včetně mezer).
 
# Seřadíme znaky od nejmenší frekvence.
 
# Seřadíme znaky od nejmenší frekvence.
 
# Spojováním dvojic zleva vytváříme strom. Nové vrcholy zařazujeme do řady (co nejvíce doprava).
 
# Spojováním dvojic zleva vytváříme strom. Nové vrcholy zařazujeme do řady (co nejvíce doprava).
 
# Levé hrany jsou 0, pravé 1.
 
# Levé hrany jsou 0, pravé 1.
 +
| statické kodovani
 +
}}
  
 +
:'''Vstup:''' seznam <math>n</math> zdrojovych jednotek ke kodovaní, <math>p</math> - usporadana posloupnost <math>n</math> vah (pravdepodobností) <math>p[i]</math> (<math>1 ≤ i ≤ n</math>) jejich vyskytu ve zprave
 +
:'''Vystup:''' kodova slova dana zretezením ohodnocení hran na cestach od korene k jednotlivym listum binarního stromu
 
* výsledný strom se nazývá Huffmanův, výsledný kód je prefixový
 
* výsledný strom se nazývá Huffmanův, výsledný kód je prefixový
 
* místo pravděpodobností můžeme použít i četnosti znaku, ohodnocení hran stromu pomocí 0 a 1 je konvencí (je tudíž možno použít i ohodnocení opačné)
 
* místo pravděpodobností můžeme použít i četnosti znaku, ohodnocení hran stromu pomocí 0 a 1 je konvencí (je tudíž možno použít i ohodnocení opačné)
 
* Huffmanuv i Shannon-Fanův kód je možné generovat v čase <math>O(n)</math>
 
* Huffmanuv i Shannon-Fanův kód je možné generovat v čase <math>O(n)</math>
  
===='''Dynamické''' (Adaptivní) '''Huffmanovo''' kódování====
+
<pre>
[[Image:ahc.png|thumb|300px|'''Sourozenecké pravidlo stromu:''' ∀ uzel má sourozence a četnosti v uspořádání podle červené šipky '''neklesají''']]
+
BEGIN
 +
∀ jednotku i vytvoř list o(p[i])
 +
(uzel ohodnocený pravděpodobností p[i]);
 +
k := n;
 +
WHILE k ≥ 2 DO
 +
  BEGIN
 +
  vyber z p dvě nejmenší nenulové p[r] a p[s], kde r ≠ s;
 +
  q := p[r]+p[s];
 +
  vytvoř uzel ohodnocený q;
 +
  hranám < o(q); o(p[r]) > a < o(q); o(p[s]) >
 +
    přiřaď ohodnocení 0 a 1;
 +
  p[r] := q; p[s] := 0; k := k-1
 +
  END
 +
END
 +
</pre>
 +
 
 +
====Dynamické (Adaptivní) Huffmanovo kódování====
 +
[[Image:ahc.png|right|thumb|394px|Sourozenecká vlastnost stromu: ∀ uzel má sourozence a četnosti v uspořádání podle č.šipky neklesají]]
 
* strom reorganizován podle toho, jak se mění pravděpodobnosti v průběhu kódování (tj. poruší se sourozenecké pravidlo)
 
* strom reorganizován podle toho, jak se mění pravděpodobnosti v průběhu kódování (tj. poruší se sourozenecké pravidlo)
* nepředpokládají se žádné informace o pravděpodobnostech zdrojových jednotek
+
* nepředpokládají se žádné informace o pravděpodobnostech zdrojových jednotek (strom ale můžeme inicializovat vstupní abecedou)
 
=====FGK (Faller, Galagher, Knuth)=====
 
=====FGK (Faller, Galagher, Knuth)=====
{| class="wikitable" style="font-size: 85%; width:700px;"
+
:'''Vstup:''' daný Huffmanův strom <math>T_1</math>, uzel <math>o</math>
|-
+
:'''Výstup:''' modif. Huff. strom <math>T_2</math>
! style="width:350px" | Dynamické kodovani
+
 
! style="width:350px" | dekódování
+
<pre>
|- 
+
BEGIN
|
+
current:=o;
# '''Init:''' Začínáme se stromem s 1 vrcholem (speciální).
+
WHILE current ≠ root DO
# '''Read:''' Načteme a najdeme znak ve stromu.
+
  BEGIN
#  '''Code:''' Na výstup vypisujeme čísla na hranách (0 vlevo, 1 vpravo). Není ve stromu⇒jdeme do speciálního vrcholu a pak '''vypíšeme znak na výstup'''.
+
  vyměň uzel a jeho příp.podstrom v current s uzlem o', který má nejvyšší pořadí mezi uzly se stejnou frekvencí;
# '''FixTree:''' Pokud znak ve stromu není, přidáme ho a aktualizujeme frekvence postupně až do kořene:
+
  četnost[current]++
#* Kontrolujeme zda ve stromu ve směru doprava nahoru není vrchol s menší frekvencí než je nová hodnota aktualizovaného. Pokud ano, vezmeme poslední takový a přehodíme ho s aktualizovaným (celé podstromy).
+
  current:=predcessor(current)
| style="vertical-align: top;" |
+
END
# '''Init:''' Začínáme se stromem s 1 vrcholem (speciální - ? nebo NYT).
+
END
#  '''Read:''' Čteme bity a podle nich hledáme ve stromě.
+
</pre>
# '''DeCode:''' Pokud dojdeme do listu s písmenem, vypíšeme ho.
+
 
# '''FixTree:''' Dojdeme-li do speciálního vrcholu, načteme znak ze vstupu.
+
* <math>AL_{HD} ≤ 2 . AL_{HS}</math>, kde <math>AL_{HD}</math> je průměrná délka kódových slov dynamického Huffmanova kódování a <math>AL_{HS}</math> statického
#* Znak vypíšeme.
+
{{TODO|příklad na nějakém textu}}
#* Znak přidáme do stromu stejně jako při kódování.
+
|}
+
* speciální vrchol se značí '''?''' nebo NYT
+
* první definice symbolů abecedy se kódují nějakým základním prefixovým kódem
+
* dosahuje mensi (lepsi) delky kodoveho slova oproti staticke verzi
+
{{collapse|1=<h6>příklad kódování "aa bb" (dekódování prakticky stejné):</h6>|2=
+
{{:Implementace_databázových_systémů/HuffmanSandbox}}
+
}}
+
 
{{collapse|💡 '''Λ (Vitter)'''| - složitější úprava FGK s těmito vlastnostmi:
 
{{collapse|💡 '''Λ (Vitter)'''| - složitější úprava FGK s těmito vlastnostmi:
 
* počet výměn podstromů je nejvýše <math>1</math>, přidá se escape sekvenci pro první výskyt nového znaku
 
* počet výměn podstromů je nejvýše <math>1</math>, přidá se escape sekvenci pro první výskyt nového znaku
Řádka 135: Řádka 97:
 
* http://www.stringology.org/DataCompression/fgk/index_en.html
 
* http://www.stringology.org/DataCompression/fgk/index_en.html
 
* http://www.stringology.org/DataCompression/ahv/index_en.html  
 
* http://www.stringology.org/DataCompression/ahv/index_en.html  
* http://www.ics.uci.edu/~dan/pubs/DC-Sec4.html#Algorithm%20FGK
 
* http://courses.cs.washington.edu/courses/csep590a/07au/lectures/lecture02small.pdf
 
 
}}
 
}}
  
 
💡 je optimální pro pravděpodobnosti výskytů znaků, které jsou mocninami 1/2.
 
💡 je optimální pro pravděpodobnosti výskytů znaků, které jsou mocninami 1/2.
 
+
=== aritmetické kódování,  ===
 
{{zarovka|1=
 
{{zarovka|1=
 
abeceda = {J,U,!}  
 
abeceda = {J,U,!}  
Řádka 152: Řádka 112:
 
}}
 
}}
  
=== Aritmetické kódování  ===
 
[[Soubor:400px-Arithmetic encoding.svg.png|400px|thumb|right|Diagram ukazující dekódování
 
čísla 0.538 (kruhová tečka) pro ukázkový model. Oblast je rozdělená
 
do podoblastí úměrně k četnostem symbolů, potom je podoblast obsahující tečku
 
postupně rozdělen stejným způsobem.]]
 
  
vyjadruje kod jako interval z ⟨0;1).
 
  
'''Komprese:''' rozdelim interval ⟨0;1) na useky odpovidajici relativnim cetnostem jednotlivych znaku. Pri kodovani znaku se z intervalu ⟨0;1) "stane" interval ⟨x;y) odpovidajici kodovanemu znaku. Tento interval se pote vezme jako jednotkovy do dalsi iterace.
+
{{zdroje|1=
 
+
Reprezentujeme-li interval dvojici(L,S), kde L je dolni mez intervalu a S jeho delka, postupny vyvoj techto velicin muzeme vyjadrit takto:
+
: L := L + S. cpᵢ
+
: S := S . pᵢ
+
kde pᵢ je pravdepodobnost vyskytu kodovaneho znaku a cpᵢ  = Σⁱⱼ₌₁ pⱼ neboli kumulovana pst. Pocatecni nastaveni je L=0 a S=1
+
 
+
'''Dekomprese:''' rozdelim interval ⟨0;1) na useky odpovidajici relativnim cetnostem jednotlivych znaku. Znak intervalu, ktery obsahuje kodovy interval dam na vystup a v tomto intervalu dale hledam.
+
 
+
'''Nevyhody:''' je treba aritmetiky velke presnosti, behem kodovani neni vystup – oboje lze ošetřit tím, že jakmile jsou známé první bity, tak se odešlou na výstup a dál se pokračuje se zbylým intervalem, který se jakoby posune o řád níž (např. pokud vím, že je interval [0; 0,001) v bitovém kódování, tak výsledný kód bude určitě vypadat ⟨0,00???; 0,00???))
+
 
+
'''Priklad: '''Mame abecedu {a,b,c,d} s pravdepodobnostmi 1/2, 1/4, 1/8 a 1/8 a kodujeme "abc".
+
<pre>λ -> ⟨0;1) 
+
'a' - ⟨0;1) -> ⟨0;1/2)
+
'b' - ⟨0;1/2) -> ⟨1/4;3/8)
+
'c' - ⟨1/4;3/8)-> ⟨25/64; 26/64)
+
</pre>
+
kód  není prefixový ⇒ je třeba nějaký speciální znak pro odlišení konce kódu
+
 
+
oproti Huffmanovu kódování výhodné zejména pokud jeden znak je mnohem pravděpodobnější než ostatní{{zdroje|1=
+
 
:''viz [[wen:Arithmetic coding]]''
 
:''viz [[wen:Arithmetic coding]]''
 
:Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf#47 OZD II] (od slajdu 47)
 
:Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf#47 OZD II] (od slajdu 47)
Řádka 185: Řádka 120:
 
}}
 
}}
  
==Slovníkové metody==
+
=== LZ algoritmy,  ===
 
+
Kompresni algoritmy vytvareji pri sve praci slovnik, ktery pouzivaji ke kodovani vstupu. Vsechny metody jsou adaptivni, pri cteni kodu vytvari slovnik a zaroven taky generuji vysledny kod. Jsou kodovany "fraze" (shluky znaku nebo slova), cislovany ve slovniku od nuly.
+
 
+
Existuji dve zakladni kategorie:
+
# organizujici slova prirozeneho jazyka (BSTW)
+
# organizujici retezce (LZ*)
+
=== LZ algoritmy ===
+
 
{{zkazky|
 
{{zkazky|
 
* '''Komprese PNG a GIF (2012, Grafika, Zara)''' -  Nejhorsi otazku sem si nechal na konec...tuhle sem absolutne nemel pripravenou, navic ji zkousel Zara Snazil sem se co nejdyl mluvit o obecnych metodach komprese obrazu ( RLE, Huffman, LZ77, LZW, Aritmeticke kodovani, Transformace obrazu ) ...to me ale Zara brzo zarazil ze to moc nesouvisi s tim na co se me ptaji at zacnu byt konretnejsi Tak sem otocil papir a tam sem mel par strohych poznamek o PNG a GIF formatech Kdyz sem to zacal komentovat tak me Zara prerusil at je spis vzajemne porovnam kdyz o nich mluvim. Co konkretne ho zajimalo: oba bezeztratove, LZ77 vs LZW, ze oba pouzivaji progresivni metodu zobrazeni, Proc muze mit PNG lepsi kompresni pomer nez GIF kdyz GIF pouziva modernejsi LZW oproti LZ77 ( odpoved ze LZ77 muze byt lepsi nez LZW na nekterych vstupech protoze je to uplne neco jinyho se mu moc nelibila...spravna odpoved je podle Zary ze tam je lepsi prediktor) No casto sem tady tipoval, hodne sem toho nevedel, parkrat me Zara poucil jak ze to vlastne je...celkem bida, ale mel sem pocit ze k vyhazovu sem mel jeste furt nejakou rezervu
 
* '''Komprese PNG a GIF (2012, Grafika, Zara)''' -  Nejhorsi otazku sem si nechal na konec...tuhle sem absolutne nemel pripravenou, navic ji zkousel Zara Snazil sem se co nejdyl mluvit o obecnych metodach komprese obrazu ( RLE, Huffman, LZ77, LZW, Aritmeticke kodovani, Transformace obrazu ) ...to me ale Zara brzo zarazil ze to moc nesouvisi s tim na co se me ptaji at zacnu byt konretnejsi Tak sem otocil papir a tam sem mel par strohych poznamek o PNG a GIF formatech Kdyz sem to zacal komentovat tak me Zara prerusil at je spis vzajemne porovnam kdyz o nich mluvim. Co konkretne ho zajimalo: oba bezeztratove, LZ77 vs LZW, ze oba pouzivaji progresivni metodu zobrazeni, Proc muze mit PNG lepsi kompresni pomer nez GIF kdyz GIF pouziva modernejsi LZW oproti LZ77 ( odpoved ze LZ77 muze byt lepsi nez LZW na nekterych vstupech protoze je to uplne neco jinyho se mu moc nelibila...spravna odpoved je podle Zary ze tam je lepsi prediktor) No casto sem tady tipoval, hodne sem toho nevedel, parkrat me Zara poucil jak ze to vlastne je...celkem bida, ale mel sem pocit ze k vyhazovu sem mel jeste furt nejakou rezervu
 
}}
 
}}
====LZW - ''Posíláme jen odkaz do slovníku (na začátku je v něm abeceda)''====
 
'''Komprese''': pocatecnimi frazemi jsou jednotlive znaky. V kazdem kroku se najde nejdelsi fraze ve slovniku shodna se vstupem a jeji kod se zapise. Nova fraze vznika pridanim dalsiho znaku na konec akt. pouzite fraze.
 
 
'''pr. vstup ababababa'''
 
* poc. tabulka:
 
<pre> fraze  a  b
 
cislo  0  1
 
</pre>
 
*chod alg.
 
<pre>
 
kod  | slovník:
 
      | 0 a
 
      | 1 b
 
a  0 | 2 ab
 
b  1 | 3 ba
 
ab  2 | 4 aba
 
aba 4 | 5 abab
 
ba  3
 
</pre>'''Dekomprese''': zacina se tak jako u komprese se slovnikem, ve kterem jsou pouze znaky. Nova fraze se tvori z predchozi plus prvniho pismena aktualni (je mozne, aby "nova" fraze sla hned na vystup - jeji zacatek znam - je z predchozi a posledni pismeno bude shodne s prvnim.
 
* Komprese i dekomprese vytvori stejny slovnik, používá se v GIF
 
 
====LZ77 - ''Okénka (posíláme 3 údaje)''====
 
*na jeho zakladu jsou postaveny komprimacni programy soucasnosti(zip, arj,...)
 
* metoda typu sliding window - posunuju vstupem okenko, pomoci ktereho i koduju. Delim ho na dve casti hledaci (az 7 znaku a vyhledove az 7 znaku). Zprava je kodovana trojicemi <a, l, c> a je posun od aktualni pozice zpet, l je delka jiz kodovane casti ktera se znovu pouzije a c je novy znak. Kazda trojice tak zakoduje nejmene jeden a nejvice 7 znaku.
 
*proč zrovna 7 – vejde se to tak akorát do 3 bitů a je to rychlé
 
*pr. EMA MELE MASO se zakoduje <0,0,E>, <0,0,M>, <0,0,A>, <0,0,MEZERA>, <3,1,E>, <0,0,L>, <2,1,MEZERA>, <5,1,A>, <0,0,S>, <0,0,O>,
 
* pužívá se v PNG
 
Dalsi algoritmy - existuje spousta variant LZ algoritmu (LZ78 – starší obdoba LZW, LZJ – variace na LZW, kde je omezena délka kódovaných řetězců,...)
 
{{zdroje|
 
 
Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf#56 OZD II] (od slajdu 56) (LZ77, LZSS, LZ78, LZW a další)
 
Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf#56 OZD II] (od slajdu 56) (LZ77, LZSS, LZ78, LZW a další)
}}
 
 
== Komprese bitových map ==
 
{| class="wikitable" style="text-align:center; float:right"
 
|-
 
!rowspan=2| Identifier
 
!rowspan=2| HasInternet
 
!colspan=2| Bitmaps
 
|-
 
!Y !! N
 
|-
 
|1 || Yes || 1|| 0
 
|-
 
|2 || No || 0 || 1
 
|-
 
|3 || No || 0 || 1
 
|-
 
|4 || Unspecified || 0 || 0
 
|-
 
|5 || Yes || 1 || 0
 
|}
 
Bitmapy se používají jako indexy pro atributy s malými doménami (napr.: muž/žena, low/medium/high,...)
 
*velikost bitmapy se rovná počtu záznamů * velikost domény ⇒ rostou lineárně s databází
 
*dotazování se dělá pomocí bitových logických boolovských operací
 
 
{{TODO|projít podle OZD1H}}
 
;Komprese:
 
Uvažujeme bitovou mapu, resp. její j-tý sloupec (i-tá pozice říká, že záznam i odpovídá určité j-té hodnotě, nebo např. že dokument i obsahuje term j)
 
 
Uvažujeme předpoklad, že existence bitu 1 nebo 0 je nezávislá (pravděpodobnost p, že je tam 0, (1-p), že je tam 1). Z bitového řetězce lze spočítat pravděpodobnost p.
 
 
Rozdělíme bitový řetězec na bloky délky k a pro všechny možné bloky vzhledem k umístění jedniček (2^k) vypočítáme jejich pravděpodobnost. Potom pomocí Huffmanova kódování přiřadíme jednotlivým blokům kódy, kterými zakódujeme bitový řetězec. Čím větší p a k, tím větší zisk komprese, ale při velkém k (> 10) exponenicálně narůstá slovník, což nemusí být v praxi použitelné.
 
 
Druhou možností je nekódovat bloky pevné délky, ale běhy nul, zakončené jedničkou – tj. 1, 01, 001, 0001, atd. až do pevně stanovené velikosti m (tj poslední blok bude m nul). Spočítáme pravděpodobnosti pro běhy s jedničkou: (p^j)(1-p) – j je počet nul, zbylá pravděpodobnost do 1 (100%) bude odpovídat běhu ze samých nul. A opět Huffmanovým kódováním přiřadím kódy. V tomto případě slovník roste s k pouze lineárně, ale je zase hodně závislý na pravděpodobnosti, že se na vyskytuje 0 (když se blíží k 1, pak je to velice výhodné, jinak zisk komprese klesá)
 
  
 +
=== komprese bitových map,  ===
 +
:Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf#92 OZD II] (od slajdu 92)
 
* pomocí Huffmanova kódování
 
* pomocí Huffmanova kódování
 
** kódováním posloupností pevné délky
 
** kódováním posloupností pevné délky
 
** kódování běhů (posloupnost nul ukončených jedničkou apod.)
 
** kódování běhů (posloupnost nul ukončených jedničkou apod.)
  
Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf#92 OZD II] (od slajdu 92)
+
=== rídkých matic,  ===
 +
[http://www.ksi.mff.cuni.cz/~zemlicka/pdf/2011/matcomp.pdf OZD II]
 +
=== Burrows-Wheelerova transformace. ===
 +
http://cs.wikipedia.org/wiki/Burrowsova-Wheelerova_transformace
  
== Řídké matice ==
+
=== <strike>Reprezentace celých čísel</strike> (zrušeno 2010) ===
řídká matice obsahuje z velké většiny nuly (např. vektorový index - cca 90% nul), lze reprezentovat:
+
{{Zkazky|
*naivně ve tvaru matice (příliš veliké a neefektivní) ( <math>\vec{d}</math> = [w<sub>1</sub>, w<sub>2</sub>, ... ,  w<sub>k</sub>] )
+
* '''komprese, obecně + komprese čísel (2008 Kopecký)''' - opět jsem neměl moc jasnou představu, kde je to využíváno - nicméně po lehkým naťuknutí jsem rovnou použil předchozí pohovor o indexaci dokumentů a správně řekl, že se to používá v tom invertovaném souboru pro kódování seznam těch dokumentů, kde se term vyskytuje. Pak jsem byl ještě poučen, že jak je ten seznam setřízen, tak se nekódují konkrétní čísla, ale přírustek od předchozího indexu.  
*seznamem indexů, kde se nachází nenulová hodnota ( <math>\vec{d}</math> = [j<sub>1</sub>:w<sub>j<sub>1</sub></sub>, j<sub>2</sub>: w<sub>j<sub>2</sub></sub>, ... ,  j<sub>k</sub>: w<sub>j<sub>k</sub></sub>] )
+
** kontrukce posuny - matici rozdělit na řádky, vhodně posuneme řádky (zaznamenáme), složíme řádky (sečteme), zaznamenáme do kterého řádku políčko patří
+
** viz: [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/2011/matcomp.pdf OZD II]
+
{| class="wikitable" style="float:right"
+
!  colspan="4" | Burrowsova-Wheelerova transformace
+
|-
+
! Vstup
+
! Všechny<br>rotace
+
! Seřazení<br>rotací
+
! Výstup
+
|-
+
|  align=center |
+
^BANANA<font color="red">@</font>
+
|
+
^BANANA<font color="red">@</font>
+
<font color="red">@</font>^BANANA
+
A<font color="red">@</font>^BANAN
+
NA<font color="red">@</font>^BANA
+
ANA<font color="red">@</font>^BAN
+
NANA<font color="red">@</font>^BA
+
ANANA<font color="red">@</font>^B
+
BANANA<font color="red">@</font>^
+
|
+
ANANA<font color="red">@</font>^'''B'''
+
ANA<font color="red">@</font>^BA'''N'''
+
A<font color="red">@</font>^BANA'''N'''
+
BANANA<font color="red">@</font>'''^'''
+
NANA<font color="red">@</font>^B'''A'''
+
NA<font color="red">@</font>^BAN'''A'''
+
^BANANA<font color="red">'''@'''</font>
+
<font color="red">@</font>^BANAN'''A'''
+
|
+
BNN^AA<font color="red">@</font>A
+
|}
+
 
+
== Burrows-Wheelerova transformace (BWT) - ''Matice, permutace''==
+
Pomocný algoritmus pro změnu pořadí symbolů (permutaci), tak aby se dobře komprimoval (často vyskytující se symboly dá k sobě).
+
*používá se v bzip2
+
;tranformace:
+
*Ze vstupního řetězce (zakončeného symbolem EOF) vytvoří všechny jeho možné rotace.
+
*Tyto se dále klasicky seřadí.  
+
*Ze seřazeného pole rotací původního řetězce se do výstupního zapíše postupně od počátku poslední symbol z každé rotace.
+
 
+
'''komprese''' - move-front jako BSTW akorát že inicializujeme slovník abecedou
+
===BSTW===
+
*metoda nenavazujici na LZ
+
*na zacatku prazdny slovnik, ukladaji se do nej cela slova, vzdy na zacatek. Za kazde slovo je poslan jeho index ve slovniku nebo cislo o jedna vyssi nez je pocet slov ve slovniku spolu s novym slovem. Po kazdem "pouziti" slova ze slovniku se to slovo presune na zacatek slovniku.
+
*Pr. kazdy sofsemista musi kazdy den bdit cely den
+
**zakoduje se na : 1 kazdy 2 sofsemista 3 musi 3 (<--- ted uz znamena kazdy) 4 den 5 bdit 6 cely 3 (=den)
+
{{zdroje|
+
http://cs.wikipedia.org/wiki/Burrowsova-Wheelerova_transformace
+
 
}}
 
}}
 +
Slajdy k [http://www.ksi.mff.cuni.cz/~zemlicka/pdf/compression.pdf OZD II] (od slajdu 21) (Fibonacciho, Eliasovy kódy, fázování)

Kliknutím na Save page

  • Potvrzujete, že vložené změny jsou vaším dílem, nebo jste oprávněni je zveřejnit a licencovat podle pravidel této stránky.
  • Potvrzujete, že smluvní podmínky níže uvedených licencí znáte a chápete, nebo se s nimi v nejbližší době seznámite.
  • Souhlasíte se zveřejněním svých změn podle licence MatfyzKing copyright
  • Souhlasíte se zveřejněním svých změn podle licence Creative Commons BY-NC-SA 2.0
  • Souhlasíte se zveřejněním svých změn podle licence GNU GFDL

Nevkládejte cizí díla bez prokazatelného souhlasu autora nebo držitelů práv!

Storno | Pomoc při editování (otevře se v novém okně)