Jos olet joskus kuunnellut digitaalista musiikkia - varsinkin minkäänlaisia häviöllisiä ääniformaatteja - niin olet ollut alttiina matemaattiselle kvantisoinnille Tämän digitaalisen signaalinkäsittelyn takana olevalle taustalle on melko yleinen ja useimmiten nykyajan ääniohjelmiston tai laitteistot (esim. digitaali-analogiamuuntimet). Mutta kvantisointi ei rajoitu pelkästään äänentoistoon. Termi ja sen käyttökohteet koskevat myös muita kenttiä, kuten fysiikkaa tai digitaalista kuvankäsittelyä.
Äänitysstudiossa mikrofonit poimivat analogisia musiikkiäänia, jotka sitten käsitellään digitaalimuodoksi. Signaali voidaan ottaa näytteeksi 44,100 Hz: iin ja kvantisoida 8-, 16- tai 24-bittisellä syvyydellä (ja niin edelleen). Korkeammat bittisyvyt tarjoavat enemmän tietoa, mikä mahdollistaa alkuperäisen aaltomuodon tarkemman muunnoksen ja toiston.
Pohjimmiltaan kvantisointi on monimutkainen pyöristysprosessi, johon liittyy jonkin verran epätarkkuutta. Tietokoneet toimivat niillä ja nollilla, joten analogia-digitaalimuunnos katsotaan läheltä approksimaatiota eikä tarkkaa kopiota. Musiikin suhteen ei ainoastaan kvantisoitua signaalia tarvitse pitää oikeassa peräkkäisyydessä ja arvojen amplitudina, mutta ajastuksen on oltava tarkka. Prosessin on varmistettava, että musiikillinen rytmi säilyy, ja muistiinpanot jakautuvat tasaisesti ja asetetaan samaan lyöntiin (tai niiden osuuteen). Muussa tapauksessa ääni saattaa kuulostaa kuulostavan tai outoa kuuntelukorville.
Tämä kvantisointi-käsite voidaan visualisoida kuvankäsittelyohjelmalla, kuten Photoshopilla. Kun suurikokoista kuvaa pienennetään, pikselin informaation menetys on matemaattisen käsittelyn takia. Ohjelmisto suorittaa laskutoimitukset ja pyöristämisen hylkäämään ei-toivotut pikselit samalla kun säilytetään kuvan eheys, suhde ja konteksti - rajoitetut mittasuhteet ovat yhtä tärkeitä kuin rytmissä musiikki. Kun zoomaat ja vertaat valokuvan uudelleenkokoista versiota alkuperäiseen, reunat ja esineet yleensä näyttävät hieman karkeilta tai jumittuneilta. Tämä häviöllisen pakkauksen visuaalinen piirre liittyy samaan tapaan digitaalisten äänitiedostojen tyyppeihin. Lisää dataa ja / tai vähemmän pakkausta parantaa yleistä laatua.
