unity gain bij digitale mengtafels
Collapse
X
-
Reden voor floating point te gebruiken is de grotere headroom voor je berekeningen.Mag ik dan even weten wat we er überhaupt aan hebben, sinds 24-bit integers al meer ruimte bieden, om maar niet te beginnen over 32-bit integer bewerkingen?
Hooguit dat een floating-point processor sneller zou kunnen zijn, maar naar mijn weten zijn integer ALU's nog altijd véél sneller en compacter dan hun floating-point tegenhangers.
het antwoord is (alleen kijkend naar de exponent).
de exponent is 8-bit. dus dit vergroot het floating point getal naar een integer met 24+256 bits. ja je mist informatie (buiten de 24 bit mantissa), maar dat maakt niet uit.
de extra 256 bits geven je dus 256*6dB extra headroom -> ongeveer 1500 dB headroom. En nee dat ga je niet gebruiken, maar je kan dus bijvoorbeeld een channel trim van +100dB geven en vervolgens verzwakken met 100dB en je verliest niets. als je dit echter doet weet je niet echt waar je mee bezig bent.
waarom dan met FP werken ipv integer.
een integer ALU is bijvoorbeeld 40 bit op sommige dsp's. dit geeft je dus 16 bits aan headroom -> toch 96 dB, maar je loopt toch risico met sommige filters (vooral lange fir's).
anyhow dit is mijn kennis, correct me if i'm wrong.Leave a comment:
-
-
Bij analoge tafels is de 0db een merkpunt, die aangeeft dat de preamp op dit gainniveau optimaal werkt. Dan is het eenvoudig om de gain zo dicht mogelijk op die 0db af te regelen.
Het zou interessant zijn dat digitale tafels ook een merkpunt zouden aanbrengen aan de VU meters. Een merkpunt op welk gainniveau hun preamp optimaal werkt.Leave a comment:
-
Mag ik dan even weten wat we er überhaupt aan hebben, sinds 24-bit integers al meer ruimte bieden, om maar niet te beginnen over 32-bit integer bewerkingen?Wat betreft de maximale SNR in een floating point processor (inderdaad AD en DA uitgesloten) ben ik het niet eens met de eerdere schrijvers. De SNR is het maximale wat we eruit kunnen halen zonder 'afrondfouten'. Deze zit dus in de mantissa en niet de exponent. Het grote voordeel van floating point zit er vooral in dat de 'leading zerro's' er niet zijn en je dus de volle 23 databits tot je beschikking hebt. Daarmee komt de theoritische SNR van de FP proc op
1.76+6.02*23 is ongeveer 140 dB
In de praktijk zal dit lager uitkomen omdat na iedere berekening deze afronding plaats zal vinden (in bijvoorbeeld in een IIR filter zijn dit er nogal wat).
Hooguit dat een floating-point processor sneller zou kunnen zijn, maar naar mijn weten zijn integer ALU's nog altijd véél sneller en compacter dan hun floating-point tegenhangers.Leave a comment:
-
Een extra 8 bit in de mantissa alleen voor afronding? Leg uit aub :-)Last edited by Cake Music NL; 30-03-11, 10:51.Leave a comment:
-
Reken sommetje is gelijk bij 40 bit.
40-bit fp heeft 8 bits extra mantissa (naukeurigheid bij afranden). de exponent(dus max head room) is nogsteeds 8 bit.Leave a comment:
-
Beste Allemaal,
Wat een verhalen over 32bit FP
Waarom eigenlijk?
Meeste betere digitale mixers werken
Met 40 bit floating point, zoals studer
En digico, of willen jullie om een andere
Reden met oude vst FP technologie rekenen?
Hoe gaat het rekensommetje met 40 bit FP ?Leave a comment:
-
Ach, en met een maximaal niveau-tje op de oortjes van 110dB(a) blijft de ruis dus maar liefst 30dB onder de gehoordrempel!!!Wat betreft de maximale SNR in een floating point processor (inderdaad AD en DA uitgesloten) ben ik het niet eens met de eerdere schrijvers. De SNR is het maximale wat we eruit kunnen halen zonder 'afrondfouten'. Deze zit dus in de mantissa en niet de exponent. Het grote voordeel van floating point zit er vooral in dat de 'leading zerro's' er niet zijn en je dus de volle 23 databits tot je beschikking hebt. Daarmee komt de theoritische SNR van de FP proc op
1.76+6.02*23 is ongeveer 140 dB
In de praktijk zal dit lager uitkomen omdat na iedere berekening deze afronding plaats zal vinden (in bijvoorbeeld in een IIR filter zijn dit er nogal wat).
En dan bedoel ik nog de gehoordrempel van een pasgeborene en niet die van een "ouwe stomp"
PaulLeave a comment:
-
Wat betreft de maximale SNR in een floating point processor (inderdaad AD en DA uitgesloten) ben ik het niet eens met de eerdere schrijvers. De SNR is het maximale wat we eruit kunnen halen zonder 'afrondfouten'. Deze zit dus in de mantissa en niet de exponent. Het grote voordeel van floating point zit er vooral in dat de 'leading zerro's' er niet zijn en je dus de volle 23 databits tot je beschikking hebt. Daarmee komt de theoritische SNR van de FP proc op
1.76+6.02*23 is ongeveer 140 dB
In de praktijk zal dit lager uitkomen omdat na iedere berekening deze afronding plaats zal vinden (in bijvoorbeeld in een IIR filter zijn dit er nogal wat).Leave a comment:
-
helaas8 bits exponent betekent dat de waarde kan lopen van (mantissa *) -10^256 tot 10^256 in het positief.
Gezien decibellen netjes 20 * de logaritme van 10 bedragen, zit je in theorie aan 512dB aan ruimte met floating point-tafels. (De negatieve helft draagt immers niets bij)
Het mag wel duidelijk zijn dat je dat niet bepaald gaat halen natuurlijk.
De '1 bit = 6dB'-regel geldt alleen voor integers, omdat 1 bit extra daar een verdubbeling van het aantal mogelijke waarden betekent (en dus 6dB meer bereik).
de exponent telt niet met een 10 basis, maar met een 2 basis.
de 1 bit per 6db klopt wel.Leave a comment:
-
-
-
-
Ik heb ook moeten wennen aan het aflezen van de dBfs schaal.
Maar...., in de handleiding van mijn tafel, LS9, staat netjes een grafiek die duidelijk maakt wanneer de tafel 0dBu afgeeft en wat er dan nog over is.
Toen ik nog een analoge tafel had stond de meter ook altijd op PFL voor de uitgang. Wist ik tenminste dat de tafel intern nog wat over had.Leave a comment:


Leave a comment: