Sida 4 av 4

Postat: 7 december 2006, 16:13:31
av bearing
Eftersom du fick 511 med 10 bitars upplösning kommer resultatet bli 127 med 8-bitars upplösning. Då menar jag att du ställer in att picen vänsterjusterar ad-resultatet och att du använder den höga byten som resultat.

Jag körde i excel och omslöt beräkningarna med HELTAL()
Räknade inte med binära tal, utan dividerade med 4 för att få skiftning åt höger 2 steg, dividerade med 16 för skiftning 4 steg.

HELTAL((127-30)/4) = 24

Sen för att få min/max gjorde jag såhär:
24*4+30
((24+1)*4+30)-1
Sen multiplicerade jag dessa med 4 för att visa dem som 10-bitars.

Fast jag använde så klart inte siffrorna, utan bara cellnamn så att jag enkelt kunde testa olika värde tills jag blev nöjd.

Kan maila filen om du vill.

Postat: 7 december 2006, 16:45:42
av JimmyAndersson
Aha, då blev det genast klarare. :)

Du får gärna maila filen.
Min elpost-adress: spam jimmy spam @ spam varion spam . se
(Plocka bort 'spam' så blir det rätt.) :)

Postat: 7 december 2006, 20:38:40
av sodjan
> Excel klarar väl inte att räkna med binära tal?

Njae, Excel räknar med *tal*.
Bin/hex/dec/oct o.s.v har bara med *presentationen*
att göra, inte beräkningarna som sådana...

Sen kanske inte Excel har någon möjlighet att presentera i bin format,
men som sagt, det är en annan fråga...

Sen kan man lägga till att eftersom Excel körs på en "dator" så sker
*allt* som Excel gör binärt. :-) :-)

Postat: 7 december 2006, 21:22:12
av JimmyAndersson
Så kan man ju också uttrycka det. :D