Eftersom du fick 511 med 10 bitars upplösning kommer resultatet bli 127 med 8-bitars upplösning. Då menar jag att du ställer in att picen vänsterjusterar ad-resultatet och att du använder den höga byten som resultat.
Jag körde i excel och omslöt beräkningarna med HELTAL()
Räknade inte med binära tal, utan dividerade med 4 för att få skiftning åt höger 2 steg, dividerade med 16 för skiftning 4 steg.
HELTAL((127-30)/4) = 24
Sen för att få min/max gjorde jag såhär:
24*4+30
((24+1)*4+30)-1
Sen multiplicerade jag dessa med 4 för att visa dem som 10-bitars.
Fast jag använde så klart inte siffrorna, utan bara cellnamn så att jag enkelt kunde testa olika värde tills jag blev nöjd.
Kan maila filen om du vill.
A/D-fråga om PIC18F1320
- JimmyAndersson
- Inlägg: 26586
- Blev medlem: 6 augusti 2005, 21:23:33
- Ort: Oskarshamn (En bit utanför)
- Kontakt:
> Excel klarar väl inte att räkna med binära tal?
Njae, Excel räknar med *tal*.
Bin/hex/dec/oct o.s.v har bara med *presentationen*
att göra, inte beräkningarna som sådana...
Sen kanske inte Excel har någon möjlighet att presentera i bin format,
men som sagt, det är en annan fråga...
Sen kan man lägga till att eftersom Excel körs på en "dator" så sker
*allt* som Excel gör binärt.

Njae, Excel räknar med *tal*.
Bin/hex/dec/oct o.s.v har bara med *presentationen*
att göra, inte beräkningarna som sådana...
Sen kanske inte Excel har någon möjlighet att presentera i bin format,
men som sagt, det är en annan fråga...
Sen kan man lägga till att eftersom Excel körs på en "dator" så sker
*allt* som Excel gör binärt.


- JimmyAndersson
- Inlägg: 26586
- Blev medlem: 6 augusti 2005, 21:23:33
- Ort: Oskarshamn (En bit utanför)
- Kontakt: