Räkna ut vad en viss spänning blir för värde i A/D

[PW2000]

Jag har en 10-bitars AD i min PIC-processor, jag förser den med 3,24V referens.

Nu tänker jag att man ska räkna ut vilket värde en viss spänning ger såhär:

Vref/1024 = 0,0031640625

Spänning 1,2 V ska då ge 1,2/0,0031640625 = 379 = 0x017B

Men det verkar inte stämma, tänker jag fel?

[Icecap]

1,2V / 3,24V * 1024 = 379 = 0x017B

Du kanske ska kolla lite på din decimal -> hex konvertering?

[psynoise]

Generellt stämmer det om jag förstår dig rätt, dvs kvantiseringssteget fås av

\(Q=\frac{2x_{max}}{2^{w}}\)

där w är ordlängden. Tyvärr vågar jag inte säga något om just din ad-omvandlare i mikrokontrollern, men vad för värden får du just nu?

[PW2000]

Det är jag som är tillfälligt förvirrad. 0x017B ska det vara, 0x0166 är det värde som är närmare 1,2V.

1,2V är en triggpunkt. Jag har svårt att direkt läsa av vilket värde AD ger. Men jag tänder/släcker en LED vid "1,2V" och då stämmer 0x0166 bättre med min multimeter.

Redigerade mitt inlägg ovan.

[sodjan]

Är alltså frågan besvarad?
Eller är det fortfarande något problem?

[PW2000]

Svar Ja.

Sen får väl jag fundera på varför inte AD och multimeter är överens.

[sodjan]

OK, skit samma...

[blueint]

Sedan är det ju det där med att analoga saker alltid är lite imperfekta och avviker från börvärden

(har du kollat multimeterns batteri?)