Efter att ha ritat ut problemet på papper så kom jag fram till att varje bit från ADC:n motsvarar ca. 0.02mV (5/256), men eftersom detta värde är nerskalat med konstanten 2.4 måste detta kompenseras. Ekvationen blir därför (5*24) / (256*10), vilket blir 3/64.
Koll: Mätvärde 6.42V blir 2.67V nerskalat. 2.67 / (5/256) = 136.7 = 137, vilket är det värde ADC:n kommer att avge. 137 * (3/64) = 6.42, så min tes stämmer.
MCU:n har add, sub, shift left och shift right, men ingen divisionsoperator, och det är här mitt problem dyker upp:
Kod: Markera allt
137 = 00000000 10001001
x 3 = 00000001 10011011 (add tre gånger)
/64 = 00000000 00000110 (64 = 2^6, alltså skift höger 6 ggr)
Tips?