Perguntas com a marcação «dc»

12
Perdendo a precisão com CC

Eu quero usar dcpara lidar com alguns números de base 16 com pontos hexadecimais, mas estou tendo problemas de precisão. Por exemplo, abaixo estou multiplicando F423F.FDpor 100, ambos hexadecimais. A resposta esperada é F423FFD, em vez disso, está dando F423FFA.E1, próxima, mas não é precisa o...