Como arredondar um número decimal (ponto flutuante) para o número inteiro mais próximo? por exemplo 1.2 = 1 1.7 =
Ao ler o código-fonte de Lua , notei que Lua usa a macropara arredondar de a doublepara 32 bits int. Eu extraí o macro, e fica assim: union i_cast {double d; int i[2]}; #define double2int(i, d, t) \ {volatile union i_cast u; u.d = (d) + 6755399441055744.0; \ (i) = (t)u.i[ENDIANLOC];} Aqui...
Qual é a diferença entre uma operação de ponto flutuante de precisão única e operação flutuante de precisão dupla? Estou especialmente interessado em termos práticos em relação aos consoles de videogame. Por exemplo, o Nintendo 64 tem um processador de 64 bits e, se isso acontecer, isso...
Eu sei que usar ==para verificar a igualdade de variáveis de ponto flutuante não é uma boa maneira. Mas eu só quero saber isso com as seguintes declarações: float x = ... float y = x; assert(y == x) Desde que yé copiado x, a afirmação será
Para maior clareza, se estou usando uma linguagem que implementa IEE 754 floats e declaro: float f0 = 0.f; float f1 = 1.f; ... e depois imprimi-los novamente, receberei 0,0000 e 1,0000 - exatamente. Mas o IEEE 754 não é capaz de representar todos os números ao longo da linha real. Perto de...
Como se pode modificar o formato da saída de uma operação de grupo em pandas que produz notação científica para números muito grandes? Sei como formatar strings em python, mas não consigo aplicá-lo aqui. df1.groupby('dept')['data1'].sum() dept value1 1.192433e+08 value2 1.293066e+08 value3...
Eu sei que a maioria dos decimais não tem uma representação exata de ponto flutuante (a matemática do ponto flutuante está quebrada? ). Mas não vejo por que 4*0.1é bem impresso 0.4, mas 3*0.1não é, quando ambos os valores realmente têm representações decimais feias: >>>...
Alguém pode esclarecer porque Double.MIN_VALUEnão é realmente o valor mínimo que o Doubles pode receber? É um valor positivo, e um Double pode, é claro, ser negativo. Entendo por que é um número útil, mas parece um nome pouco intuitivo, especialmente quando comparado a Integer.MIN_VALUE . Ligá-lo...
Eu quero comparar dois carros alegóricos em PHP, como neste código de exemplo: $a = 0.17; $b = 1 - 0.83; //0.17 if($a == $b ){ echo 'a and b are same'; } else { echo 'a and b are not same'; } Neste código retorna o resultado da elsecondição em vez da ifcondição, mesmo que $ae $bsão os mesmos....
Estou tentando comparar dois números de ponto flutuante em um script bash. Eu tenho que variáveis, por exemplo let num1=3.17648e-22 let num2=1.5 Agora, eu só quero fazer uma comparação simples desses dois números: st=`echo "$num1 < $num2" | bc` if [ $st -eq 1]; then echo -e "$num1 <...
Não, essa não é outra pergunta "Por que (1 / 3,0) * 3! = 1" . Ultimamente tenho lido sobre pontos flutuantes; especificamente, como o mesmo cálculo pode fornecer resultados diferentes em diferentes arquiteturas ou configurações de otimização. Esse é um problema para jogos de vídeo que armazenam...
O código float x = 3.141592653589793238; double z = 3.141592653589793238; printf("x=%f\n", x); printf("z=%f\n", z); printf("x=%20.18f\n", x); printf("z=%20.18f\n", z); lhe dará a saída x=3.141593 z=3.141593 x=3.141592741012573242 z=3.141592653589793116 onde na terceira linha de saída...
Eu estava apenas estudando questões da OCPJP e encontrei esse código estranho: public static void main(String a[]) { System.out.println(Double.NaN==Double.NaN); System.out.println(Double.NaN!=Double.NaN); } Quando executei o código, obtive: false true Como está o resultado falsequando...
Eu sei que o 0.1número decimal não pode ser representado exatamente com um número binário finito ( explicação ), por double n = 0.1isso perderá alguma precisão e não será exatamente 0.1. Por outro lado, 0.5pode ser representado exatamente porque é 0.5 = 1/2 = 0.1b. Dito isto, é compreensível que a...
public class doublePrecision { public static void main(String[] args) { double total = 0; total += 5.6; total += 5.8; System.out.println(total); } } O código acima é impresso: 11.399999999999 Como eu conseguiria isso para imprimir (ou poder usá-lo como)
Aqui está o meu código: x = 1.0 y = 100000.0 print x/y Meu quociente é exibido como 1.00000e-05. Existe alguma maneira de suprimir a notação científica e torná-la exibida como 0.00001? Vou usar o resultado como uma
Eu tenho um número de ponto flutuante, digamos 135.12345678910. Eu quero concatenar esse valor para uma string, mas só quero 135.123456789. Com a impressão, posso fazer isso facilmente fazendo algo como: print "%.9f" % numvar por numvarser meu número original. Existe uma maneira fácil de fazer...
Entendo que o --ffast-mathsinalizador do gcc pode aumentar muito a velocidade das operações flutuantes e fica fora dos padrões do IEEE, mas não consigo encontrar informações sobre o que realmente está acontecendo quando está ligado. Alguém pode explicar alguns detalhes e talvez dar um exemplo claro...
Eu tenho uma função que aceita argumentos de flutuação (geralmente números inteiros ou decimais com um dígito significativo) e preciso gerar os valores em uma string com duas casas decimais (5 -> 5,00, 5,5 -> 5,50, etc.). Como posso fazer isso em
Eu sei, a pergunta parece estranha. Os programadores às vezes pensam demais. Por favor, leia em ... No IC, use signede unsignednúmeros inteiros muito. Eu gosto do fato de o compilador me avisar se eu fizer coisas como atribuir um número inteiro assinado a uma variável não assinada. Recebo avisos se...