Eu sei que você não pode confiar na igualdade entre valores de tipo duplo ou decimal normalmente, mas estou me perguntando se 0 é um caso especial. Embora eu possa entender imprecisões entre 0,00000000000001 e 0,00000000000002, 0 em si parece muito difícil de errar, já que não é nada. Se você for...
Estou usando o módulo json padrão em python 2.6 para serializar uma lista de flutuadores. No entanto, estou obtendo resultados como este: >>> import json >>> json.dumps([23.67, 23.97, 23.87]) '[23.670000000000002, 23.969999999999999, 23.870000000000001]' Eu quero que os...
Estou fazendo um trabalho crítico de desempenho em C ++ e atualmente estamos usando cálculos inteiros para problemas que são inerentemente de ponto flutuante porque "é mais rápido". Isso causa muitos problemas irritantes e adiciona muitos códigos irritantes. Agora, eu me lembro de ter lido sobre...
Quando eu compilo o código C com minha cadeia de ferramentas cruzada, o vinculador imprime páginas de avisos dizendo que meu executável usa floats rígidos, mas minha libc usa floats suaves. Qual é a
Caso 1: #include <iostream> int main() { double d = 15.50; std::cout<<(d/0.0)<<std::endl; } Compila sem avisos e imprime inf. OK, C ++ pode lidar com divisão por zero, ( veja ao vivo ). Mas, Caso 2: #include <iostream> int main() { double d = 15.50;...
Eu tenho um flutuador primitivo e preciso como um duplo primitivo. Simplesmente lançar o flutuador para dobrar me dá uma precisão extra estranha. Por exemplo: float temp = 14009.35F; System.out.println(Float.toString(temp)); // Prints 14009.35 System.out.println(Double.toString((double)temp)); //...
Eu li sobre ponto flutuante e entendo que NaN pode resultar de operações. Mas não consigo entender o que são conceitos exatamente. Qual a diferença entre eles? Qual pode ser produzido durante a programação C ++? Como programador, eu poderia escrever um programa que causasse um...
Estou tentando truncar números decimais em casas decimais. Algo assim: 5.467 -> 5.46 985.943 -> 985.94 toFixed(2)faz exatamente a coisa certa, mas arredonda o valor. Eu não preciso do valor arredondado. Espero que isso seja possível em javascript.
Digamos que o gargalo do meu programa Java realmente sejam alguns loops apertados para calcular um monte de produtos de ponto vetorial. Sim, fiz o perfil, sim, é o gargalo, sim é significativo, sim é assim que o algoritmo é, sim, executei o Proguard para otimizar o código de bytes, etc. O trabalho...
Eu tenho uma lista de carros alegóricos. Se eu simplesmente fizer printisso, aparecerá assim: [9.0, 0.052999999999999999, 0.032575399999999997, 0.010892799999999999, 0.055702500000000002, 0.079330300000000006] Eu poderia usar print "%.2f", o que exigiria um forloop para percorrer a lista, mas não...
Isso é algo que está na minha mente há anos, mas nunca parei para perguntar antes. Muitos geradores de números (pseudo) aleatórios geram um número aleatório entre 0,0 e 1,0. Matematicamente, existem números infinitos neste intervalo, mas doubleé um número de ponto flutuante e, portanto, tem uma...
Existe uma maneira pitônica de dividir um número 1234.5678em duas partes, (1234, 0.5678)ou seja, a parte inteira e a parte decimal?
Estou desenvolvendo algumas simulações de engenharia. Isso envolve a implementação de algumas equações longas, como esta equação para calcular a tensão em um material semelhante a borracha: T = ( mu * ( pow(l1 * pow(l1 * l2 * l3, -0.1e1 / 0.3e1), a) * a * ( pow(l1 * l2 * l3, -0.1e1 / 0.3e1) -...
Quais são as vantagens e desvantagens de usar um em vez do outro em C ++?
Nos cabeçalhos stdint.h(C99), boost / cstdint.hpp e cstdint(C ++ 0x) existe, entre outros, o tipo int32_t. Existem tipos semelhantes de ponto flutuante de tamanho fixo? Algo assim float32_t?
Tentei verificar onde floatperde a capacidade de representar exatamente grandes números inteiros. Então, escrevi este pequeno trecho: int main() { for (int i=0; ; i++) { if ((float)i!=i) { return i; } } } Este código parece funcionar com todos os compiladores, exceto o clang. O Clang gera...
Como você converte um float em uma string em C ++ enquanto especifica a precisão e o número de dígitos decimais? Por exemplo: 3.14159265359 -> "3.14"
Estou exibindo uma distância com um decimal e gostaria de remover esse decimal caso seja igual a 0 (ex: 1200,0Km), como poderia fazer isso no swift? Estou exibindo este número assim: let distanceFloat: Float = (currentUser.distance! as NSString).floatValue distanceLabel.text = String(format:...
Estou tentando realizar uma divisão simples em Go. fmt.Println(3/10) Isso imprime 0 em vez de 0,3. Isso é meio estranho. Alguém poderia compartilhar o motivo por trás disso? eu quero realizar diferentes operações aritméticas no Go. obrigado
Existe uma maneira de obter programaticamente o dobro que está mais próximo de 1.0, mas não é realmente 1.0? Uma maneira rápida de fazer isso seria memorizar o dobro em um número inteiro do mesmo tamanho e, em seguida, subtrair um. Da forma como os formatos de ponto flutuante IEEE754 funcionam,...