Eu li sobre a diferença entre precisão dupla e precisão única. No entanto, na maioria dos casos, floate doubleparece ser intercambiável, ou seja, o uso de um ou de outro não parece afetar os resultados. É este realmente o caso? Quando os carros alegóricos e duplos são intercambiáveis? Quais são as...
randrange(start, stop)leva apenas argumentos inteiros. Então, como eu obteria um número aleatório entre dois valores
Eu tenho o seguinte código. Gostaria de tê-lo de tal forma que, se price_result igual a um número inteiro, digamos 10, gostaria de adicionar duas casas decimais. Então 10 seria 10,00. Ou, se for igual a 10,6, seria 10,60. Nao tenho certeza de como fazer isso. price_result =
Eu sei UIKitusosCGFloat devido ao sistema de coordenadas independente da resolução. Mas cada vez que eu quero verificar se, por exemplo, frame.origin.xé 0que me faz sentir doente: if (theView.frame.origin.x == 0) { // do important operation } Não é CGFloatvulnerável a falsos positivos ao...
Usei a seguinte linha para converter float em int, mas não é tão preciso quanto eu gostaria: float a=8.61f; int b; b=(int)a; O resultado é: 8(deve ser 9) Quando a = -7.65f, o resultado é: -7(Deve ser -8) Qual é a melhor maneira de fazer
Então, eu recebi a resposta para minha última pergunta (não sei por que não pensei nisso). Eu estava imprimindo um doubleuso coutque era arredondado quando não esperava. Como faço para coutimprimir doubleusando precisão
É sabido que comparar carros alegóricos pela igualdade é um pouco complicado devido a problemas de arredondamento e precisão. Por exemplo: https://randomascii.wordpress.com/2012/02/25/comparing-floating-point-numbers-2012-edition/ Qual é a maneira recomendada de lidar com isso no...
Eu queria exibir um número com 2 casas decimais. Eu pensei que poderia usar toPrecision(2)em JavaScript. No entanto, se o número for 0.05, eu entendo 0.0500. Eu prefiro que continue o mesmo. Veja no JSbin . Qual é a melhor maneira de fazer isso? Posso pensar em codificar algumas soluções, mas...
Eu continuo vendo essa constante aparecer em vários arquivos de cabeçalho de gráficos 0.0039215689 Parece ter algo a ver com cor, talvez? Aqui está o primeiro hit no Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16,...
Eu tenho que calcular algumas variáveis de ponto flutuante e meu colega sugere que eu use em BigDecimalvez de, doublepois será mais preciso. Mas quero saber o que é e como tirar o máximo proveito
É sabido que os NaNs se propagam em aritmética, mas não consegui encontrar nenhuma demonstração, então escrevi um pequeno teste: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN;...
Eu tenho o valor 25.00em a float, mas quando imprimo na tela é 25.0000000. Como posso exibir o valor com apenas duas casas
Por que alterar a ordem da soma retorna um resultado diferente? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Ambos Java e JavaScript retornam os mesmos resultados. Entendo que, devido à maneira como os números de ponto flutuante são representados em binário, alguns...
Houve várias perguntas postadas no SO sobre representação de ponto flutuante. Por exemplo, o número decimal 0.1 não tem uma representação binária exata, portanto, é perigoso usar o operador == para compará-lo com outro número de ponto flutuante. Entendo os princípios por trás da representação em...
Ao comparar flutuações com números inteiros, alguns pares de valores levam muito mais tempo para serem avaliados do que outros valores de magnitude semelhante. Por exemplo: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million...
Às vezes, os tipos de dados do Activerecord me confundem. Erre, frequentemente. Uma das minhas eternas perguntas é, para um dado caso, Devo usar :decimalou :float? Eu sempre encontrei esse link, ActiveRecord:: decimal vs: float? , mas as respostas não são suficientemente claras para que eu...
O código a seguir está obviamente errado. Qual é o problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal
Como gerar flutuações aleatórias em C ++? Eu pensei que poderia pegar o rand inteiro e dividi-lo por algo, isso seria
Por que as comparações de valores de NaN se comportam de maneira diferente de todos os outros valores? Ou seja, todas as comparações com os operadores ==, <=,> =, <,> em que um ou ambos os valores são NaN retornam falso, ao contrário do comportamento de todos os outros valores. Suponho...
Posso citar três vantagens em usar double(ou float) em vez de decimal: Usa menos memória. Mais rápido porque as operações matemáticas de ponto flutuante são suportadas nativamente pelos processadores. Pode representar um intervalo maior de números. Mas essas vantagens parecem se aplicar apenas...