Eu procurei o que isso faz, mas alguém realmente tem um exemplo de quando você usaria a strictfppalavra - chave em Java? Alguém realmente encontrou um uso para isso? Haveria efeitos colaterais de colocá-lo em todas as minhas operações de ponto
Estou trabalhando com dados do mapa e o número Latitude/Longitudese estende para 8 casas decimais. Por exemplo: Latitude 40.71727401 Longitude -74.00898606 Vi no documento do Google que usa: lat FLOAT( 10, 6 ) NOT NULL, lng FLOAT( 10, 6 ) NOT NULL no entanto, suas casas decimais só vão...
Por exemplo: 9 / 5 #=> 1 mas eu esperava 1.8. Como posso obter o resultado decimal (não inteiro) correto? Por que está voltando
Estou tentando analisar dois valores de um datagrid. Os campos são numéricos e, quando possuem uma vírgula (ex. 554,20), não consigo obter os números após a vírgula. Eu tentei parseInte parseFloat. Como posso fazer
Aqui está o exemplo com comentários: class Program { // first version of structure public struct D1 { public double d; public int f; } // during some changes in code then we got D2 from D1 // Field f type became double while it was int before public struct D2 { public double d;...
Eu tenho números flutuantes como 3.2e 1.6. Preciso separar o número na parte inteira e decimal. Por exemplo, um valor de 3.2seria dividido em dois números, ie 3e0.2 Obter a parte inteira é fácil: n = Math.floor(n); Mas estou tendo problemas para obter a parte decimal. Eu tentei isso: remainer...
Estou tentando adicionar um pouco de espaço entre as linhas aos meus TextViews usando android:lineSpacingMultiplier a documentação : Espaçamento extra entre linhas de texto, como um multiplicador. Deve ser um valor de ponto flutuante, como "1,2". Como estou usando isso em alguns TextViews...
Eu tenho um Decimal('3.9')como parte de um objeto, e gostaria de codificar isso para uma string JSON que deve se parecer {'x': 3.9}. Eu não me importo com precisão no lado do cliente, então um float é bom. Existe uma boa maneira de serializar isso? JSONDecoder não aceita objetos decimais, e a...
Estou tentando dividir duas larguras de imagem em um script Bash, mas o bash me fornece 0o resultado: RESULT=$(($IMG_WIDTH/$IMG2_WIDTH)) Estudei o guia Bash e sei que devo usar bc, em todos os exemplos na internet que eles usam bc. Em echoTentei colocar a mesma coisa na minha SCALE, mas não...
Eu preciso de uma função simples de arredondamento de ponto flutuante, assim: double round(double); round(0.1) = 0 round(-0.1) = 0 round(-0.9) = -1 Eu posso encontrar ceil()e floor()no math.h - mas não round(). Está presente na biblioteca C ++ padrão com outro nome ou está...
Eu tenho trabalhado com dados importados de um CSV. O Pandas mudou algumas colunas para flutuar, agora os números nessas colunas são exibidos como pontos flutuantes! No entanto, preciso que eles sejam exibidos como números inteiros ou sem vírgula. Existe uma maneira de convertê-los em números...
Qual é o maior número inteiro "não flutuante" que pode ser armazenado em um tipo duplo IEEE 754 sem perder a
O tipo de dados flutuante é um ponto flutuante IEEE 754 de precisão única de 32 bits e o tipo de dados duplo é um ponto flutuante IEEE 754 de precisão dupla de 64 bits. O que isso significa? E quando devo usar float em vez de duplo ou
Eu preciso formatar um float para "n" casas decimais. estava tentando BigDecimal, mas o valor de retorno não está correto ... public static float Redondear(float pNumero, int pCantidadDecimales) { // the function is call with the values Redondear(625.3f, 2) BigDecimal value = new...
Como arredondar um valor flutuante (como 37,777779) para duas casas decimais (37,78) em
Atualmente, estou construindo um módulo de vendas para um site de clientes. Até agora, eu tenho o preço de venda para calcular perfeitamente, mas onde eu fiquei preso está formatando a saída para 2 casas decimais. Atualmente, estou chamando isso de uma variável para que eu possa vincular os...
Estou tentando encontrar a maior raiz do cubo que é um número inteiro, que é menor que 12.000. processing = True n = 12000 while processing: n -= 1 if n ** (1/3) == #checks to see if this has decimals or not Não sei como verificar se é um número inteiro ou não! Eu poderia convertê-lo em uma...
Por que alguns números perdem a precisão quando armazenados como números de ponto flutuante? Por exemplo, o número decimal 9.2pode ser expresso exatamente como uma razão de dois números inteiros decimais ( 92/10), os quais podem ser expressos exatamente em binário ( 0b1011100/0b1010). No entanto,...
Um colega meu encontrou um método para calcular números flutuantes usando um bit a bit ou: var a = 13.6 | 0; //a == 13 Estávamos conversando sobre isso e imaginando algumas coisas. Como funciona? Nossa teoria era que o uso de um operador desse tipo lança o número para um número inteiro,...
Como formatar um flutuador para que não contenha zeros à direita? Em outras palavras, quero que a sequência resultante seja a mais curta possível. Por exemplo: 3 -> "3" 3. -> "3" 3.0 -> "3" 3.1 -> "3.1" 3.14 -> "3.14" 3.140 ->