Freqüentemente, na minha experiência em programação, preciso tomar uma decisão se devo usar float ou double para meus números reais. Às vezes eu vou flutuar, às vezes eu vou dobrar, mas isso realmente parece mais subjetivo. Se eu fosse confrontado para defender minha decisão, provavelmente não...
Em todos os lugares que eu olhei, diz que doubleé superior a floatquase todos os aspectos. floatficou obsoleto doubleem Java, então por que ainda é usado? Eu programo muito com o Libgdx e eles o forçam a usar float(deltaTime, etc.), mas me parece que doubleé mais fácil trabalhar com isso em termos...
Estou confuso sobre por que nos preocupamos com diferentes representações para zero positivo e negativo. Lembro-me vagamente das alegações de leitura de que ter uma representação zero negativa é extremamente importante na programação que envolve números complexos. Eu nunca tive a oportunidade de...
Estou ciente de que a aritmética de ponto flutuante tem problemas de precisão. Normalmente, eu os supero alternando para uma representação decimal fixa do número ou simplesmente negligenciando o erro. No entanto, não sei quais são as causas dessa imprecisão. Por que existem tantos problemas de...
Existe uma alternativa aos bits como a menor unidade de dados? Algo que não será apenas 0 ou 1, mas na verdade mantém muitos estados possíveis no meio? Não seria mais natural armazenar carros alegóricos
C#possui o decimaltipo usado para números que precisam de representação exata na base 10. Por exemplo, 0.1não pode ser representado na base 2 (por exemplo, floate double) e sempre será uma aproximação quando armazenado em variáveis desses tipos. Fiquei me perguntando se o fato inverso também era...
Ao investigar a precisão dos números de ponto flutuante, vi em alguns lugares uma declaração semelhante a " float e double são ( projetados para / usados frequentemente em ) engenharia e cálculo científico " Pelo meu entendimento, a força dos carros alegóricos e duplos é a quantidade de...
Por exemplo, quero mostrar uma lista de botões de 0,0,5, ... 5, que salta para cada 0,5. Eu uso um loop for para fazer isso e tenho cores diferentes no botão STANDARD_LINE: var MAX=5.0; var DIFF=0.5 var STANDARD_LINE=1.5; for(var i=0;i<=MAX;i=i+DIFF){ button.text=i+''; if(i==STANDARD_LINE){...
Eu estava assistindo http://www.joelonsoftware.com/items/2011/06/27.html e ri da piada de Jon Skeet sobre 0,3, não sendo 0,3. Pessoalmente, nunca tive problemas com flutuadores / decimais / duplos, mas lembro que aprendi 6502 muito cedo e nunca precisei de flutuadores na maioria dos meus programas....
Eu estava lendo um artigo da Microsoft sobre como Ampliar conversões e Option Strict On quando cheguei à parte As conversões a seguir podem perder precisão: Inteiro para Único Longo a Simples ou Duplo Decimal para Simples ou Duplo No entanto, essas conversões não perdem...
Esta não é uma pergunta duplicada, pois li a pergunta anterior. Alguém pode me ajudar na compreensão how float values are stored in the memory. Minha dúvida é aqui valores flutuantes contêm ' .'( for example 3.45) como o '.'será representado na memória? Alguém pode me esclarecer com um...
Ao criar um aplicativo que lida com muitos cálculos matemáticos, encontrei o problema de que certos números causam erros de arredondamento. Embora eu entenda que o ponto flutuante não é exato , o problema é como lido com os números exatos para garantir que, quando os cálculos sejam feitos neles,...
Digamos que temos a seguinte classe Python (o problema existe em Java da mesma forma com equalse hashCode) class Temperature: def __init__(self, degrees): self.degrees = degrees onde degreesestá a temperatura em Kelvin como um flutuador. Agora, eu gostaria de implementar testes de igualdade e...
Tanto quanto me lembro de programar, fui ensinado a não comparar números de ponto flutuante para igualdade. Agora, ao ler Programação em Lua sobre o numbertipo Lua , encontrei o seguinte: O tipo de número representa números reais (ponto flutuante de precisão dupla). Lua não tem tipo inteiro,...
Ao revisar a implementação de uma função de outro programador para calcular a CDF de distribuição normal , sugeri substituir a implementação inteira pelas funções internas do Python ou usar o SciPy, uma biblioteca científica comum. Outro programador apontou que math.erfc()nem...
Atualmente, estou lendo "O Fim do Erro - Unum Computing", de John Gustafson ( Youtube ). O que ainda não tenho certeza é como os casos tratados no IEEE por zero assinado negativamente são tratados com unums. Portanto, antes de tudo, os unums permitem representar certos valores exatos (da mesma...
Ao comparar valores de ponto flutuante para igualdade, existem duas abordagens diferentes: NaNnão sendo igual a si próprio, o que corresponde à especificação IEEE 754 . NaNsendo igual a si mesmo, o que fornece a propriedade matemática da Reflexividade, essencial para a definição de uma relação de...
Foi-me dito que a maioria dos computadores modernos segue o mesmo padrão de ponto flutuante. Isso significa que todos obterão a mesma resposta flutuante para uma determinada operação matemática, se as entradas forem iguais? Eu pergunto porque estou pesquisando sobre como criar um jogo RTS em uma...