É possível obter divisão por 0 (ou infinito) no exemplo a seguir? public double calculation(double a, double b) { if (a == b) { return 0; } else { return 2 / (a - b); } } Em casos normais, isso não acontecerá, é claro. Mas, ae se bestiver muito próximo, pode (a-b)resultar em 0precisão do...
Eu tenho o seguinte código simples: int speed1 = (int)(6.2f * 10); float tmp = 6.2f * 10; int speed2 = (int)tmp; speed1e speed2deve ter o mesmo valor, mas, na verdade, tenho: speed1 = 61 speed2 = 62 Eu sei que provavelmente deveria usar Math.Round em vez de converter, mas gostaria de entender...
Estou criando um aplicativo da Web que é principalmente para navegadores móveis. Como estou usando campos de entrada com o tipo de número, a maioria dos navegadores móveis chama apenas o teclado numérico para melhorar a experiência do usuário. Este aplicativo da Web é usado principalmente em...
Como o título sugere, quero pegar um número de ponto flutuante e arredondá-lo para o número inteiro mais próximo. No entanto, se não for um todo, SEMPRE quero arredondar a variável, independentemente de quão próxima ela esteja do próximo número inteiro acima. Existe uma maneira de fazer...
Por que Clang otimiza o loop neste código #include <time.h> #include <stdio.h> static size_t const N = 1 << 27; static double arr[N] = { /* initialize to zero */ }; int main() { clock_t const start = clock(); for (int i = 0; i < N; ++i) { arr[i] *= 1.0; } printf("%u...
Como obtenho os números após um ponto decimal? Por exemplo, se eu tiver 5.55, como recebo
A documentação da função round () indica que você passa um número para ele e as posições passam do decimal para o arredondamento. Assim, deve fazer o seguinte: n = 5.59 round(n, 1) # 5.6 Mas, na verdade, a boa e velha estranheza de ponto flutuante aparece e você obtém: 5.5999999999999996 Para...
Não estou familiarizado com o PHP e fiz uma pergunta rápida. Eu tenho 2 variáveis pricePerUnite InvoicedUnits. Este é o código que os define para valores: $InvoicedUnits = ((string) $InvoiceLineItem->InvoicedUnits); $pricePerUnit = ((string) $InvoiceLineItem->PricePerUnit); Se eu der a...
Quando tento usar floatcomo parâmetro de modelo, o compilador chora por esse código, embora intfuncione bem. É porque não posso usar floatcomo parâmetro de modelo? #include<iostream> using namespace std; template <class T, T defaultValue> class GenericClass { private: T...
Existe alguma diferença entre estes: float foo1 = (int)(bar / 3.0); float foo2 = floor(bar / 3.0); Pelo que entendi, ambos os casos têm o mesmo resultado. Existe alguma diferença no código
John Carmack tem uma função especial no código-fonte do Quake III que calcula a raiz quadrada inversa de um float, 4x mais rápido que o normal (float)(1.0/sqrt(x)), incluindo uma 0x5f3759dfconstante estranha . Veja o código abaixo. Alguém pode explicar linha por linha o que exatamente está...
Quero remover dígitos de um ponto flutuante para ter um número fixo de dígitos após o ponto, como: 1.923328437452 -> 1.923 Preciso dar saída como string para outra função, não imprimir. Também quero ignorar os dígitos perdidos, não
Estou convertendo uma string como "41.00027357629127" e estou usando; Convert.ToSingle("41.00027357629127"); ou float.Parse("41.00027357629127"); Esses métodos retornam 4,10002732E + 15 . Quando eu converter para float, quero "41.00027357629127". Esta string deve ser a mesma...
Eu estive traçando um perfil de alguns de nossos cálculos matemáticos básicos em um Intel Core Duo e, ao examinar várias abordagens para a raiz quadrada, notei algo estranho: usando as operações escalares SSE, é mais rápido obter uma raiz quadrada recíproca e multiplicá-la para obter o sqrt, do que...
Esta foi uma pergunta que me fizeram em minha entrevista recente e eu quero saber (na verdade não me lembro da teoria da análise numérica, então por favor me ajude :) Se tivermos alguma função, que acumula números de ponto flutuante: std::accumulate(v.begin(), v.end(), 0.0); vé um...
Existe um printfespecificador de largura que pode ser aplicado a um especificador de ponto flutuante que formata automaticamente a saída para o número necessário de dígitos significativos de forma que, ao digitalizar a string de volta, o valor do ponto flutuante original seja adquirido? Por...
O que o fdepois dos números indica? É de C ou Objective-C? Existe alguma diferença em não adicionar isso a um número constante? CGRect frame = CGRectMake(0.0f, 0.0f, 320.0f, 50.0f); Você pode explicar por que eu não apenas escreveria: CGRect frame = CGRectMake(0, 0, 320,
Eu escrevi este código: float b = 3.6; e eu entendo: Erro: problema de compilação não resolvido: Tipo incompatível: não é possível converter de duplo para flutuante Por quê? Qual é a definição de
Isso é apenas para satisfazer minha própria curiosidade. Existe uma implementação disso: float InvSqrt (float x) { float xhalf = 0.5f*x; int i = *(int*)&x; i = 0x5f3759df - (i>>1); x = *(float*)&i; x = x*(1.5f - xhalf*x*x); return x; } em Rust? Se existir, publique o...
Estou tentando converter números retirados de um UITextField, que presumo que sejam na verdade Strings, e convertê-los em Float, para que possa multiplicá-los. Eu tenho dois UITextfields que são declarados da seguinte forma: @IBOutlet var wage: UITextField @IBOutlet var hour: UITextField Quando...