Eu continuo vendo essa constante aparecer em vários arquivos de cabeçalho de gráficos 0.0039215689 Parece ter algo a ver com cor, talvez? Aqui está o primeiro hit no Google : void RDP_G_SETFOGCOLOR(void) { Gfx.FogColor.R = _SHIFTR(w1, 24, 8) * 0.0039215689f; Gfx.FogColor.G = _SHIFTR(w1, 16,...
Gostaria de converter um Intem Swift para um Stringcom zeros à esquerda. Por exemplo, considere este código: for myInt in 1 ... 3 { print("\(myInt)") } Atualmente, o resultado é: 1 2 3 Mas eu quero que seja: 01 02 03 Existe uma maneira limpa de fazer isso nas bibliotecas padrão...
Eu tenho que calcular algumas variáveis de ponto flutuante e meu colega sugere que eu use em BigDecimalvez de, doublepois será mais preciso. Mas quero saber o que é e como tirar o máximo proveito
É sabido que os NaNs se propagam em aritmética, mas não consegui encontrar nenhuma demonstração, então escrevi um pequeno teste: #include <limits> #include <cstdio> int main(int argc, char* argv[]) { float qNaN = std::numeric_limits<float>::quiet_NaN(); float neg = -qNaN;...
O padrão C99 possui tipos inteiros com tamanho de bytes como int64_t. Estou usando o seguinte código: #include <stdio.h> #include <stdint.h> int64_t my_int = 999999999999999999; printf("This is my_int: %I64d\n", my_int); e recebo este aviso do compilador: warning: format ‘%I64d’...
Estou desenvolvendo um aplicativo Android 2.3.3 com um serviço. Eu tenho isso dentro desse serviço para se comunicar com a atividade principal: public class UDPListenerService extends Service { private static final String TAG = "UDPListenerService"; //private ThreadGroup myThreads = new...
Eu tenho o valor 25.00em a float, mas quando imprimo na tela é 25.0000000. Como posso exibir o valor com apenas duas casas
Por que alterar a ordem da soma retorna um resultado diferente? 23.53 + 5.88 + 17.64 = 47.05 23.53 + 17.64 + 5.88 = 47.050000000000004 Ambos Java e JavaScript retornam os mesmos resultados. Entendo que, devido à maneira como os números de ponto flutuante são representados em binário, alguns...
Ao comparar flutuações com números inteiros, alguns pares de valores levam muito mais tempo para serem avaliados do que outros valores de magnitude semelhante. Por exemplo: >>> import timeit >>> timeit.timeit("562949953420000.7 < 562949953421000") # run 1 million...
Houve várias perguntas postadas no SO sobre representação de ponto flutuante. Por exemplo, o número decimal 0.1 não tem uma representação binária exata, portanto, é perigoso usar o operador == para compará-lo com outro número de ponto flutuante. Entendo os princípios por trás da representação em...
Às vezes, os tipos de dados do Activerecord me confundem. Erre, frequentemente. Uma das minhas eternas perguntas é, para um dado caso, Devo usar :decimalou :float? Eu sempre encontrei esse link, ActiveRecord:: decimal vs: float? , mas as respostas não são suficientemente claras para que eu...
Existe alguma maneira FÁCIL de classificar uma matriz em ordem decrescente, como a classificação em ordem crescente na classe Arrays ? Ou tenho que parar de ser preguiçoso e fazer isso sozinho:
O código a seguir está obviamente errado. Qual é o problema? i <- 0.1 i <- i + 0.05 i ## [1] 0.15 if(i==0.15) cat("i equals 0.15") else cat("i does not equal 0.15") ## i does not equal
Como gerar flutuações aleatórias em C ++? Eu pensei que poderia pegar o rand inteiro e dividi-lo por algo, isso seria
Estou usando o eslint com o Sublime Text 3 e estou escrevendo gulpfile.js. /*eslint-env node*/ var gulp = require('gulp'); gulp.task('default', function(){ console.log('default task'); }); Mas o eslint continua mostrando o erro: "Erro: declaração inesperada do console. (Sem
Estou tentando desativar o aviso C0321 ("mais de uma instrução em uma única linha" - geralmente coloco ifinstruções com resultados curtos de uma linha na mesma linha), no Pylint 0.21.1 (se isso importa: somando 0,20. 1, comum 0.50.3, Python 2.6.6 (r266: 84292, 15 de setembro de 2010,...
Desde a nova versão de visualização do ADT (versão 21) , eles têm um novo aviso de fiapo que informa a próxima coisa no arquivo de manifesto (na tag do aplicativo): Deve definir explicitamente android: allowBackup como true ou false (é verdade por padrão e pode ter algumas implicações de...
Por que as comparações de valores de NaN se comportam de maneira diferente de todos os outros valores? Ou seja, todas as comparações com os operadores ==, <=,> =, <,> em que um ou ambos os valores são NaN retornam falso, ao contrário do comportamento de todos os outros valores. Suponho...
Posso citar três vantagens em usar double(ou float) em vez de decimal: Usa menos memória. Mais rápido porque as operações matemáticas de ponto flutuante são suportadas nativamente pelos processadores. Pode representar um intervalo maior de números. Mas essas vantagens parecem se aplicar apenas...