Que tipo de normalização de dados deve ser usado com o KNN?

Eu sei que há mais de dois tipos de normalização.

Por exemplo,

1- Transformação de dados usando um z-score ou t-score. Isso geralmente é chamado de padronização.

2- Reescalonar dados para ter valores entre 0 e 1.

A questão agora se eu precisar normalizar

Que tipo de normalização de dados deve ser usado com o KNN? e porque?

Para k-NN, sugiro normalizar os dados entre e .$0$$1$

O k-NN usa a distância euclidiana como meio de comparar exemplos. Para calcular a distância entre dois pontos e , onde é o valor do ésimo recurso de :x 2 = ( f 1 2 , f 2 2 , . . . , f H 2 ) f i 1 i x $x_1 = (f_1^1, f_1^2, ..., f_1^M)$$x_2 = (f_2^1, f_2^2, ..., f_2^M)$$f_1^i$$i$$x_1$

Para que todos os recursos tenham a mesma importância no cálculo da distância, eles devem ter o mesmo intervalo de valores. Isso só é possível através da normalização.

Se eles não foram normalizados e, por exemplo, o recurso teve um intervalo de valores em ), enquanto teve um intervalo de valores em . Ao calcular a distância, o segundo termo seria vezes mais importante que o primeiro, levando o k-NN a confiar mais no segundo recurso que no primeiro. A normalização garante que todos os recursos sejam mapeados para o mesmo intervalo de valores. [ 0 , 1 f 2 [ 1 , 10 ) $f^1$$[0, 1$$f^2$$[1, 10)$$10$

A padronização, por outro lado, possui muitas propriedades úteis, mas não pode garantir que os recursos sejam mapeados para o mesmo intervalo. Embora a padronização possa ser mais adequada para outros classificadores, esse não é o caso do k-NN ou de qualquer outro classificador baseado em distância.