Usando o GridSearchCV com o IsolationForest para encontrar discrepâncias

10

Eu quero usar IsolationForestpara encontrar discrepâncias. Eu quero encontrar os melhores parâmetros para o modelo com GridSearchCV. O problema é que eu sempre recebo o mesmo erro:

TypeError: If no scoring is specified, the estimator passed should have a 'score' method. The estimator IsolationForest(behaviour='old', bootstrap=False, contamination='legacy',
                max_features=1.0, max_samples='auto', n_estimators=100,
                n_jobs=None, random_state=None, verbose=0, warm_start=False) does not.

Parece que é um problema porque IsolationForestnão possui scoremétodo. Existe uma maneira de corrigir isso? Também existe uma maneira de encontrar uma pontuação para floresta de isolamento? Este é o meu código:

import pandas as pd
from sklearn.ensemble import IsolationForest
from sklearn.model_selection import GridSearchCV

df = pd.DataFrame({'first': [-112,0,1,28,5,6,3,5,4,2,7,5,1,3,2,2,5,2,42,84,13,43,13],
                   'second': [42,1,2,85,2,4,6,8,3,5,7,3,64,1,4,1,2,4,13,1,0,40,9],
                   'third': [3,4,7,74,3,8,2,4,7,1,53,6,5,5,59,0,5,12,65,4,3,4,11],
                   'result': [5,2,3,0.04,3,4,3,125,6,6,0.8,9,1,4,59,12,1,4,0,8,5,4,1]})

x = df.iloc[:,:-1]

tuned = {'n_estimators':[70,80,100,120,150,200], 'max_samples':['auto', 1,3,5,7,10],
         'contamination':['legacy', 'outo'], 'max_features':[1,2,3,4,5,6,7,8,9,10,13,15],
         'bootstrap':[True,False], 'n_jobs':[None,1,2,3,4,5,6,7,8,10,15,20,25,30], 'behaviour':['old', 'new'],
         'random_state':[None,1,5,10,42], 'verbose':[0,1,2,3,4,5,6,7,8,9,10], 'warm_start':[True,False]}

isolation_forest = GridSearchCV(IsolationForest(), tuned)

model = isolation_forest.fit(x)

list_of_val = [[1,35,3], [3,4,5], [1,4,66], [4,6,1], [135,5,0]]
df['outliers'] = model.predict(x)
df['outliers'] = df['outliers'].map({-1: 'outlier', 1: 'good'})

print(model.best_params_)
print(df)
taga
fonte
Qual seria a sua escolha para uma pontuação? Precisão? MSE? Além disso, remova todo o código que vem após o erro relatado (ele nunca é executado, portanto é irrelevante para a pergunta - apenas cria confusão desnecessária).
Desertnaut 01/10/19
Quero pontuação precisão, eu removi código irrelevante para a questão
Taga

Respostas:

9

Você precisa criar sua própria função de pontuação, pois IsolationForestnão possui o scoremétodo embutido. Em vez disso, você pode usar a score_samplesfunção disponível em IsolationForest(pode ser considerada um proxy para score) e criar seu próprio apontador, conforme descrito aqui, e passá-lo para o GridSearchCV. Eu modifiquei seu código para fazer isso:

import pandas as pd
import numpy as np
from sklearn.ensemble import IsolationForest
from sklearn.model_selection import GridSearchCV

df = pd.DataFrame({'first': [-112,0,1,28,5,6,3,5,4,2,7,5,1,3,2,2,5,2,42,84,13,43,13],
                   'second': [42,1,2,85,2,4,6,8,3,5,7,3,64,1,4,1,2,4,13,1,0,40,9],
                   'third': [3,4,7,74,3,8,2,4,7,1,53,6,5,5,59,0,5,12,65,4,3,4,11],
                   'result': [5,2,3,0.04,3,4,3,125,6,6,0.8,9,1,4,59,12,1,4,0,8,5,4,1]})

x = df.iloc[:,:-1]

tuned = {'n_estimators':[70,80], 'max_samples':['auto'],
     'contamination':['legacy'], 'max_features':[1],
     'bootstrap':[True], 'n_jobs':[None,1,2], 'behaviour':['old'],
     'random_state':[None,1,], 'verbose':[0,1,2], 'warm_start':[True]}  

def scorer_f(estimator, X):   #your own scorer
      return np.mean(estimator.score_samples(X))

#or you could use a lambda aexpression as shown below
#scorer = lambda est, data: np.mean(est.score_samples(data)) 

isolation_forest = GridSearchCV(IsolationForest(), tuned, scoring=scorer_f)
model = isolation_forest.fit(x)

SAÍDA DA AMOSTRA

print(model.best_params_)

{'behaviour': 'old',
 'bootstrap': True,
 'contamination': 'legacy',
 'max_features': 1,
 'max_samples': 'auto',
 'n_estimators': 70,
 'n_jobs': None,
 'random_state': None,
 'verbose': 1,
 'warm_start': True}

Espero que isto ajude!

Parthasarathy Subburaj
fonte
E existe uma maneira de fazer isso sem lambda?
Taga
você pode substituir a lambdaexpressão por uma função, como mostrado acima.
Parthasarathy Subburaj
Obrigado meu amigo, você pode me ajudar com esta pergunta? stackoverflow.com/questions/58214457/…
taga 4/10/19
-1

Acredito que a pontuação está se referindo ao objeto GridSearchCV, e não ao IsolationForest.

Se for "Nenhum" (padrão), ele tentará usar a pontuação dos estimadores, que, como você afirma, não existe. Tente usar uma das métricas de pontuação disponíveis adequadas ao seu problema no objeto GridSearchCV

ConorL
fonte
você poderia postar o código mostrando isso? Sua solução atual não possui isso #
ConorL 2/19
O problema é que eu acho que Floresta isolamento é sem supervisão, por isso não há maneira de colocar y_true e y_pred
Taga