RFE x SelectKBest

Olá, Gustavo!

Boa pergunta sobre a diferença entre os métodos RFE (Recursive Feature Elimination) e SelectKBest. Ambos os métodos são técnicas de seleção de recursos (ou features) utilizadas em machine learning, mas funcionam de maneira um pouco diferente.

Vou descrever abaixo as diferenças entre esses dois métodos:

RFE (Recursive Feature Elimination):

O RFE é um método recursivo de eliminação de features, o que significa que ele começa com todos os recursos disponíveis e iterativamente remove os menos importantes até atingir o número desejado de recursos. Ele utiliza um modelo de ML para avaliar a importância de cada recurso e decide qual recurso eliminar em cada iteração. Portanto, ele está mais ligado à escolha de recursos com base no desempenho do modelo. O RFE não seleciona um número fixo de recursos de antemão; em vez disso, ele permite que você defina o número de recursos desejados como um parâmetro de entrada.

SelectKBest:

O SelectKBest é um método de seleção de recursos que escolhe os K melhores recursos com base em critérios específicos. Ele geralmente utiliza métodos estatísticos, como testes estatísticos de hipóteses, para avaliar a relevância de cada recurso em relação ao rótulo de destino. Os recursos são classificados com base nesses critérios estatísticos. Ao contrário do RFE, o SelectKBest seleciona um número fixo de K recursos com antecedência, e você precisa especificar o valor de K. Ele não é um método recursivo, pois avalia os recursos uma única vez com base em critérios estatísticos e seleciona os K melhores.

No exemplo da aula, o SelectKBest foi usado para selecionar as melhores features para classificar animais entre cachorros e porcos. Já o RFE foi usado para eliminar recursivamente as features menos importantes até que apenas 5 permanecessem. Este artigo aqui explica bem como selecionar as melhores features para seu modelo de Machine Learning.

Forte abraço!