Le jeu de donné choisi a été sélectionné sur Kaggle. J’ai choisi ce dataset car j’ai trouvé que ce serait intéressant et utile d’être capable de prédire les personnes qui rembourseront leur crédit, et celles qui ne le feront pas.

L’objectif du projet Machine Learning est de prévoir et anticiper les clients à risques.

Le dataset comporte environ 30 000 observations.

Par le Machine Learning, on effectue le même procédé qui est utilisé dans les banques. le banquier est capable de déterminer si son client sera capable de rembourser son crédit s’il lui accorde un prêt.

L’objectif du projet Machine Learning est de prévoir et anticiper les clients à risques.

ALGORITHME ET TYPE D’APPRENTISSAGE

Pour réaliser la prédiction de données, il faut déterminer le type d’apprentissage à utiliser, l’apprentissage supervisé ou non supervisé.

Dans mon projet c’était assez clair car mon jeu de données était composé de données labélisées. La bonne réponse étant donnée, elle est annotée c’est la colonne encadrée en rouge « Default payment next month »

Nous avons donc comme valeurs pour cette colonne « 1 » ou « 0 » : « 1 » pour vrai et « 0 » pour faux.

J’ai choisi 2 algorithmes pour effectuer de l’apprentissage automatique. Les K plus proches voisins et les arbres de décisions.

K PLUS PROCHES VOISINS

ARBRES DE DÉCISIONS

PROBLÉMATIQUES DU PROJET

Afin de mener à bien le projet, j’ai listé les principales problématiques.
1) Déterminer le type d’apprentissage à utiliser, en fonction du jeu de données et des résultats que l’on veut obtenir.
2) Nettoyer le jeu de données
3) Séparer le jeu de données
4) Effectuer de nombreux tests

LES SOLUTIONS

La méthode que j’ai utilisée s’est décomposé de la manière suivante.
1) Sélectionner le type d’apprentissage
2) Utilisation du langage python et sckitlearn
3) Nettoyer son dataset
4) Séparer son jeu de données
5) Effectuer des tests jusqu’à obtenir le résultat escompté

SÉPARATION DU JEU DE DONNÉES

Le jeu de données est separé en 2, en training set et testing set.
Souvent le jeu de données est séparé avec une proportion de 80% pour le training set et 20% pour les testing test ou 70%/30%.
Le training set aura pour objectif entrainer modèles sur ces données ensuite l’on pourra faire une comparaison des résultats obtenues avec les testing set.

UTILISATION DE K PLUS PROCHES VOISINS

Utilisation des k plus proches voisins avec en paramètre 3 voisins

Utilisation des k plus proches voisins avec en paramètre 12 voisins

On peut constater le score est plus élevé avec en paramètre 12 voisins.
L’objectif de la courbe est de déterminer

Sur l’axe des abscisses de la figure suivante, l’on a le nombre de voisins et l’on peut remarquer que le taux d’erreur est le moins élevés avec 12 voisin.

C’est pourquoi j’ai mis 12 en paramètre.

UTILISATION DE L’ARBRE DE DÉCISION

Avec l’utilisation des arbres de décision, je peux observer une net amélioration, elle me parait étrange car elle a un score élevé sur le training set proche des 100% tandis que sur le training set le score avoisine 75%, l’écart est assez conséquent c’est le sur apprentissage.

Avec une profondeur de « 2 » pour l’arbre l’on peut constater un score assez égal entre le training set et testing set. Le score est plus élevé qu’avec l’algorithme des k plus proches voisins sur notre jeu de données.

J’ai ensuite réalisé un graphique grâce à « Dataiku » qui illustre les variables les plus importantes du jeu de données.

J’ainsi pu générer une matrice de confusion, son objectif est de déterminer le nombre de fausse prédictions et des vraies prédictions.

Dans le tableau ci-dessous, les vraies prédictions en vert et fausses prédictions en rouge.

CONCLUSION ET PERSPECTIVES

Il n’y a pas d’algorithme idéal, un algorithme sera performant sur certains types de données et moins efficaces sur d’autres. Le nettoyage du jeu de données constitue une étape très importante car il influe sur les résultats obtenus.

Merci d’avoir lu cet article rédigé par un de nos élèves pour son projet Machine Learning, si vous êtes vous même intéressé par l’apprentissage de la Data Science, n’hésitez pas à consulter notre site www.jedha.co