Penser la relation Homme-Algorithme

L’automatisation des tâches, quatrième révolution industrielle ?

Jeffrey Dean, Vice-Président de Google définit l’IA comme « le fait de disposer de systèmes informatiques capables de résoudre des problèmes que l’on pourrait considérer comme nécessitant l’intelligence humaine. »
[1]. En effet, l’IA rend entre autres possible l’automatisation de tâches qui étaient jusqu’ici réservées aux humains. On parle de quatrième révolution industrielle.

Aujourd’hui, toutes les conditions sont réunies pour une « disruption » par l’IA: la captation de données, la capacité de stockage et de calcul, les technologies de gestion de données et enfin l’arsenal mathématique. Pourtant, l’adoption de l’IA se heurte à plusieurs obstacles, notamment dans l’évaluation des conditions requises pour son implémentation. Les enjeux de ressources de données et de technologies sont connus mais souvent sous-estimés. La relation Homme–Algorithme, elle, est un enjeu parfois ignoré.  Elle définit pourtant la manière dont nous interagissons avec ces outils, un aspect fondamental de la réflexion autour de l’IA et de son adoption dans les organisations et les processus.

 

Comment penser la relation Homme-Algorithme ?

Il est important de comprendre que l’automatisation systématique n’est pas la solution miracle. L’humain et l’algorithme peuvent être considérés comme complémentaires. Pour l’évaluation d’un contexte, par exemple, l’humain est plus adapté au complexe et à l’implicite, l’algorithme à l’automatique et à l’abstrait.

Une approche pour aborder simplement cette relation est donc de considérer que le système (algorithme + service) « prépare » le terrain pour l’humain.  Le niveau de délégation de la prise de décision au système est plus ou moins complet en fonction du contexte de chaque situation, de sa criticité, de son impact…

Pour mieux comprendre les différents stades de cette relation, la délégation peut se spécifier sous 6 niveaux.

[1] « Artificial Intelligence is basically being able to have computer systems that can solve problems that you would think of as requiring human intelligence. » Jeffrey Dean

Dans les niveaux 1 à 4, l’humain garde la main sur la décision, le système fournit des informations de plus en plus précises à même de construire la décision.

Niveau 0 : Aucune intervention système dans la prise de décision.

Niveau 1 : Le système centralise les données et facilite leur accès au décideur.

Niveau 2 : Le système exploite la donnée et met les informations les plus pertinentes à disposition du décideur.

Niveau 3 : Le système fournit des statistiques prédictives en plus des données récoltées.

Niveau 4 : La décision est prise par la machine mais validée par l’humain.

Niveau 5 : Automatisation totale de la décision sans intervention humaine nécessaire.

 

Quel niveau de délégation pour le leader mondial de l’assurance-crédit ?

C’est la question que s’est posée notre client, Euler-Hermès, lorsqu’il a décidé d’optimiser le processus de « Credit limit request ». Les arbitres d’Euler Hermès doivent donner soit leur accord total ou partiel, soit leur refus, à une demande de couverture d’assurance-crédit d’un de leur client pour leurs acheteurs. Ce processus, au cœur du métier de l’assurance-crédit, repose sur le travail d’experts. Ceux-ci doivent prendre une décision dans un temps très court, de l’ordre de la minute, sans pouvoir s’appuyer sur des données ou des algorithmes pertinents pour jauger à la fois le risque, la profitabilité attendue et l’historique client.

[2] Inspiré des études Gartner : How data enables accurate decision-making to be smarter city / la façon dont les données permettent une prise de décision précise pour une ville plus intelligente

La mission s’est concentrée sur la conception et la réalisation d’un modèle répondant de manière optimale aux demandes des clients en adaptant le niveau d’implication des experts selon la criticité des demandes.

Résultat : 3 niveaux d’intégrations en fonction du risque évalué et une expertise humaine concentrée là où elle est indispensable :

  • Pour les risques faibles, Automatisation (Niv 5): Aucune intervention humaine.
  • Pour les risques moyens, Prescription (Niv 4): Mise en place d’un modèle recommandant une décision permettant à l’arbitre d’avoir le dernier mot.
  • Pour les risques importants, Diagnostic (Niv 2): Mise en place d’une BI «intelligente» via des tableaux de bord pour assister les arbitres dans les décisions complexes avec des indicateurs avancés.

La conception d’une relation Homme-Algorithme pertinente et efficace nécessite une approche combinée entre data science et design de services pour remettre l’humain au cœur du système IA.

 

Cliquez ici pour en savoir plus sur le travail de MFG Labs pour Euler-Hermès.

Leave a Reply