Pourquoi le “purpose” façonnera l’avenir de l’IA

Tribune
Par Davio Larnout (Radix) · 28/01/2022

L’intérêt pour l’intelligence n’a fait qu’augmenter ces dernières années. Bien que cela ait conduit à de nombreuses avancées, la manière dont il a abordé certains défis ont été abordés a parfois été trop lente.

Des considérations importantes comme l’équité ou les biais sont parfois laissées de côté dans le processus de conception de l’IA. Le “purpose” – la finalité, en français – en fait partie. Le purpose est le but, la finalité essentielle de laquelle devrait découler l’utilisation de l’IA.  

La plupart des entreprises partent actuellement du principe que toute utilisation de l’IA est pertinente. “Ajoutons-y de l’IA et cela va marcher.”

En réalité, ce n’est pas le cas, et c’est précisément pourquoi il est si important de concevoir l’IA et le purpose de pair. Construire un modèle IA sans finalité définie revient à construire une maison sans fondations. Cela ne peut mener qu’au désastre.

Qu’est-ce que le purpose?

Nous distinguons trois dimensions au purpose en matière d’intelligence artificielle. 

La précision

La précision est l’un des principaux indicateurs de performance en matière d’IA. Mais nous devrions réfléchir à la manière dont nous décrivons ce concept. Comment intégrer le purpose ne serait-ce que dans la définition du succès ? La précision ne devrait pas se résumer à “correct à 92%” ou “à 95%”. Une IA n’est pas censée être précise à 100%, car c’est tout simplement impossible. 

C’est l’un des dilemmes les plus fascinants auxquels le secteur est confronté, car même les grandes entreprises sont susceptibles de vendre de fausses promesses, des chimères promettant une précision de “99,9%”. C’est pourquoi nous devons concevoir l’IA en faisant de la précision l’un des indicateurs de performance – et non le seul.

“L’explicabilité”

Cette dimension est liée à notre capacité à raisonner, à interpréter ce que font les systèmes IA et d’expliquer leurs décisions. 

Les solutions IA sont conçues par des ingénieurs et sont donc fortement liées à notre propension très humaine à établir des liens, à appliquer une logique. Nous nous prenons parfois à penser que nous pouvons expliquer nos décisions avec des raisonnements transparents et intelligibles, mais ce n’est pas le cas. Nous pensons que l’IA est, par défaut, objective, parce que nous pensons que nos systèmes seraient (miraculeusement) épargnés par nos propres faiblesses. Au contraire, puisque c’est nous-mêmes qui les modelons et les formons. 

Si nous créons des modèles en pensant qu’ils vont mener à des résultats parfaitement transparents, nous allons droit dans le mur.

La responsabilité

Il s’agit peut-être de la plus fondamentale des trois dimensions: qui ou qu’est-ce qui est responsable d’un projet IA? Qui doit rendre des comptes? S’agit-il d’une bonne utilisation de l’IA? L’IA en elle-même n’est pas responsable, mais les humains doivent l’être.

Technologie sans limites, contraintes humaines

Un mythe est très couramment entendu dans le cadre de discussions autour de l’IA: “Avec suffisamment de temps, d’énergie, de données et d’argent, n’importe quelle IA peut devenir parfaite”.

C’est une fausse supposition, en raison des nombreuses variables avec lesquelles nous travaillons chaque jour. Notre monde et les humains en général sont bien trop variables pour pouvoir élaborer une IA parfaite. Cela fait aussi partie de notre charme. 

L’IA, dans son essence, devrait être une collaboration entre les humains et les systèmes. C’est là que réside sa véritable valeur. Nous devons être conscients qu’il y a beaucoup de choses que l’IA ne peut tout simplement pas faire, parce qu’elle n’est pas créative. Elle est limitée par nature.

 

L’IA, dans son essence, devrait être une collaboration entre les humains et les systèmes. C’est là que réside sa véritable valeur.

Penser en conversations, pas en monologues 

La collaboration avec les IA doit impliquer une forme de prise de parole. Pour l’instant, nous sommes encore enfermés dans le schéma éculé des likes et des dislikes, des pouces bleus et des pouces rouges. Est-ce une bonne recommandation de chanson, oui ou non? Est-ce le film que je voulais voir? Nous procédons de cette manière parce que c’est facile.

Mais que se cache-t-il derrière ce simple dislike? Ou cette note de cinq étoiles? Il y a tellement de questions sous la surface qui ne sont pas posées, et c’est là tout le problème rencontré dans la construction d’un système qui n’est pas collaboratif. 

C’est pourquoi il est essentiel de permettre aux utilisateurs finaux de collaborer aussi facilement que possible avec les IA que nous concevons.

L’IA est un miroir de notre propre humanité 

L’IA, quand elle est envisagée sous le prisme du purpose, nous permet en fait d’être plus humains. Loin des idées répandues selon lesquelles l’IA nous volerait nos jobs ou nous remplacerait bientôt, elle nous aide à accomplir les tâches pour lesquelles nous sommes doués, et les tâches que nous aimons. C’est ainsi que les entreprises et le public devraient l’accueillir, et pas comme un substitut à quoi ou qui que ce soit. Mais plutôt comme un super pouvoir. 

L’IA peut et va nous rendre plus humains, mais nous devons nous y prendre de la bonne manière. Avec une finalité, et beaucoup d’humilité. Pas comme une arrière-pensée ajoutée à la hâte, mais comme une solution réfléchie qui résoudra des problèmes qui ont réellement besoin d’être résolus.

Davio Larnout, CEO de Radix
et Josh Lovejoy, UX Manager chez Google