Lorsque nous sommes enfants, nous pouvons résoudre des problèmes de mathématiques à l’école primaire simplement en complétant les réponses.
Mais lorsque le travail n’était pas « démontré », les professeurs retiraient des points ; la bonne réponse ne valait pas grand-chose sans explication. Cependant, ces normes élevées d’explicabilité dans les divisions longues ne semblent pas s’appliquer aux systèmes d’IA, même à ceux qui prennent des décisions cruciales ayant un impact sur des vies.
Les grands acteurs de l'IA qui font aujourd'hui la une des journaux et alimentent la frénésie boursière (OpenAI, Google, Microsoft) opèrent leurs plateformes en modèles boîte noire. Une requête va dans un sens et une réponse sort dans l’autre, mais nous n’avons aucune idée des données ou du raisonnement que l’IA a utilisés pour fournir cette réponse.
La plupart de ces plates-formes d’IA boîte noire sont basées sur un cadre technologique vieux de plusieurs décennies appelé « réseau neuronal ». Ces modèles d'IA sont des représentations abstraites des grandes quantités de données avec lesquelles ils sont entraînés ; Ils ne sont pas directement connectés aux données d’entraînement. Par conséquent, les IA en boîte noire déduisent et extrapolent sur la base de ce qu’elles pensent être la réponse la plus probable, et non de données réelles.
Parfois, ce processus prédictif complexe devient incontrôlable et l’IA « panique ». Par nature, l’IA boîte noire n’est pas digne de confiance car elle ne peut être tenue responsable de ses actes.. Si vous ne pouvez pas voir pourquoi ou comment l'IA fait une prédiction, vous n'avez aucun moyen de savoir si elle a utilisé des informations ou des algorithmes faux, compromis ou biaisés pour parvenir à cette conclusion.
Alors que les réseaux de neurones sont incroyablement puissants et là pour rester, il existe un autre cadre d'IA discret qui gagne en importance : l'apprentissage basé sur les instances (IBL). Et c’est tout ce que les réseaux de neurones ne sont pas. IBL est une IA à laquelle les utilisateurs peuvent faire confiance, auditer et expliquer. IBL retrace chaque décision aux données de formation utilisées pour parvenir à cette conclusion.
IBL peut expliquer chaque décision car l’IA ne génère pas de modèle abstrait des données, mais prend plutôt des décisions à partir des données elles-mêmes. Et les utilisateurs peuvent auditer l’IA construite sur IBL, l’interroger pour savoir pourquoi et comment elle a pris des décisions, puis intervenir pour corriger les erreurs ou les biais.
Tout cela fonctionne parce qu'IBL stocke les données d'entraînement (« instances ») en mémoire et, conformément aux principes des « voisins les plus proches », fait des prédictions sur les nouvelles instances en fonction de leur relation physique avec les instances existantes. IBL est centré sur les données, de sorte que les points de données individuels peuvent être directement comparés les uns aux autres pour obtenir un aperçu de l'ensemble de données et des prédictions. En d’autres termes, IBL « montre le travail que vous faites ».
Le potentiel d’une telle IA compréhensible est clair. Les entreprises, les gouvernements et toute autre entité réglementée souhaitant mettre en œuvre l’IA de manière fiable, explicable et vérifiable pourraient utiliser IBL AI pour répondre aux normes réglementaires et de conformité. IBL AI sera également particulièrement utile pour toutes candidatures où les allégations sont biaisées : recrutement, admissions universitaires, dossiers judiciaires, etc.
Les entreprises utilisent déjà IBL. Par exemple, un cadre IBL commercial utilisé par des clients tels que de grandes institutions financières peut être créé pour détecter les anomalies dans les données des clients et générer des données synthétiques auditables conformes au Règlement général sur la protection des données (RGPD) de l'UE.
Bien entendu, IBL n’est pas sans défis. Le principal facteur limitant de l’IBL est l’évolutivité, qui constituait également un défi auquel les réseaux neuronaux ont été confrontés pendant 30 ans jusqu’à ce que la technologie informatique moderne les rende viables. Avec IBL, chaque élément de données doit être interrogé, catalogué et stocké en mémoire, ce qui devient de plus en plus difficile à mesure que l'ensemble de données grandit.
Cependant, les chercheurs créent des systèmes de requêtes rapides basés sur les progrès de la théorie de l’information pour accélérer considérablement ce processus. Cette technologie de pointe a permis à IBL de rivaliser directement avec la faisabilité informatique des réseaux neuronaux.
Malgré ces défis, le potentiel de l’IBL est clair. Alors que de plus en plus d’entreprises recherchent une IA sécurisée, explicable et vérifiable, les réseaux neuronaux en boîte noire ne suffiront plus. Une entreprise, qu'il s'agisse d'une petite startup ou d'une grande entreprise, devrait commencer à travailler sur des modèles IBL, pour lesquels quelques conseils sont fournis ci-dessous.
Mentalité agile et ouverte
Avec IBL, il est préférable d'explorer vos données pour obtenir des informations pouvant être générées, plutôt que de leur attribuer une tâche particulière, telle que « prédire le prix optimal » d'un article. Gardez l'esprit ouvert et laissez l'IBL guider votre propre apprentissage. IBL peut dire qu'il ne peut pas très bien prédire un prix optimal à partir d'un ensemble de données donné, mais il peut prédire les moments de la journée où les gens effectuent le plus d'achats, ou la manière dont ils communiquent avec l'entreprise et de quels articles il s'agit. acheter.
IBL es un marco de IA ágil que requiere comunicación colaborativa entre los tomadores de decisiones y los equipos de ciencia de datos, no el habitual «lanzar una pregunta al espejo de popa, esperar su respuesta» que vemos en muchas organizaciones que implementan IA hoy en jour.
« Moins, c'est plus » pour les modèles d'IA
Dans l’IA traditionnelle en boîte noire, un seul modèle est formé et optimisé pour une seule tâche, telle que la classification. Dans une grande entreprise, cela peut signifier qu’il faut gérer des milliers de modèles d’IA, ce qui est coûteux et difficile à gérer. En revanche, IBL permet une analyse polyvalente et multitâche. Par exemple, un seul modèle IBL peut être utilisé pour l’apprentissage supervisé, la détection d’anomalies et la génération de données synthétiques, tout en offrant une explicabilité totale.
Cela signifie que les utilisateurs d'IBL peuvent créer et gérer moins de modèles, ce qui permet de disposer d'une boîte à outils d'IA plus agile et adaptable. Si l’IBL est adoptée, des programmeurs et des data scientists seront nécessaires, mais il n’est pas nécessaire d’investir dans des centaines de techniciens supérieurs ayant une expérience en IA.
Combinez l'ensemble d'outils d'IA
Les réseaux de neurones sont parfaits pour toute application qui ne nécessite ni explication ni audit. Mais quand l'IA aide les entreprises à prendre des décisions Les événements majeurs, comme dépenser des millions de dollars pour un nouveau produit ou réaliser une acquisition stratégique, doivent être explicables. Et même lorsque l’IA est utilisée pour prendre des décisions plus modestes, comme embaucher un candidat ou promouvoir quelqu’un, l’explicabilité est essentielle. Personne ne veut découvrir qu’il a raté une promotion à cause d’une décision inexplicable de boîte noire.
Et les entreprises seront bientôt confrontées à des litiges dans ce type de cas. Vous devez choisir les frameworks d'IA en fonction de votre application ; optez pour les réseaux de neurones si vous souhaitez uniquement une ingestion rapide des données et une prise de décision rapide, et utilisez IBL lorsque des décisions fiables, explicables et vérifiables sont nécessaires.
L'apprentissage basé sur les instances n'est pas une nouvelle technologie. Au cours des deux dernières décennies, les informaticiens ont développé l’IBL en parallèle avec les réseaux neuronaux, mais l’IBL a reçu moins d’attention du public. Aujourd’hui, l’IBL attire une nouvelle attention au milieu de la course aux armements en cours en matière d’IA. IBL a montré qu’il pouvait évoluer tout en conservant son explicabilité : une alternative bienvenue aux hallucinations des réseaux de neurones qui crachent des informations fausses et invérifiables.
Alors que de nombreuses entreprises adoptent aveuglément l’IA basée sur les réseaux neuronaux, l’année prochaine verra sans aucun doute de nombreuses violations de données et poursuites judiciaires pour accusations de partialité et de désinformation.
Une fois que les erreurs commises par l’IA boîte noire commencent à affecter la réputation des entreprises… et leurs résultats ! Espérons que le lent et régulier IBL aura son moment de gloire. Nous avons tous appris l’importance de « montrer notre travail » à l’école primaire, et nous pouvons certainement exiger la même rigueur de la part de l’IA qui décide des orientations de nos vies.
