En moins d’un an, les investissements en IA sont devenus de rigueur dans tout portefeuille, de nouvelles licornes d’entreprises privées sont créées chaque semaine et l’idée selon laquelle l’IA alimenterait un rallye boursier fait son chemin. Le les gens en dehors de la technologie Ils se familiarisent avec le nouveau vocabulaire.
Grands Modèles Langageux (LLM), ChatGPT, algorithmes d'apprentissage profond, réseaux de neurones, moteurs de raisonnement, inférence, ingénierie rapide, copilotes... D'éminents stratèges et penseurs partagent leur opinion sur ce à quoi cela ressemblera transformer l'entreprise, comment sera-t-il débloqué son potentiel, et comment cela contribuera à épanouissement humain.
Même s’il reste encore de nombreuses inconnues, il est prudent pour nous d’être conscients des risques et du potentiel de toute nouvelle technologie («Oppenheimer"), une conviction ferme rend optimiste.
Lorsqu’elle est appliquée à l’IA, la priorité aux personnes a une résonance encore plus puissante. Deux dynamiques se combineront pour faire de l’IA une force puissante qui permettra à tout être humain de devenir « quelque chose de plus ».
Premièrement, la principale façon dont nous interagissons avec les appareils informatiques va changer. Cela deviendra conversationnel. Alors qu'avant, nous nous appuyions sur une ligne de commande, puis sur l'interface graphique, puis sur le navigateur et enfin sur l'appareil mobile, nous communiquerons désormais principalement avec les ordinateurs via des conversations riches et superposées. L’impact de ce changement sera aggravé pendant une seconde : pour la première fois, la technologie sera capable d’effectuer des tâches cognitives qui augmentent nos propres capacités.
Au lieu de simplement accélérer et automatiser les tâches répétitives, l’IA générera des choses nettement nouvelles, un peu comme le font les humains. Le résultat est que nous pourrons multiplier nos propres capacités avec un copilote à l'image d'un humain : un coéquipier, un entraîneur, un assistant ou un génie. Et c’est précisément parce que le potentiel et la puissance de l’IA sont immenses que la nécessité de se concentrer sur un développement responsable est primordiale.
Humain > Automatiser les tâches cognitives > Accélérer la productivité > Amplifier la créativité > Surhumain
Ce cadre repose sur au moins cinq piliers clés dans l’esprit d’encourager l’investissement responsable dans l’IA :
La mission et les valeurs comptent
Les valeurs fondatrices animent la culture. Ils ne peuvent pas être ajoutés à mesure que l’entreprise se développe. Cela se voit dans les missions de trois entreprises à succès au cours de la dernière décennie. Lyft se consacre à améliorer la vie des gens grâce aux meilleurs moyens de transport ; Poshmark place les gens au centre du commerce, permettant à chacun de prospérer ; HashiCorp a construit une infrastructure critique qui a permis à d'autres d'innover.
Il est essentiel de personnaliser le cadre « les personnes d'abord » pour l'appliquer à l'entreprise d'IA et l'utiliser pour guider nos décisions d'investissement.
Avoir des conversations similaires à celles de ces trois entreprises avec les nouveaux fondateurs de l'IA pour voir s'ils ont une mission centrée sur l'humain et des valeurs authentiques vous aide à comprendre ce qui motive la réflexion sur l'impact de votre technologie et à vous assurer que vous êtes aligné.
GenAI doit être dans l’ADN
La récente explosion de l’IA a été motivée par la réflexion innovante des chercheurs, des modélisateurs, des éthiciens et des technologues. Les fondateurs qui ont été immergés dans ce monde comprennent comment concevoir et créer des entreprises d’IA qui donnent la priorité aux personnes.
Un investisseur ou même un client, lors de sa rencontre avec les fondateurs, doit rechercher :
- Une conviction fondamentale selon laquelle l’IA améliorera les humains, et non les remplacera : l’IA est un coéquipier, voire un co-fondateur.
- Une équipe fondatrice qui a travaillé dans le domaine de l’IA générative académique ou appliquée, ou qui possède un point d’entrée unique dans la vague de l’IA générative.
- Passion pour le design et l'expérience utilisateur pour mettre en valeur les capacités invisibles de l'IA dans toutes les interactions et flux de travail homme-machine.
- Des solutions alimentées par des éléments d'IA générative tels que LLM, des modèles et des ensembles de données propriétaires et une interface en langage naturel de type chat.
- Une proposition de valeur globale qui implique le déchargement cognitif des tâches répétitives.
La confiance et la sécurité ne peuvent pas être une réflexion après coup
Comme on le sait déjà, l’IA a des effets néfastes. Parmi ceux qui ont été identifiés figurent les hallucinations, les empoisonnements, le manque de transparence, les inégalités, l’injustice, les préjugés, les deepfakes, la violation de la propriété intellectuelle et du droit d’auteur, les violations de la vie privée et de la sécurité.
Les fondateurs doivent évaluer la fiabilité des modèles qui motivent leur innovation et envisager des travaux pionniers dans ce domaine. évaluation globale du modèle comme celui en cours à Stanford. Ceci doit être pris en compte non seulement au moment de la sélection du modèle, mais également tout au long de son cycle de vie, du développement aux tests et au déploiement. Dans le même temps, il est primordial de se conformer au régime croissant de réglementations, de lignes directrices et de cadres pour une utilisation responsable de l’IA.
La confidentialité des données est un droit humain
La confidentialité nécessite sa propre approche et ne peut pas simplement être subsumée sous la confiance et la sécurité. Heureusement, compte tenu du grand nombre de réglementations telles que CCPA, DGA, DMA, DPA, GDPR, PIPA et PDPO apparues ces dernières années, les entreprises travaillent déjà à mettre en place des contrôles de données.
Ceci est particulièrement important à l’ère de l’IA générative, où les modèles produisent de nouvelles données à partir d’ensembles de formation et où l’utilisation non autorisée des données de formation est devenue un problème majeur en matière de propriété intellectuelle. Des réglementations pour une utilisation éthique des données, assurant la sécurité et la gestion des risques, émergent actuellement partout dans le monde.
Les domaines de gouvernance qui doivent être abordés comprennent la découverte et l'inventaire de toutes les données ; détection et classification de données sensibles ; comprendre les modèles d'accès et les droits des utilisateurs ; consentement, base juridique, conservation et compréhension du lieu de résidence ; et la qualité et la lignée.
Il est essentiel de prêter attention à ces choses. Il sera trop difficile d’agir une fois que le proverbial cheval de données sera sorti de la grange.
Vous pouvez obtenir un impact surhumain
L’IA axée sur les personnes élèvera véritablement les humains, et le cadre de conception permettant de mesurer ce potentiel reste complexe.
Pour en revenir aux exemples précédents, Lyft, Poshmark et HashiCorp ont respectivement élevé les conducteurs, les stylistes commerciaux et les professionnels du cloud, leur permettant de devenir des communautés dynamiques. Ils ont dû prendre des décisions difficiles pour remplir leur engagement, mais ils ont finalement été récompensés par la satisfaction d’avoir accompli leur mission d’autonomisation et d’élévation des gens.
Les investisseurs en démarrage visent à défendre les entrepreneurs et à les aider à créer des entreprises emblématiques. Adopter une approche centrée sur les personnes pour favoriser les entreprises d’IA qui définissent une génération se traduira par des entreprises durables et un monde meilleur et plus riche.
