Large Language Models : l'essentiel pour se lancer
Guide IA pour dirigeant innovant (Partie #1)
Les Large Language Models (LLM) sont un type d'intelligence artificielle capable de comprendre et de générer un langage semblable à celui de l'homme. Comme un ingénieur mécanique utilise un logiciel pour modéliser le moteur d’une voiture, un chercheur qui crée un LLM a pour objectif de créer une représentation numérique simplifiée du langage humain. Ces modèles utilisent un grand nombre de paramètres, de données et une grande puissance de calcul.
Les LLM et l’IA générative se distinguent des autres formes d'IA car ils ne requièrent aucune compétence technique de la part des utilisateurs. Les outils sont alimentés par de grandes quantités de données non structurées et non étiquetées.
Chronologie des LLM existants (d'une taille supérieure à 10B) (Kun Zhou, 2023)
Quels risques doivent être pris en compte en utilisant des LLM ?
- Fiabilité des réponses : de potentielles réponses incorrectes, incomplètes ou trompeuses générées par l’IA doivent faire l’objet d’une évaluation critique par l’utilisateur
- Biais dans les modèles : des biais présents dans les données d'entraînement peuvent conduire à des résultats qui reflètent ces biais (équité, discrimination)
- Confidentialité des données : les organisations doivent se montrer prudentes sur le partage de données sensibles ou personnelles (RGPD)
- Sécurité : l'IA générative peut être être manipulée pour fournir des résultats malveillants ou utilisée dans le cadre de cyberattaques (eg attaques de type Oracle : l’attaquant explore le modèle en fournissant une série d’outputs bien définis, ce qui lui permet d’obtenir de nombreuses informations ayant servi à l’entrainement, donc des données confidentielles et/ou données personnelles)
- Propriété intellectuelle : face aux risques importants de violation de droits d'auteur, de marques ou de brevets, les entreprises doivent comprendre quelles données ont servi à entrainer le modèle et comment elles sont utilisées par l'outil
- Impact écologique et dépense énergétique : le calcul se fait en analysant les ressources consommées (CPU /GPU, RAM), la consommation électrique associée et la consommation énergétique du/des datacenters. De manière remarquable, le choix du DNN, du data center et du processeur peut réduire l'empreinte carbone jusqu'à ~100-1000X
- Éthique et emplois dégradés : si l’IA peut supprimer des taches à faible valeur ajoutée, l’essor de la génération de contenu peut aussi remplacer des tâches appréciées des collaborateurs par des tâches plus rébarbatives
Quels sont les profils nécessaires ? Faut-il les recruter ou faire appel à des partenaires ?
Il est important de construire en interne les compétences techniques de demain, mais la nature des talents nécessaires dépend grandement des usages de l’IA. Si l’entreprise a pour coeur d’activité l’IA ou que son coeur d’activité dépend de l’IA, elle peut faire le choix stratégique de construire une équipe interne dédiée aux LLMs, qui pourra développer et héberger différents modèles en interne. Dans les autres cas, l’entreprise s’appuiera sur des outils externes déjà hébergés, utilisés par une interface web ou par API, et ses besoins en compétences techniques se limiteront à des équipe de software engineering, parfois complétées par des profils de data analyse et de data engineering.
Il est également possible de faire appel à des prestataires externes, notamment en cas de contrainte de planning (besoin de réaliser un projet ou sortir une fonctionnalité rapidement) ou de manque d’expertise (pas les bonnes compétences en interne, projets complexes nécessitant l’appui d’experts). Si elle choisit d’externaliser un projet IA, l’entreprise doit être particulièrement vigilante au niveau de compétences des équipes externes et à sa capacité à acquérir et conserver la connaissance en interne (la mission devrait servir à acculturer et former les collaborateurs, qui doivent être impliquées dans le projet et, dans certains cas, formés pour maintenir le produit à l’issue du projet).
Dois-je laisser mes équipes libres d’expérimenter ?
Oui, le changement n’est jamais aussi simple que lorsqu’il est impulsé par les équipes ! Les dirigeants peuvent offrir des ressources et un cadre qui permettent d’expérimenter, par exemple une journée par semaine ou par mois dédiée à des travaux de R&D pour certaines équipes, favoriser les retours d’expériences, permettre aux plus avancés de former leurs collègues et encourager la création de communautés de pratiques (sans les forcer, elles ne fonctionnent généralement que lorsqu’un porteur souhaite s’investir et que les participants ont réellement envie de participer).
Si une vision stratégique permet de se projeter sur l’avantage compétitif de demain, de nombreuses opportunités d’amélioration seront amenées par des petits changements issus du terrain, par ceux qui réalisent les tâches opérationnelles au quotidien.
Par exemple, des développeurs pourront lancer le premier draft d’un nouveau code, améliorer du code existant plus rapidement, accélérer certaines taches manuelles et répétitives et explorer des pistes de résolution lorsqu’ils sont confrontés à un nouveau challenge. Tout ce temps gagné leur permettra de se concentrer sur des problèmes plus complexes et libèrera du temps à leur ingéniosité.
Impact de l’IA Générative sur la vélocité des développeurs (McKinsey, 2023)
Comment créer une application qui utilise des LLM et plaise à mes utilisateurs ?
Les applications utilisant de l’IA et des LLM devraient devenir de plus en plus influentes dans nos vies, à commencer par les outils de bureautiques dopés à l’IA développés par Google et Microsoft.
Si l’innovation progresse à pas de géants, ce ne sont ni les capacités techniques, ni la précision des modèles, ni la profondeur des papiers de recherches publiés qui apporteront de la valeur directe à vos utilisateurs. Un produit qui fonctionne est avant tout un produit qui répond à un besoin, et idéalement suscite de l’émotion, quelles que soient les technologies sur lesquelles il s’appuie (Netflix a été construit en Angular, ce qui ne les a pas empêché d’atteindre un énorme succès).
Quant on repense aux premières applications sur iPhone, elles étaient bluffantes car elles apportaient une technologie fondamentalement nouvelle, mais elles ne sont pas restées. Les applications devenues essentielles à notre quotidien sont celles qui ont le mieux compris leurs utilisateurs, et réussi à créer une expérience hors du commun.
« Les gens n’ont pas besoin de perceuses. Ils ont besoin de trous dans leurs murs » (Théodore Levitt). En d’autres termes, la technologie n’est pas la priorité, il faut penser produit.
Finalement, c’est quoi la recette pour réussir ?
David Lieb, fondateur de Google Photos (qui a mis en production d'innombrables fonctionnalités d'IA avant que cela ne soit facile) disait : “si un millier de personnes très intelligentes et équipées des meilleures outils, qui n’ont jamais besoin de dormir et peuvent tout retenir en mémoire, ne peuvent pas régler votre problème… Alors l’IA ne peut pas aider”.
Christophe Pasquier, fondateur de Slite, propose une méthode intéressante : pour identifier des opportunités IA, demandez vous ce que vous feriez sur votre application si vous aviez 100 clones de votre CTO (ou de votre meilleur ingénieur), disponibles pour vous et vous seul, 24 heures sur 24, 7 jours sur 7 ?
En tant que dirigeant, s’il n’y avait qu’une chose à retenir, je pencherais pour celle-ci : l’IA n’est pas (encore) une intelligence supérieure et ne résoudra pas tous vos problèmes. Une fois cette réalité acceptée, intéressez vous vraiment à vos utilisateurs et expérimentez, les LLM sont devenus accessibles à presque tous. Si l’IA ne règle pas tout, elle devrait pouvoir vous faire gagner un temps fou.