noun
La cardinalité des modèles désigne la diversité des modèles d’IA qu’une plateforme ou un service peut exploiter simultanément, comme des modèles de langage, des générateurs d’images ou des agents spécialisés.
Elle dépend de la puissance de calcul, de la mémoire et des coûts de licence. Par exemple, un chatbot peut basculer entre un modèle de rédaction créative (comme un GPT-4 adapté) et un modèle de programmation (comme un assistant Python spécialisé) selon la demande de l’utilisateur.
Pour les développeurs, une cardinalité élevée offre plus de flexibilité mais augmente les coûts. Un système avec 10 modèles peut coûter 5 fois plus qu’un système avec 2, obligeant à arbitrer entre fonctionnalités et budget. Les utilisateurs peuvent aussi subir des temps de réponse plus longs si le système a du mal à charger les modèles rapidement.
Un outil de conception peut proposer la modélisation 3D, le rendu photorealiste et la génération en style cartoon, chacun nécessitant un modèle différent.
Dans les autres langues
Voir aussi : prompt engineering · Inference latency · fine-tuning