Technologie
Des technologies ouvertes, intégrées pour la production.
Nous sélectionnons les outils et modèles adaptés à vos usages, sans imposer une architecture unique.
Technologie
| Couche | Outils envisagés | Service EXZAI |
|---|---|---|
| Expérience IA des collaborateurs | Open WebUI, portails sur mesure | Authentification, ergonomie, parcours par rôle |
| Exécution locale de modèles | Ollama | Développement local et prototypage |
| Inférence en production | vLLM, SGLang, NVIDIA NIM selon licence | Déploiement, benchmarks, batching et montée en charge |
| Passerelle de modèles | LiteLLM ou équivalent | Routage, contrôle des usages, budgets et journalisation |
| Recherche et RAG | Qdrant, PostgreSQL + pgvector, rerankers | Indexation, recherche, droits d'accès, évaluation |
| Processus et applications | n8n, Python, FastAPI, API métiers | Agents, intégrations, validation humaine |
| Conteneurs et orchestration | Docker, Kubernetes, virtualisation | Environnements fiables, déploiements, cycle de vie |
| Infrastructure | Systèmes GPU, calcul, réseau, stockage | Architecture, approvisionnement, installation |
| Observabilité | Prometheus, Grafana, OpenTelemetry | Supervision, diagnostic, planification de capacité |
| Sécurité et identité | OIDC/SSO, politiques d'accès, gestion des secrets, chiffrement | Architecture sécurisée et contrôles opérationnels |
Les noms de technologies désignent des outils susceptibles d'être utilisés dans nos architectures. Ils n'indiquent ni partenariat commercial ni recommandation de la part de leurs éditeurs.
Architecture de référence
Principes d'ingénierie
- Les licences des modèles et logiciels sont vérifiées pour l'usage commercial avant tout déploiement.
- Les points d'accès aux modèles sont protégés par un reverse proxy, des contrôles réseau, l'authentification et l'autorisation.
- Le traitement des documents, les embeddings et la destination de la télémétrie sont confirmés avant de qualifier un système de « entièrement local ».
- Les citations facilitent la vérification sans assurer l'exactitude ; évaluation et relecture humaine s'appliquent lorsque l'enjeu le justifie.
- Les agents n'exécutent aucune action destructive ou à privilèges en production sans validation humaine.
Prêt à mettre l'IA au service de votre organisation ?
Expliquez-nous votre objectif. Nous vous aiderons à définir une approche technique et commerciale réaliste.