icon n'utilise que les cookies nécessaires à son fonctionnement. Avec votre accord, nous activons aussi les contenus externes (vidéos Twitch, Vimeo, Loom…). Vous pouvez changer d'avis à tout moment depuis « Gérer mes cookies ». En savoir plus
Déployer une IA souveraine
Diffusé par Meety, d'icon
Créez du lien entre hôtes, intervenant·es et participant·es
English version below
Speaker: Eden Kharoub, Data Scientist chez Agora Calycé
58 % des employés utilisent déjà l'IA au travail (Stanford HAI, AI Index 2026), mais peu d'équipes savent l'héberger correctement en gardant la main sur leurs données.
Déployer un LLM en interne ne s'arrête pas au lancement du modèle : GPU, coûts, latence et confidentialité deviennent les vrais sujets. On partage avec vous les choix d'architecture qui ont tenu, les arbitrages de coût, et ce que l'observabilité apporte pour garder la maîtrise de son IA, de l'inférence jusqu'à l'infrastructure.
58% of employees already use AI at work (Stanford HAI, AI Index 2026), yet few teams know how to host it properly while retaining control of their data.
Deploying an LLM in-house goes beyond getting the model up and running: GPUs, costs, latency, and data privacy become the real challenges. We'll share the architectural choices that held up in practice, the cost trade-offs, and how observability helps you stay in control of your AI stack, from inference to infrastructure.