Mise à l'échelle de WebRTC pour des milliers d'agents vocaux simultanés
WebRTC offre la latence la plus faible pour les agents vocaux, mais sa mise à l'échelle nécessite une architecture minutieuse. Voici comment gérer les serveurs multimédias, la signalisation et l'état.
WebRTC est la référence en matière d'agents vocaux basés sur navigateur, offrant une latence de transport inférieure à 50 ms. Mais même si une seule connexion WebRTC est simple, l’évolution vers des milliers de sessions simultanées nécessite une infrastructure dédiée. Vous ne pouvez pas simplement l'exécuter sur un seul serveur Node.js.
Architecture SFU et MCU
Pour les agents IA, les unités de transfert sélectif (SFU) sont généralement préférées aux unités de contrôle multipoint (MCU). Le SFU achemine l'audio de l'utilisateur directement vers le service ASR et renvoie l'audio TTS vers l'utilisateur, minimisant ainsi la surcharge de traitement sur le serveur multimédia lui-même.
Prêt à construire ?
Découvrez comment les agents IA multimodaux de Mazed fonctionnent pour votre cas d'utilisation.