Retell AI : Lorsque les modèles OpenAI commencent à piloter 100 millions de téléphones par mois

Petit dialogue d’ouverture : Le proxy vocal AI derrière cent millions de téléphones

Shiwen：Récemment, dans un projet officiel d’OpenAI, il est mentionné Retell AI, qui affirme que leurs modèles traitent cent millions de téléphones par mois, avec une rémunération annuelle par personne de 1,6 million de dollars. Ce chiffre semble exagéré, qu’en pensez-vous ?

Yongliang：Cent millions de téléphones en soi n’est pas le plus important. Ce qui est crucial, c’est la part que les agents vocaux AI prennent dans ces conversations. Si ils se contentent d’accueillir et de transférer les appels vers un agent humain, ce chiffre n’a aucune signification. Mais si les agents vocaux AI peuvent effectuer seuls des consultations clientes, des réservations, le service après-vente et même la conversion en ventes, cela représente une nouvelle forme de travail. J’ai dirigé une équipe de soixante-dix personnes et je connais la composition des coûts humains : recrutement, formation, gestion, perte de personnel. Si les agents vocaux AI peuvent remplacer une partie du travail répétitif, la structure de coûts de l’entreprise sera redéfinie.

Shiwen：Mais les conversations téléphoniques et textuelles ne sont pas identiques, car les conversations vocales exigent plus de précision concernant les retards, le ton et le traitement des interruptions. Comment Retell y arrive-t-il ?

Yongliang：D’après les informations publiques, Retell utilise des modèles comme GPT-6 Astra, conçus spécifiquement pour les scénarios vocaux. Ces modèles intègrent de nombreux enregistrements réels de conversations dans leurs données d’entraînement, ce qui leur permet de mieux gérer l’expression orale, les pauses, les interruptions et les changements d’humeur. Mais les détails techniques ne sont pas entièrement公开és, nous ne pouvons que déduire des résultats : si ils peuvent vraiment traiter cent millions de téléphones, cela signifie que les retards et la précision atteignent au moins le seuil commercial.

Shiwen：Ce chiffre de 1,6 million de dollars par an par personne semble un peu exagéré, n’est-ce pas ?

Yongliang：Ce chiffre doit être analysé en détail. Premièrement, il peut ne concerner que les employés de Retell eux-mêmes, sans compter les sous-traitants ou partenaires. Deuxièmement, le taux de marge bénéficiaire dans l’industrie des agents vocaux AI est généralement élevé, et les revenus des entreprises de logiciels sont généralement plus élevés que ceux des industries traditionnelles. Troisièmement, si cent millions de téléphones sont calculés à quelques centimes ou quelques dollars par appel, l’ampleur des revenus est effectivement considérable. Mais l’indicateur « revenu par personne » peut être trompeur, car il ne reflète ni les profits ni le taux de fidélité des clients. Ce qui m’intéresse davantage, c’est : combien de ces appels sont des consultations répétées, et combien créent vraiment de nouvelles valeurs.

Q1 : Quelle est exactement l’entreprise Retell AI ?

Shiwen：Décrivons d’abord le contexte. Que fait Retell AI ?

Yongliang：Retell AI est une entreprise qui propose des solutions vocales AI pour les agents, principalement destinées aux clients professionnels pour des tâches telles que l’accueil automatique des appels, les appels externes, le service client, les réservations, etc. Ses clients peuvent être des institutions médicales, des marques de commerce, des institutions financières, des entreprises de logistique, etc., qui ont besoin de nombreuses interactions téléphoniques. D’après la description du cas d’OpenAI, Retell intègre les modèles d’OpenAI dans son propre platforme de agents vocaux pour gérer la compréhension du langage naturel, la gestion des dialogues et la génération de réponses.

Shiwen：Quelle est alors leur différence par rapport aux centres de appel traditionnels ?

Yongliang: Le cœur d’un centre de appel traditionnel est la personne. Le cœur d’un agent vocal AI est le modèle. Il y a plusieurs différences : premièrement, la structure coûts. Les coûts liés au personnel sont les principaux dépenses d’un centre d’appel traditionnel, tandis que les principales dépenses des agents AI sont l’infrastructure de calcul et les appels API. Deuxièmement, l’expansion. L’augmentation du personnel nécessite la recrutation et la formation, ce qui prend du temps ; pour les agents AI, il suffit d’augmenter l’infrastructure de calcul, ce qui permet une expansion instantanée en théorie. Troisièmement, la cohérence. Les personnes peuvent se fatiguer ou souffrir de fluctuations émotionnelles, tandis que les agents AI peuvent maintenir des scripts standard. Mais à l’inverse, les agents AI manquent de empathie et de capacité à s’adapter aux situations complexes, ce qui nécessite une intervention humaine.

Q2: Quelle est la signification d’un milliard d’appels

Shiwen: Quel est le niveau de cette chiffre dans l’industrie ?

Yongliang: Si un milliard d’appels étaient répartis uniformément, cela correspondrait à environ 3,3 millions par jour, 137 000 par heure, et 2 300 par minute. Cette taille est proche du volume de traitement d’un grand centre d’appel. Mais le point important est la complexité des appels. Si la plupart sont des demandes simples, des confirmations de réservation ou des notifications d’état, les agents AI peuvent tout à fait gérer cela. Mais pour les cas de plaintes, les négociations commerciales ou les situations de crise, les agents AI ne peuvent qu’assurer une gestion préliminaire, et finalement, il faudra toujours intervenir humainement.

Shiwen: Quels sont les principaux secteurs clients de Retell ?

Yongliang: D’après les informations publiques, les clients typiques des agents vocaux AI incluent : les institutions médicales (reminders de réservation, suivi), les e-commerces (recherche d’ordres, service après-vente), les services financiers (notifications de factures, vérification d’identité), et les services de livraison (notifications de livraison, modification de réservation). Les points communs de ces scénarios sont : volume d’appels élevé, processus standardisés, sensibilité à la délai. Si Retell parvient à se poser solidement sur ce marché, cela signifie que leurs produits ont trouvé un équilibre entre précision et coût.

Q3: La vérité sur les 1,6 million de dollars de revenus par personne

Shiwen: Comment interpréter ce chiffre de 1,6 million de dollars de revenus annuels par personne ?

Yongliang: Ce chiffre doit être considéré dans le contexte de l’industrie. Les revenus annuels par personne des centres d’appel traditionnels se situent généralement entre 30 000 et 80 000 dollars, en raison des coûts élevés du personnel et de la complexité de la gestion. Les revenus annuels par personne des entreprises d’agents vocaux AI peuvent être beaucoup plus élevés, car les coûts principaux sont l’infrastructure de calcul et les API du modèle, et non le personnel. Mais « revenus annuels par personne » ne signifie pas « bénéfices annuels par personne ». Retell doit payer les frais d’API à OpenAI, ses propres coûts de recherche et développement, ainsi que les frais de vente et de marketing. Sur les 1,6 million de dollars de revenus, seuls 20 % à 30 % peuvent effectivement se transformer en bénéfices.

Shiwen: Quelles leçons peut-on tirer de ce chiffre pour l’industrie ?

Yongliang: Cela montre que le secteur des agents vocaux AI a une valeur commerciale, mais la concurrence sera très féroce. Si Retell parvient à atteindre 1,6 million de dollars de revenus par personne, d’autres entreprises chercheront également à imiter. Mais où se trouve la différence ? Est-ce dans les capacités du modèle, les ressources clients, le savoir-faire dans l’industrie, ou encore la gestion des coûts ? À long terme, les entreprises qui se concentrent uniquement sur la packaging d’API ont peu de chances de conserver une position avantageuse. Ceux qui survivront seront ceux qui peuvent s’implanter profondément dans l’industrie et offrir des solutions intégrées.

Q4: Où se situent les limites des agents vocaux AI

Shiwen: Que peut faire et ne peut pas faire actuellement un agent vocal AI ?

Yongliang：Ce que l’on peut faire : automatiser les processus de standardisation, vérifier les informations, organiser les rendez-vous, gérer les services après-vente simples, et envoyer des notifications par téléphone. Ce que l’on ne peut pas faire : gérer des situations émotionnelles complexes, mener des négociations en plusieurs étapes, traiter des crises ou fournir des conseils nécessitant une connaissance approfondie du secteur. La limite réside dans la « prévisibilité ». Si le processus de dialogue peut être défini à l’avance, l’agent AI peut s’en charger ; mais si nécessaire de faire des jugements sur place et d’être flexible, c’est encore l’homme qui est plus fiable.

Shiwen：Alors, comment les entreprises doivent-elles utiliser cela ?

Yongliang：Mon conseil est de diviser en trois niveaux. Au premier niveau, les appels fréquents et peu complexes sont entièrement confiés à l’agent AI, comme la confirmation des rendez-vous ou la recherche de commandes. Au deuxième niveau, les appels moyens et complexes sont traités initialement par l’agent AI, puis vérifiés et améliorés manuellement. Au troisième niveau, les appels rares et complexes sont traités directement manuellement. Cela permet non seulement de réduire les coûts, mais aussi de garantir la qualité du service. L’important est de ne pas considérer l’agent AI comme un remède miracle, mais plutôt comme une nouvelle source de main-d’œuvre.

Conclusion : Cent millions d’appels n’est qu’un début

Shiwen：Pour conclure.

Yongliang：Les exemples de Retell AI montrent que les agents vocaux AI sont passés de la phase de vérification conceptuelle à une utilisation à grande échelle. Cent millions d’appels, avec un revenu par personne de 1,6 million de dollars, ces chiffres reflètent le potentiel des modèles, l’optimisation de l’ingénierie et le modèle commercial. Mais pour les entreprises ordinaires, ce qui est plus important n’est pas de reproduire ces chiffres, mais de réfléchir clairement : quels appels peuvent être confiés à l’AI, et ceux qui doivent rester manuels. Quelle que soit l’avancée technologique, il faut finalement revenir aux scénarios d’affaires et à l’expérience utilisateur.

Shiwen：Un mot pour cette édition.

Yongliang：Les agents vocaux AI ne remplaceront pas les humains, mais ils redéfiniront le rôle de « l’homme » au téléphone. Passer d’un « interlocuteur » à un « superviseur » et « décideur » est peut-être le plus grand changement dans les centres de appel dans les prochaines années.

👇 Votre entreprise a-t-elle utilisé des agents vocaux AI ? Quel est votre expérience ? Parlez-en dans les commentaires, et nous discuterons de quelques exemples lors de la prochaine édition. Suivez-moi, pour des récits authentiques sur le monde du travail à l’ère de l’AI, mis à jour chaque semaine.