Fireworks AI lance Ember-1, un modèle d'IA spécialisé basé sur l'architecture Kimi K3
Fireworks AI lance Ember-1, un modèle d'IA spécialisé basé sur l'architecture Kimi K3 qui réduit la consommation de jetons de 40 % tout en préservant la qualité des réponses
Fireworks Research a lancé Ember-1, un modèle d’intelligence artificielle (IA) spécialisé basé sur l’architecture Kimi K3 qui réduit la consommation de tokens d’environ 40 % tout en conservant la qualité des réponses. Sur l’indice d’intelligence spécialisée (Specialized Intelligence Index), Ember-1 a établi une nouvelle frontière de Pareto en termes de rapport coût/performance sur le Bedside Bench de Doximity, surpassant des modèles tels que GPT-5.6 Sol, GPT-6 Astra et Claude Opus 5 sur les indicateurs de coût par tâche. Lors d’évaluations en génie logiciel telles que SWE-bench Verified, Ember-1 a égalé la précision maximale de raisonnement de Kimi K3 pour un coût nettement inférieur, dominant largement les configurations K3 moins exigeantes. Cette version répond aux coûts élevés associés aux longues chaînes de raisonnement dans les modèles de raisonnement, qui peuvent consommer plus de 90 % des tokens et devenir exponentiellement coûteuses dans les charges de travail agentiques à plusieurs tours.
Fireworks AI est une entreprise américaine spécialisée dans les infrastructures d’intelligence artificielle (IA), dont le siège social est situé à San Mateo, en Californie. Fondée en 2022 par d’anciens ingénieurs de Meta, la société propose des outils d’inférence et de mise à disposition de modèles d’IA qui permettent aux développeurs et aux entreprises de déployer, de personnaliser et d’exploiter des modèles d’intelligence artificielle générative, y compris des grands modèles de langage open source. L'entreprise se concentre sur l'inférence IA, c'est-à-dire le processus consistant à exécuter des modèles entraînés pour générer des résultats, plutôt que sur le développement de ses propres modèles de base.
Récemment, Fireworks Research a lancé Ember-1, un modèle d’intelligence artificielle (IA) spécialisé basé sur l’architecture Kimi K3 qui réduit la consommation de tokens d’environ 40 % tout en conservant la qualité des réponses. Cette version répond aux coûts élevés associés aux longues chaînes de raisonnement dans les modèles de raisonnement, qui peuvent consommer plus de 90 % des tokens et devenir exponentiellement coûteuses dans les charges de travail agentiques à plusieurs tours. Ember-1 apprend à éliminer les calculs superflus tout en préservant l’autoréflexion essentielle, permettant ainsi un raisonnement efficace sur diverses tâches.
Le processus de développement a nécessité plus de 50 expériences d’entraînement et 200 évaluations, aboutissant à des algorithmes novateurs en matière d’efficacité des tokens. L’entraînement a porté sur l’ingénierie logicielle, les mathématiques, le suivi d’instructions, l’utilisation d’outils et les interactions étendues. Fireworks a utilisé son infrastructure d’entraînement sans serveur pour accélérer la recherche et le déploiement. Les évaluations de performances confirment le compromis coût-qualité supérieur d’Ember-1.
Sur l’indice d’intelligence spécialisée (Specialized Intelligence Index), Ember-1 a établi une nouvelle frontière de Pareto en termes de rapport coût/performance sur le Bedside Bench de Doximity, surpassant des modèles tels que GPT-5.6 Sol, GPT-6 Astra et Claude Opus 5 sur les indicateurs de coût par tâche. Lors d’évaluations en génie logiciel telles que SWE-bench Verified, Ember-1 a égalé la précision maximale de raisonnement de Kimi K3 pour un coût nettement inférieur, dominant largement les configurations K3 moins exigeantes. Les réductions du nombre de tokens ont varié de 35 à 50 % selon les benchmarks, avec des économies pouvant atteindre 68 dollars par tâche sur SWE-bench Verified.
Une validation en production confirme ces résultats. Les tests A/B menés par des clients sur des charges de travail de codage en production ont démontré une réduction de 35 % de l’utilisation de tokens par tâche, Ember-1 maintenant ou améliorant les taux d’achèvement et de réussite des tâches. Un client a déployé Ember-1 en production et prévoit de remplacer ses modèles de base. Des tests internes menés par les développeurs de Fireworks ont également confirmé un fonctionnement fluide, sans dégradation de la qualité, tout en permettant des économies significatives en termes de tokens.
Ember-1 est désormais disponible en avant-première de recherche sur Fireworks Serverless. Ce lancement marque le début d’une série de modèles spécialisés axés sur l’efficacité. Fireworks propose également une aide à l’entraînement, permettant aux entreprises de créer des modèles personnalisés et économes en jetons, adaptés à des charges de travail spécifiques à l’aide de données propriétaires, renforçant ainsi la tendance vers une intelligence spécialisée au sein de l’écosystème des modèles ouverts.
Voici l'annonce de Fireworks AI :
Présentation d'Ember-1
Ember-1 : moitié moins de tokens, mêmes réponses
Ember-1 est un nouveau modèle spécialisé de Fireworks Research qui offre la qualité de Kimi K3 avec 40 % de tokens en moins. Développé à partir de Kimi K3, il a appris à éliminer les raisonnements superflus tout en conservant l’essentiel. Nous l’avons testé sur des benchmarks externes, lors de tests A/B en conditions réelles chez des clients, ainsi que sur nos propres charges de travail de codage et d’agents, et sa qualité s’est confirmée dans tous les contextes. Disponible dès aujourd’hui, Ember-1 inaugure une série continue de modèles spécialisés développés par Fireworks, façonnés en fonction des attentes futures des développeurs. Ember n’est que le début de ce que vous pourriez créer avec la plateforme Fireworks Training.
Comment Fireworks Research a développé Ember-1
Les utilisateurs nous ont fait savoir qu’ils avaient besoin des capacités de codage de K3 à moindre coût, car ses longues chaînes de raisonnement rendaient le codage automatisé onéreux à grande échelle. Réduire l’effort de raisonnement de K3 n’a pas résolu ce problème. Des paramètres d’effort plus faibles entraînaient une perte de qualité trop importante. Pour préserver la qualité tout en réduisant le nombre de tokens, le modèle devait apprendre à raisonner plus efficacement, ce qui impliquait de l’entraîner.
Y parvenir a nécessité des recherches approfondies. Notre équipe a mené plus de 50 expériences d’entraînement et plus de 200 évaluations, et a développé au fur et à mesure de nouveaux algorithmes d’entraînement afin de raccourcir le raisonnement sans perdre en précision. Nous avons tout réalisé sur Fireworks Serverless Training. Comme nous n’avions pas à provisionner ni à gérer de GPU, nous avons pu lancer des expériences dès qu’une idée nous venait, ne payer que ce que nous utilisions, et passer de la recherche au lancement en une fraction du temps et du coût habituels.
Nous avons effectué l’entraînement sur un large éventail de tâches afin que les économies de tokens puissent s’appliquer à de nombreuses charges de travail. Nous avons utilisé nos propres données, et aucune donnée client, pour entraîner ce modèle. Nous avons ensuite évalué Ember-1 à l’aide du Specialized Intelligence Index, de benchmarks publics et du trafic de production en direct afin de confirmer qu’il utilisait moins de tokens sans perte de qualité. Ember-1 est le modèle propre à Fireworks et le premier d’une série de modèles issus de Fireworks Research.
Le problème : les modèles de raisonnement réfléchissent trop
Les modèles de raisonnement comme Kimi K3 consacrent la majeure partie des tokens qu’ils génèrent, parfois plus de 90 %, au raisonnement interne plutôt qu’à la réponse elle-même. Cette structure de raisonnement est coûteuse pour une requête unique, mais la situation empire considérablement dans les charges de travail impliquant des agents à plusieurs tours. À chaque tour, l’ensemble du raisonnement précédent est rejoué pour le modèle, de sorte que le contexte croît à peu près de manière quadratique avec le nombre de tours. Les longues traces de raisonnement issues des premiers tours sont relues (et refacturées) à chaque appel suivant.
Tout ce raisonnement est-il réellement nécessaire ? Nos expériences ont montré que non. Le raisonnement émis par Kimi K3 est bien plus long que ne l’exige la tâche, et l’excédent peut être supprimé sans toucher à la réponse. C’est ainsi que nous avons créé Ember-1, une version économique de Kimi K3 construite à partir d’une intelligence spécialisée.
D’une simple observation à un modèle haut de gamme
Tout le raisonnement de K3 n’est pas inutile. Une partie relève de l’autoréflexion : réexaminer une hypothèse, réagir à un retour d’information ou remonter d’un résultat à une décision antérieure peut aider le modèle à se remettre de ses erreurs. L’opportunité consiste à préserver cette capacité tout en réduisant le raisonnement superflu et en échappant aux boucles improductives. Nous pensons que l’apprentissage tiré des tâches et du retour d’information de l’environnement peut enseigner au modèle à raisonner plus efficacement tout en conservant ses capacités.
Pour les tâches impliquant une action autonome, cet apprentissage s’étend à l’ensemble de l’interaction. Le modèle explore les actions possibles, intègre de nouvelles observations et affine son raisonnement au fur et à mesure qu’il progresse. Le retour d’information relie les décisions à leurs conséquences, encourageant une réflexion utile tout au long de la tâche.
Nous avons transposé ces connaissances dans un ensemble de données d’entraînement couvrant les mathématiques, le codage, le suivi d’instructions, la conversation, la recherche, l’utilisation d’outils et le génie logiciel, englobant à la fois des problèmes isolés et des interactions prolongées afin de favoriser l’adaptation aux observations et aux résultats. Le retour d’information sur les tâches guide la planification et l’apprentissage conformes à la politique, en mettant l’accent sur la préservation des capacités dans l’ensemble de ces contextes.
Les résultats obtenus sur des benchmarks publics et lors de tests A/B en conditions réelles confirment cette orientation : sur sept benchmarks et le trafic de production de deux clients, le temps de raisonnement de Kimi K3 a pu être réduit de 35 à 50 % sans perte de précision. Le comportement internalisé se traduit également par une utilisation modérée des tokens lors des tentatives infructueuses, ce qui réduit les raisonnements prolongés et improductifs.
L’indice d’intelligence spécialisée : Ember-1 établit une frontière de Pareto pour Bedside Bench
En début de semaine, nous avons présenté l’indice d’intelligence spécialisée (SII) afin d’évaluer des modèles ouverts, fermés et spécialisés par rapport à des tâches concrètes créées par des experts du secteur.
Nous avons évalué Ember-1 sur le Bedside Bench de Doximity, un benchmark validé par des médecins couvrant 500 cas cliniques répartis dans 10 catégories spécialisées.
Le résultat ? Ember-1 a établi une nouvelle frontière de Pareto pour Bedside Bench, tant pour les modèles ouverts que fermés, y compris GPT-5.6 Sol, GPT-6 Astra et Claude Opus 5, en termes de coût par tâche.
Évaluation de Pareto par rapport à d’autres benchmarks du secteur
Nous avons également évalué Ember-1 sur la frontière qualité-coût par rapport à d’autres benchmarks du secteur. Nous avons calculé le coût par benchmark à l’aide des tarifs publics de l’API Kimi K3 (entrée non mise en cache : 3 $/M de jetons, entrée mise en cache : 0,30 $/M, sortie : 15 $/M) et l’avons représenté graphiquement en fonction du taux de réussite pour trois variantes : K3 avec un effort de raisonnement faible, K3 avec un effort de raisonnement élevé, K3 avec un effort de raisonnement maximal (par défaut) et Ember-1. Pour tous les benchmarks comportant plus de 50 échantillons de test, Ember-1 se situe sur la frontière de Pareto ou à proximité, égalant la qualité de K3-max à un coût nettement inférieur et dominant clairement K3-low. Nous avons également analysé GPT-6 Astra, Claude Opus-5 et GLM 5.3, et avons constaté qu’Ember-1 occupait une position de leader sur la frontière de Pareto.
La manière la plus rentable d’utiliser K3 n’est plus de le faire réfléchir moins, mais d’utiliser Ember-1, le modèle qui a appris à réfléchir efficacement.
Validation par les clients : tests A/B en production
Les benchmarks ont leurs limites. À l’instar de ce que nous avons constaté dans les résultats de l’indice d’intelligence spécialisée, nous avons souhaité tester le modèle sur des charges de travail plus proches de la réalité, et l’évaluer en utilisant le trafic de production. Le véritable test consiste souvent à vérifier si le modèle tient la route face au trafic de production, dans des produits dont dépendent les utilisateurs.
Nous avons mené des tests A/B en production avec deux clients sur leurs charges de travail de codage en production. Dans les deux cas, Ember-1 a permis de réaliser des économies impressionnantes en termes de tokens, avec environ 35 % de tokens en moins par tâche pour une qualité comparable. La plupart des indicateurs de produit en aval se sont maintenus ou ont progressé : l’achèvement des tâches, les taux de réussite et les taux d’échec ont tous évolué dans la bonne direction, tout en bénéficiant d’un coût en tokens nettement inférieur. À la suite de ces tests A/B, l’un des clients utilise désormais Ember-1 en production, et prévoit de le déployer à plus grande échelle afin de remplacer entièrement le modèle de base.
Validation interne : nos propres développeurs n’ont rien remarqué
Une grande partie du trafic interne de codage et de collaboration chez Fireworks est gérée par notre propre service d’inférence. Avant que le modèle ne soit présenté à un client, nous avons mis Ember-1 à l’essai en interne et laissé nos propres développeurs l’utiliser pour leurs tâches de codage quotidiennes, notamment pour des tests d’ambiance à grande échelle sur des tâches réelles.
Le résultat dont nous sommes le plus fiers : aucune remarque. Pas de nouvelles, bonnes nouvelles. Les développeurs ont poursuivi leurs tâches de codage sans remarquer le changement, tout en consommant nettement moins de jetons. Pour un modèle dont la proposition de valeur repose entièrement sur « les mêmes réponses, moins de jetons », un déploiement invisible sur le trafic interne est le signal le plus fort qui soit.
Prochaines étapes
Ember-1 est déployé en tant qu’option de service aux côtés du modèle de base Kimi K3, sous forme de version « Research Preview » sur Serverless. Afin de soutenir l’écosystème open source en pleine expansion, nous lançons des versions de recherche pour offrir aux développeurs un accès Serverless de deux semaines à de nouveaux modèles de recherche, que nous rendrons permanents en fonction de la demande de la communauté. Pour le codage agentique et d’autres charges de travail où les tokens de raisonnement représentent la majeure partie du coût, il offre la même qualité pour environ la moitié du coût en tokens.
Fireworks Research continuera à repousser les limites de l’efficacité des modèles en intégrant une intelligence spécialisée à davantage de modèles Ember, afin de vous permettre de déployer les modèles les plus économiques et de réduire votre consommation de jetons. L’efficacité en termes de jetons devient un thème central chez Fireworks.
Vous souhaitez aller encore plus loin avec Ember-1 et l’optimiser pour votre cas d’utilisation ? Nous lançons également un service d’accompagnement à l’entraînement pour Ember-1, permettant aux entreprises de créer des modèles personnalisés et économes en jetons, adaptés à leurs besoins à partir de leurs propres données. L’avenir des modèles ouverts réside dans des modèles spécialisés, entraînés sur votre charge de travail spécifique.
Source : Annonce d'Ember-1
Et vous ?
Pensez-vous que cette annonce est crédible ou pertinente ?
Voir aussi :
Répondre avec citation
Partager