Cerebras
Cerebras construit des puces de la taille d'une plaque de silicium entier, ce qui supprime le découpage en milliers de petits circuits et accélère fortement l'inférence. L'entreprise vend l'accès à ce matériel par API, en servant des modèles ouverts, avec des débits de génération présentés comme les plus élevés du marché.
La conséquence pratique est une latence très faible sur des réponses longues : là où un modèle classique met plusieurs secondes à produire un paragraphe, l'inférence sur wafer peut le faire en une fraction de temps. Cela change l'usage : on peut envisager la génération en flux continu dans une interface, ou l'enchaînement de plusieurs appels dans une même interaction.
Le catalogue suit les sorties de la communauté, et la facturation se fait au million de jetons, avec une distinction entre entrée et sortie. Nous ne disposons pas de clé pour sonder ces modèles en direct ; cette fiche s'appuie sur le statut officiel de l'éditeur et sur sa documentation tarifaire. La vitesse reste son argument principal, et elle se vérifie à l'usage.
Models
Sort: newest model release first.
| Model | Version | Our probe | Official status | Median latency | Last activity | Last 30 days |
|---|---|---|---|---|---|---|
| Cerebras Inference | — | Operational | Operational | — | 2 h ago |
Median latency : médiane du premier jeton aujourd'hui. Official status : page de statut de l'éditeur.