La vidéo du roadshow IPO d'Anthropic dévoile sa stratégie multi-puces

— Résumé

Anthropic a lancé son roadshow IPO et diffusé une vidéo contenant des informations inédites sur son fonctionnement interne. Une section consacrée à l'« approche du compute », présentée par le cofondateur Tom Brown, détaille comment l'entreprise entraîne et sert son modèle Claude sur quatre familles de puces différentes : AWS Trainium, les TPU de Google, les GPU NVIDIA et les GPU AMD. Selon la vidéo, ce pari sur une stratégie multi-puces, jugé peu rentable par certains à l'époque, nécessite des piles logicielles et d'inférence spécifiques à chaque puce, un travail coûteux mais maîtrisé après plusieurs années de pratique. L'exemple cité concerne l'intégration des GPU AMD cette année : alors que l'adoption d'une nouvelle plateforme nécessitait habituellement des dizaines d'ingénieurs pendant plusieurs mois, l'équipe Mythos aurait fait fonctionner Claude sur AMD en un temps nettement réduit. Aucune transcription officielle n'étant disponible, l'auteur en a extrait une via l'outil MacWhisper.