Aller au contenu

Cookies de mesure d’audience

Nous utilisons Google Analytics et Google Tag Manager pour compter les visites et voir quelles pages sont utiles. Si vous acceptez, Google Analytics peut déposer des cookies pour reconnaître vos visites suivantes. Si vous refusez, il ne dépose aucun cookie, mais Google reçoit tout de même un signal sans cookie pour chaque page que vous consultez. Nous n’envoyons pas à Google votre nom, votre adresse e-mail ni les informations de votre inscription, et vous pouvez modifier votre choix à tout moment via « Paramètres des cookies » en bas de la page. Confidentialité

Cette traduction de l'interface est un brouillon qui n'a pas été relu par une personne de langue maternelle. L'anglais est la version source. English

Tencent's Hunyuan-A13B technical report says the model was pretrained on a 20-trillion-token corpus

26 juin 2025 · Collecté automatiquement à partir de sources publiques. Non vérifié par une personne.

Ce contenu n'est disponible que dans sa langue d'origine (anglais).

What happened

Tencent's Hunyuan team states in its Hunyuan-A13B Technical Report, dated 26 June 2025, that Hunyuan-A13B is an open-source mixture-of-experts language model with 80 billion total parameters and 13 billion activated parameters per input, pretrained on a rigorously filtered 20-trillion-token corpus curated from diverse domains, including 250 billion tokens of high-quality STEM pre-training data.

Limit of the disclosure

The report describes the corpus by scale, filtering and curation pipeline (deduplication, low-quality filtering, denoising, topic labeling, and the reused Hunyuan-TurboS pipeline) but does not disclose the corpus's constituent works, rightsholders, or licenses. This item records only the officially disclosed training scale; it does not claim any specific work was included.

Sources