IA sur smartphone : Qualcomm vise des modèles 100B

Le PDG de Qualcomm, Cristiano Amon, a affirmé que certaines entreprises d'IA développent des smartphones capables d'exécuter en continu des modèles de langage comptant 100 milliards de paramètres d'ici 2028.

Amon a fait cette déclaration lors d'un entretien avec Fireside Alpha, le 10 octobre 2026, sans révéler le nom des entreprises concernées.

L'exécution d'un modèle de 100 milliards de paramètres sur un téléphone se heurte à d'importantes contraintes de mémoire. Un modèle 100B quantifié sur 4 bits exige environ 50 Go de RAM, tandis qu'une version sur 2 bits nécessiterait encore près de 25 Go pour le seul modèle, sans compter le système d'exploitation, les applications et le cache contextuel.

Qualcomm et d'autres acteurs citent la disponibilité et le coût de la DRAM parmi les principaux obstacles. L'entreprise estime que le secteur ne franchira probablement pas de sitôt le plafond actuel de 16 Go de mémoire. Les fabricants ont par ailleurs réduit les déclinaisons dotées de davantage de RAM en raison des tensions sur le marché de la DRAM, alors que certains téléphones Android embarquaient jusqu'à 24 Go de LPDDR5X il y a environ un an.

L'inférence continue de modèles plus denses accroît également la chaleur dégagée et le risque de bridage thermique, qui demeure une contrainte concrète même si la mémoire disponible était suffisante.

Les évolutions du packaging des chipsets, notamment l'A20 Pro d'Apple et le Snapdragon 8 Elite Extreme Gen 6 de Qualcomm, résolvent certains problèmes d'intégration, mais ne suppriment pas le goulot d'étranglement de la mémoire.

Parmi les pistes techniques figure la quantification agressive, qui réduit fortement les besoins en mémoire. Les variantes sur 1 bit peuvent tenir en DRAM, mais, selon les évaluations du secteur, la qualité du modèle, en particulier pour le raisonnement, se dégrade fortement au-delà d'une quantification sur 4 bits.

Une autre approche repose sur le Mixture of Experts avec déchargement des experts : seul un sous-ensemble d'experts est chargé en RAM pour chaque token, tandis que les autres restent sur le stockage flash. Apple a étudié l'exécution de modèles depuis la mémoire flash embarquée, mais les stockages UFS et NVMe demeurent plus lents que la DRAM et peuvent réduire la vitesse d'inférence.

La distillation de modèles constitue actuellement la voie la plus commercialisable : des modèles distillés de 20B à 30B peuvent se rapprocher des performances de certains modèles 100B directement sur l'appareil, tout en conservant des besoins en mémoire et des contraintes thermiques maîtrisables.

Amon n'a fourni ni feuille de route technique ni nom de partenaire. La disponibilité et le coût de la DRAM, ainsi que les limites thermiques, restent les principales contraintes à l'exécution native de modèles 100B sur des smartphones d'ici 2028.