Le 2 août, le géant du private sale, DeepSeek, a annoncé sur son compte officiel l'utilisation de la technologie de cache de disque contextuel pour explorer l'AGI (intelligence artificielle générale). Il stocke en cache le contenu prévu à utiliser à plusieurs reprises dans un tableau de disques distribués. Dans les scénarios d'utilisation de l'API de modèles volumineux, si une entrée se répète, seule la partie répétée doit être lue dans le cache, sans calcul. La partie mise en cache est facturée 0,1 yuan pour chaque million de tokens par DeepSeek.
Le contenu est fourni à titre de référence uniquement, il ne s'agit pas d'une sollicitation ou d'une offre. Aucun conseil en investissement, fiscalité ou juridique n'est fourni. Consultez l'Avertissement pour plus de détails sur les risques.
Le fournisseur de grands modèles DeepSeek de la filiale de quantification de carrés magiques utilise la technologie de mise en cache de disque dur
Le 2 août, le géant du private sale, DeepSeek, a annoncé sur son compte officiel l'utilisation de la technologie de cache de disque contextuel pour explorer l'AGI (intelligence artificielle générale). Il stocke en cache le contenu prévu à utiliser à plusieurs reprises dans un tableau de disques distribués. Dans les scénarios d'utilisation de l'API de modèles volumineux, si une entrée se répète, seule la partie répétée doit être lue dans le cache, sans calcul. La partie mise en cache est facturée 0,1 yuan pour chaque million de tokens par DeepSeek.