DeepSeek disponibiliza código-fonte aberto do TileKernels, biblioteca de kernels de GPU para treinamento e inferência de modelos em larga escala

Mensagem do Gate News, 23 de abril — A DeepSeek disponibilizou o código-fonte aberto do TileKernels sob a licença MIT, uma biblioteca de kernels de GPU escrita em TileLang para treinamento e inferência de modelos de linguagem em larga escala. O TileLang é uma linguagem de domínio desenvolvida pela equipe tile-ai para expressar kernels de GPU de alto desempenho em Python. A DeepSeek afirmou que a maioria dos kernels da biblioteca já se aproximou dos limites de desempenho do hardware em densidade de computação e largura de banda de memória, com partes já implantadas em operações internas de treinamento e inferência.

A biblioteca compreende seis categorias de kernels: MoE (mistura de especialistas) com gating e roteamento, incluindo seleção de especialistas Top-k, mapeamento de token para especialista e expandir/reduzir fundidos com normalização de pesos; quantização que suporta formatos FP8, FP4 e E5M6 com quantização por token, por bloco e por canal, incluindo operações fundidas de SwiGLU+quantização; transposição em lote; gating Engram com propagação direta/reversa de RMSNorm fundida e redução de gradiente de pesos; Manifold HyperConnection com normalização Sinkhorn e split/aplicar mistos; e interfaces de autograd de alto nível que encapsulam kernels de baixo nível em camadas treináveis.

Engram e Manifold HyperConnection são componentes proprietários da arquitetura do modelo da DeepSeek, com detalhes de implementação divulgados publicamente pela primeira vez. A biblioteca exige GPUs das arquiteturas NVIDIA SM90 ou SM100 (H100/H200 ou série Blackwell), CUDA Toolkit 13.1 ou superior, e PyTorch 2.10 ou superior.

Aviso: As informações nesta página podem ser provenientes de terceiros e não representam as opiniões ou pontos de vista da Gate. O conteúdo exibido nesta página é apenas para referência e não constitui aconselhamento financeiro, de investimento ou jurídico. A Gate não garante a exatidão ou integridade das informações e não será responsável por quaisquer perdas decorrentes do uso dessas informações. Os investimentos em ativos virtuais apresentam altos riscos e estão sujeitos a uma volatilidade de preços significativa. Você pode perder todo o capital investido. Por favor, compreenda completamente os riscos envolvidos e tome decisões prudentes com base em sua própria situação financeira e tolerância ao risco. Para mais detalhes, consulte o Aviso Legal.

Related Articles

Amboss Launches RailsX, Lightning-Native P2P Platform for Self-Custodial Bitcoin and Stablecoin Trading

Gate News message, April 28 — Amboss Technologies launched RailsX, a peer-to-peer Bitcoin and stablecoin trading platform built natively on the Lightning Network. The platform enables users to trade Bitcoin against stablecoins while retaining full self-custody, with no centralized order book and no

GateNews36m atrás

Over Foundation interrompe todas as operações da infraestrutura do Over Protocol devido a restrições financeiras

Mensagem do Gate News, 28 de abril — A Over Foundation anunciou que encerrou as operações de toda a infraestrutura e serviços do Over Protocol, incluindo OverWallet, OverNode, OverFlex, nós de RPC, explorador de blocos e APIs relacionadas, devido a limitações financeiras. A fundação afirmou que não há planos para

GateNews47m atrás

TON Tech Lança Agentes com IA para Transações On-Chain Autônomas

Mensagem da Gate News, 28 de abril — A TON Tech, a equipe de desenvolvimento por trás da blockchain TON preferida do Telegram, lançou agentes com IA capazes de executar autonomamente transações-chave on-chain. Os usuários podem financiar uma carteira dedicada para um agente, que então pode realizar transferências, swaps, atividades de DeFi

GateNews1h atrás

BlockCoop SACCO Lança a Primeira Plataforma de Finanças Cooperativas do Quênia com Blockchain, com Tokens BLOCKS

Mensagem de notícias do Gate, 28 de abril — A BlockCoop SACCO lançou a primeira SACCO do Quênia com blockchain, uma (cooperativa de poupança e crédito), introduzindo um modelo orientado por tecnologia projetado para modernizar as finanças tradicionais de cooperativas. A iniciativa utiliza infraestrutura de blockchain para melhorar a liquidez, em

GateNews1h atrás

Volume Semanal do Chainlink CCIP Atinge US$ 1,3B, Subindo 260% em Uma Semana

Mensagem do Gate News, 28 de abril — O Chainlink CCIP registrou US$ 1,3 bilhão em volume de transações semanais em 28 de abril, representando um aumento de 260% em relação à semana anterior. O protocolo de comunicação entre cadeias tornou-se cada vez mais central para a infraestrutura de blockchain, permitindo transferências de ativos seguras

GateNews2h atrás

Indústria de Criptomoedas Enfrenta Onda de Encerramentos à medida que o Modelo de Token Falha e Não Traz Caminho de Reestruturação

Mensagem do Gate News, 28 de abril — A indústria de criptomoedas está passando por uma onda de encerramentos de projetos este ano, afetando plataformas de negociação, ferramentas de análise e outros serviços. O serviço de e-mail descentralizado Dmail citou custos elevados de infraestrutura, captação de recursos malsucedida e enfraquecimento da utilidade do token como motivos para encerrar as atividades por ce

GateNews2h atrás
Comentário
0/400
Sem comentários