DeepSeek phát hành mã nguồn mở TileKernels, thư viện kernel GPU cho đào tạo và suy luận mô hình lớn

Tin tức cổng, ngày 23 tháng 4 — DeepSeek đã phát hành mã nguồn mở TileKernels theo giấy phép MIT, một thư viện kernel GPU được viết bằng TileLang cho đào tạo và suy luận mô hình ngôn ngữ lớn. TileLang là ngôn ngữ chuyên biệt do nhóm tile-ai phát triển để diễn đạt các kernel GPU hiệu năng cao trong Python. DeepSeek cho biết hầu hết các kernel trong thư viện đã tiến gần đến giới hạn hiệu năng phần cứng về mật độ tính toán và băng thông bộ nhớ, với một phần đã được triển khai trong các tác vụ đào tạo và suy luận nội bộ.

Thư viện gồm sáu nhóm kernel: MoE (hỗn hợp các chuyên gia) phân luồng và định tuyến, bao gồm chọn chuyên gia Top-k, ánh xạ token sang chuyên gia, và mở rộng/thu gộp kèm chuẩn hoá trọng số; lượng tử hoá hỗ trợ các định dạng FP8, FP4 và E5M6 với lượng tử hoá theo từng token, theo từng block và theo từng kênh, bao gồm các tác vụ lượng tử hoá gộp SwiGLU+; chuyển vị theo lô (batch transpose); Engram gating với lan truyền xuôi/ngược RMSNorm gộp và giảm gradient trọng số; Manifold HyperConnection với chuẩn hoá Sinkhorn và tách/áp dụng trộn; và các giao diện autograd cấp cao bọc các kernel mức thấp thành các lớp có thể huấn luyện.

Engram và Manifold HyperConnection là các thành phần độc quyền trong kiến trúc mô hình của DeepSeek, với chi tiết triển khai lần đầu tiên được công bố công khai. Thư viện yêu cầu GPU thuộc kiến trúc NVIDIA SM90 hoặc SM100 (H100/H200 hoặc dòng Blackwell), CUDA Toolkit 13.1 trở lên và PyTorch 2.10 trở lên.

Tuyên bố miễn trừ trách nhiệm: Thông tin trên trang này có thể đến từ bên thứ ba và không đại diện cho quan điểm hoặc ý kiến của Gate. Nội dung hiển thị trên trang này chỉ mang tính chất tham khảo và không cấu thành bất kỳ lời khuyên tài chính, đầu tư hoặc pháp lý nào. Gate không đảm bảo tính chính xác hoặc đầy đủ của thông tin và sẽ không chịu trách nhiệm cho bất kỳ tổn thất nào phát sinh từ việc sử dụng thông tin này. Đầu tư vào tài sản ảo tiềm ẩn rủi ro cao và chịu biến động giá đáng kể. Bạn có thể mất toàn bộ vốn đầu tư. Vui lòng hiểu rõ các rủi ro liên quan và đưa ra quyết định thận trọng dựa trên tình hình tài chính và khả năng chấp nhận rủi ro của riêng bạn. Để biết thêm chi tiết, vui lòng tham khảo Tuyên bố miễn trừ trách nhiệm.

Bài viết liên quan

Sky Đề Xuất Đại Tu Quản Lý Kho Bạc Khi Kết Thúc Giai Đoạn Vốn Hóa Genesis

Tin tức trên Gate News, ngày 27 tháng 4 — Sky, giao thức cho vay tài chính phi tập trung (DeFi) từng được biết đến với tên gọi MakerDAO, đã đề xuất tinh gọn Chức năng Quản lý Kho bạc (TMF) sau khi giai đoạn triển khai vốn thành lập của nó kết thúc chính thức. Người sáng lập Rune Christensen đã công bố trong một bài đăng trên diễn đàn rằng việc chuyển Genesis Capital sang Grove đánh dấu việc Sky rời khỏi vĩnh viễn giai đoạn Genesis Capitalization, vốn đã đóng vai trò là cơ chế cấp vốn khởi động để gieo mầm các tác nhân mới trong quá trình mở rộng Sky Agent Network. Đề xuất này sẽ đơn giản hóa TMF từ thác nước theo điều kiện gồm năm bước thành cấu trúc bốn bước với các phân bổ cố định giữa Security và Maintenance, Aggregate Backstop Capital, Smart Burn Engine, và USDS Staking Rewards. Cuộc cải tổ cũng sẽ loại bỏ một số cơ chế kế thừa, bao gồm Net Revenue Ratio, các phân biệt theo giai đoạn, các bậc phần thưởng staking dựa trên hoạt động, và các quy định về giao dịch ngắn hạn. Theo Christensen, việc triển khai vốn không đều do quản trị quyết định trong giai đoạn thành lập hiện đã hoàn tất, được thay thế bằng các chi phí tuân theo quy định, có thể dự đoán, bị giới hạn ở mức phần trăm cố định của doanh thu. Việc tái cấu trúc kho bạc diễn ra khi Sky đang tăng trưởng nhanh chóng. Nguồn cung USDS đã đạt khoảng 11,6 tỷ USD, khiến nó trở thành stablecoin lớn thứ ba. Cộng đồng Sky đã cho phép triển khai lên đến 11.6Bỷ USD thông qua vườn ươm stablecoin Obex vào đầu năm nay và đã ra mắt USDS gốc trên Avalanche thông qua cầu SkyLink vào tháng 4. S&P Global Ratings, đơn vị đã xếp Sky vào mức xếp hạng tín nhiệm người phát hành "B-" vào năm ngoái, cho biết quản trị và vị thế vốn là các ràng buộc then chốt đối với giao thức. Việc siết chặt các quy tắc phân bổ doanh thu giữa các bộ đệm bảo mật, backstop capital, các đợt mua lại SKY, và phần thưởng staking phù hợp với nỗ lực nhằm làm cho nền tảng chi phí của Sky có thể dự đoán hơn.

GateNews3giờ trước

Pavel Durov Cho Biết Phí TON Sẽ Giảm 6 Lần Nhắm Tới Chi Phí Gần Bằng Không

TON giảm phí giao dịch sáu lần, xuống gần như bằng 0, chuyển sang cơ chế định giá cố định không phụ thuộc vào mức độ tắc nghẽn mạng. Nâng cấp giúp tăng tốc độ và độ hoàn tất, cho phép giao dịch nhanh hơn, rẻ hơn so với Ethereum, Bitcoin và Solana. Chi phí thấp hơn hỗ trợ giao dịch vi mô và ứng dụng,

CryptoFrontNews4giờ trước

CT3 Secure Storage báo cáo 5,29 PB dữ liệu đã tải lên và 10 hợp đồng doanh nghiệp trong tháng thứ hai

Tin tức Gate ngày 27 tháng 4 — CT3 đã công bố kết quả hoạt động tháng thứ hai của CT3 Secure Storage, cho thấy mức độ áp dụng đang tăng tốc trên cả các phân khúc cá nhân và doanh nghiệp. Trong tháng 3 năm 2026, mạng đã xử lý 5,29 PB dữ liệu đã tải lên, với 64.574 lượt tải lên dành cho cá nhân từ 27.471 người dùng duy nhất và "

GateNews4giờ trước

Solana Chọn Falcon cho Mật mã Hậu-Lượng tử, Hoàn tất Công tác Chuẩn bị Di cư

Tin tức Gate, ngày 27 tháng 4 — Đội ngũ chính thức của Solana đã công bố lộ trình toàn diện về điện toán lượng tử, khẳng định rằng các mối đe dọa lượng tử vẫn còn nhiều năm nữa trong khi hệ sinh thái đã hoàn tất nghiên cứu sâu rộng và chuẩn bị kỹ thuật. Hai đội phát triển client trình xác thực độc lập,

GateNews7giờ trước

Alphea Ra Mắt Blockchain Layer 1 Tích Hợp Sẵn Cho AI với Thực Thi Tác Nhân Tự Chủ

Tin tức Gate, ngày 27 tháng 4 — Alphea, một nền tảng blockchain Layer 1 mới được công bố, được thiết kế cho hạ tầng AI, đã chính thức giới thiệu môi trường thực thi phi tập trung của mình tại Hong Kong Web3 Festival 2026. Nền tảng này tích hợp thực thi, bộ nhớ bền vững và tính toán có thể kiểm chứng như các tính năng nền tảng ở cấp độ blockchain, thay vì các thành phần tùy chọn của lớp ứng dụng, cho phép các tác nhân AI tự chủ hoạt động độc lập.

GateNews7giờ trước

Lise Hoàn tất Đợt IPO Tokenized Đầu Tiên Trên Thế Giới Trên Sàn Giao Dịch Được Quản Lý

Tin tức từ Gate, 27 tháng 4 — Lise (Lightning Stock Exchange), một sàn giao dịch được quản lý theo quy định có trụ sở tại Paris, đã hoàn tất điều mà họ mô tả là đợt phát hành lần đầu ra công chúng (IPO) đầu tiên trên thế giới được thực hiện trên một hạ tầng thị trường hoàn toàn được quản lý, được token hóa gốc. ST GROUP, một SME công nghiệp của Pháp cung cấp vật liệu composite cho các lĩnh vực quốc phòng và hàng không vũ trụ, đã trở thành công ty đầu tiên niêm yết khi cửa sổ đăng ký của Lise mở vào ngày 9 tháng 4, 2026.

GateNews8giờ trước
Bình luận
0/400
Không có bình luận