Chip C-Transformer của Hàn Quốc hiệu quả hơn gấp hàng trăm lần Nvidia A100 Tensor Core GPU giúp xử lý LLM
by: Vietnam PhamPosted on:

Chip C-Transformer của Hàn Quốc hiệu quả hơn gấp hàng trăm lần Nvidia A100 Tensor Core GPU giúp xử lý LLM

Số người xem bài viết (Post Views): 231

Một nhóm các nhà khoa học từ Viện Khoa học và Công nghệ Tiên tiến Hàn Quốc (KAIST, Korea Advanced Institute of Science and Technology) đã trình bày chi tiết về chip ‘Complementary-Transformer’ AI (AI Biến áp bổ sung) của họ trong Hội nghị Mạch thể rắn Quốc tế năm 2024 (ISSCC, 2024 International Solid-State Circuits Conference) gần đây. Chip C-Transformer mới được khẳng định là chip tăng tốc AI tiêu thụ năng lượng cực thấp đầu tiên trên thế giới có khả năng xử lý mô hình ngôn ngữ lớn (LLM). 

KAIST, Hàn Quốc
KAIST

Các nhà nghiên cứu đã vượt qua Nvidia, tuyên bố rằng C-Transformer sử dụng năng lượng ít hơn 625 lần và nhỏ hơn 41 lần so với GPU A100 Tensor Core của Nvidia. Nó cũng tiết lộ rằng những thành tựu của chip chế tạo Samsung phần lớn xuất phát từ công nghệ neuromorphic computing (điện toán thần kinh tinh vi).

Chip biến áp C KAIST

Mặc dù chip KAIST C-Transformer có thể thực hiện các tác vụ xử lý LLM tương tự như một trong những GPU A100 mạnh mẽ của Nvidia , nhưng không có tài liệu báo chí hay hội nghị nào mà họ cung cấp bất kỳ số liệu hiệu suất so sánh trực tiếp nào. Đó là một thống kê quan trọng, dễ thấy bởi sự vắng mặt của nó, và những người hoài nghi có thể sẽ phỏng đoán rằng việc so sánh hiệu suất không mang lại lợi ích gì cho C-Transformer.

Chip biến áp C KAIST

Thư viện trên có một ‘bức ảnh chip’ và bản tóm tắt thông số kỹ thuật của bộ xử lý. Bạn có thể thấy rằng C-Transformer hiện được sản xuất trên quy trình 28nm của Samsung và có diện tích khuôn là 20,25mm2. Nó chạy ở tần số tối đa 200 MHz, tiêu thụ dưới 500mW. Tốt nhất, nó có thể đạt được 3,41 TOPS. Theo mệnh giá, tốc độ đó chậm hơn 183 lần so với 624 TOPS được tuyên bố của thẻ PCIe Nvidia A100 (nhưng chip KAIST được cho là sử dụng ít năng lượng hơn 625 lần). Tuy nhiên, họ muốn một số loại so sánh hiệu suất điểm chuẩn hơn là xem xét TOPS được công bố của từng nền tảng.

Rate this post

Related posts:

MTIA là gì? Chip AI của Meta chạy nhanh hơn để đào tạo các thuật toán xếp hạng và đề xuất của MetaMTIA là gì? Chip AI của Meta chạy nhanh hơn để đào tạo các thuật toán xếp hạng và đề xuất của Meta Vanar Blockchain (VANRY) hợp tác Nvidia để tích hợp các công nghệ Nvidia: CUDA, Tensor, Omniverse và Gameworks vào Vanar, giá VANRY tăngVanar Blockchain (VANRY) hợp tác Nvidia để tích hợp các công nghệ Nvidia: CUDA, Tensor, Omniverse và Gameworks vào Vanar, giá VANRY tăng QuSecure hợp tác với NVIDIA hỗ trợ cuPQC, thư viện mã hóa hậu lượng tử, tận dụng GPU NVIDIA để tăng bảo mật lượng tửQuSecure hợp tác với NVIDIA hỗ trợ cuPQC, thư viện mã hóa hậu lượng tử, tận dụng GPU NVIDIA để tăng bảo mật lượng tử NVIDIA thông báo ra mắt Blackwell GPU để trao quyền cho máy tính thế hệ tiếp theo chạy AI trên các mô hình LLMNVIDIA thông báo ra mắt Blackwell GPU để trao quyền cho máy tính thế hệ tiếp theo chạy AI trên các mô hình LLM Trung Quốc cấm chip Intel, thúc đẩy ngành bán dẫn nội địaTrung Quốc cấm chip Intel, thúc đẩy ngành bán dẫn nội địa Cách farm airdrop Tensor ($TNSR) bằng ví Backpack. Tham gia làm, săn, cày retroactive dự án Tensor.Cách farm airdrop Tensor ($TNSR) bằng ví Backpack. Tham gia làm, săn, cày retroactive dự án Tensor. Các sàn Hàn Quốc có thể phải hủy niêm yết hàng trăm altcoin vì luật mớiCác sàn Hàn Quốc có thể phải hủy niêm yết hàng trăm altcoin vì luật mới Tiêu chuẩn Core là gì? Tiêu chuẩn NFT mới trên Solana của quỹ Metaplex: Tạo NFT rẻ, hiệu quả hơnTiêu chuẩn Core là gì? Tiêu chuẩn NFT mới trên Solana của quỹ Metaplex: Tạo NFT rẻ, hiệu quả hơn Mạng GPU phi tập trung GPU.net hoàn thành gọi vốn .25tr Series A từ Momentum 6, Spicy Capital,…Mạng GPU phi tập trung GPU.net hoàn thành gọi vốn $5.25tr Series A từ Momentum 6, Spicy Capital,… Node AI (token $GPU) là gì? Dự án nền tảng cung cấp tài nguyên GPU phi tập trungNode AI (token $GPU) là gì? Dự án nền tảng cung cấp tài nguyên GPU phi tập trung Hàn Quốc ra mắt trung tâm quốc phòng AI để dẫn đầu công nghệ quân sựHàn Quốc ra mắt trung tâm quốc phòng AI để dẫn đầu công nghệ quân sự Elon Musk nói AI có xác suất 20% tiêu diệt loài người, chuyên gia khác nhận định 100% rủi ro, vì AI quá thông minh, hơn hẳn con ngườiElon Musk nói AI có xác suất 20% tiêu diệt loài người, chuyên gia khác nhận định 100% rủi ro, vì AI quá thông minh, hơn hẳn con người Công ty Sản xuất Chất bán dẫn Đài Loan (TSMC) mở rộng sản xuất chip AI tiên tiến tại MỹCông ty Sản xuất Chất bán dẫn Đài Loan (TSMC) mở rộng sản xuất chip AI tiên tiến tại Mỹ NVIDIA hợp tác với các công ty Trung QuốcNVIDIA hợp tác với các công ty Trung Quốc io.net hợp tác với Aethir để nâng cấp cơ sở hạ tầng GPU với NVIDIA H100io.net hợp tác với Aethir để nâng cấp cơ sở hạ tầng GPU với NVIDIA H100 Phí bảo hiểm Bitcoin Hàn Quốc giảm nhưng vẫn cao, Won Hàn Quốc vẫn là đồng tiền pháp định phổ biến thứ hai cho giao dịch BitcoinPhí bảo hiểm Bitcoin Hàn Quốc giảm nhưng vẫn cao, Won Hàn Quốc vẫn là đồng tiền pháp định phổ biến thứ hai cho giao dịch Bitcoin GamerCoin (GHX) là gì? Token của nền tảng GamerHash giúp kiếm tiền từ sức mạnh GPU trong PC của game thủGamerCoin (GHX) là gì? Token của nền tảng GamerHash giúp kiếm tiền từ sức mạnh GPU trong PC của game thủ Luật lệ nghiêm ngặt về sàn crypto của Hàn Quốc đã có hiệu lực: Yêu cầu các sàn phải có bảo hiểm, tách biệt tài sản khách hàng và tài sản của sànLuật lệ nghiêm ngặt về sàn crypto của Hàn Quốc đã có hiệu lực: Yêu cầu các sàn phải có bảo hiểm, tách biệt tài sản khách hàng và tài sản của sàn Blockchain giúp nâng cấp Quản lý căn cước công dân tại Việt Nam: An toàn & hiệu quả hơn?Blockchain giúp nâng cấp Quản lý căn cước công dân tại Việt Nam: An toàn & hiệu quả hơn? Liên minh công nghệ mới thách thức sự thống trị của Nvidia (liên minh giữa Intel, Google, Microsoft, Meta)Liên minh công nghệ mới thách thức sự thống trị của Nvidia (liên minh giữa Intel, Google, Microsoft, Meta) Hàn Quốc đầu tư 6tr vào AI cho dịch vụ công cộngHàn Quốc đầu tư $526tr vào AI cho dịch vụ công cộng Giao dịch crypto cho việc sản xuất tiền chất ma túy tại Trung Quốc tăng gấp 6 lần năm 2023, theo tình báoGiao dịch crypto cho việc sản xuất tiền chất ma túy tại Trung Quốc tăng gấp 6 lần năm 2023, theo tình báo 3 hướng đầu tư token trên sàn DEX: cách chơi, phân bổ, dài hạn, trung hạn, ngắn hạn theo trend3 hướng đầu tư token trên sàn DEX: cách chơi, phân bổ, dài hạn, trung hạn, ngắn hạn theo trend Dell và Nvidia hợp tác xây dựng “nhà máy AI” cho mọi doanh nghiệpDell và Nvidia hợp tác xây dựng “nhà máy AI” cho mọi doanh nghiệp Những điểm chính rút ra từ hội nghị Nvidia ngày 02/06Những điểm chính rút ra từ hội nghị Nvidia ngày 02/06 Can thiệp nhiễu (Noise Interfering): Cách tăng hiệu suất cho công nghệ lượng tử lên gấp 10 lầnCan thiệp nhiễu (Noise Interfering): Cách tăng hiệu suất cho công nghệ lượng tử lên gấp 10 lần Vốn hóa Nvidia vượt .500 tỷ, gấp đôi BitcoinVốn hóa Nvidia vượt $2.500 tỷ, gấp đôi Bitcoin Các token AI có động lực tăng khi Hội nghị NVIDIA giúp nêu bật tiềm năngCác token AI có động lực tăng khi Hội nghị NVIDIA giúp nêu bật tiềm năng Người Hàn Quốc đang phát cuồng với crypto mảng AI: Làn sóng mới hay bong bóng sắp vỡ?Người Hàn Quốc đang phát cuồng với crypto mảng AI: Làn sóng mới hay bong bóng sắp vỡ? Chuyến thăm Hàn Quốc của Vitalik Buterin gây xôn xao cộng đồng crypto toàn quốcChuyến thăm Hàn Quốc của Vitalik Buterin gây xôn xao cộng đồng crypto toàn quốc

Để lại một bình luận

Email của bạn sẽ không được hiển thị công khai. Các trường bắt buộc được đánh dấu *