MTIA là gì? Chip AI của Meta chạy nhanh hơn để đào tạo các thuật toán xếp hạng và đề xuất của Meta

Meta hứa hẹn thế hệ chip AI tùy chỉnh tiếp theo sẽ mạnh hơn và có thể đào tạo các mô hình xếp hạng nhanh hơn nhiều.

Chip MTIA của Meta là gì?

Công cụ tăng tốc suy luận và đào tạo Meta (MTIA: The Meta Training and Inference Accelerator) được thiết kế để hoạt động tốt nhất với các mô hình đề xuất và xếp hạng của Meta. Các con chip có thể giúp việc đào tạo hiệu quả hơn và suy luận – hay còn gọi là nhiệm vụ lý luận thực tế – dễ dàng hơn. 

Công ty cho biết trong một bài đăng trên blog rằng MTIA là một phần quan trọng trong kế hoạch dài hạn nhằm xây dựng cơ sở hạ tầng xoay quanh cách sử dụng AI trong các dịch vụ của mình. Họ muốn thiết kế chip của mình để hoạt động với cơ sở hạ tầng công nghệ hiện tại và những tiến bộ về GPU trong tương lai. 

Meta cho biết trong bài đăng của mình: “Đáp ứng tham vọng của chúng tôi về silicon tùy chỉnh có nghĩa là đầu tư không chỉ vào silicon tính toán mà còn cả băng thông bộ nhớ, mạng và dung lượng cũng như các hệ thống phần cứng thế hệ tiếp theo khác”.

Meta công bố MTIA v1 vào tháng 5 năm 2023, tập trung cung cấp các chip này cho các trung tâm dữ liệu. Chip MTIA thế hệ tiếp theo có thể cũng sẽ nhắm tới các trung tâm dữ liệu. MTIA v1 dự kiến ​​​​sẽ không được phát hành cho đến năm 2025, nhưng Meta cho biết cả hai chip MTIA hiện đang được sản xuất.

Công dụng của chip MTIA đối với Meta

Hiện tại, MTIA chủ yếu được dùng để đào tạo các thuật toán xếp hạng và đề xuất, nhưng Meta cho biết mục tiêu cuối cùng là mở rộng khả năng của chip để bắt đầu đào tạo AI tổng quát giống như các mô hình ngôn ngữ Llama của nó. 

Meta cho biết chip MTIA mới “về cơ bản tập trung vào việc cung cấp sự cân bằng phù hợp giữa tính toán, băng thông bộ nhớ và dung lượng bộ nhớ”. Con chip này sẽ có bộ nhớ trong 256MB với tốc độ 1,3GHz so với 128MB và 800GHz của v1. Kết quả thử nghiệm ban đầu từ Meta cho thấy chip mới hoạt động tốt hơn ba lần so với phiên bản thế hệ đầu tiên trên bốn mẫu máy mà công ty đánh giá. 

Meta đã làm việc trên MTIA v2 được một thời gian. Dự án có tên nội bộ là Artemis và trước đây được cho là chỉ tập trung vào việc suy luận.

Leave a Reply

Your email address will not be published. Required fields are marked *