Microsoft hôm thứ Hai (12/10) công bố chip AI Maia 300, thế hệ thứ 3 của dòng chip tự thiết kế, và cho biết có thể triển khai hơn 1 triệu chip này trong năm 2027.

Biển hiệu cửa hàng Microsoft ở New York ngày 5/7/2022. (Ảnh: Tada Images / Shutterstock)

Số chip này sẽ phục vụ các dịch vụ AI nội bộ của tập đoàn công nghệ Mỹ.

Microsoft thiết kế Maia 300 để xử lý khối lượng tính toán AI cho những việc như viết mã hay thay người dùng thực hiện các tác vụ kinh doanh phức tạp. Chip thế hệ trước hiện đã chạy các mô hình AI do Microsoft tự phát triển, cùng các mô hình của OpenAI mà Microsoft cung cấp qua dịch vụ điện toán đám mây Azure, Reuters đưa tin.

Chip mới ra đời giữa lúc nhiều đối thủ trong mảng điện toán đám mây và các công ty AI như OpenAI cũng làm chip riêng, nhằm giảm sức chi phối của Nvidia trên thị trường điện toán AI.

Hướng thiết kế khác Nvidia

Để làm Maia 300, Microsoft chọn con đường kỹ thuật khác với Nvidia. Bộ tăng tốc AI của Nvidia sử dụng một chip tính toán cỡ lớn, xung quanh là các chip nhớ băng thông cao.

Bộ xử lý trung tâm của Maia 300 ghép từ nhiều “chiplet”, tức các chip chuyên dụng gắn kết với nhau. Các chiplet đảm nhận chức năng tính toán chính sử dụng công nghệ 2 nanomet của Công ty Sản xuất Chất bán dẫn Đài Loan (TSMC). Các chiplet còn lại dùng loại công nghệ 3 nanomet rẻ hơn, phụ trách những việc như đưa dữ liệu ra khỏi bộ xử lý, sang các phần khác trong hệ thống.

Mỗi tủ máy chủ Maia 300 chứa 96 chip và tiêu thụ khoảng 167 kilowatt điện. Tủ máy chủ AI GB300 mới nhất của Nvidia, gồm 72 bộ xử lý đồ họa (GPU), tiêu thụ 142 kilowatt.

Theo Microsoft, trên mỗi megawatt điện, Maia 300 xử lý được khối lượng tính toán hữu ích nhiều hơn khoảng 40% so với “các hệ thống hàng đầu dựa trên GPU”. Hãng không nêu tên hệ thống dùng để so sánh.

“Về cơ bản, [chip] mang lại nhiều trí tuệ hơn cho mỗi watt, mỗi đồng USD và mỗi byte bộ nhớ, nhờ tối ưu hóa trên toàn bộ hệ thống”, bà Rani Borkar, chủ tịch mảng hệ thống phần cứng và hạ tầng Azure của Microsoft, nói trong cuộc phỏng vấn với Reuters.

Microsoft dự định bắt đầu triển khai Maia 300 ở quy mô “nhiều gigawatt” từ năm 2027. Tập đoàn này dự kiến chi tiêu vốn hơn 175 tỷ USD trong năm nay.