AMD tin rằng "Suy luận" trên điện thoại di động và máy tính xách tay là tương lai; tuyên bố đây là cơ hội để thách thức sự thống trị AI của NVIDIA

theanh

Administrator
Nhân viên
AMD đã đặt cược rằng suy luận tại các trung tâm dữ liệu sẽ sớm trở nên "lỗi thời" và thay vào đó sẽ được sử dụng bởi các thiết bị hướng đến người tiêu dùng như điện thoại và máy tính xách tay.

Giám đốc công nghệ của AMD cho biết các gã khổng lồ công nghệ đang chuyển sang khối lượng công việc suy luận AI vì người tiêu dùng đang thích các thiết bị AI biên​

Chà, sự khởi đầu của "cơn sốt AI" được đánh dấu bằng cơn sốt đào tạo mô hình và cách các công ty xây dựng các khả năng tính toán khổng lồ để đào tạo các LLM tương ứng của họ, nhưng có vẻ như thị trường đang chuyển sang suy luận và AMD tin rằng họ đang đi đầu trong quá trình chuyển đổi này. Trong một cuộc phỏng vấn với Business Insider, Giám đốc công nghệ của AMD, Mark Papermaster, đã tiết lộ rằng suy luận đang hướng tới "thiết bị biên", và với việc Team Red tin rằng nó có thể khiến NVIDIA gặp khó khăn trong phân khúc này.
Câu hỏi: Được rồi, giả sử là năm 2030 — có bao nhiêu suy luận được thực hiện ở biên?

Giám đốc công nghệ của AMD: Theo thời gian, nó sẽ trở thành phần lớn. Tôi không thể nói khi nào sự chuyển đổi là do nó được thúc đẩy bởi các ứng dụng — sự phát triển của các ứng dụng tuyệt vời có thể chạy trên các thiết bị biên. Chúng ta chỉ mới thấy phần ngọn giáo, nhưng tôi nghĩ điều này sẽ diễn ra nhanh chóng.
Papermaster tin rằng chi phí tăng vọt của AI tính toán với các trung tâm dữ liệu cuối cùng sẽ buộc các gã khổng lồ công nghệ như Microsoft, Meta và Google phải suy nghĩ lại về cách tiếp cận của họ, khiến AI biên trở nên phổ biến hơn nhiều. Ông tin rằng đây là một trong những lý do chính khiến AMD coi trọng "AI PC" hơn nhiều so với các đối thủ cạnh tranh của mình, như Intel và Qualcomm. Các dòng sản phẩm APU mới nhất của Team Red, chẳng hạn như Strix Point và Strix Halo, là minh chứng cho cam kết của công ty trong việc đưa khả năng tính toán AI vào các hệ số dạng nhỏ, với chi phí chỉ bằng một phần nhỏ.

ASUS-AMD-Ryzen-AI-300-Strix-Point-Laptop-Launch-_-Main-g-standard-scale-6_00x-Custom-728x410-1.jpg


Khi được hỏi về quá trình xây dựng tài nguyên tính toán và kết quả sẽ ra sao, CTO của AMD đã trả lời rằng công ty đặc biệt chú trọng vào việc tăng độ chính xác và hiệu quả của các mô hình hiện có và với việc phát hành DeepSeek, các gã khổng lồ công nghệ đang chuyển sang các giải pháp thay thế được tối ưu hóa. Cuối cùng, trong một khoảng thời gian dài hơn, các thiết bị sẽ có đủ khả năng để chạy các mô hình AI tinh vi cục bộ, cho phép người dùng trải nghiệm đầy đủ nhất về khả năng AI.

Nhận xét của CTO AMD khiến tôi nhớ đến khi cựu CEO của Intel, Pat Gelsinger, tuyên bố rằng suy luận là con đường để đi trong tương lai. Điều này cho thấy các đối thủ cạnh tranh của NVIDIA không thể cạnh tranh trên thị trường "đào tạo AI", vì Team Green đã độc quyền họ bằng cách đi trước một bước. Thách thức duy nhất mà họ có thể mang lại cho NVIDIA là cạnh tranh trên các thị trường tương lai như suy luận AI, và có vẻ như AMD đã bắt đầu làm điều này, bằng cách giới thiệu các bộ xử lý đủ khả năng cho AI biên.
 
Back
Bên trên