Hỏi / Đáp Ryzen 7 9700X có tốt cho việc học máy và phát triển LLM không?

Ngoài chơi game, nó còn dùng để đào tạo và suy ra LLM như một phần công việc học máy của tôi.

Tôi mua 9700X thay vì 9900X vì tôi gặp một chút khó khăn về tài chính.

Liệu 9700X có thể hoạt động tốt trong học máy không?

Thông số kỹ thuật của giàn máy của tôi nếu bạn muốn biết:
Ryzen 7 9700X + Aorus RTX4080 Super Master + 32GB Ram + 2TB SSD
Bo mạch chủ: Aorus X870E Pro

Nhìn chung, hệ thống sẽ ổn. Tôi chạy Ollama trên hệ thống Ryzen 7 8700G/RTX 3080 Ti/64GB (2x32GB)/2x2TB SSD và hiệu suất khá tốt. Chỉ cung cấp để so sánh.

Bạn có đang chạy LLM (như Ollama) trên hệ thống này không?

Bạn có đang chạy LLM (như Ollama) trên hệ thống này không?

Nhấn để mở rộng...

Ollama sẽ sớm ra mắt, nhưng tôi thiên về sử dụng các mô hình Face như Distilbert, T5, LLaMa và GPT2 hơn.

Nhìn chung, hệ thống sẽ ổn. Tôi chạy Ollama trên hệ thống Ryzen 7 8700G/RTX 3080 Ti/64GB (2x32GB)/2x2TB SSD và hiệu suất khá tốt. Chỉ cung cấp để so sánh.