Hỏi / Đáp Mini PC nào dành cho AI cục bộ chứ không phải chỉnh sửa video và chơi game chuyên sâu?

[flyingchair]

Xin chào mọi người,

Tôi đã xem qua một cuộc thảo luận trên reddit, trong đó tôi phát hiện ra rằng bạn có thể kết nối một dock với mini-pc và đặt GPU (gọi là eGPU) vào dock. Một PSU cũng phải được kết nối với dock này để cấp nguồn chính xác cho GPU. Mặc dù một số dock có PSU bên trong.

Điều này nghe có vẻ là một ý tưởng thú vị vì nó phù hợp với tôi:

1. Tôi chỉ bật mini-pc cho công việc không yêu cầu eGPU - và tiêu thụ ít điện năng hơn so với tháp chơi game.
2. Tôi chỉ cắm eGPU khi cần thực hiện công việc AI cục bộ, chỉnh sửa video và chơi game nặng hơn

Tôi thấy rằng có nhiều thương hiệu khác nhau cho mini-pc / dock / v.v. Tôi tự hỏi:

Có hợp lý khi nhắm đến cấu hình như vậy không?

Mục tiêu của tôi là gì?

Chỉnh sửa video không nặng (cho video YT)
Chạy một số LLM ngoại tuyến cục bộ theo cách khá ổn, mà không cần phải sử dụng các mô hình bị hạn chế
Chạy 2025 trò chơi ở chi tiết trung bình (tôi chơi rất ít, 2 giờ/tuần), như Doom Dark Tuổi

Một số liên kết ví dụ được lấy từ reddit: mini-pc / egpu dock
Bộ nguồn nào? / eGPU nào?

Ban đầu tôi thậm chí có thể chỉ mua máy tính mini và xem nó hoạt động được đến đâu. Ví dụ như liệu có đáng để chờ mua eGPU không, tôi không biết.

 

[LordVile]

Xin chào mọi người,

Tôi đã lướt qua một cuộc thảo luận trên reddit, trong đó tôi phát hiện ra rằng bạn có thể kết nối một dock với máy tính mini và đặt một GPU (gọi là eGPU) vào dock. Một PSU cũng phải được kết nối với dock này để cấp nguồn chính xác cho GPU. Mặc dù một số dock có PSU bên trong.

Điều này nghe có vẻ là một ý tưởng thú vị vì nó phù hợp với tôi:

1. Tôi chỉ bật mini-pc cho công việc không yêu cầu eGPU - và tiêu thụ ít WATT hơn so với tháp chơi game.
2. Tôi chỉ cắm eGPU khi cần thực hiện công việc AI cục bộ, chỉnh sửa video và chơi game nặng hơn

Tôi thấy rằng có nhiều thương hiệu khác nhau cho mini-pc / dock / v.v. Tôi tự hỏi:

Có hợp lý khi nhắm đến cấu hình như vậy không?

Mục tiêu của tôi là gì?

Chỉnh sửa video không nặng (cho video YT)
Chạy một số LLM ngoại tuyến cục bộ theo cách khá ổn, mà không cần phải sử dụng các mô hình bị hạn chế
Chạy 2025 trò chơi ở mức chi tiết trung bình (tôi chơi rất ít, 2 giờ/tuần), như Doom Dark Ages

Một số ví dụ liên kết lấy từ reddit: mini-pc / egpu dock
Bộ nguồn nào? / eGPU nào?

Ban đầu, tôi thậm chí có thể chỉ mua máy tính mini và xem nó có thể chạy được đến đâu, ví dụ như có đáng để chờ mua eGPU không, tôi không biết.

Trường hợp sử dụng của bạn không thực sự hợp lý lắm. Bạn vẫn cần một CPU tốt và một ít RAM để chạy LLM, hầu hết công việc đều nằm trên GPU nhưng một máy tính mini sẽ không có CPU để sử dụng hiệu quả.

Các tài liệu bên ngoài sử dụng TB tương đương với PCIE 3.0x4, đơn giản là không đủ nhanh. Có một số tài liệu hoạt động như bộ tăng PCIE được tôn vinh nhưng máy tính mini không có khe cắm PCIE x16. Về cơ bản, bạn đang giới hạn tiềm năng thông lượng dữ liệu của card lên 8 lần và hiện có sự khác biệt rõ rệt giữa PCIE 3x16 tốc độ đầy đủ và 4x16.

Thứ ba, GPU ngốn điện khi ở chế độ nhàn rỗi. Ngay cả 5090 cũng tiêu thụ dưới 50W khi ở chế độ nhàn rỗi. Một thứ hợp lý hơn như 7800XT hoặc 4070 có công suất khoảng 15W.

Tốt hơn hết là bạn nên mua một bộ máy tính có cấu hình ITX.

 

[flyingchair]

Trường hợp sử dụng của bạn không thực sự hợp lý lắm. Bạn vẫn cần một CPU tốt và một ít RAM để chạy LLM, hầu hết công việc đều nằm trên GPU nhưng một máy tính mini sẽ không có CPU để sử dụng hiệu quả.

Các tài liệu bên ngoài sử dụng TB tương đương với PCIE 3.0x4, đơn giản là không đủ nhanh. Có một số hoạt động như các riser PCIE được tôn vinh nhưng máy tính mini không có khe cắm PCIE x16. Về cơ bản, bạn đang giới hạn tiềm năng thông lượng dữ liệu của card lên 8 lần và hiện có sự khác biệt rõ rệt giữa PCIE 3x16 tốc độ đầy đủ và 4x16.

Thứ ba, GPU ngốn điện khi ở chế độ nhàn rỗi. Ngay cả 5090 cũng chỉ tiêu thụ dưới 50W khi ở chế độ nhàn rỗi. Một thứ hợp lý hơn như 7800XT hoặc 4070 chỉ tiêu thụ khoảng 15W.

Tốt hơn hết là bạn nên mua bản dựng ITX.

Cảm ơn bạn! Tôi không biết rằng những đế cắm đó không thể sử dụng hết tiềm năng tối đa của eGPU.

Vì vậy, với bản dựng ITX, tôi vẫn sẽ có GPU tiêu thụ điện ngay cả khi ở chế độ nhàn rỗi, nhưng bản dựng ITX có tốt hơn so với máy tính mini theo bất kỳ cách nào không? (ngoại trừ kích thước).

Tôi thấy rằng máy tính mini sử dụng CPU dành cho máy tính xách tay nên hiệu quả hơn. Trong khi máy tính thông thường sử dụng CPU dành cho máy tính để bàn và những CPU này có hiệu suất kém hơn về mặt Watt/hiệu suất.

 

[LordVile]

Cảm ơn bạn! Tôi không biết rằng những dock đó không thể sử dụng hết tiềm năng của eGPU.

Vì vậy, với bản dựng ITX, tôi vẫn sẽ có GPU tiêu thụ điện ngay cả khi không hoạt động, nhưng bản dựng ITX có tốt hơn so với máy tính mini theo bất kỳ cách nào không? (ngoại trừ kích thước).

Tôi thấy rằng máy tính mini sử dụng CPU dành cho máy tính xách tay nên chúng hiệu quả hơn. Trong khi máy tính thông thường sử dụng CPU dành cho máy tính để bàn và những CPU này có hiệu quả kém hơn về mặt Watt/hiệu suất.

Bạn phải cẩn thận với hiệu quả. Nếu một thứ gì đó sử dụng một nửa công suất nhưng cung cấp một phần tư hiệu suất thì nó không thực sự hiệu quả hơn. Nếu bạn muốn hiệu suất trên mỗi watt, hãy mua máy Mac. Không có thứ gì khác có thể sánh được.

Nhìn chung, mức tiêu thụ điện khi không hoạt động của một hệ thống máy tính để bàn đầy đủ về cơ bản là không có gì. Một máy tính để bàn khi không hoạt động sẽ tiêu thụ ít điện năng hơn màn hình của bạn.

Về hiệu suất, bạn nên chọn mini ITX. Bạn cũng nhận được nhiều thứ như nhiều cổng hơn, tản nhiệt tốt hơn, ít tiếng ồn hơn, v.v.

Câu hỏi đặt ra là tại sao bạn lại muốn mua một chiếc PC mini? Chúng thường chỉ tốt để di chuyển xung quanh, mà chúng kém hơn máy tính xách tay hoặc để gắn vào mặt sau của màn hình.

 

[flyingchair]

Câu hỏi đặt ra là tại sao bạn lại muốn có một chiếc PC mini? Chúng thường chỉ tốt để di chuyển xung quanh, mà chúng còn tệ hơn cả máy tính xách tay hoặc để buộc vào mặt sau của màn hình.

Về cơ bản là vì tôi rất thích hiệu suất tốt, kích thước nhỏ gọn và khả năng sử dụng eGPU khi cần.

Nhưng bạn đã đề cập rằng eGPU này bị giới hạn bởi TB, ngay cả khi điều này không được đề cập trong các video như này.
Tôi cũng đang gặp khó khăn khi nâng cấp máy tính mini (trừ RAM/BỘ NHỚ).
Tôi cũng không cần tính di động, tôi chỉ không muốn một cái máy tính lớn đặt dưới bàn làm việc của mình.

Vì vậy, máy tính SFF có vẻ là lựa chọn phù hợp, như Mini-ITX hoặc Micro-ATX, không biết nên chọn loại nào.

 

[LordVile]

Về cơ bản là vì tôi rất thích hiệu suất tốt, kích thước nhỏ gọn và khả năng sử dụng eGPU khi cần.

Nhưng bạn đã đề cập rằng eGPU này bị giới hạn bởi TB, ngay cả khi điều này không được đề cập trong các video như cái này.
Cũng với một chiếc máy tính mini, tôi đang bị kẹt trong việc nâng cấp (trừ RAM/BỘ NHỚ).
Tôi cũng không cần tính di động, tôi chỉ không muốn một tòa tháp khổng lồ nằm dưới bàn làm việc của mình.

Vì vậy, PC SFF có vẻ là lựa chọn phù hợp, như Mini-ITX hoặc Micro-ATX, không chắc nên chọn loại nào.

Có lẽ vì họ không so sánh nó với 4090 thông thường. Nó cũng chỉ nhanh hơn M4 Pro khoảng 1,5 lần trong video đó, nghe có vẻ không đúng.

Mini ITX là lựa chọn tốt nhất của bạn về kích thước. Tôi sẽ liên kết một vài trường hợp với các triết lý thiết kế khác nhau nhưng vẫn có đủ không gian cho một GPU tốt


Fractal Design Terra

Corsair 2000D