Hỏi / Đáp Có đáng để nâng cấp GPU của tôi lên loại có nhiều vRAM hơn không?

[Donkey Shot]

Đang nghĩ đến việc nâng cấp RTX 2070 8gb của mình lên RTX 5060 Ti 16GB mới (459€) hoặc RTX 3090 24GB đã qua sử dụng (khoảng 700-800€ ở quốc gia của tôi). Trọng tâm chính của tôi là chạy các mô hình AI cục bộ, chơi game không phải là ưu tiên hàng đầu.

5060 Ti có băng thông bộ nhớ là 448 GB/giây, giống như 2070 hiện tại của tôi. 5060 Ti có hoạt động trơn tru với phần cứng hiện tại của tôi không hay có bất kỳ vấn đề tương thích nào mà tôi nên mong đợi không? Có tin đồn về 5080 với vram 24gb, điều đó có đáng để cân nhắc không? Băng thông của 5080, 960 GB/giây và 3090, 936 GB/giây là gần bằng nhau. Theo những gì tôi đọc được, hiệu suất của 3090 không bị giảm nhiều trên hệ thống PCIe 3.0, vậy nên tôi cho rằng điều tương tự cũng sẽ xảy ra với 5080? Tuổi thọ của GPU đã qua sử dụng là bao lâu nếu chúng được bảo quản trong tình trạng tốt?

Tôi chỉ đang cố gắng tìm ra tùy chọn nào mang lại giá trị tốt nhất cho trường hợp sử dụng của tôi.

Thông số kỹ thuật hệ thống của tôi:

Bo mạch chủ Intel Gigabyte Z390 M GamingCPU
Noctua Cooler NH-D15
Bộ xử lý Intel Core i9 9900K
RAM Corsair DDR4 Vengeance LPX 4x16GB 3000 C15
Ổ cứng SSD Samsung 860 EVO 500GB
Ổ cứng SSD Samsung 970 EVO 1TB
Ổ cứng HDD WD 3,5" 4TB S-ATA3 64MB WD40EZRZ Blue
Gigabyte GeForce RTX 2070 WINDFORCE 8G
Bộ nguồn Corsair RM750x 750W
Thiết kế Fractal Define Mini C

Cảm ơn!

 

[geofelt]

Phần mềm ai của bạn có phụ thuộc vào vram về chức năng hoặc hiệu suất không?

 

[Donkey Shot]

Đó là một loạt các ứng dụng. Hiện tại, tôi chủ yếu sử dụng ComfyUI với Flux dev và schnell, nhưng tôi cũng quan tâm đến việc thử nghiệm một số trình tạo video ai nguồn mở. Tôi cũng đang chạy một số LLM, Gemma 3, DeepSeek và các trình khác. Chủ yếu là các phiên bản thu nhỏ hoặc lượng tử hóa. Nhìn chung, tôi đang sử dụng những gì phù hợp với 8 GB VRAM của mình.

 

[monticelli]

Tôi cũng đang chạy một số LLM, Gemma 3, DeepSeek và các phiên bản khác. Chủ yếu là các phiên bản thu nhỏ hoặc lượng tử hóa. Nhìn chung, Tôi đang sử dụng những gì phù hợp với 8 GB VRAM của mình.Điều này. Khi thử LLM tại nhà, kích thước VRAM là hạn chế lớn nhất. Trên cơ sở này, về mặt lý thuyết, người ta nên chọn 3090. Với 24 GB, bạn có thể sử dụng một số LLM để thực hiện các cú đánh bóng về nhà. Có lẽ nó cung cấp hiệu suất suy luận trong cùng phạm vi hoặc tốt hơn một chút so với 5070 Ti, xét về số token/giây.
Mặt khác, nó ngốn nhiều điện năng hơn, hỗ trợ các phiên bản Cuda cũ hơn và tất nhiên, là thiết bị đã qua sử dụng so với thiết bị hoàn toàn mới.

Khi nói đến AI để tạo hình ảnh và video, có thể áp dụng các cân nhắc khác nhau và 5070 Ti có thể hợp lý hơn. Bạn hiểu rõ bối cảnh đó hơn tôi.

 

[Donkey Shot]

Cảm ơn vì đã cho tôi biết thêm thông tin! Bạn nghĩ gì về GPU đã qua sử dụng và chúng có thể tồn tại được bao lâu nếu bạn mua một chiếc còn tốt? Tôi có thể mua một chiếc 3090 đã khoảng 4,5 năm tuổi và được làm mát bằng nước với bykski FE.

 

[monticelli]

Ờ, thật không may là tôi không có kinh nghiệm về điều đó. Tôi đoán rằng thẻ đã qua sử dụng có thể đến từ một game thủ chứ không phải người dùng AI. Tôi tin rằng một số quý ông ở đây có thể cung cấp một gợi ý về điều đó.