Xin chào mọi người.
Tôi đã khởi nghiệp kinh doanh vào năm ngoái, tạo ra nội dung video AI. Đến nay, doanh nghiệp đã phát triển và nhu cầu về máy chủ GPU mạnh mẽ tăng lên, tuy nhiên, doanh thu vẫn chưa đủ để tôi có thể thuê hoặc mua GPU doanh nghiệp nvidia mạnh mẽ và đắt đỏ để vận hành hoạt động của mình, trong khi sức mạnh GPU lại cần thiết để giảm thời gian xử lý video. Do đó, tôi đã quyết định xây dựng các thiết lập phần cứng dành cho người tiêu dùng và gửi chúng đến dịch vụ lưu trữ chung. Tôi KHÔNG THỂ xử lý GPU đám mây không đáng tin cậy nữa, hiện tại chúng tôi có dịch vụ theo yêu cầu tự động từ paperspace.com, nhưng chúng thường gặp sự cố do thiếu GPU. Thực sự là vô lý ... Và chưa kể, chúng tôi phải trả khoảng 1500-2000 EUR hàng tháng cho họ. Vì các trung tâm dữ liệu có uy tín không thể mua được thẻ dành cho người tiêu dùng (cảm ơn nvidia), nên những khách hàng như tôi buộc phải trả giá cao cho thẻ doanh nghiệp. Tôi có thể sửa lỗi này bằng phần cứng dành cho người tiêu dùng không, có thể là...
Tôi không phải là chuyên gia lắp ráp PC và thực sự đã lắp ráp chiếc máy tính đầu tiên của mình vào năm ngoái để sử dụng tại nhà - mô hình đào tạo 24/7. Không có mục đích sử dụng nào khác, tôi dùng laptop cho mọi việc khác.
Thông số kỹ thuật:
i7 13700KF
4090 Zotac (bảo hành 5 năm)
Vengance 128gb RAM (4 thanh) chạy trên 5200mhz ổn định. 5600 kết quả thỉnh thoảng màn hình xanh.
Asus prime z790-P wifi
deepcool ak620
Crucial 4tb nvme
PSU 1200w
5 quạt hút 140mm, 1 quạt xả
Không nhớ tên vỏ máy, nhưng nếu ai cần thì có thể tìm hiểu.
Bây giờ, gần một năm sau, mọi thứ đều ổn định, không có vấn đề gì, nó hoạt động gần như cả năm mà không nghỉ - chỉ khởi động lại vài lần mỗi tháng. Tôi hiểu một số bộ phận là quá mức cần thiết, như PSU và quạt. Trong quá trình đào tạo, GPU không vượt quá 64c và sau khi giới hạn ở 400w, nó thường thậm chí còn dưới 60c. Điều tôi ghét ở nó là hóa đơn tiền điện. Chiếc PC này mang lại cho tôi thêm 150-200eur/usd mỗi tháng vì bộ phận này ở EU, điện khá đắt. Chưa kể đến nhu cầu sử dụng điều hòa vào mùa hè vì nó làm nóng căn phòng.
Vì vậy, sau khi tính toán, tôi nhận ra rằng việc xây dựng 3 máy chủ GPU dựa trên phần cứng tiêu dùng và gửi chúng đến nơi đặt máy chủ chung thực sự sẽ tự hoàn vốn sau CHỈ 11 tháng - điều này BAO GỒM chi phí phần cứng. Nếu tôi quyết định bán máy chủ sau 1 năm, đó sẽ là khoản lợi nhuận thêm.
Đây là những gì tôi có bây giờ:
Chúng chính xác là gì?
4U Unykach UK4329 19' racks 101 EUR/1
I7 14700KF 325 EUR/1
BeQuiet Dark Rock TF 2 71 EUR/1
MSI pro z790-P wifi 170 EUR/1
Crucial PRO 64GB DDR5 5600mhz 152 EUR/1
Lexar nm790 4tb NVME 209 EUR/1
MSI 4090 SLIM 1537 EUR/1
BEQUIET Pure Power 12 M 850w GOLD 103 EUR/1
Hãy im lặng! Phụ kiện Cáp 12V-2x6/12VHPWR 90° 10EUR/1
2x Noctua NF-F12 iPPC-3000 PWM 120mm 22EUR/1
3x Noctua NF-A8 PWM 80mm 15EUR/1
Thiếu thanh ray!
Tổng giá cho một cái: 2.767 EUR (chưa bao gồm VAT)
Một số giải thích:
Dark Rock TF 2 - có thể tiết kiệm được một ít tiền với cái này, nhưng thật đáng buồn là bộ làm mát CPU tối đa mà hầu hết các vỏ máy 4U có thể sử dụng không thể quá 150mm - đoán xem, hầu hết đều vậy. Không muốn mạo hiểm. TF 2 là 144mm, vừa vặn với khá nhiều không gian trống.
MSI 4090 SLIM - vấn đề tương tự như lần trước, có thể mua các lựa chọn rẻ hơn, nhưng đây là một trong những chiếc 4090 nhỏ nhất hiện có. Thật đáng buồn là tôi không thể có được FE.
Cáp 12V-2x6/12VHPWR 90° - không thể xây dựng 4U với 4090 nếu không có thứ này:
Vẫn còn thiếu PSU, sẽ có hàng hôm nay!
Thật đáng buồn, TÔI KHÔNG THỂ chạy những thứ này ở nhà vì tiếng ồn, nhiệt độ cao và chi phí điện. NHƯNG, không phải tất cả các quốc gia EU đều có giá điện cao, tôi đã tìm thấy trung tâm dữ liệu TIER-3 SLA tại Cộng hòa Séc, nơi tôi có thể gửi máy chủ của mình với giá
149 EUR mỗi tháng, mức giá này bao gồm:
- ĐIỆN dựa trên PSU (850w), nếu là 700w, giá sẽ là 129 EUR.
- Lưu lượng không giới hạn trên băng tần 100 Mbps hoặc 10 TB trên 1 Gbps.
- Hỗ trợ và trợ giúp 24 giờ để thay thế các bộ phận khẩn cấp, phản hồi SLA trong vòng 10 phút.
- 1 địa chỉ IPv4.
- Một kho hàng trong trung tâm dữ liệu để lưu trữ các bộ phận thay thế, công cụ và phụ kiện của bạn.
- Tiếp nhận các đơn hàng chuyển phát nhanh và lưu trữ thiết bị.
- Ảnh ISO vào đĩa/ổ đĩa flash không hạn chế.
- Hệ thống pin UPS, máy phát điện chạy bằng dầu diesel.
- Sửa chữa/Làm việc với giá 50 EUR một giờ.
Bằng cách sử dụng giải pháp này, tôi sẽ có 3 máy chủ 4090 bare metal sẵn sàng để xử lý video với tổng chi phí là 13.000 EUR một năm.
Các máy chủ này thực sự không cần internet nhanh hay nhiều bảo mật, chúng sẽ chỉ giao tiếp với máy chủ ''não'' của tôi, điều này sẽ cung cấp cho chúng công việc. Công việc: Xử lý video này bằng mô hình này và tải kết quả lên bộ nhớ đám mây. Tất cả các tệp mô hình sẽ được đặt trên máy chủ, vì vậy máy chủ sẽ không tải chúng xuống. Tôi thậm chí sẽ không thường xuyên đăng nhập vào chúng. Cả 3 sẽ được đồng bộ hóa.
Tôi chưa bao giờ sử dụng dịch vụ lưu trữ chung trước đây và tôi tự hỏi liệu có ai có lời khuyên nào cho tôi nếu tôi quên hoặc bỏ lỡ điều gì đó với các bản dựng này không? Hoặc tôi nên thêm thứ gì đó?
Mỗi cái đều có 4tb NVME, điều này sẽ tốt trong một thời gian, nhưng nếu tôi cần thêm dung lượng lưu trữ thì sao? Giải pháp thông minh là gì? Hay có lẽ tôi nên cho một vài ổ SSD sata vào bên trong chúng? Chia sẻ tệp mạng Windows có đáng tin cậy không, có lẽ tôi chỉ cần thêm SSD vào một trong số chúng và để 2 ổ còn lại truy cập các tệp? Hoặc có giải pháp thông minh hơn cho việc này không? Tôi hiểu rằng bộ kết hợp của tôi thiếu các làn PCIe, vì vậy việc thêm nvme thứ hai có thể hạn chế tốc độ của ổ đầu tiên. Hoặc có lẽ thông minh nhất là chỉ cần đợi cho đến khi tôi thực sự cần thêm dung lượng lưu trữ và gửi máy chủ NAS 1U đơn giản đến đó?
Tất cả các tệp mô hình của tôi đều được sao lưu trên đám mây, hệ điều hành được cấu hình sẵn với tất cả các thư viện và mã trong ổ đĩa flash. Không có gì quan trọng trên máy chủ nếu tôi mất NVME - chúng chỉ để xử lý.
Cảm ơn bạn đã đọc bài đăng dài của tôi. Tôi luôn lắng nghe các câu hỏi và đề xuất.
Tôi đã khởi nghiệp kinh doanh vào năm ngoái, tạo ra nội dung video AI. Đến nay, doanh nghiệp đã phát triển và nhu cầu về máy chủ GPU mạnh mẽ tăng lên, tuy nhiên, doanh thu vẫn chưa đủ để tôi có thể thuê hoặc mua GPU doanh nghiệp nvidia mạnh mẽ và đắt đỏ để vận hành hoạt động của mình, trong khi sức mạnh GPU lại cần thiết để giảm thời gian xử lý video. Do đó, tôi đã quyết định xây dựng các thiết lập phần cứng dành cho người tiêu dùng và gửi chúng đến dịch vụ lưu trữ chung. Tôi KHÔNG THỂ xử lý GPU đám mây không đáng tin cậy nữa, hiện tại chúng tôi có dịch vụ theo yêu cầu tự động từ paperspace.com, nhưng chúng thường gặp sự cố do thiếu GPU. Thực sự là vô lý ... Và chưa kể, chúng tôi phải trả khoảng 1500-2000 EUR hàng tháng cho họ. Vì các trung tâm dữ liệu có uy tín không thể mua được thẻ dành cho người tiêu dùng (cảm ơn nvidia), nên những khách hàng như tôi buộc phải trả giá cao cho thẻ doanh nghiệp. Tôi có thể sửa lỗi này bằng phần cứng dành cho người tiêu dùng không, có thể là...
Tôi không phải là chuyên gia lắp ráp PC và thực sự đã lắp ráp chiếc máy tính đầu tiên của mình vào năm ngoái để sử dụng tại nhà - mô hình đào tạo 24/7. Không có mục đích sử dụng nào khác, tôi dùng laptop cho mọi việc khác.
Thông số kỹ thuật:
i7 13700KF
4090 Zotac (bảo hành 5 năm)
Vengance 128gb RAM (4 thanh) chạy trên 5200mhz ổn định. 5600 kết quả thỉnh thoảng màn hình xanh.
Asus prime z790-P wifi
deepcool ak620
Crucial 4tb nvme
PSU 1200w
5 quạt hút 140mm, 1 quạt xả
Không nhớ tên vỏ máy, nhưng nếu ai cần thì có thể tìm hiểu.
Bây giờ, gần một năm sau, mọi thứ đều ổn định, không có vấn đề gì, nó hoạt động gần như cả năm mà không nghỉ - chỉ khởi động lại vài lần mỗi tháng. Tôi hiểu một số bộ phận là quá mức cần thiết, như PSU và quạt. Trong quá trình đào tạo, GPU không vượt quá 64c và sau khi giới hạn ở 400w, nó thường thậm chí còn dưới 60c. Điều tôi ghét ở nó là hóa đơn tiền điện. Chiếc PC này mang lại cho tôi thêm 150-200eur/usd mỗi tháng vì bộ phận này ở EU, điện khá đắt. Chưa kể đến nhu cầu sử dụng điều hòa vào mùa hè vì nó làm nóng căn phòng.
Vì vậy, sau khi tính toán, tôi nhận ra rằng việc xây dựng 3 máy chủ GPU dựa trên phần cứng tiêu dùng và gửi chúng đến nơi đặt máy chủ chung thực sự sẽ tự hoàn vốn sau CHỈ 11 tháng - điều này BAO GỒM chi phí phần cứng. Nếu tôi quyết định bán máy chủ sau 1 năm, đó sẽ là khoản lợi nhuận thêm.
Đây là những gì tôi có bây giờ:
Chúng chính xác là gì?
4U Unykach UK4329 19' racks 101 EUR/1
I7 14700KF 325 EUR/1
BeQuiet Dark Rock TF 2 71 EUR/1
MSI pro z790-P wifi 170 EUR/1
Crucial PRO 64GB DDR5 5600mhz 152 EUR/1
Lexar nm790 4tb NVME 209 EUR/1
MSI 4090 SLIM 1537 EUR/1
BEQUIET Pure Power 12 M 850w GOLD 103 EUR/1
Hãy im lặng! Phụ kiện Cáp 12V-2x6/12VHPWR 90° 10EUR/1
2x Noctua NF-F12 iPPC-3000 PWM 120mm 22EUR/1
3x Noctua NF-A8 PWM 80mm 15EUR/1
Thiếu thanh ray!
Tổng giá cho một cái: 2.767 EUR (chưa bao gồm VAT)
Một số giải thích:
Dark Rock TF 2 - có thể tiết kiệm được một ít tiền với cái này, nhưng thật đáng buồn là bộ làm mát CPU tối đa mà hầu hết các vỏ máy 4U có thể sử dụng không thể quá 150mm - đoán xem, hầu hết đều vậy. Không muốn mạo hiểm. TF 2 là 144mm, vừa vặn với khá nhiều không gian trống.
MSI 4090 SLIM - vấn đề tương tự như lần trước, có thể mua các lựa chọn rẻ hơn, nhưng đây là một trong những chiếc 4090 nhỏ nhất hiện có. Thật đáng buồn là tôi không thể có được FE.
Cáp 12V-2x6/12VHPWR 90° - không thể xây dựng 4U với 4090 nếu không có thứ này:
Vẫn còn thiếu PSU, sẽ có hàng hôm nay!
Thật đáng buồn, TÔI KHÔNG THỂ chạy những thứ này ở nhà vì tiếng ồn, nhiệt độ cao và chi phí điện. NHƯNG, không phải tất cả các quốc gia EU đều có giá điện cao, tôi đã tìm thấy trung tâm dữ liệu TIER-3 SLA tại Cộng hòa Séc, nơi tôi có thể gửi máy chủ của mình với giá
149 EUR mỗi tháng, mức giá này bao gồm:
- ĐIỆN dựa trên PSU (850w), nếu là 700w, giá sẽ là 129 EUR.
- Lưu lượng không giới hạn trên băng tần 100 Mbps hoặc 10 TB trên 1 Gbps.
- Hỗ trợ và trợ giúp 24 giờ để thay thế các bộ phận khẩn cấp, phản hồi SLA trong vòng 10 phút.
- 1 địa chỉ IPv4.
- Một kho hàng trong trung tâm dữ liệu để lưu trữ các bộ phận thay thế, công cụ và phụ kiện của bạn.
- Tiếp nhận các đơn hàng chuyển phát nhanh và lưu trữ thiết bị.
- Ảnh ISO vào đĩa/ổ đĩa flash không hạn chế.
- Hệ thống pin UPS, máy phát điện chạy bằng dầu diesel.
- Sửa chữa/Làm việc với giá 50 EUR một giờ.
Bằng cách sử dụng giải pháp này, tôi sẽ có 3 máy chủ 4090 bare metal sẵn sàng để xử lý video với tổng chi phí là 13.000 EUR một năm.
Các máy chủ này thực sự không cần internet nhanh hay nhiều bảo mật, chúng sẽ chỉ giao tiếp với máy chủ ''não'' của tôi, điều này sẽ cung cấp cho chúng công việc. Công việc: Xử lý video này bằng mô hình này và tải kết quả lên bộ nhớ đám mây. Tất cả các tệp mô hình sẽ được đặt trên máy chủ, vì vậy máy chủ sẽ không tải chúng xuống. Tôi thậm chí sẽ không thường xuyên đăng nhập vào chúng. Cả 3 sẽ được đồng bộ hóa.
Tôi chưa bao giờ sử dụng dịch vụ lưu trữ chung trước đây và tôi tự hỏi liệu có ai có lời khuyên nào cho tôi nếu tôi quên hoặc bỏ lỡ điều gì đó với các bản dựng này không? Hoặc tôi nên thêm thứ gì đó?
Mỗi cái đều có 4tb NVME, điều này sẽ tốt trong một thời gian, nhưng nếu tôi cần thêm dung lượng lưu trữ thì sao? Giải pháp thông minh là gì? Hay có lẽ tôi nên cho một vài ổ SSD sata vào bên trong chúng? Chia sẻ tệp mạng Windows có đáng tin cậy không, có lẽ tôi chỉ cần thêm SSD vào một trong số chúng và để 2 ổ còn lại truy cập các tệp? Hoặc có giải pháp thông minh hơn cho việc này không? Tôi hiểu rằng bộ kết hợp của tôi thiếu các làn PCIe, vì vậy việc thêm nvme thứ hai có thể hạn chế tốc độ của ổ đầu tiên. Hoặc có lẽ thông minh nhất là chỉ cần đợi cho đến khi tôi thực sự cần thêm dung lượng lưu trữ và gửi máy chủ NAS 1U đơn giản đến đó?
Tất cả các tệp mô hình của tôi đều được sao lưu trên đám mây, hệ điều hành được cấu hình sẵn với tất cả các thư viện và mã trong ổ đĩa flash. Không có gì quan trọng trên máy chủ nếu tôi mất NVME - chúng chỉ để xử lý.
Cảm ơn bạn đã đọc bài đăng dài của tôi. Tôi luôn lắng nghe các câu hỏi và đề xuất.
