Xin chào mọi người.
Máy chủ GPU có giá quá đắt và vượt quá ngân sách của tôi. Tuy nhiên, tôi rất muốn triển khai Llama LLM tại địa phương. Vì vậy, tôi phải đưa ra một giải pháp thay thế.
Tôi đã thiết kế một bo mạch mở rộng GPU với PCIe 4.0. Khoảng cách giữa 2 khe cắm là 80mm, có thể lắp vừa hai GPU 3 khe cắm. Bên cạnh đó, trên bo mạch còn có hai tay cầm
Có 4 giao diện SFF-8654 8I trên bo mạch PCB để truyền tín hiệu PCIE và mỗi giao diện có thể cung cấp PCIE x8. Bo mạch PCB được cấp nguồn bởi giao diện cấp nguồn GPU 8 chân.
Vì sản phẩm này sẽ không được tiếp thị nên tôi có thể tiết lộ chi phí: 11 đô la cho giá đỡ bằng thép GPU và khoảng 13,2 đô la cho PCB.
Tôi có thể dễ dàng mở rộng các card GPU trên kệ của mình. Bạn nghĩ sao?
Máy chủ GPU có giá quá đắt và vượt quá ngân sách của tôi. Tuy nhiên, tôi rất muốn triển khai Llama LLM tại địa phương. Vì vậy, tôi phải đưa ra một giải pháp thay thế.
Tôi đã thiết kế một bo mạch mở rộng GPU với PCIe 4.0. Khoảng cách giữa 2 khe cắm là 80mm, có thể lắp vừa hai GPU 3 khe cắm. Bên cạnh đó, trên bo mạch còn có hai tay cầm
Có 4 giao diện SFF-8654 8I trên bo mạch PCB để truyền tín hiệu PCIE và mỗi giao diện có thể cung cấp PCIE x8. Bo mạch PCB được cấp nguồn bởi giao diện cấp nguồn GPU 8 chân.
Vì sản phẩm này sẽ không được tiếp thị nên tôi có thể tiết lộ chi phí: 11 đô la cho giá đỡ bằng thép GPU và khoảng 13,2 đô la cho PCB.
Tôi có thể dễ dàng mở rộng các card GPU trên kệ của mình. Bạn nghĩ sao?