1 - CPU (BỘ XỬ LÝ TRUNG TÂM)
Trong khoa học dữ liệu, có một lượng lớn nỗ lực với việc di chuyển và chuyển đổi các tập dữ liệu lớn. CPU, với khả năng truy cập vào lượng bộ nhớ lớn, có thể thống trị các quy trình công việc trái ngược với tính toán GPU trong ML/DL. Song song đa nhân sẽ phụ thuộc vào tác vụ.
CPU nào là tốt nhất để tạo hình ảnh và video bằng AI?
Nhóm của chúng tôi đã thử nghiệm các mô hình AI trên nhiều loại CPU mới nhất hiện nay, bao gồm Intel Core 14600K, 14700K và 14900K, cùng với Xeon W-3495X của họ, cũng như Ryzen 7 7700X và Threadripper PRO 7985WX của AMD – và chúng tôi rút ra kết luận là CPU không ảnh hưởng đến tốc độ tạo hình ảnh. Tất cả các CPU này đều có khả năng hỗ trợ card màn hình đời mới bây giờ, và GPU là nơi xử lý những công việc này chứ không phải là CPU. Nếu bạn muốn chạy nhiều mô hình cùng lúc, thì một CPU có nhiều lane PCI-Express hơn như Threadripper hoặc Xeon sẽ rất tốt vì nó có thể support bạn gắn nhiều GPU.
Liệu nhiều nhân thực CPU hơn có làm cho quy trình làm việc AI tạo ra diễn ra nhanh hơn không?
Nói một cách ngắn gọn: KHÔNG. Phần lớn các ứng dụng AI đều được thực hiện trên card đồ họa (GPU) thay vì CPU.
Trí tuệ nhân tạo (AI) tạo ra hoạt động tốt hơn với CPU Intel hay AMD?
Đối với hầu hết các ứng dụng AI tạo ra ở cấp độ phổ thông, thương hiệu CPU không quan trọng. Tuy nhiên, tối ưu hóa phần mềm trong các ứng dụng thích hợp có thể khiến chúng phù hợp hơn với Intel hoặc AMD. Hầu hết người dùng sẽ biết liệu chương trình của họ có tối ưu hóa như vậy hay không.
2 - GPU (CARD ĐỒ HỌA)
GPU là xương sống của phần lớn khối lượng công việc AI tạo ra, bất kể loại đầu ra nào: hình ảnh, video, giọng nói hoặc văn bản. Hầu hết các project đều dựa trên CUDA (NVIDIA), nhưng rất nhiều dự án cũng hỗ trợ ROCm (AMD).
Loại GPU (card màn hình) nào là tốt nhất cho generative AI?
Các yếu tố quan trọng nhất khi chọn GPU cho AI là:
- Tổng bộ nhớ (VRAM)
- Băng thông bộ nhớ
- Chiều rộng giao diện (bit) x tốc độ xung nhịp (MHz)
- Floating Point Calculations (FP16 là phù hợp nhất)
- NVIDIA – Số lượng nhân Tensor & Thế hệ nhân Tensor (Mới nhất: thế hệ thứ 4)
- AMD – Compute Unit Count
Loại card màn hình nào được khuyến nghị cho generative AI?
Khuyến nghị hàng đầu của chúng tôi hiện tại là GeForce RTX 4080 Super của NVIDIA với bộ nhớ 16GB và RTX 4090 với 24GB. Nếu Project của bạn cần nhiều VRAM hơn, hãy nâng cấp lên RTX 5000 Ada với 32GB hoặc RTX 6000 Ada với 48GB là lựa chọn tuyệt vời, nhưng sẽ tốn kém kinh phí hơn nhiều.
Trí tuệ nhân tạo tạo hình cần bao nhiêu VRAM (bộ nhớ video)?
Điều này phụ thuộc vào models bạn đang sử dụng, nhưng đây là biểu đồ có thể giúp bạn tham khảo để có thêm 1 cách nhìn:
CẤU HÌNH PC ĐỒ HỌA TỐI ƯU CHO STABLE DIFFUSION
PC Đồ Họa PCAI RT-79X02 – AMD Ryzen Threadripper 7980X/ RTX 5080 16GB/ RAM 128GB D5 ECC
Còn Hàng
