Máy tính AI biên (edge AI computer) là máy tính công nghiệp có bộ tăng tốc suy luận như GPU, VPU hoặc NPU, đặt ngay tại nhà máy, cửa hàng, cổng hoặc trên xe để chạy mô hình AI mà không cần gửi dữ liệu lên máy chủ. Phần lớn thiết bị loại này chạy được cả Windows 10 IoT Enterprise và Linux, nhưng hai hệ điều hành khác nhau về driver, bộ công cụ suy luận, giấy phép và cách bảo trì, nên chọn sai sẽ tốn công làm lại phần mềm. Bài viết so sánh hai lựa chọn, nêu yêu cầu kỹ thuật của máy tính AI biên và lấy Advantech EI-A100, AIR-300, AAEON BOXER-8120AI làm ví dụ.
1. Máy tính AI biên là gì và vì sao hệ điều hành quan trọng
Trong điện toán biên, máy tính AI biên nhận luồng video hoặc dữ liệu cảm biến, chạy mô hình đã huấn luyện (suy luận) và trả kết quả trong vài chục mili giây: đếm người, đọc biển số, phát hiện lỗi sản phẩm, nhận diện khuôn mặt. Khác với máy chủ AI dùng để huấn luyện trong phòng máy, máy tính AI biên không quạt hoặc ít quạt, nguồn DC, chịu nhiệt và rung, lắp trong tủ điện hoặc sau màn hình.
Hệ điều hành quyết định ba việc: driver cho bộ tăng tốc có sẵn hay không, bộ công cụ suy luận (OpenVINO, TensorRT, ONNX Runtime) chạy trên đó thế nào, và ai bảo trì máy trong 5–10 năm. Ví dụ nền tảng NVIDIA Jetson chỉ có JetPack trên Linux; ngược lại, nhiều phần mềm bán lẻ, biển hiệu kỹ thuật số và SCADA chỉ có bản Windows. Vì vậy phải chọn hệ điều hành cùng lúc với chọn phần cứng.
2. Yêu cầu kỹ thuật của máy tính AI biên
Bộ tăng tốc AI tỏa nhiệt nhiều hơn CPU thông thường, nên yêu cầu tản nhiệt và nguồn khắt khe hơn máy tính công nghiệp cùng cỡ. Bảng dưới gom tiêu chí cần chốt trước khi chọn model:
| Tiêu chí | Yêu cầu thường gặp | Vì sao cần |
|---|---|---|
| Bộ tăng tốc suy luận | VPU Intel Movidius Myriad X cho 2–4 luồng camera; GPU NVIDIA rời hoặc module MXM cho 8 luồng trở lên; Jetson cho thiết bị nhỏ, ít điện | Quyết định số luồng video xử lý được và độ trễ; kéo theo hệ điều hành và bộ công cụ |
| Dải nhiệt làm việc | 0–50 °C trong nhà; -20 đến 60 °C trong tủ điện, trên xe | GPU giảm xung khi nóng, độ trễ suy luận tăng bất thường |
| Làm mát | Không quạt với VPU và GPU nhỏ; có quạt lọc bụi với GPU trên 75 W | Quạt là bộ phận hỏng đầu tiên trong môi trường bụi |
| Nguồn | 12–24 VDC hoặc 9–36 VDC dải rộng; adapter 19 V cho thiết bị đặt sau màn hình | GPU kéo dòng đột ngột khi tải; nguồn yếu làm khởi động lại giữa chừng |
| Cổng nối | 2–4 LAN GbE, tùy chọn PoE cho camera; COM RS-232/485 nối PLC, cân; DIO điều khiển đèn, cơ cấu loại | Camera IP cần băng thông riêng; kết quả AI phải tác động ra thiết bị chấp hành |
| Hiển thị | 1–4 ngõ HDMI/DisplayPort 4K nếu dùng cho biển hiệu, bảng điều khiển | Ứng dụng bán lẻ và quảng cáo tương tác cần nhiều màn hình độc lập |
| Bảo mật | TPM 2.0, khóa BIOS, mã hóa ổ đĩa | Mô hình và dữ liệu khuôn mặt, biển số nằm trên máy ở nơi công cộng |
| Lưu trữ, bộ nhớ | SSD công nghiệp 64 GB trở lên, RAM 8–32 GB tùy mô hình | Mô hình lớn và ảnh chứng cứ chiếm dung lượng nhanh |
| Chứng chỉ | CE, FCC; UL, CB cho thiết bị nơi công cộng; E-Mark nếu lắp trên xe | Nghiệm thu, xuất khẩu và bảo hiểm |
3. So sánh Windows 10 IoT Enterprise và Linux trên máy tính AI biên
Bảng dưới so sánh hai hệ điều hành ở các điểm ảnh hưởng trực tiếp đến dự án AI biên. Windows ở đây là Windows 10 IoT Enterprise LTSC, phiên bản Microsoft dành cho thiết bị chuyên dụng với chu kỳ hỗ trợ dài, xem vòng đời hỗ trợ của Microsoft. Linux là Ubuntu LTS hoặc bản Yocto do hãng máy tính xây riêng cho model.
| Tiêu chí | Windows 10 IoT Enterprise LTSC | Linux (Ubuntu LTS, Yocto) |
|---|---|---|
| Driver GPU NVIDIA rời | Có, driver và CUDA đầy đủ | Có, driver và CUDA đầy đủ; cần khớp phiên bản kernel |
| NVIDIA Jetson (TX2, Xavier, Orin) | Không hỗ trợ | Bắt buộc, qua JetPack |
| VPU Intel Movidius, GPU tích hợp Intel | Có, qua OpenVINO | Có, qua OpenVINO; bản Yocto của hãng cài sẵn |
| Bộ công cụ suy luận | OpenVINO, TensorRT, ONNX Runtime, DirectML | OpenVINO, TensorRT, ONNX Runtime, container Docker |
| Phần mềm ứng dụng có sẵn | Biển hiệu kỹ thuật số, POS, SCADA, phần mềm thị giác thương mại phần lớn chỉ có bản Windows | Phần mềm tự phát triển, ROS cho robot, dịch vụ chạy nền, ứng dụng web |
| Giấy phép | Trả phí theo thiết bị, kèm máy khi mua | Miễn phí; trả phí nếu mua hỗ trợ thương mại |
| Cập nhật, khóa máy | LTSC không cập nhật tính năng trong 10 năm; UWF, Shell Launcher khóa máy thành ki-ốt | Tự chọn thời điểm cập nhật; ảnh hệ thống chỉ đọc, cập nhật OTA qua container |
| Quản trị từ xa | Công cụ quen thuộc với bộ phận IT doanh nghiệp; WISE-DeviceOn của Advantech hỗ trợ | SSH, Ansible, nền tảng container; WISE-DeviceOn có bản Linux |
| Kỹ năng đội triển khai | Kỹ thuật viên IT thông thường quản trị được | Cần người quen dòng lệnh Linux và đóng gói phần mềm |
| Phù hợp nhất | Bán lẻ, biển hiệu tương tác, ki-ốt, tích hợp với SCADA và phần mềm Windows sẵn có | Robot, AGV, camera thông minh, thiết bị số lượng lớn cần tối ưu chi phí giấy phép, nền tảng Jetson |
Cách chọn theo ba câu hỏi, trả lời theo thứ tự:
- Phần cứng tăng tốc là gì? Jetson thì Linux, không cần bàn thêm. Intel VPU hoặc GPU NVIDIA rời thì cả hai đều được, sang câu 2.
- Phần mềm nghiệp vụ chạy trên nền nào? Nếu phải ghép với phần mềm biển hiệu, POS, SCADA chỉ có bản Windows, chọn Windows 10 IoT Enterprise LTSC. Nếu đội phát triển tự viết ứng dụng và đóng gói bằng container, chọn Linux.
- Ai bảo trì máy trong 5–10 năm? Bộ phận IT doanh nghiệp quen Windows; nhà tích hợp có đội Linux quản trị hàng trăm thiết bị bằng script thì Linux tiết kiệm giấy phép hơn.
4. Thiết bị AI biên đang phân phối và ứng dụng
Ba model dưới đây có trong danh mục máy tính nhúng của IPC247, mỗi model đại diện cho một lớp phần cứng và một hệ điều hành phù hợp:
| Model | Bộ xử lý và tăng tốc | Cổng chính | Hệ điều hành | Ứng dụng |
|---|---|---|---|---|
| Advantech EI-A100-S61A1 | Atom x7-E3950, VPU Movidius Myriad X MA2485, GPU GeForce GT 1030; 4 GB DDR3L, SSD 64 GB; không quạt, nguồn 19 V | 4 HDMI (2 x 2.0, 2 x 1.4), 1 LAN, 1 COM, 2 USB 3.0, Mini PCIe kèm khay SIM, TPM 2.0 | Windows 10 cài sẵn; Linux theo dự án | Biển hiệu 4K nhiều màn hình có AI đếm người, nhận diện khuôn mặt ở cửa hàng, sảnh, sân vận động; kiểm tra AOI mức nhẹ |
| Advantech AIR-300-00A1 | Xeon E3-1235L v5 hoặc Core i7-7700, i5-7500, i3-7101E; chipset C236; DDR4 tới 32 GB; khe PCIe x16 cho card GPU tới 260 W; nguồn AC, 0–50 °C | 4 LAN GbE, 4 COM RS-232/422/485, 8 USB 3.0, 2 mSATA, 2 khay SSD 2,5 inch | Windows hoặc Linux | AOI robot, phân tích ảnh y tế, nhà máy, kho AGV cần CPU mạnh và nhiều cổng nối PLC |
| AAEON BOXER-8120AI | NVIDIA Jetson TX2; không quạt, nguồn 12–24 VDC | 2 LAN GbE cho 4 camera IP, 4 USB 2.0, 4 RS-232, khay 2,5 inch, công tắc khởi động từ xa | Linux (JetPack) | Giám sát thông minh, bãi đỗ xe, cửa hàng tự phục vụ, bộ điều khiển robot và drone |
Ví dụ 1: biển hiệu tương tác tại chuỗi cửa hàng. Bài toán: màn hình quảng cáo 4K ở lối vào cần đếm người xem, ước lượng độ tuổi để đổi nội dung, phần mềm quản lý nội dung chỉ có bản Windows. Thiết bị: EI-A100 gắn sau màn hình, chạy Windows 10 cài sẵn, mô hình chạy trên VPU qua OpenVINO, 4 ngõ HDMI cho 4 màn hình. Kết quả kỳ vọng: một máy không quạt điều khiển 4 màn hình, phân tích tại chỗ không gửi ảnh khách hàng lên mạng, bộ phận IT quản trị như máy Windows thông thường.
Ví dụ 2: kiểm tra ngoại quan bằng camera trên chuyền lắp ráp. Bài toán: 6 camera công nghiệp chụp sản phẩm ở tốc độ chuyền, mô hình phát hiện lỗi cần độ trễ thấp và phải nối PLC để loại sản phẩm lỗi. Thiết bị: AIR-300 với Core i7, card GPU cắm khe PCIe x16, cổng COM nối PLC, chạy Ubuntu LTS với ứng dụng đóng gói container. Kết quả kỳ vọng: xử lý đủ số camera, cập nhật mô hình mới bằng cách thay container, không tốn giấy phép cho nhiều trạm. Nguyên lý xem thêm ở bài thị giác máy tính.
Ví dụ 3: camera thông minh tại bãi đỗ xe. Bài toán: 4 camera IP ở bãi xe ngoài trời cần nhận diện biển số và chỗ trống, tủ điện nhỏ, nguồn 24 VDC. Thiết bị: BOXER-8120AI chạy JetPack, 2 LAN nối camera qua switch PoE, RS-232 nối bảng LED. Kết quả kỳ vọng: xử lý 4 luồng tại chỗ với mức tiêu thụ điện thấp, không quạt, chỉ gửi kết quả về máy chủ.
Chọn thiết bị cho máy tính AI biên
IPC247 phân phối máy tính AI biên của Advantech, AAEON và Cincoze, giao kèm hệ điều hành và driver đã kiểm tra. Với biển hiệu và bán lẻ, hệ thống suy luận Edge AI Advantech EI-A100-S61A1 cài sẵn Windows 10, có VPU Movidius, GPU GT 1030 và 4 ngõ HDMI. Với nhà máy cần CPU mạnh và nhiều cổng nối, máy tính nhúng Advantech AIR-300-00A1 dùng Xeon hoặc Core i thế hệ 6–7, có khe PCIe x16 cho card GPU, 4 LAN, 4 COM, 8 USB 3.0. Với thiết bị nhỏ chạy Linux, máy tính không quạt AAEON BOXER-8120AI dùng Jetson TX2, nguồn 12–24 VDC. Khi cần GPU rời cỡ lớn trong vỏ chắc chắn, Cincoze GM-1000 hỗ trợ Xeon hoặc Core thế hệ 8–9 và module GPU MXM 3.1.
Để lọc model theo dải nhiệt, nguồn, số cổng LAN, COM và DIO, dùng công cụ chọn máy theo điều kiện lắp đặt. Khi gửi yêu cầu, kèm số luồng camera, mô hình dự kiến, phần mềm nghiệp vụ và hệ điều hành đội triển khai quen dùng để IPC247 đề xuất cấu hình và cho mượn máy mẫu chạy thử mô hình.
Câu hỏi thường gặp về máy tính AI biên
Windows 10 IoT Enterprise LTSC khác Windows 10 Pro ở điểm nào?
LTSC (Long-Term Servicing Channel) chỉ nhận bản vá bảo mật trong 10 năm, không nhận cập nhật tính năng nửa năm một lần như bản Pro, nên cấu hình máy giữ nguyên suốt vòng đời dự án. Bản IoT Enterprise còn có công cụ khóa máy: bộ lọc ghi UWF, Shell Launcher chạy một ứng dụng duy nhất, bộ lọc bàn phím. Giấy phép bán theo thiết bị qua nhà sản xuất máy tính công nghiệp.
Mô hình huấn luyện trên Linux có chạy được trên máy Windows không?
Được, vì mô hình là tệp trọng số độc lập với hệ điều hành. Với chip Intel, chuyển mô hình sang định dạng OpenVINO IR rồi chạy bằng runtime OpenVINO trên cả Windows và Linux. Với GPU NVIDIA, dùng TensorRT hoặc ONNX Runtime có bản cho cả hai. Riêng nền tảng NVIDIA Jetson chỉ có JetPack trên Linux.
Máy tính AI biên có cần GPU rời không?
Tùy khối lượng suy luận. Nhận diện vài luồng camera 1080p với mô hình nhẹ chạy được trên VPU Intel Movidius hoặc GPU tích hợp. Trên 8 luồng, mô hình lớn hoặc cần độ trễ dưới 20 ms thì cần GPU rời qua khe MXM hoặc PCIe, kèm nguồn và tản nhiệt tương ứng. Nên đo thử trên máy mẫu với mô hình thật trước khi chốt cấu hình.
IPC247 có cài sẵn hệ điều hành và driver AI không?
IPC247 giao máy với hệ điều hành theo yêu cầu: Windows 10 IoT Enterprise LTSC có bản quyền OEM, hoặc Ubuntu LTS cài driver GPU và bộ công cụ suy luận tương ứng với phần cứng. Khách hàng nhận máy đã kiểm tra chạy được mô hình mẫu, chỉ cần đưa mô hình và phần mềm của mình lên.