Chip Jalapeño của OpenAI được thiết kế cho suy luận nhanh ở quy mô lớn

OpenAI vừa tiết lộ chip Jalapeño — bộ vi xử lý được thiết kế đặc biệt cho suy luận AI nhanh ở quy mô lớn. Các kết quả benchmark độc lập cho thấy hiệu suất vượt trội so với công nghệ hiện có, đánh dấu bước tiến quan trọng trong cuộc đua phần cứng AI.

Benchmark độc lập xác nhận hiệu suất

Trong bài kiểm tra InferenceX của SemiAnalysis — một trong những cơ quan đánh giá phần cứng AI được giới công nghiệp tin dùng nhất — chip Jalapeño ghi nhận cả số token trên mỗi người dùng lẫn thông lượng trên mỗi kilowatt đều cao hơn so với các giải pháp tiên tiến hiện tại. Hiệu quả năng lượng (token/kW) là chỉ số then chốt, vì chi phí điện đang trở thành một trong những khoản chi lớn nhất của các trung tâm dữ liệu AI.

Vì sao OpenAI tự làm chip?

Việc OpenAI tự phát triển chip riêng cho thấy xu hướng các công ty AI lớn đang giảm sự phụ thuộc vào nhà cung cấp phần cứng bên thứ ba. Khi nhu cầu suy luận tăng theo cấp số nhân, việc kiểm soát phần cứng cho phép tối ưu hóa mô hình và phần cứng cùng lúc — một lợi thế mà việc mua chip thương mại không mang lại.

Ý nghĩa cho thị trường chip AI

Sự xuất hiện của chip Jalapeño đặt thêm áp lực lên các nhà cung cấp chip AI hiện tại, vốn đang cạnh tranh khốc liệt để giành các hợp đồng trung tâm dữ liệu khổng lồ. Nếu chip của OpenAI chứng minh được hiệu quả trong vận hành thực tế, nó có thể định hình lại cán cân quyền lực trong chuỗi cung ứng phần cứng AI.