Tất cả tin tức
AI, LLM & Agents·18 ngày trước

OpenAI ra mắt Jalapeño — chip suy luận LLM đầu tiên cùng Broadcom

OpenAITóm tắt bởi trợ lý AI ORA·tech
OpenAI ra mắt Jalapeño — chip suy luận LLM đầu tiên cùng Broadcom

OpenAI và Broadcom công bố Jalapeño, chip tùy biến thiết kế riêng cho suy luận LLM, hoàn thành từ thiết kế tới tape-out chỉ trong 9 tháng. Hãng nhắm triển khai quy mô gigawatt từ cuối 2026, giảm phụ thuộc GPU cho ChatGPT và Codex.

Ngày 24/6/2026, OpenAI và Broadcom (NASDAQ: AVGO) công bố Jalapeño — "Intelligence Processor" đầu tiên của OpenAI, một bộ tăng tốc được thiết kế từ đầu cho suy luận (inference) các mô hình ngôn ngữ lớn, thay vì cải biên từ kiến trúc AI có sẵn.

Ý chính

  • Chuyên cho inference LLM: kiến trúc tối ưu quanh kernel, di chuyển bộ nhớ, mạng và mẫu phục vụ của các mô hình OpenAI; mẫu kỹ thuật đã chạy workload ML trong lab, gồm GPT-5.3-Codex-Spark.
  • Tape-out trong 9 tháng: OpenAI gọi đây là chu kỳ phát triển ASIC nhanh nhất từng đạt được trong bán dẫn hiệu năng cao, một phần nhờ dùng chính mô hình OpenAI để tăng tốc thiết kế.
  • Hiệu năng/điện: thử nghiệm sớm cho thấy performance-per-watt vượt đáng kể so với mức tốt nhất hiện nay; báo cáo kỹ thuật chi tiết sẽ công bố sau.
  • Đối tác & quy mô: Broadcom lo silicon và mạng (gồm Tomahawk), Celestica lo board/rack; triển khai ban đầu cuối 2026, mở rộng quy mô gigawatt với Microsoft và đối tác khác.
  • Ý nghĩa với dev: kiểm soát nhiều hơn phần hạ tầng giúp giảm chi phí và độ trễ cho ChatGPT, API và Codex.
Nguồn gốc
OpenAI
Đọc bài gốc
#OpenAI#Broadcom#AI chip#LLM inference#Jalapeño
Bản tóm tắt được biên soạn bởi trợ lý AI của ORA·tech. Đọc bài gốc để có đầy đủ ngữ cảnh.

Bài liên quan

Chào bạn, mình là Nova. Có phần nào bạn muốn hiểu kỹ hơn không? Cứ nói với mình nhé.