Hynix đã công bố lộ trình CPO của mình trên một tạp chí hàng đầu: không chỉ "sử dụng ánh sáng giữa các thiết bị tính toán", mà còn mở rộng ứng dụng ánh sáng đến các giao diện bộ nhớ.

SK Hynix, hợp tác với Đại học Virginia và các tổ chức khác, đã công bố một bài báo về lộ trình công nghệ CPO (Computational Processing Point) trên tạp chí *Nature Electronics*. Bài báo chỉ ra rằng trong khi sức mạnh tính toán tăng gấp ba lần sau mỗi hai năm, băng thông kết nối chỉ tăng gấp 1,4 lần, khiến "rào cản băng thông" trở thành nút thắt cổ chai cốt lõi cho sự mở rộng của AI. Công nghệ CPO được liệt kê là một bước đột phá quan trọng, với tầm nhìn xa hơn là mở rộng CPO sang các giao diện bộ nhớ, cho phép nhiều bộ tăng tốc AI chia sẻ cùng một vùng nhớ và cải thiện hiệu quả sử dụng bộ nhớ.

Ngày 20 tháng 8, các nhà nghiên cứu từ SK Hynix, Đại học Virginia và các tổ chức khác đã cùng nhau công bố một bài báo trên tạp chí khoa học hàng đầu * Nature Electronics *, trình bày một cách có hệ thống lộ trình phát triển công nghệ quang học đóng gói đồng thời (CPO) trong điện toán hiệu năng cao và trí tuệ nhân tạo. Đây là lần đầu tiên SK Hynix công khai tiết lộ bản thiết kế kỹ thuật kiến trúc kết nối AI của mình trên một tạp chí danh tiếng như vậy.

Bài báo lập luận rằng trong khi HBM đã giải quyết được nút thắt cổ chai về bộ nhớ bên trong các chip, thì khi các cụm AI mở rộng lên đến hàng nghìn GPU, việc truyền dữ liệu giữa các giá đỡ đã trở thành một hạn chế mới - "bức tường băng thông". CPO được coi là một hướng đi quan trọng để vượt qua nút thắt cổ chai này.

Tầm nhìn dài hạn của bài báo là mở rộng hơn nữa các kết nối quang học đến các giao diện bộ nhớ. Các giải pháp hiện có chủ yếu tập trung vào truyền dữ liệu giữa các bộ xử lý và các giá đỡ. Tuy nhiên, kiến trúc "tập trung vào quang học" được đề xuất kết nối trực tiếp nhóm tài nguyên bộ xử lý (nhóm XPU) với nhóm tài nguyên bộ nhớ thông qua một bộ trung gian quang học. Điều này cho phép nhiều bộ tăng tốc AI chia sẻ một lượng lớn bộ nhớ, khắc phục những hạn chế của các ràng buộc vật lý hiện tại về bao bì.

Các tác giả chính của bài báo là Seunghoon Hong, trưởng nhóm cơ sở hạ tầng AI tại SK Hynix, và Kyusang Lee, giáo sư tại Khoa Kỹ thuật Điện và Máy tính thuộc Đại học Virginia. Các tổ chức tham gia khác bao gồm Đại học Illinois tại Urbana-Champaign (UIUC), Đại học Công nghệ Nanyang (NTU), Viện Công nghệ Massachusetts (MIT) và Đại học Yonsei.

Sáng nay, cổ phiếu SK Hynix tăng vọt hơn 11% sau tin tức về kế hoạch mua lại cổ phiếu và phát hành giấy chứng nhận dầu cọ thô (CPO). Các cổ phiếu trong nước thuộc lĩnh vực CPO cũng chứng kiến mức tăng mạnh, với Taicheng Optoelectronics tăng hơn 12%, Zhongjing Electronics trước đó đã chạm trần tăng giá trong ngày, và Tianzhun Technology, Shijia Photonics, Dekel, và Liante Technology đều tăng hơn 6%.

Rào cản băng thông: Sức mạnh tính toán càng lớn, điểm nghẽn càng rõ rệt.

Việc huấn luyện các mô hình AI không còn giới hạn ở một chip hoặc máy chủ duy nhất, mà diễn ra trên các mạng lưới quy mô lớn bao gồm các giá đỡ và cụm máy chủ. Trong kiến trúc này, hiệu suất tổng thể của hệ thống không chỉ phụ thuộc vào hiệu quả kết nối giữa bộ xử lý và bộ nhớ, mà còn phụ thuộc rất nhiều vào tốc độ truyền dữ liệu giữa các giá đỡ.

Dữ liệu cho thấy sức mạnh tính toán tăng khoảng ba lần sau mỗi hai năm, trong khi băng thông kết nối chỉ tăng khoảng 1,4 lần trong cùng thời kỳ.

Khoảng cách này chính là nguồn gốc của "rào cản băng thông". Các kết nối điện bằng dây đồng truyền thống vẫn có lợi thế về chi phí trên khoảng cách ngắn, nhưng khi tốc độ và khoảng cách truyền tải tăng lên, tổn thất tín hiệu và mức tiêu thụ điện năng tăng mạnh, đòi hỏi các mạch bù ngày càng phức tạp, và độ trễ cũng tăng lên.

Trong bài báo của mình, Kyusang Lee đã chỉ rõ: "Ngay cả khi các chip xử lý trở nên mạnh mẽ hơn, hiệu suất tổng thể của hệ thống cũng không thể được cải thiện nếu việc truyền dữ liệu giữa các chip không theo kịp. Thay thế các kết nối bằng đồng, vốn có những hạn chế vật lý cố hữu, bằng các kết nối quang học là con đường triển vọng nhất để đạt được khả năng mở rộng trong tương lai."

CPO: Đóng gói bộ xử lý vào một gói phần mềm.

Ý tưởng cốt lõi của CPO là tích hợp bộ thu phát quang (TRx) vào cùng một gói với bộ xử lý, cho phép các chip trao đổi dữ liệu bằng tín hiệu quang thay vì tín hiệu điện đường dài.

Seunghoon Hong mô tả như sau: "CPO về cơ bản thay đổi cách dữ liệu luân chuyển trong các hệ thống AI, loại bỏ một trong những trở ngại lớn nhất đối với việc mở rộng sức mạnh tính toán."

Cụ thể, CPO nén khoảng cách truyền tín hiệu điện tốc độ cao xuống mức ngắn nhất có thể, thay thế phần đường dẫn còn lại bằng liên kết quang học. Điều này giúp duy trì hiệu quả của các kết nối điện bên trong gói mạch trong khi tận dụng đặc tính tổn hao thấp của ánh sáng để đạt được tốc độ truyền cao giữa các chip, giá đỡ và cụm chip, đồng thời cung cấp khả năng chống nhiễu điện từ mạnh mẽ hơn.

Bài báo này đưa ra các thông số kỹ thuật rõ ràng cho thế hệ tiếp theo của cơ sở hạ tầng AI: băng thông vượt quá 100 Tb/s mỗi nút, mức tiêu thụ năng lượng dưới 1 pJ/bit và độ trễ giữa các chip dưới 10 nanogiây.

Bài báo cũng phác thảo sự phát triển của CPO từ cấu hình lớp trung gian 2D và 2.5D đến xếp chồng dị thể 3D, và liệt kê các thách thức kỹ thuật chính cần phải vượt qua để triển khai thương mại.

Mục tiêu dài hạn hơn: mở rộng ứng dụng ánh sáng đến giao diện bộ nhớ.

Bài báo đề xuất một tầm nhìn dài hạn nhằm mở rộng hơn nữa các kết nối quang học đến các giao diện bộ nhớ — một ý tưởng kiến trúc tiến xa hơn so với cuộc thảo luận CPO hiện tại.

Trong các giải pháp hiện có, các kết nối quang chủ yếu phục vụ việc truyền dữ liệu giữa các bộ xử lý và giữa các giá đỡ. Tuy nhiên, kiến trúc "tập trung vào quang học" được đề xuất kết nối trực tiếp nhóm tài nguyên bộ xử lý (nhóm XPU) và nhóm tài nguyên bộ nhớ thông qua một bộ chuyển đổi quang học.

Ý nghĩa thực tiễn của kiến trúc này nằm ở chỗ nhiều bộ tăng tốc AI có thể chia sẻ một vùng nhớ lớn, thay vì mỗi bộ tăng tốc có bộ nhớ độc lập. Điều này không chỉ cải thiện hiệu quả sử dụng bộ nhớ mà còn mang lại cho cơ sở hạ tầng AI khả năng mở rộng linh hoạt hơn khi kích thước mô hình tiếp tục tăng lên.

Ông Kyusang Lee phát biểu: "Việc mở rộng các kết nối quang học đến các giao diện bộ nhớ sẽ phá vỡ những hạn chế vật lý của chip xử lý, loại bỏ những ràng buộc về dung lượng bộ nhớ và số lượng kết nối điện."

Hong nói thêm: "Ưu điểm lớn nhất là bằng cách cải thiện hiệu quả truyền tải dữ liệu, các hệ thống AI có thể mở rộng quy mô linh hoạt hơn. Điều này cuối cùng cung cấp cho khách hàng nền tảng để vận hành cơ sở hạ tầng AI hiệu quả hơn."

Từ các nhà cung cấp HBM đến các bên tham gia kiến trúc hệ thống

HBM đã giải quyết vấn đề băng thông bộ nhớ trong các gói tăng tốc AI, vốn là lợi thế cạnh tranh cốt lõi của SK Hynix trong những năm gần đây. Việc công bố lộ trình CPO cho thấy công ty đang mở rộng chiến lược công nghệ của mình từ các thành phần riêng lẻ sang kiến trúc cấp hệ thống.

Trong cuộc phỏng vấn, Hong đã thể hiện rõ sự chuyển đổi này: "Các công ty sản xuất bộ nhớ đang phát triển từ việc cung cấp các linh kiện riêng lẻ trở thành đối tác giúp nâng cao khả năng cạnh tranh của toàn bộ hệ thống khách hàng thông qua các công nghệ như CPO."

Kyusang Lee cũng chỉ ra rằng sự hợp tác giữa giới học thuật và ngành công nghiệp là không thể thiếu trong quá trình này: "Giới học thuật giỏi trong việc thúc đẩy các giới hạn về hiệu suất, trong khi ngành công nghiệp hiểu rõ các yêu cầu thực tiễn của việc triển khai quy mô lớn - bao gồm năng suất sản xuất, chi phí, tản nhiệt và chuỗi cung ứng. Kết hợp hai góc nhìn này là điều cần thiết để xây dựng một lộ trình khả thi."

Ông cũng thừa nhận rằng việc thương mại hóa vẫn còn đối mặt với những thách thức đáng kể: "Từ việc tích hợp các thiết bị quang tử công suất thấp đến việc phát triển các giao thức nhất quán và cải thiện độ tin cậy của hệ thống, những thách thức vẫn còn rất lớn. Chìa khóa nằm ở việc cùng thiết kế các thiết bị bộ nhớ với bộ điều khiển, các thành phần quang tử và bao bì thành một hệ thống tích hợp."

Cảnh báo rủi ro và tuyên bố miễn trừ trách nhiệm

Đầu tư luôn tiềm ẩn rủi ro; vui lòng thận trọng. Bài viết này không phải là lời khuyên đầu tư cá nhân và không xem xét đến mục tiêu đầu tư cụ thể, tình hình tài chính hoặc nhu cầu của từng người dùng. Người dùng nên cân nhắc xem bất kỳ ý kiến, quan điểm hoặc kết luận nào trong bài viết này có phù hợp với hoàn cảnh cụ thể của họ hay không. Mọi quyết định đầu tư được đưa ra dựa trên thông tin này đều do người dùng tự chịu rủi ro.