Tiêu điểm công nghệ
Rebellions tìm cách trở thành công ty khởi nghiệp đầu tiên của Hàn Quốc sản xuất hàng loạt chip AI cho các mô hình ngôn ngữ lớn
Alisa H - Thứ Hai, 18/03/2024 9:59 SA
Vietnet24h - Hợp tác với Samsung và KT, công ty khởi nghiệp Rebellions đặt mục tiêu trở thành 'Nvidia của Hàn Quốc' trong lĩnh vực chip suy luận.
Trong một tòa nhà văn phòng nằm ở phía nam Seoul, hàng chục con chip được đặt cạnh nhau trên kệ, mỗi con chip nằm cạnh một chiếc quạt điện riêng để làm mát khi nó hoạt động.
 
Những con chip này, được gọi là ATOM, là các đơn vị xử lý thần kinh (NPU) mới nhất được phát triển bởi công ty khởi nghiệp Rebellions của Hàn Quốc, nhắm đến các mô hình AI có tới 7 tỷ tham số. Hiệu suất của chúng đang được thử nghiệm và so sánh với một số GPU A100 của Nvidia, được đặt trong một phòng riêng trên cùng một tầng.
 
Được coi là thế hệ chip AI tiếp theo, NPU là bộ xử lý được tối ưu hóa cho các hoạt động ma trận đồng thời, nghĩa là chúng tiến thêm một bước trong lĩnh vực học sâu so với các bộ xử lý trung tâm (CPU) và bộ xử lý đồ họa (GPU) đa năng.
 
Rebellions, công ty khởi nghiệp về chip AI cao cấp do 5 kỹ sư Hàn Quốc đồng sáng lập vào năm 2020 để tập trung vào suy luận AI thay vì đào tạo, được coi là hy vọng tốt nhất để sánh ngang hoặc cạnh tranh với Nvidia trong lĩnh vực đó.
 
Park Sung-hyun, Giám đốc điều hành và đồng sáng lập của Rebellions, cho biết trong một cuộc phỏng vấn đầu tuần qua rằng, ATOM sẽ được sản xuất hàng loạt bằng công nghệ 5nm của Samsung vào nửa đầu năm 2024.
 
Đó sẽ là một cột mốc quan trọng đối với ngành công nghiệp chip Hàn Quốc, vì ATOM sẽ là chip được phát triển trong nước đầu tiên hỗ trợ các mô hình ngôn ngữ ở cấp độ sản xuất hàng loạt.
Park Sung-hyun, CEO and co-founder of Rebellions / Courtesy of Rebellions
Park Sung-hyun, CEO và đồng sáng lập của Rebellions.
 
Park cho biết: “Chúng tôi tiết kiệm năng lượng hơn nhiều so với GPU của Nvidia trong suy luận AI,” Park nói, đề cập đến quá trình chạy dữ liệu trực tiếp thông qua mô hình AI được đào tạo để đưa ra dự đoán hoặc giải quyết một nhiệm vụ. Ông nói thêm rằng ATOM tiết kiệm năng lượng hơn tới 5 lần so với A100 của Nvidia, với độ trễ chỉ bằng một nửa – thước đo tốc độ cho chip – của Nvidia A2 trong bài kiểm tra điểm chuẩn suy luận mô hình ngôn ngữ.
 
Trực quan hơn, chip ATOM chỉ cần quạt để làm mát, trong khi chip Nvidia cần hoạt động trong môi trường máy lạnh – đồng nghĩa với việc tiêu thụ nhiều điện năng hơn và chi phí vận hành cao hơn.

Sự trỗi dậy của Rebellions xảy ra khi ngành công nghiệp bán dẫn toàn cầu đang trong một cuộc chiến nảy lửa về chip AI, được thúc đẩy bởi sự phổ biến rộng rãi của ChatGPT của openAI và nhu cầu ngày càng tăng về GPU Nvidia để cung cấp sức mạnh tính toán khổng lồ mà LLM cần.
 
Hàn Quốc, nổi tiếng với vị thế trong lĩnh vực sản xuất chip nhớ, đang sẵn sàng có được chỗ đứng vững chắc trong thị trường đang bùng nổ này. Chẳng hạn, Samsung Electronics đang đối đầu với TSMC để thách thức sự thống trị của họ trong lĩnh vực sản xuất chip AI, trong khi chính phủ Hàn Quốc đặt mục tiêu tăng tỷ lệ chip AI được phát triển trong nước trong các trung tâm dữ liệu trong nước lên 80% vào năm 2030.
 
Rebellions đã giành được sự hỗ trợ từ một số tên tuổi lớn nhất trong ngành công nghệ Hàn Quốc – bao gồm Samsung, KT và Kakao.
 
Vào tháng 1, Rebellions đã hoàn thành vòng cấp vốn mới nhất với tổng trị giá 124 triệu USD, dẫn đầu là KT, cho đến nay đã đầu tư hơn 50 triệu USD vào công ty khởi nghiệp. Điều đó đã nâng mức định giá của Rebellions lên 650 triệu USD, trở thành công ty khởi nghiệp về chip được tài trợ nhiều nhất tại Hàn Quốc.
 
Park cho biết việc đi vào sản xuất hàng loạt sẽ là động lực lớn cho doanh thu của công ty sau nhiều năm ở giai đoạn nguyên mẫu. Theo Park, KT, nhà khai thác viễn thông lớn thứ hai và công ty trung tâm dữ liệu lớn nhất Hàn Quốc, sẽ trở thành khách hàng đầu tiên của Rebellions sau khi công ty này bắt đầu sản xuất hàng loạt ATOM. Ông tin rằng các công ty viễn thông là khách hàng lý tưởng nhất cho chip AI.
 
“Tương lai của ngành AI sẽ là cuộc chơi về cơ sở hạ tầng. Các công ty viễn thông sẵn sàng đầu tư số tiền lớn vào việc xây dựng các trung tâm dữ liệu”, ông nói.
 
Park cũng hy vọng sự hợp tác với công ty trung tâm dữ liệu lớn nhất Hàn Quốc sẽ đóng vai trò là điểm tham chiếu cho việc mở rộng toàn cầu của công ty, đặc biệt là tại thị trường Mỹ. Park cho biết, công ty đã đàm phán với một số công ty siêu quy mô lớn của Hoa Kỳ như IBM.
 
Park, người tốt nghiệp MIT năm 2014 với bằng Tiến sĩ về kỹ thuật điện và khoa học máy tính, đã dành sáu năm phát triển chip ở Mỹ, làm việc cho các công ty trong đó có bộ phận nghiên cứu của Samsung ở Mỹ, Intel và SpaceX.
 
Mặc dù có kinh nghiệm trong ngành công nghiệp chip của Hoa Kỳ, Park vẫn nhận thấy cơ hội tốt hơn để thành lập công ty bán dẫn ở Hàn Quốc. Ông nói: “Trong hệ sinh thái phần cứng bán dẫn, châu Á sẽ là khu vực lớn tiếp theo”. “Hàn Quốc và Đài Loan đang bắt kịp”.

Park trở về quê hương và thành lập Rebellions vào năm 2020, cùng với Oh Jin-wook – một chuyên gia chip AI khác của Hàn Quốc có kiến thức nền tảng về ngành ở Hoa Kỳ – cùng với những người đồng sáng lập khác.
 
Đối với Park, đó không phải là một quyết định dễ dàng, vì hầu hết mạng lưới ngành của ông vào thời điểm đó đều nằm trong nhóm phiến quân Hoa Kỳ. Các thành viên ban đầu trong nhóm nổi dậy bao gồm các nhân vật từ IBM, Intel và Apple, cũng như Samsung USA.
ATOM, Rebellions' second-generation NPU, targets AI models with up to 7 billion parameters with a single chip. Courtesy of Rebellions
ATOM, NPU thế hệ thứ hai của Rebellions, nhắm đến các mô hình AI có tới 7 tỷ thông số chỉ bằng một con chip.
 
Hiện nay, công ty có khoảng 120 nhân viên trong đó có gần 100 kỹ sư. Theo Park, khi nhóm mở rộng qua nhiều năm, nhóm đã thu hút được các chuyên gia có nền tảng địa phương, trong đó những người đến từ các công ty dấu chấm phẩy lớn của Hàn Quốc chiếm gần 70% nhân viên.
 
Rebellions ra mắt sản phẩm đầu tiên mang tên ION vào năm 2021, nhắm đến các nhiệm vụ AI trong ngành tài chính bằng chip do TSMC sản xuất. Sau đó, công ty quyết định tái tập trung vào chip cho các mô hình AI sau khi nhận thấy nhu cầu cao hơn từ các công ty trung tâm dữ liệu thay vì các công ty tài chính.
 
Samsung, nhà sản xuất chip lớn nhất Hàn Quốc, là đối tác sản xuất ATOM của Rebellions. Hai công ty đã tăng cường hợp tác vào tháng 10 năm ngoái bằng cách công bố kế hoạch cùng phát triển REBEL, NPU thế hệ tiếp theo của công ty khởi nghiệp sau ATOM, được thiết lập để nhắm mục tiêu LLM có kích thước tham số lớn hơn và so sánh với GPU H200 thông số kỹ thuật hàng đầu của Nvidia trong các tác vụ suy luận.
 
Park đang đặt hy vọng lớn hơn vào REBEL, dự kiến sẽ hoàn thành quá trình phát triển và bắt đầu sản xuất hàng loạt vào nửa cuối năm nay, sử dụng quy trình chế tạo 4nm của Samsung.

Khi thị trường AI tổng hợp tiếp tục mở rộng, Park kỳ vọng nhu cầu về chip suy luận sẽ trở thành điểm tăng trưởng quan trọng.
 
Park cho biết: “Lưu lượng đào tạo AI phụ thuộc vào số lượng nhà phát triển, trong khi lưu lượng suy luận AI tăng lên khi số lượng người dùng cuối tăng lên”. “Hiện tại, thị trường đào tạo và suy luận đã chiếm gần một nửa, nhưng lưu lượng suy luận sẽ cao hơn nhiều trong tương lai.”
 
Trong vòng hai năm rưỡi, Park đã thấy thị phần của công ty tại thị trường LLM Hàn Quốc tăng lên 30% về nhiệm vụ suy luận và chiếm “ít nhất 3 đến 5%” trên toàn cầu. Theo các nhà phân tích, hiện tại, Nvidia được ước tính chiếm thị phần khổng lồ lên tới 90% trên thị trường chip AI toàn cầu.
 
Park nói: “Nếu bạn chỉ nắm bắt được một phần nhỏ của thị trường LLM thì con số đó đã là rất lớn rồi”.
Anthropic ra mắt chatbot mạnh mẽ nhất của mình khi cuộc chiến AI tổng hợp đang nóng lên Vietnet24h - Hôm nay, thứ Hai (4/3), Anthropic, được Google hậu thuẫn đã ra mắt Claude 3, một chatbot và bộ mô hình AI mà hãng cho là nhanh nhất và mạnh nhất từ trước đến nay.
Nhiều du học sinh trở về quê hương tạo sức mạnh cho khởi nghiệp công nghệ Việt Nam Vietnet24h - Rất nhiều nhân tài công nghệ đang quay trở lại Việt Nam, không chỉ thúc đẩy chuỗi cung ứng điện tử mà còn thúc đẩy nền kinh tế kỹ thuật số đang phát triển nhanh chóng.
Tin khác cùng chuyên mục
Tin đọc nhiều
Windows 11 IoT Enterprise LTSC 2024: Mở rộng khả năng tương thích phần cứng Vietnet24h - Phiên bản Windows 11 IoT Enterprise LTSC 2024 từ Microsoft không chỉ tối ưu hóa cho thiết bị cấu hình thấp mà còn mở rộng khả năng tương thích phần cứng. Với khả năng hoạt động trên các card màn hình cũ kỹ dựa trên DirectX 10 và không yêu cầu TPM và Secure Boot, người dùng có thêm sự linh hoạt khi lựa chọn thiết bị.
Hướng dẫn cách trao đổi số chỉ bằng cách chạm các iPhone lại với nhau Vietnet24h - Bạn có thể trao đổi thông tin liên lạc bằng cách giữ iPhone của bạn cạnh nhau. Cả hai iPhone đều cần được cập nhật lên iOS 17.
Windows 12 sẽ phát hành vào năm 2024 Vietnet24h - Theo một số báo cáo rò rỉ, Microsoft đang phát triển Windows 12 và dự kiến sẽ phát hành vào năm 2024.
Apple đặt mã QR siêu nhỏ kiểm soát số lượng màn hình lỗi Vietnet24h - Apple đã chi hàng triệu USD để thêm mã vạch (QR) vào màn hình iPhone nhằm tránh bị tính phí hàng trăm triệu USD bởi các nhà cung cấp gian dối trong báo cáo lượng màn hình lỗi của quá trình sản xuất.
LG ra mắt thiết bị giải trí xách tay LG StanbyME Go Vietnet24h - Công ty LG Electronics Việt Nam (LG) vừa trình làng thiết bị giải trí xách tay LG StanbyME Go, mở ra khái niệm “picnic công nghệ” với trải nghiệm linh hoạt và chủ động, không giới hạn không gian.
iPhone 15 Pro modem Qualcomm và khung smartphone dễ sửa chữa hơn Vietnet24h - iPhone 15 Pro và iPhone 15 Pro Max của Apple có thiết kế khung mới, có thể giúp việc sửa chữa màn hình hoặc thay pin của thiết bị trở nên dễ dàng hơn.
Đánh giá Apple iPhone 15 Pro: Phần 2 Vietnet24h - Hai chiếc iPhone Pro là những bản nâng cấp lớn qua từng năm, với những cải tiến thú vị về những tính năng mới.
Đánh giá Apple iPhone 15 Pro: Phần 1 Vietnet24h - Hai chiếc iPhone Pro là những bản nâng cấp lớn qua từng năm, với những cải tiến về camera, thân máy được cải tiến và nút bấm mới.
Thêm tính năng cảnh báo thiết bị định vị xung quanh trên Android 14 Vietnet24h - Unknown Tracker Alerts (UTA), tính năng vừa được Google bổ sung trên Android 14, sẽ thông báo cho người dùng có thiết bị theo dõi ở gần đó hay không.
Ứng dụng trò chuyện Bing của Microsoft hiện cho phép bạn tìm kiếm bằng hình ảnh Vietnet24h - Hôm nay, Microsoft đã công bố một bản cập nhật quan trọng cho chatbot trí tuệ nhân tạo của mình: tìm kiếm trực quan.
Những thiết bị đầu tiên được chuyển đến nhà máy mới của UMC ở Singapore Vietnet24h - Thứ Ba tuần trước (21/5), nhà sản xuất chip hợp đồng có trụ sở tại Đài Loan United Microelectronics Corp. (UMC) đã tổ chức một buổi lễ kỷ niệm sự xuất hiện của các công cụ thiết bị đầu tiên để mở rộng giai đoạn 3 tại Fab12i ở Singapore.
Vật liệu và Camera của iPhone 15 Pro Max Vietnet24h - Mặt sau của iPhone 15 Pro Max được làm bằng titan với mặt lưng kính mờ có họa tiết, trong khi iPhone 14 Pro Max sử dụng mặt sau bằng thép không gỉ. Cả hai máy đều có camera chính 48 MP cho khả năng chụp ảnh siêu rộng và tele ở độ phân giải cao. Tuy nhiên, iPhone 15 Pro Max có tính năng chụp ảnh chân dung thế hệ tiếp theo với Focus và Depth Control.
Samsung dự kiến ​​sẽ giới thiệu vi xử lý Exynos mới trên dòng Galaxy tiếp theo Vietnet24h - Theo các nguồn tin trong ngành vào thứ Sáu tuần qua (17/5), Samsung Electronics dự kiến ​​​​sẽ giới thiệu bộ vi xử lý di động Exynos 2500 hàng đầu mới của mình được sản xuất bằng quy trình 3 nanomet tiên tiến cho dòng điện thoại thông minh Galaxy S25 sắp ra mắt.
Apple Vision Pro: Toàn cầu hóa thị trường Vietnet24h - Apple đẩy mạnh toàn cầu hóa thị trường Vision Pro, mang đến sản phẩm thực tế hỗn hợp cho người dùng trên khắp thế giới.
Samsung tăng gấp đôi đầu tư vào Việt Nam Vietnet24h - Samsung Electronics đã cam kết tăng chi tiêu hàng năm tại Việt Nam lên 1 tỷ USD khi quốc gia này nổi lên như một cơ sở chiến lược cho sản xuất trong khu vực.
SEMI cung cấp đào tạo trực tuyến cho các kỹ sư công nghệ bán dẫn Vietnet24h - Đại học SEMI đang cung cấp các chương trình chứng nhận khóa học trực tuyến được thiết kế để thúc đẩy nhanh quá trình phát triển nghề nghiệp bán dẫn.
Tóm tắt về hội nghị nhà phát triển thường niên Google I/O: Cập nhật Gemini AI, tính năng tìm kiếm mới và hơn thế nữa Vietnet24h - Google vào thứ Ba đã tổ chức hội nghị nhà phát triển I/O hàng năm. Công ty đã công bố một loạt sản phẩm trí tuệ nhân tạo, từ tính năng tìm kiếm và trò chuyện mới đến phần cứng AI dành cho khách hàng trên nền tảng đám mây.
Nikkei đưa tin Arm có kế hoạch ra mắt chip AI vào năm 2025 Vietnet24h - Công ty Arm có trụ sở tại Anh sẽ thành lập một bộ phận chip AI và đặt mục tiêu xây dựng nguyên mẫu vào mùa xuân năm 2025.
Apple cung cấp năng lượng cho máy chủ AI bằng chip của mình Vietnet24h - Apple đang đưa chip của mình vào các máy chủ điện toán đám mây có khả năng xử lý các tác vụ AI nâng cao trên các thiết bị của mình.
Apple công bố iPad Pro mới với máy tính bảng M4, iPad Air Vietnet24h - Apple đã công bố phiên bản mới của máy tính bảng iPad Air và iPad Pro vào thứ Ba vửa qua.
Elon Musk và kế hoạch phát triển siêu máy tính "Gigafactory of Computing": Bước đột phá mới trong lĩnh vực công nghệ Vietnet24h - Với "Gigafactory of Computing", Elon Musk mở ra cánh cửa cho sự phát triển mạnh mẽ của trí tuệ nhân tạo (AI), tạo ra bước đột phá mới trong lĩnh vực công nghệ toàn cầu.
OpenAI rút lại giọng nói của ChatGPT AI vì nó giống với Scarlett Johansson trong phim ‘Her’ Vietnet24h - OpenAI hôm Chủ nhật đã thông báo rằng họ sẽ lấy một trong những “giọng nói” của ChatGPT, được gọi là “Sky”, điều này đã gây tranh cãi vì nó giống với giọng của nữ diễn viên Scarlett Johansson.
TCL gập ba: khả năng gập ba hướng, xác thực khuôn mặt dưới màn hình Vietnet24h - TCL đã giới thiệu smartphone gập ba đầu tiên trên thế giới tại SID 2024, với màn hình 7,85 inch khi được mở hoàn toàn. Thiết bị có thể gập thành hình chữ Z hoặc chữ G, hoặc mở rộng như một máy tính bảng, mang lại trải nghiệm đa dạng cho người dùng.
Robot thu hoạch cà chua tự động Vietnet24h - Artemy là robot thu hoạch cà chua hoàn toàn tự động, theo nhà sản xuất Certhon Build.
Samsung Electro-Mechanics giảm gói chip L/S xuống còn 5/5um Vietnet24h - Samsung Electro-Mechanics đã giảm độ rộng dòng/khoảng cách dòng (L/S) của gói chip xuống còn 5 micromet.
Emo của Alibaba: khi ảnh tĩnh có thể cất tiếng hát Vietnet24h - EMO, một sản phẩm trí tuệ nhân tạo (AI) sáng tạo, trao cho ảnh tĩnh khả năng hát, tạo ra những trải nghiệm âm nhạc độc đáo và hấp dẫn chưa từng có.
Oppo trình làng nguyên mẫu kính thực tế tăng cường có trợ lý giọng nói Vietnet24h - Oppo đã ra mắt Oppo Air Glass 3, một bộ kính thực tế tăng cường (AR) nguyên mẫu có trợ lý giọng nói tại Mobile World Congress ở Barcelona.
Lenovo giới thiệu laptop màn hình trong suốt tại MWC 2024 Vietnet24h - Tại MWC 2024, Lenovo đã trình diễn ý tưởng laptop màn hình trong suốt mới có tên ThinkBook Transparent Display Laptop. Điểm nhấn của chiếc laptop này là nó sở hữu viền màn hình siêu mỏng và được tích hợp trí tuệ nhân tạo. Đây cũng được coi là một trong những thiết bị độc đáo nhất được trưng bày tại MWC 2024.
Bệnh nhân cấy chip não Neuralink đã điều khiển được chuột máy tính bằng suy nghĩ Vietnet24h - Tỉ phú Elon Musk cho biết người đầu tiên được cấy chip não từ Công ty Neuralink của ông đã bình phục hoàn toàn, và có thể điều khiển chuột máy tính bằng suy nghĩ.
Tianhe-3: Siêu máy tính bí ẩn của Trung Quốc Vietnet24h - Khám phá bí ẩn đằng sau siêu máy tính Tianhe-3, một dự án bí mật của Trung Quốc đang làm thay đổi cục diện công nghệ trên thế giới.