Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Với sự bùng nổ của các mô hình lớn trong lĩnh vực trí tuệ nhân tạo, khả năng tính toán đang trở thành một mô hình kinh doanh mới nổi. Mặc dù độ hot của việc "luyện đan" mô hình lớn cuối cùng sẽ giảm xuống, nhưng các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời điều chỉnh hướng chiến lược.
Gần đây, một người trẻ tốt nghiệp Đại học Thanh Hoa đã huấn luyện ra mô hình khí tượng Pangu với số lượng tham số lên đến hàng trăm triệu. Mô hình này sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, đã thực hiện quá trình tiền huấn luyện kéo dài khoảng hai tháng với 200 thẻ GPU. Theo giá thị trường hiện tại, chi phí huấn luyện cho dự án này có thể vượt quá 2 triệu Nhân dân tệ. Và nếu là huấn luyện mô hình lớn tổng quát, chi phí có thể tăng gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn một trăm mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang đối mặt với tình trạng thiếu hụt GPU cao cấp. Chi phí khả năng tính toán vẫn ở mức cao, việc thiếu khả năng tính toán và vốn trở thành vấn đề thực tế mà nhiều doanh nghiệp phải đối mặt.
Nhu cầu vượt quá cung cho GPU cao cấp là một vấn đề được ngành công nhận. Trong thời kỳ cao điểm, giá của một chiếc Nvidia A100 đã bị đẩy lên đến hai ba mươi vạn nhân dân tệ, và giá thuê một máy chủ A100 cũng đã tăng vọt lên 5-7 vạn. Dù vậy, vẫn có những doanh nghiệp khó khăn trong việc có được các chip cần thiết. Một giám đốc cao cấp trong ngành điện toán đám mây cho biết, mặc dù khách hàng có nhu cầu mạnh mẽ về tài nguyên GPU cao cấp, nhưng nguồn cung hiện tại khó có thể đáp ứng hoàn toàn nhu cầu rộng rãi của thị trường.
Đối mặt với tình huống này, trong ngành công nghiệp, người ta thường cho rằng, khi cạnh tranh trên thị trường mô hình lớn gia tăng, thị trường sẽ dần trở lại với lý trí, và các doanh nghiệp cũng sẽ điều chỉnh chiến lược và kiểm soát chi phí dựa trên thay đổi dự kiến.
Để đối phó với tình trạng thiếu hụt khả năng tính toán, các doanh nghiệp đã áp dụng nhiều phương pháp khác nhau. Một số công ty nâng cao hiệu quả đào tạo bằng cách sử dụng dữ liệu chất lượng cao hơn. Một số doanh nghiệp tập trung nâng cao khả năng hạ tầng, đạt được hoạt động ổn định trên 1000 kcal. Còn có những công ty lựa chọn chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính, hoặc sử dụng nền tảng nội địa để thực hiện đào tạo và suy diễn mô hình lớn.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán được xây dựng dựa trên khả năng tính toán đa dạng, thông qua mạng lưới khả năng tính toán kết nối, nhằm cung cấp khả năng tính toán hiệu quả trong lĩnh vực công nghiệp mới nổi. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao khả năng tính toán dưới dạng API và các hình thức khác.
Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn chủ yếu cung cấp tài nguyên cơ sở khả năng tính toán, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn sử dụng dịch vụ khả năng tính toán để cung cấp dịch vụ gia tăng giá trị. Hiện nay, tính phí theo khối lượng và gói năm gói tháng là mô hình tính phí dịch vụ khả năng tính toán chủ yếu.
Với việc nhu cầu tính toán hiệu suất cao của các mô hình lớn trở nên bình thường, dịch vụ khả năng tính toán đang nhanh chóng hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại đang thiếu GPU cao cấp và chi phí khả năng tính toán cao, nhưng tình trạng này chỉ là tạm thời. Về lâu dài, các nhà cung cấp dịch vụ khả năng tính toán cần sẵn sàng để ứng phó với sự biến động của thị trường, điều chỉnh chiến lược kịp thời khi cơn sốt mô hình lớn trở lại trạng thái hợp lý.
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
20 thích
Phần thưởng
20
6
Chia sẻ
Bình luận
0/400
Token_Sherpa
· 07-10 00:38
lmao khai thác gpu lại một lần nữa... chúng ta không bao giờ học hỏi được phải không
Xem bản gốcTrả lời0
ZenZKPlayer
· 07-09 11:31
Được chơi cho Suckers hay lên đám mây thì rẻ hơn một chút
Xem bản gốcTrả lời0
GameFiCritic
· 07-07 02:38
Chi phí đào tạo sẽ tiêu tốn bao nhiêu lợi nhuận đây, nhìn mà thấy lo lắng.
Xem bản gốcTrả lời0
GweiTooHigh
· 07-07 02:34
Xây dựng thẻ khả năng tính toán người khai thác đã trên đường ~
Khả năng tính toán ngắn hạn trong thời đại mô hình lớn, các doanh nghiệp phải đối phó với chi phí đào tạo cao như thế nào
Khả năng tính toán dịch vụ: Mô hình kinh doanh mới trong thời đại mô hình lớn
Với sự bùng nổ của các mô hình lớn trong lĩnh vực trí tuệ nhân tạo, khả năng tính toán đang trở thành một mô hình kinh doanh mới nổi. Mặc dù độ hot của việc "luyện đan" mô hình lớn cuối cùng sẽ giảm xuống, nhưng các nhà cung cấp dịch vụ khả năng tính toán cần chuẩn bị trước, kịp thời điều chỉnh hướng chiến lược.
Gần đây, một người trẻ tốt nghiệp Đại học Thanh Hoa đã huấn luyện ra mô hình khí tượng Pangu với số lượng tham số lên đến hàng trăm triệu. Mô hình này sử dụng dữ liệu thời tiết toàn cầu trong 40 năm, đã thực hiện quá trình tiền huấn luyện kéo dài khoảng hai tháng với 200 thẻ GPU. Theo giá thị trường hiện tại, chi phí huấn luyện cho dự án này có thể vượt quá 2 triệu Nhân dân tệ. Và nếu là huấn luyện mô hình lớn tổng quát, chi phí có thể tăng gấp trăm lần.
Hiện nay, Trung Quốc đã có hơn một trăm mô hình lớn với quy mô 10 tỷ tham số. Tuy nhiên, ngành công nghiệp đang đối mặt với tình trạng thiếu hụt GPU cao cấp. Chi phí khả năng tính toán vẫn ở mức cao, việc thiếu khả năng tính toán và vốn trở thành vấn đề thực tế mà nhiều doanh nghiệp phải đối mặt.
Nhu cầu vượt quá cung cho GPU cao cấp là một vấn đề được ngành công nhận. Trong thời kỳ cao điểm, giá của một chiếc Nvidia A100 đã bị đẩy lên đến hai ba mươi vạn nhân dân tệ, và giá thuê một máy chủ A100 cũng đã tăng vọt lên 5-7 vạn. Dù vậy, vẫn có những doanh nghiệp khó khăn trong việc có được các chip cần thiết. Một giám đốc cao cấp trong ngành điện toán đám mây cho biết, mặc dù khách hàng có nhu cầu mạnh mẽ về tài nguyên GPU cao cấp, nhưng nguồn cung hiện tại khó có thể đáp ứng hoàn toàn nhu cầu rộng rãi của thị trường.
Đối mặt với tình huống này, trong ngành công nghiệp, người ta thường cho rằng, khi cạnh tranh trên thị trường mô hình lớn gia tăng, thị trường sẽ dần trở lại với lý trí, và các doanh nghiệp cũng sẽ điều chỉnh chiến lược và kiểm soát chi phí dựa trên thay đổi dự kiến.
Để đối phó với tình trạng thiếu hụt khả năng tính toán, các doanh nghiệp đã áp dụng nhiều phương pháp khác nhau. Một số công ty nâng cao hiệu quả đào tạo bằng cách sử dụng dữ liệu chất lượng cao hơn. Một số doanh nghiệp tập trung nâng cao khả năng hạ tầng, đạt được hoạt động ổn định trên 1000 kcal. Còn có những công ty lựa chọn chuyển từ kiến trúc điện toán đám mây sang kiến trúc siêu máy tính, hoặc sử dụng nền tảng nội địa để thực hiện đào tạo và suy diễn mô hình lớn.
Khả năng tính toán đã trở thành một mô hình dịch vụ mới. Dịch vụ khả năng tính toán được xây dựng dựa trên khả năng tính toán đa dạng, thông qua mạng lưới khả năng tính toán kết nối, nhằm cung cấp khả năng tính toán hiệu quả trong lĩnh vực công nghiệp mới nổi. Nó không chỉ bao gồm khả năng tính toán, mà còn bao gồm việc đóng gói thống nhất các tài nguyên như lưu trữ, mạng, v.v., để hoàn thành việc giao khả năng tính toán dưới dạng API và các hình thức khác.
Trong chuỗi công nghiệp khả năng tính toán, các doanh nghiệp thượng nguồn chủ yếu cung cấp tài nguyên cơ sở khả năng tính toán, các doanh nghiệp trung nguồn chịu trách nhiệm sản xuất và cung cấp khả năng tính toán, trong khi các doanh nghiệp hạ nguồn sử dụng dịch vụ khả năng tính toán để cung cấp dịch vụ gia tăng giá trị. Hiện nay, tính phí theo khối lượng và gói năm gói tháng là mô hình tính phí dịch vụ khả năng tính toán chủ yếu.
Với việc nhu cầu tính toán hiệu suất cao của các mô hình lớn trở nên bình thường, dịch vụ khả năng tính toán đang nhanh chóng hình thành một chuỗi công nghiệp và mô hình kinh doanh độc đáo. Mặc dù hiện tại đang thiếu GPU cao cấp và chi phí khả năng tính toán cao, nhưng tình trạng này chỉ là tạm thời. Về lâu dài, các nhà cung cấp dịch vụ khả năng tính toán cần sẵn sàng để ứng phó với sự biến động của thị trường, điều chỉnh chiến lược kịp thời khi cơn sốt mô hình lớn trở lại trạng thái hợp lý.