Nhu Cầu Lưu Trữ Ngày Càng Tăng Của Cơ Sở Hạ Tầng AI

Nhu Cầu Lưu Trữ Ngày Càng Tăng Của Cơ Sở Hạ Tầng AI

Các giải pháp lưu trữ AI phải phát triển để xử lý sự gia tăng dữ liệu lớn. Những cải tiến như ổ đĩa truyền động kép, lưu trữ dựa trên NVMe và các giải pháp tiết kiệm năng lượng đang định hình tương lai của cơ sở hạ tầng AI.

Nhu Cầu Lưu Trữ Ngày Càng Tăng Của Cơ Sở Hạ Tầng AI

Khi trí tuệ nhân tạo (AI) tiếp tục phát triển, cơ sở hạ tầng hỗ trợ nó phải phát triển để xử lý nhu cầu ngày càng tăng về lưu trữ và xử lý dữ liệu. Lưu trữ dữ liệu đóng vai trò quan trọng trong vòng đời cơ sở hạ tầng AI và các giải pháp phải có khả năng chịu được những thách thức AI hiện tại và tương lai.

Lượng dữ liệu được tạo ra hàng ngày là rất lớn. Theo báo cáo của Kaleido Intelligence 1 , từ các thành phố thông minh tạo ra 143 petabyte dữ liệu mỗi ngày, cho đến các phương tiện tự hành tạo ra terabyte (TB) dữ liệu, nhu cầu về các giải pháp lưu trữ dữ liệu hiệu quả đang cấp bách hơn bao giờ hết. Các công ty ô tô tự hành tải một lượng lớn dữ liệu lên các nhà cung cấp dịch vụ đám mây, nơi dữ liệu được xử lý và sử dụng để cải thiện các mô hình AI. Luồng dữ liệu liên tục này đòi hỏi các giải pháp lưu trữ mạnh mẽ có thể xử lý cả khối lượng và tốc độ cần thiết cho các ứng dụng AI.

Hiệu suất so với công suất.

Mặc dù tập trung vào các công nghệ tiên tiến như bộ xử lý đồ họa (GPU), ổ cứng vẫn là thành phần quan trọng của cơ sở hạ tầng AI. Chúng cung cấp dung lượng lưu trữ cần thiết cho các tập dữ liệu khổng lồ được sử dụng trong đào tạo và suy luận AI. Trong khi GPU xử lý dữ liệu nặng nề, ổ cứng lưu trữ dữ liệu cung cấp cho các quy trình này. Mối quan hệ cộng sinh này đảm bảo các hệ thống AI có thể hoạt động hiệu quả mà không bị hạn chế bởi các giới hạn lưu trữ.

Một trong những thách thức lớn nhất trong cơ sở hạ tầng AI là cân bằng hiệu suất với mức tiêu thụ điện năng. Khi các cụm GPU phát triển, công suất cần thiết để chạy chúng tăng lên đáng kể. Ví dụ, các triển khai lớn như tại các công ty AI hàng đầu liên quan đến hàng nghìn GPU, mỗi GPU tiêu thụ một lượng điện năng đáng kể. Điều này tạo ra nhu cầu về các giải pháp lưu trữ không chỉ cung cấp hiệu suất cao mà còn hoạt động hiệu quả về mặt sử dụng điện năng. Để hiểu rõ hơn, một GPU đơn lẻ có thể tiêu thụ tới 700 watt và các triển khai quy mô lớn có thể liên quan đến tới 100.000 GPU, dẫn đến yêu cầu về công suất là 70 megawatt. Thành phần này tương đương với tổng phân bổ điện năng của một trung tâm dữ liệu lớn. Do đó, các giải pháp lưu trữ phải được thiết kế để giảm thiểu mức tiêu thụ điện năng đồng thời tối đa hóa hiệu suất nếu muốn phù hợp với giải pháp cùng với GPU.

Tầm quan trọng của các trạm kiểm soát.

Trong đào tạo AI, các điểm kiểm tra rất quan trọng để ngăn ngừa mất tiến trình trong trường hợp hệ thống gặp sự cố. Các điểm kiểm tra này lưu trạng thái của mô hình AI theo các khoảng thời gian đều đặn (ví dụ, cứ sau vài phút), cho phép quá trình đào tạo tiếp tục từ trạng thái đã lưu cuối cùng thay vì bắt đầu lại. Điều này đặc biệt quan trọng đối với các phiên đào tạo kéo dài có thể kéo dài nhiều tuần hoặc thậm chí nhiều tháng. Việc tạo điểm kiểm tra hiệu quả đòi hỏi các giải pháp lưu trữ nhanh có thể nhanh chóng lưu và truy xuất lượng dữ liệu lớn.

Ví dụ: một số nền tảng đào tạo lớn thực hiện các điểm kiểm tra mỗi phút trong quá trình đào tạo, lưu dữ liệu vào ổ đĩa thể rắn (SSD) rồi chuyển sang ổ cứng. Quá trình này đảm bảo rằng ngay cả khi xảy ra sự cố, quá trình đào tạo vẫn có thể tiếp tục với mức mất dữ liệu tối thiểu. Kích thước của các điểm kiểm tra này có thể rất lớn, với một số mô hình yêu cầu tới 12 TB dung lượng lưu trữ cho mỗi điểm kiểm tra.

Ổ cứng rất cần thiết cho việc kiểm tra AI do khả năng mở rộng, hiệu quả về chi phí, hiệu quả về điện năng, tính bền vững và tuổi thọ cao.

Nhu Cầu Lưu Trữ Ngày Càng Tăng Của Cơ Sở Hạ Tầng AI

Xu hướng và đổi mới trong tương lai.

Nhìn về phía trước, nhu cầu lưu trữ AI dự kiến ​​sẽ tăng theo cấp số nhân. Theo dữ liệu từ Bloomberg Intelligence, IDC, eMarketer và Statista 2 , đến năm 2032, thị trường lưu trữ AI dự kiến ​​sẽ đạt 92 tỷ đô la. Sự tăng trưởng này sẽ được thúc đẩy bởi sự phức tạp ngày càng tăng của các mô hình AI và việc sử dụng AI ngày càng mở rộng trong nhiều ngành công nghiệp khác nhau. Để đáp ứng những nhu cầu này, các giải pháp lưu trữ sẽ cần phải trở nên tinh vi hơn, cung cấp dung lượng cao hơn, tốc độ nhanh hơn và hiệu quả năng lượng tốt hơn.

Một số cải tiến kỹ thuật đang được khám phá để giải quyết nhu cầu lưu trữ của cơ sở hạ tầng AI:

  • Tăng trưởng mật độ diện tích. Sự phát triển liên tục của ổ cứng bằng cách cải tiến đầu đọc và phương tiện của thiết bị cho phép có diện tích lưu trữ lớn hơn trong cùng một hệ số dạng. Ổ cứng hỗ trợ Seagate Mozaic là ổ cứng lưu trữ hiệu quả nhất thế giới, có khả năng giảm chi phí mua sắm và vận hành đồng thời tăng năng suất. Với ổ đĩa Mozaic có mật độ diện tích tăng lên, khách hàng có thể lưu trữ nhiều dữ liệu hơn mà không làm tăng mức tiêu thụ không gian, điện năng hoặc tài nguyên thiên nhiên. Mozaic 3+ giúp khách hàng đạt được các mục tiêu phát triển bền vững — ưu tiên hàng đầu đối với các trung tâm dữ liệu quy mô lớn — bằng cách cung cấp mức giảm 55% lượng carbon tích hợp trên mỗi terabyte 3 .
  • Bộ truyền động kép. Các bộ truyền động này cung cấp hiệu suất cao hơn bằng cách sử dụng hai bộ truyền động để đọc và ghi dữ liệu đồng thời. Điều này có thể cải thiện đáng kể thông lượng dữ liệu, giúp xử lý khối lượng dữ liệu lớn do các ứng dụng AI tạo ra dễ dàng hơn.
  • Ổ cứng dựa trên NVMe. Công nghệ bộ nhớ không bay hơi (NVMe) cung cấp khả năng truy cập dữ liệu nhanh hơn so với giao diện SATA (công nghệ tiên tiến nối tiếp) hoặc SAS (SCSI [giao diện hệ thống máy tính nhỏ] gắn nối tiếp) truyền thống. Bằng cách áp dụng ổ cứng dựa trên NVMe, các trung tâm dữ liệu có thể đạt được hiệu suất cao hơn và độ trễ thấp hơn, điều này rất quan trọng đối với khối lượng công việc AI.
  • Kết nối quang. Khi tốc độ truyền dữ liệu tăng lên, kết nối đồng truyền thống có thể trở thành nút thắt cổ chai. Kết nối quang cung cấp băng thông cao hơn và độ trễ thấp hơn, cho phép di chuyển dữ liệu nhanh hơn giữa các thiết bị lưu trữ và đơn vị xử lý.
  • Giải pháp lưu trữ tiết kiệm năng lượng. Với nhu cầu năng lượng ngày càng tăng của cơ sở hạ tầng AI, các giải pháp lưu trữ cần phải tiết kiệm năng lượng hơn. Điều này bao gồm phát triển các ổ đĩa tiêu thụ ít điện năng hơn trong khi vẫn duy trì hiệu suất cao, cũng như khám phá các công nghệ làm mát mới để quản lý nhiệt lượng sinh ra từ các triển khai quy mô lớn.

Nhu cầu lưu trữ AI đang phát triển.

Nhu cầu lưu trữ cho cơ sở hạ tầng AI đang phát triển nhanh chóng, được thúc đẩy bởi sự tăng trưởng theo cấp số nhân của dữ liệu và sự phức tạp ngày càng tăng của các mô hình AI. Khi chúng ta tiến về phía trước, điều cần thiết là phải phát triển các giải pháp lưu trữ có thể theo kịp các nhu cầu này, để các hệ thống AI có thể tiếp tục phát triển và thực hiện lời hứa chuyển đổi các ngành công nghiệp và cải thiện cuộc sống.


  1.  Chuỗi kết nối IoT di động: Cơ hội và dự báo về thành phố thông minh, Kaleido Intelligence, 2023, https://kaleidointelligence.com/smart-cities-2027/
  2. Trí tuệ nhân tạo tạo ra sẽ trở thành thị trường trị giá 1,3 nghìn tỷ đô la vào năm 2032, Nghiên cứu phát hiện, Bloomberg Intelligence, 2023, https://www.bloomberg.com/company/press/generative-ai-to-become-a-1-3-trillion-market-by-2032-research-finds/
  3. Ổ đĩa Mozaic 3+ 30 TB so với ổ đĩa PMR thông thường 16 TB. Carbon tích hợp bao gồm khí thải phát sinh trong quá trình khai thác nguyên liệu thô, sản xuất/lắp ráp sản phẩm và toàn bộ quá trình vận chuyển vật liệu từ khai thác đến sản xuất và từ sản xuất đến khách hàng.


Tin tức liên quan

Synology đạt danh hiệu thiết bị lưu trữ NAS tốt nhất trong năm 2021
Synology đạt danh hiệu thiết bị lưu trữ NAS tốt nhất trong năm 2021

1008 Lượt xem

Synology đạt danh hiệu thiết bị lưu trữ NAS tốt nhất trong năm 2021

Top 3 camera wifi Imou ngoài trời được ưa chuộng nhất 2021
Top 3 camera wifi Imou ngoài trời được ưa chuộng nhất 2021

1005 Lượt xem

Top 3 camera wifi Imou ngoài trời được ưa chuộng nhất 2021

Camera wifi Imou được đánh giá cao ở khả năng cảm nhận chuyển động, ghi hình và theo dõi các chuyển động ở nhiều góc quan sát giúp bạn nhanh chóng phát hiện và cảnh báo đối tượng từ xa. Đây là thiết bị an ninh được tích hợp những cải tiến về công nghệ cần có trong mỗi nhà để đảm bảo an toàn. Sau đây là top 3 camera wifi Imou ngoài trời được ưa chuộng nhất năm 2021.

Giải Pháp Lưu Trữ myQNAPcloud Dưới Dạng Cloud Drive
Giải Pháp Lưu Trữ myQNAPcloud Dưới Dạng Cloud Drive

521 Lượt xem

Giải Pháp Lưu Trữ myQNAPcloud Dưới Dạng Cloud Drive

 Lưu tài liệu, ảnh và video vào Bộ lưu trữ myQNAPcloud có thể mở rộng. Dung lượng lưu trữ 16 GB myQNAPcloud trở thành giải pháp lưu trữ đám mây tiên tiến. Hãy theo dõi bài viết này của MaxLink để biết thêm chi tiết. 

Dịch Vụ Dữ Liệu Kubernetes Của Synology
Dịch Vụ Dữ Liệu Kubernetes Của Synology

498 Lượt xem

Dịch Vụ Dữ Liệu Kubernetes Của Synology

Với sự bùng nổ mạnh mẽ của các nền tảng ứng dụng nhằm đáp ứng nhu cầu người dùng tăng cao, các công nghệ phục vụ cho việc phát triển ứng dụng ở quy mô lớn với tốc độ ra mắt nhanh chóng trở nên cần thiết hơn bao giờ hết.

Công nghệ giúp lưu trữ hình ảnh hố đen
Công nghệ giúp lưu trữ hình ảnh hố đen

458 Lượt xem

Công nghệ giúp lưu trữ hình ảnh hố đen

Vào năm 2019, nhóm các nhà thiên văn học và nhà khoa học máy tính quốc tế đã sử dụng mạng lưới kính viễn vọng toàn cầu để xem và chụp bức ảnh đầu tiên về lỗ đen. Họ đã chụp được hình ảnh của lỗ đen siêu lớn và bóng của nó ở trung tâm của một thiên hà được gọi là M87.

QVR Face – Giải pháp nhận diện khuôn mặt thông minh của QNAP
QVR Face – Giải pháp nhận diện khuôn mặt thông minh của QNAP

594 Lượt xem

QVR Face – Giải pháp nhận diện khuôn mặt thông minh của QNAP

QVR Face cung cấp khả năng nhận dạng khuôn mặt ngay lập tức và chính xác với tính năng phân tích video trực tiếp do AI hỗ trợ, thậm chí có khả năng nhận dạng những người đeo mặt nạ.

QNAP cập nhật McAfee Antivirus cho NAS
QNAP cập nhật McAfee Antivirus cho NAS

604 Lượt xem

QNAP cập nhật McAfee Antivirus cho NAS

Việc phát hành McAfee Antivirus phiên bản 3.2 nhấn mạnh cam kết của chúng tôi trong việc cung cấp các giải pháp bảo mật tiên tiến cho người dùng NAS. những tính năng mới này trong McAfee Antivirus cho NAS thể hiện một bước tiến quan trọng trong việc đạt được mục tiêu đó."

GIẢI PHÁP LƯU TRỮ DỮ LIỆU VỚI NAS QNAP
GIẢI PHÁP LƯU TRỮ DỮ LIỆU VỚI NAS QNAP

1229 Lượt xem

GIẢI PHÁP LƯU TRỮ DỮ LIỆU VỚI NAS QNAP

Nas là gì?

Hiểu một cách đơn giản thì NAS (Network-attached Storage) là thiết bị lưu trữ file (hình ảnh, video, tài liệu…). Với NAS bạn có thể sử dụng cho mục đích cá nhân hoặc chia sẻ không giới hạn với nhóm người/ gia đình hoặc giữa các nhân viên của công ty.

NAS có thể được truy cập bất cứ từ đâu như Laptop, PC, Phone miễn nơi đó có Internet.

So với các dịch vụ đám mây (cloud) khác thì NAS có nhiều tính năng tiện lợi và thú vị hơn.

Kết nối lưu trữ NAS hiệu suất cao, tối ưu chi phí với QNAP Switch QSW-1108-8T
Kết nối lưu trữ NAS hiệu suất cao, tối ưu chi phí với QNAP Switch QSW-1108-8T

1044 Lượt xem

Kết nối lưu trữ NAS hiệu suất cao, tối ưu chi phí với QNAP Switch QSW-1108-8T

QNAP® Systems, Inc., hãng tiên phong trong việc nghiên cứu và sản xuất các giải pháp điện toán và lưu trữ mạng, vừa qua đã ra mắt Bộ chuyển mạng không được quản lý tốc độ 2.5GbE – QSW-1108-8T . Với tám cổng 2,5GbE, thiết lập plug-and-play, phát hiện và chặn vòng lặp tự động cũng như chức năng tự động đàm phán, QSW-1108-8T là giải pháp nâng cấp mạng tốc độ cao tiết kiệm chi phí cho gia đình và doanh nghiệp.

Giới Thiệu Các Dòng Ổ Cứng Di Động Của Western Digital
Giới Thiệu Các Dòng Ổ Cứng Di Động Của Western Digital

441 Lượt xem

Western Digital (WD) là một trong những thương hiệu hàng đầu về công nghệ lưu trữ dữ liệu, đặc biệt nổi bật với các dòng ổ cứng di động. Với sự phát triển không ngừng của công nghệ số, nhu cầu lưu trữ dữ liệu lớn, an toàn và tiện lợi ngày càng tăng cao. Để đáp ứng những nhu cầu đó, Western Digital đã giới thiệu hàng loạt các dòng ổ cứng di động với nhiều tính năng vượt trội, phục vụ cho các nhu cầu khác nhau từ người dùng cá nhân đến doanh nghiệp.


Bình luận
Đã thêm vào giỏ hàng