Cập nhật giúp nền tảng Google Cloud AI nhanh hơn và linh hoạt hơn

Google vừa công bố nhiều bản cập nhật cho Nền tảng AI giúp nó nhanh hơn và linh hoạt hơn để chạy khối lượng công việc học máy. Một trong số đó là NVIDIA GPUs AI Platform Prediction cho phép các nhà khoa học dữ liệu phục vụ các mô hình cho các dự đoán trực tuyến trong môi trường không có máy chủ (serverless). Bằng cách đó, các nhà phát triển ứng dụng có thể truy cập AI mà không cần phải hiểu các khung ML và các nhà khoa học dữ liệu không phải quản lý cơ sở hạ tầng phục vụ.

Tuy nhiên, một số mô hình máy học phức tạp đến mức chúng chỉ chạy với độ trễ chấp nhận được trên các máy có nhiều CPU hoặc với các bộ tăng tốc như NVIDIA GPU. Điều này đặc biệt đúng với các mô hình xử lý dữ liệu phi cấu trúc như hình ảnh, video hoặc văn bản.

AI Platform Prediction (dự đoán nền tảng AI) hiện cho phép bạn chọn từ một nhóm các loại Compute Engine để chạy mô hình của mình. Bây giờ bạn có thể thêm GPUs, như NVIDIA T4 để được tối ưu hóa suy luận, độ trễ thấp. Trên hết, bạn vẫn không cần quản lý cơ sở hạ tầng bên dưới vì nền tảng AI của Google Cloud xử lý tất cả các mô hình cung cấp, chia tỷ lệ và phục vụ mô hình của bạn.

Các tính năng mới để hợp lý hóa phát triển mô hình

AI Platform Training cũng cho phép các nhà khoa học dữ liệu chạy tập lệnh đào tạo trên bất kỳ phạm vi phần cứng nào mà không phải quản lý các máy bên dưới. Chúng tôi đã giới thiệu nhiều tính năng để mở rộng các loại mô hình bạn có thể đào tạo: