Menekan Biaya Token untuk Mendorong Adopsi AI Skala Besar yang Lebih Ekonomis
OceanStor M900 menggunakan teknologi penyimpanan adaptif berbasis KV yang pertama di industri. Teknologi ini memprediksi siklus hidup KV cache berdasarkan nilai data dan secara cerdas mendistribusikannya ke berbagai media penyimpanan. Teknologi tersebut mendukung hingga 24 penulisan drive per hari (DWPD), memperpanjang ketahanan SSD hingga 16 kali dan menjaga stabilitas selama tiga tahun. Dengan mengurangi kebutuhan penggantian media serta biaya O&M, solusi ini menekan biaya jangka panjang infrastruktur inferensi AI berskala besar sekaligus mempercepat adopsi AI.
AI semakin banyak digunakan dalam sistem produksi utama di berbagai industri. Lebih lagi, infrastruktur AI juga berkembang dari model yang berpusat pada komputasi menuju kolaborasi yang lebih erat antara komputasi, jaringan, dan penyimpanan data. Context memory storage akan menjadi komponen penting yang terus meningkatkan kapasitas dan efisiensi akses KV cache pada sistem inferensi hyperscale.
