Microsoft Pertimbangkan Gunakan Model AI Kimi K3 Hemat Biaya Operasional

Raksasa teknologi Microsoft dikabarkan sedang mengevaluasi penggunaan model kecerdasan buatan open-source terbaru, Kimi K3. Rencana integrasi model AI yang dikembangkan oleh startup asal Tiongkok, Moonshot AI, ini ditujukan untuk ekosistem layanan cloud Azure serta fitur Copilot.

Langkah yang diambil oleh perusahaan asal Redmond tersebut terbilang cukup mengejutkan, seperti dilansir dari Gamebrott. Sebab, selama ini Microsoft dikenal sangat mengandalkan model AI berskala besar seperti GPT besutan OpenAI dan Claude milik Anthropic.

Pertimbangan utama di balik minat tersebut didasari oleh efisiensi biaya operasional yang sangat signifikan. Sejak skema harga layanan korporasi diubah berdasarkan jumlah token yang dikonsumsi, pencarian alternatif model yang lebih hemat sumber daya terus dilakukan oleh perusahaan.

Integrasi model Kimi K3 diperkirakan mampu memangkas anggaran pemrosesan data perusahaan hingga USD 600 Juta. Model yang dibekali 2,8 triliun parameter ini dirancang sangat efisien dalam penggunaan memori data center berkat optimalisasi arsitektur penghematan KV cache.

Meskipun adopsi model Kimi K3 memiliki risiko geopolitik, potensi penghematan dana yang sangat besar membuat Microsoft tetap serius mempertimbangkannya. Langkah ini diambil demi menjaga efisiensi serta daya saing layanan AI mereka di pasar global.