Quick PoC on How to Serve Open Source Models on Azure Kubernetes Service
Actually it is overkill for small scale usage 😹
Nur Muhammad / Dec 30, 2024
1 min read • 68 word(s)
Background
Jadi, sebenarnya ini itu cuma PoC sih (atau assessment). Inspirasinya dari acara Kubernetes Community Day yang emang saat itu acaranya mayoritas membahas AI x K8s. Nah, cuma karena yang dibahas di sana lebih ke 'how to' dengan pakai K8s native, jadinya coba iseng kalau di Azure.
Lanjutan
Nah tapi maaf sepertinya updatenya tunggu dulu ya 🙏🙏🙏
Photo from Google