KubeCon: K8s als OS van cloud-native apps en de rol van Kubernetes voor AI

Fullstaq op KubeCon
Fullstaq op KubeCon
Home / Blog & Nieuws / Cloud native / KubeCon: K8s als OS van cloud-native apps en de rol van Kubernetes voor AI
KubeCon & CloudNativeCon betekent jezelf onderdompelen op het gebied van open source cloud native technologieën. Deze grootste cloud native conferentie vond dit jaar in Parijs plaats en trok meer dan 12.000 bezoekers. Wat moet je echt van KubeCon & CloudNativeCon weten als je aan cloud native applicaties werkt? In deze blog geeft Gerrit Tamboer, CEO van ons zusterbedrijf Fullstaq, mee welke inzichten hij uit Parijs voor je heeft meegenomen. Hint: ja, het gaat over AI, maar dat maakt voor Kubernetes helemaal niets uit.

Powered by AI: omdat er echt AI in zit of omdat investeerders dat willen horen?

Op KubeCon Parijs 2024 was het onmogelijk om het woord AI niet te horen! In haar openings-keynote ging de CEO van CNCF, Priyanka Sharma, er dan ook helemaal op los. Want ja, wat in de rest van de wereld gebeurt rond AI, dat gebeurt ook in de cloud native community. Er is een enorme vraag naar AI ontstaan en alles wat met of op AI draait, is hip. Dat geldt ook voor cloud native tools ‘powered by AI’. Ik vraag me af: is iets echt powered by AI omdat er AI in zit, of is het iets wat investeerders willen horen?

Voor wat AI en Kubernetes betreft: AI kan daar heel goed op draaien. Sterker nog, het maakt niet uit welke workload je hebt om op Kubernetes te draaien. Daarin kent AI dezelfde uitdagingen als ‘gewone’ applicaties. Ook AI kan gebruik maken van de oplossingen van Kubernetes: high availability, schaalbaarheid, wendbaarheid en flexibiliteit, en technologie-agnostisch. Het draait immers overal hetzelfde: of je nu een fancy webapp in de cloud draait, of een machine learning in je eigen datacentrum, de faciliteiten van Kubernetes zijn hetzelfde.

In het landschap van AI vormt Kubernetes dan ook een belangrijke toegevoegde waarde. AI workloads draaien al volop op Kubernetes bijvoorbeeld. Vanuit Fullstaq helpen we bijvoorbeeld Just Eat Takeaway AI en Machine Learning op Kubernetes draaien.

Kubernetes wordt een commodity

In grote lijnen hoor ik op KubeCon dat Kubernetes een Operating System (OS) aan het worden is. Een commodity als platform. Heel eerlijk: ik hoor al 2 jaar dat Kubernetes een commodity aan het worden is. En de grap is: het ís het nu al. Kubernetes is het OS van het hele cloud native ecosysteem.

Het is niet voor het eerst dat ik een nieuwe technologie van opkomend naar een commodity zie gaan. Ooit gingen we van Unix over naar Linux. Dat laatste was toen helemaal hot, happening en gratis. Het heeft de webtech industrie ver gebracht. Zo ver dat Kubernetes tot een paar jaar geleden nog de nieuwe uitdager was. Dat is het nu niet meer.

Inmiddels hebben we Kubernetes als puur technische laag ‘uitgespeeld’. Het gaat nu steeds meer om de lagen eromheen, de tools uit het ecosysteem. Denk aan tools voor CI/CD, observability, service meshes en container runtime.

Kubernetes is niet meer alleen infrastructuur, waar systeembeheerders en operations zich mee bezig houden. Het verschuift nu richting developers, vergelijkbaar met de opkomst van DevOps een jaar of 5 tot 8 geleden, om het gat tussen developers en operations te dichten.

Het gat tussen Kubernetes en developers dichten

Dat gat dichten tussen developers en operations heeft als doel dat developers zich comfortabel voelen bij Kubernetes. Dat ze zich empowered voelen om Kubernetes goed te doen. Hoe dichter een cloud native tool bij developers komt, hoe groter de kans op succes is. Op KubeCon zag ik twee grote projecten in deze richting, beide groot genoeg om een eigen conferentie te houden.

De eerste is Backstage van Spotify. Met dit platform kun je zelf developer portals maken, een self service. Developers krijgen daarmee (GUI) toegang tot de infrastructuur. Ze kunnen daar aanpassingen maken zonder dat er een systeembeheer tussen zit.

De andere is ArgoCD, een GitOps tool. Deze zorgt voor applicatie delivery van je Git Repo naar je product-omgeving.

Complexiteit achter een knop weggewerkt

De voordelen van developer portals brengen ook uitdagingen met zich mee. Dit soort portals abstraheren de complexiteit uit het cloud native en Kubernetes complexiteit. Een complexiteit die je het liefst met één druk op de knop wegwerkt. Alleen: die complexiteit is er nog steeds. Elementen van het cloud native platform kunnen nog steeds kapot gaan. En wat doe je dan? Heb je dan de juiste skills bij je developers om dit zelf te kunnen fixen?

Die onderliggende kennis is nodig. Wat gebeurt er op het platform als je zo’n knop gebruikt? Welke acties zet het in gang en waar heeft het (automatisch) toegang tot?

De truc blijft: implementeer het platform met zo min mogelijk toeters en bellen. Hoe complexer je jouw platform maakt, hoe moeilijker problemen op te lossen zijn. En daarmee is ook de kans op downtime groter. (Overigens helpen OTAP-omgevingen hier ook bij.)

De skill gap verkleinen met AI?

Die skills om een probleem te kunnen oplossen, dat vormt een grote uitdaging, zowel voor ‘gewone’ applicaties als AI op Kubernetes. De skill gap bestaat uit dat er te weinig diep-inhoudelijke techneuten zijn die Kubernetes hiervoor goed genoeg beheersen. Overigens kun je AI ook weer inzetten om deze skill gap te verkleinen. Met AI kun je specifieke best practices meegeven en de developer learning on the job meegeven.

Webinar: ontdek de kracht van Kubernetes voor jouw organisatie

Overweeg je de stap naar Kubernetes voor jouw organisatie? En wil jij meer weten over wat dit betekent voor jouw organisatie? Samen met Thomas van der Feer (Manager Team Kubernetes bij True) heeft Gerrit een webinar gegeven dat je on-demand kunt terugkijken. Bereid je voor op een diepgaande verkenning van Kubernetes en de impact ervan op jouw organisatie!

object storage large
object storage small
Gerrit Tamboer
CEO van Fullstaq
Categorieën: Cloud native, Kubernetes