Komplexa inlärningssystem och språkmodeller för AI kräver mer kapacitet än vad som i dagsläget finns tillgängligt på många plattformar. Generativa AI-modeller som är designade för att skapa enorma mängder text och analys kan vara allt från tio gånger till flera hundra gånger större än äldre AI-modeller. Antalet användare har också exploderat och företag förväntar sig en bättre kapacitet av molnbaserade tjänster.
Amazon Web Services (AWS), Microsoft Azure och Google Cloud befinner sig under stor press att kunna möta kraven på datakapacitet som den stora AI-boomen innebär. Hos AWS kan ett kluster innehålla upp till 20 000 GPU:er. AI-optimerad infrastruktur är hittills en mindre del av företagets totala kapacitet, men AI växer i betydligt snabbare än vad det finns kapacitet för. AWS planerar därför flera AI-optimerade serverkluster under de kommande 12 månaderna - en trend som följs av Google och Microsoft Azure.
Marknaden ställer om sig och nya möjligheter växer fram
En ny trend pekar mot att företag delvis utforskar lokala lösningar för att spara in på kostnader för datalagring och nätverk. Molnleverantörer ser sig därför tvungna att erbjuda bättre priser som i längden kan innebära lägre kostnader än lokala nätverk där investeringar för uppgradering av hårdvara kan bli kännbara. I vissa fall kan det dock bli billigare och snabbare för företag att använda lokala enheter, vilket också avlastar pressen på molntjänster.
Enligt Forbes Magazine sker det en ökning av företag som bidrar till den grundläggande infrastrukturen inom AI-applikationer för att köra LLM för GenAI. Nvidia erbjuder den mest kompletta infrastrukturen, vilket omfattar mjukvara, chips, databehandlingsenheter (DPU), SmartNICs och nätverk. I återkommande diskussioner utses ofta Nvidias InfiniBand adaptrar för snabb dataöverföring och befintliga Ethernetkort som aktuella standarder inom nätverksteknologi. Båda används ofta inom AI-applikationer. Samtidigt som Nvidia byggt upp en stark marknadsposition inom båda fälten förutspås Ethernet bli en spelplan för start-ups vilket till viss del beror på lägre kostnader. Det blir en ny och spännande marknad att följa, speciellt som förutsättningarna för AI:s utveckling fortsättningsvis kommer att vara fullt ut beroende av innovativa och kraftfulla lösningar.
