Paul Arends
De infrastructuur van AI staat op een kantelpunt. De koppen vieren de vooruitgang en de afname van GPU’s van Watts naar Megawatt, maar binnen bedrijven hangt succes af van iets moeilijkers: het verkrijgen van gegevens, schaal, beveiliging en operaties om samen te werken in echte productieomgevingen met echte operationele beperkingen.
De kloof in het voorbereiden van bedrijfsinfrastructuur is duidelijk. Het McKinsey Global Institute schat dat AI tot $ 4,4 biljoen aan bedrijfswinsten kan genereren, maar volgens de AI Readiness Index van Cisco zegt slechts 13 procent van de bedrijven dat ze klaar zijn om AI op schaal te ondersteunen en de meeste AI-initiatieven stranden snel – niet omdat de modellen falen, maar omdat de basisinfrastructuren hen niet kunnen ondersteunen.
De kloof in bedrijfsinfrastructuur
De meeste productiedatacenters zijn nooit ontworpen voor AI-workloads met GPU Dense, die hongerig zijn naar gegevens. Het vormen van modellen, ontwikkeling en inferentie leggen nieuwe druk op de IT-omgeving. Hier zijn enkele van deze drukpunten en hun resulterende infrastructuurvereisten.
- GPU’s die worden aangedreven met de gegevens die ze nodig hebben om AI-workloads te beheren, vereisen hoogwaardig verkeer, lage latentie en grootschalige oost-west-communicatie.
- Heterogene clusters die naakt metaal, virtuele machines en Kubernetes-workloads mengen, moeten worden ondersteund.
- De enorme hoeveelheid gegevens van datasets vereist economische opslagprestaties die geoptimaliseerd zijn voor locatie en verplaatsing.
- Het nauwkeurig beheren van algemene operationele kosten moet gefragmenteerde tools omvatten voor berekening, opslag en beveiligingsgebieden.
- Risicobeheer moet bescherming bieden voor gereguleerde gegevens, intellectuele eigendommen en modelintegriteit.
Klanten zeggen dat het moeilijkste deel niet de AI-infrastructuur is, maar het beheren van AI als een betrouwbare service in het licht van deze uitdagingen.
Cisco’s focus op AI
Dit jaar introduceerde Cisco de Safe Artificial Intelligence Factory met NVIDIA, een infrastructuur die schaalbaar, hoog presterend en veilig is, ontwikkeld door Cisco, Nvidia en andere strategische partners. Het combineert gevalideerde architecturen, geautomatiseerde operaties, ecosysteemadd-ons en geïntegreerde beveiliging.
AI-pods zijn hoe klanten beginnen. Ze kunnen worden gezien als modulaire bouwstenen: gevalideerde infrastructuureenheden met rekken die computing, opslag, software en beveiligingscontroles groeperen, zodat teams snel AI-toepassingen kunnen implementeren en systematisch kunnen laten groeien. Voor organisaties die verder gaan dan een laboratoriumomgeving naar productie, bieden de Cisco AI-pods een gecontroleerde en ondersteunende route.
Een nieuwe optie in Cisco AI-pods is Cisco Nexus Hyperfabric AI: een infrastructuuroplossing die turnkey is en wordt beheerd in de cloud voor multi-cluster en multi-tenant omgevingen. Voor klanten die werken over meerdere domeinen of datacenters, biedt Hyperfabric AI een stofgebaseerd model voor AI-pod-implementaties.
Vijf operationele doelstellingen die de optimalisatie van bedrijfsinfrastructuur begeleiden
- Tijd tot resultaten: vooraf beoordelende bouw en automatisering van de levenscyclus met Cisco Intersight, Cisco Nexus Dashboard en Hyperfabric AI versnellen cycli en verkorten de weg van data preparation tot modeloutput.
- Schaalbaarheid en prestaties: Cisco UCS-servers geoptimaliseerd met GPU’s en non-blocking Nexus-stoffen zorgen voor lage latentie en behouden dure versnellers.
- Geïntegreerde operaties: Geïntegreerd beheer en observatie, met behulp van platforms zoals Sprunch en Thousandeyes, verminderen het gebruik van afzonderlijke silo’s op het gebied van computing, netwerken en workloads. Of u nu begint met inferentie of groeit naar gedistribueerde training, het operationele model blijft hetzelfde.
- Verantwoord gebruik van data overal: Partnerschappen met opslagleveranciers zoals NetApp, Pure en andere ondersteunen een breed scala aan hoge bandbreedteverbindingen, beveiligen gegevensverwerking en pijplijnen zonder klanten te vertragen.
- Geïntegreerde beveiliging en vertrouwen: Cisco AI Defense Controls, Cisco Hypershield en isovalent EBPF helpen bij het beschermen van gegevens, modellen en gedragingen tijdens runtime, wat essentieel is voor gereguleerde sectoren.
Echte implementaties, missiekritieke resultaten
Wereldwijde klanten in de gezondheidszorg, financiën en openbare sector gebruiken al Cisco POD-architectuur in hun productieomgevingen om:
- Veilige genii-inferentie uit te voeren naast gereguleerde gegevens
- Domain modellen te verfijnen zonder gevoelige intellectuele eigendommen te verplaatsen
- Workloads uit te breiden via pods en frameworks terwijl projecten groeien
Voorbereiding op AI-infrastructuur
Vraag uw team:
- Kunnen we in dagen GPU-capaciteit leveren, niet in kwartalen?
- Is ons oost-west-netwerk ontworpen voor verzadiging van GPU’s?
- Hebben we beleid, telemetrie en beveiliging voor gegevens, modellen en runtime-omgevingen?
- Kunnen we inferentie nu ondersteunen en later schalen zonder herontwerp?
- Zijn de operaties geünificeerd of versnipperd door puntoplossingen?
Als een van deze “nog niet” is, kan een modulaire benadering zoals een AI-pod een snelle infrastructuurvoorbereiding bieden.
Gebouwd voor AI. Klaar voor wat komt.
De volgende stap voor bedrijven hangt af van intelligente, veilige en operationeel eenvoudige infrastructuur. Met modulaire AI-pods en schaalbare stoffenuitbreiding wanneer u die nodig heeft, helpt Cisco organisaties om de ambitie van AI in praktijk te brengen zonder volledige herstructurering.
Aanvullende bronnen:
Deel:
