Hoe Cisco CX AI opschaalde met behoud van beveiliging en kostenbeheersing

Ontdek hoe Cisco Customer Experience (CX) gebruik heeft gemaakt van een AI-ready infrastructuur, inclusief netwerken, rekenkracht en observatie, om gevoelige gegevens te beschermen, de kosten te beheersen en de ROI op de AI-workloads van agenten te maximaliseren.

AI beweegt niet alleen; hij is aan het rennen.

Door AI strategisch in te zetten, creëren we proactieve, gepersonaliseerde en voorspellende klantervaringen die de tevredenheid en loyaliteit verbeteren, zonder dat dit ten koste gaat van de veiligheid of het budget. Nu de mogelijkheden snel evolueren, transformeert Cisco CX een cruciaal onderdeel van zijn backend-infrastructuur om geavanceerde AI-workloads te ondersteunen.

Ga uitdagingen op het gebied van beveiliging en kosten aan

Hoewel cloudplatforms uitblinken in flexibiliteit en snelheid, introduceren ze enkele uitdagingen op het gebied van datasoevereiniteit en op consumptie gebaseerde kostenvolatiliteit. Voor AI-workloads die gevoelige klantinformatie verwerken, hebben we besloten dat deze afweging onhoudbaar was.

Veiligheid: Cloudomgevingen kunnen data verspreiden over meerdere netwerken en zelfs geografisch verspreide locaties, met toegangscontrole via verschillende derde partijen, waardoor het aanvalsoppervlak in een groeiend dreigingslandschap wordt vergroot. Lokale distributie elimineert deze tussenpersonen. De infrastructuur van Cisco voldeed aan onze behoeften op het gebied van datasoevereiniteit, combineert de beveiliging in elke laag van de stack en vermindert de blootstelling aan gedistribueerde bedreigingen.

Kosten: Lokale distributie biedt ook meer controle over de bedrijfskosten. In de cloud zorgen AI-gebruiksscenario’s met onvoorspelbare gevolgtrekkingseisen ervoor dat de tokenkosten omhoog schieten. Een chatbot die klantverzoeken afhandelt, kan bijvoorbeeld 10 miljoen tokens verwerken tijdens het hoogseizoen, maar slechts 2 miljoen tijdens de daluren, wat resulteert in een vijfvoudige verandering in de kosten van maand tot maand. Deze onvoorspelbaarheid maakt budgetteren moeilijk en wordt nog verergerd naarmate de AI-werklast toeneemt. Wanneer we tokens lokaal verwerken, vervangen we de inkomende en uitgaande volatiliteit door kostenzekerheid, waardoor variabele uitgaven worden omgezet in voorspelbare kapitaalinvesteringen.

Lokale infrastructuur beperkt twee kritieke bedrijfsrisico’s: verlies van gegevenssoevereiniteit en onvoorspelbaarheid van de begroting. Van elimineren externe tussenpersonen en variabele symbolische kosten, Ons Ik verdienEn Beide digitaal veerkracht en financiële voorspelbaarheid om AI op verantwoorde wijze te schalen.

Flexibele inzet van AI-workloads

Omdat elke AI-gebruikssituatie verschillende eisen stelt op het gebied van gegevensbeveiliging en rekenschaal, ondermijnde een rigide ‘one-size-fits-all’-implementatiestrategie onze beveiligings- en kostendoelstellingen. In plaats daarvan hebben we onze beslissingen gebaseerd op vooraf gedefinieerde criteria voor het prioriteren van, investeren in en implementeren van AI-gebruiksscenario’s. De drie belangrijkste doelstellingen waren:

• Intelligent en schaalbaar: Maximaliseer de waarde van klantinvesteringen in Cisco-technologieën en -oplossingen.
• Aanpasbare ervaring: Pas een proactief, voorspellend en gepersonaliseerd traject aan.
• Veerkracht en digitale veiligheid: Creëer een veerkrachtige, betrouwbare en veilige klantomgeving.

Deze doelen bepaalden waar we elke workload implementeerden, of dit nu on-premises, in de cloud of hybride was. Neem als voorbeeld onze klantsentimentanalyseagent. Analyseer signalen om klantverlengingen te stimuleren door een breed scala aan gevoelige gegevens te verwerken van klantacceptatietrajecten, ondersteuningsinteracties en de Cisco-installatiebasis. Vanwege gegevensgevoeligheid en schaalbaarheidsvereisten is on-premise implementatie een veilige en kosteneffectieve keuze gebleken, waardoor we de volledige controle over klantverlengingsgegevens kunnen behouden en tegelijkertijd onvoorspelbare tokenkosten tijdens piekanalyseperiodes kunnen vermijden.

Met de steun van deze en andere agenten bereikte Cisco CX een 30% betere toegankelijkheid van adoptiestatistieken vergeleken met Cisco CX handmatige beoordelingen e elimineerde de dagelijkse administratieve rompslomp met wel 40%.

Maak gebruik van Cisco-computing en -netwerken

Om de AI-workloads te schalen en tegelijkertijd de datasoevereiniteit en de voorspelbaarheid van de operationele kosten te behouden, hebben we gebruik gemaakt van de volgende Cisco-componenten:

• Cisco Unified Computing System (UCS)-server. beheer de verwerkingseisen van AI-workloads, zoals modeloptimalisatie, applicatie-inferentie en taakautomatisering. De uniforme architectuur vereenvoudigt de schaalbaarheid en het beheer, waardoor ons team AI-mogelijkheden kan schalen zonder de budgettaire onzekerheid die gepaard gaat met cloudgebaseerde gevolgtrekkingen.
• Cisco Nexus 9000-serie switches met Silicium één ASIC’s (toepassingsspecifieke geïntegreerde schakelingen) zorgen voor de netwerken met lage latentie en hoge doorvoer die nodig zijn voor intensieve AI-operaties. Hun programmeerbare ontwerp verlaagt de operationele kosten tijdens schaalvergrotingsgebeurtenissen, waardoor onze infrastructuur zich kan aanpassen aan de werklastvereisten zonder nieuwe beveiligingsvectoren of complexiteit te introduceren.
• Splunk-cloudplatform biedt realtime zichtbaarheid en infrastructuurgezondheid over de hele stapel. Deze zichtbaarheid is essentieel voor het behoud van de beveiliging en operationele efficiëntie, zodat u afwijkingen effectief kunt detecteren, het gebruik van resources kunt optimaliseren en voorspelbare prestaties kunt garanderen naarmate de werklast toeneemt.

Beste praktijken en lessen

Door Cisco reken-, netwerk- en observatieoplossingen te implementeren naast CX-agentmogelijkheden, zorgt Cisco CX ervoor dat de end-to-end klantlevenscyclus veilig, continu en kosteneffectief blijft. Terwijl we de AI-workloads blijven schalen, hebben we het volgende geleerd:

• Sluit aan bij de gebruiksscenario’s met de hoogste waarde: Prioritering is niet subjectief. Stel duidelijke criteria vast voor het evalueren van de waarde van gebruiksscenario’s en implementeer ze dienovereenkomstig, zodat u geen concessies hoeft te doen aan de veiligheid of de kosten.
• Geef prioriteit aan herbruikbaarheid van AI-infrastructuur: Ontwerp uw AI-infrastructuur als een gedeeld platform, niet als geïsoleerde bronnen. Het lokale cluster dat onze verlengingsagenten aandrijft, ondersteunt ook CiscoIQ, waardoor overtollige hardware-investeringen worden geëlimineerd en de time-to-value voor nieuwe agentworkflows wordt versneld. Deze ‘een keer bouwen, veel implementeren’-aanpak maximaliseert de ROI en maakt snelle schaalbaarheid mogelijk zonder evenredige infrastructuurkosten.
• Voer een continue evaluatie van uw distributiemodel uit: Net zoals uw infrastructuur flexibiliteit nodig heeft, moeten uw teams regelmatig processen evalueren en aanpassen om de prestaties en kosten te optimaliseren. Onderken dat hoogwaardige gebruiksscenario’s evolueren met de marktomstandigheden en de behoeften van klanten; uw infrastructuurstrategie zou dat ook moeten doen.
• Versnel de time-to-market: Ontwerp uw infrastructuur voor herbruikbaarheid en flexibiliteit om de implementatiecycli voor nieuwe AI-workflows te verkorten. In plaats van voor elke gebruikssituatie een aangepaste infrastructuur te bouwen, kunnen teams snel nieuwe workloads inrichten, waardoor er meer tijd overblijft voor experimenten.

Door te investeren in de juiste infrastructuur en mentaliteit creëerde Cisco CX ruimte voor zowel ons team als onze klanten om te innoveren en te bloeien.

Gerelateerde links:

Cisco-ondersteuningsservices

Meer blogs over Cisco CX