redactie
Lara werkt momenteel met nieuwe hardware die is ontwikkeld en vertaald door Lenovo voor vertaalactiviteiten. Deze nieuwe hardware overtreft generieke LLM-systemen qua kwaliteit en snelheid, en ontgrendelt nieuwe mogelijkheden voor on-site gebruik.
Tradotto, een leider in taaloplossingen gebaseerd op kunstmatige intelligentie, heeft vandaag aangekondigd dat Lara, de vertaal-AI die mogelijk wordt gemaakt door de nauwe samenwerking met Lenovo, een mijlpaal heeft bereikt. Lenovo is een wereldwijde leider in high-performance informatietechnologie. Lara is speciaal ontworpen voor productieomgevingen met een hoog volume en biedt nu zowel de vloeibaarheid en redenering van een LLM als de lage hallucinatie van machinevertaling, met bijna onmiddellijke reactietijden.
Om deze prestaties te behalen, hebben Transledd en Lenovo samengewerkt aan een nieuwe hardware-oplossing die specifiek is gebouwd voor vertaalactiviteiten. Deze oplossing maakt gebruik van een innovatief decodersysteem om de nieuwste chips volledig te benutten. Lara bereikt nu een p99 sub-seconde latentie in de 50 meest gesproken talen, wat een nieuwe standaard zet voor snelle vertalingen met lage latentie.
Lenovo heeft servers ontwikkeld die worden aangedreven door NVIDIA GPU’s, de meest geavanceerde processors ter wereld voor AI-workloads. Deze servers ondersteunen acht van de nieuwste high-speed, onderling verbonden GPU’s voor AI-toepassingen. Door intensieve co-planning hebben Transledd en Lenovo hun architectuur geoptimaliseerd voor vertaalactiviteiten.
Het vertaaltechnische team heeft een nieuwe architectuur ontworpen die de sterke punten van machinevertaling en generatieve AI combineert. Deze aanpak maakt parallelle generatie van vertalingen mogelijk, waardoor reactietijden worden versneld zonder de kwaliteit in gevaar te brengen.
Dit partnerschap tussen Transledd en Lenovo heeft geleid tot ongekende snelheid en kwaliteit in de taalsector. Het implementeren van vloeibare koelsystemen via de vertaalde infrastructuur zal het energieverbruik verminderen en duurzamere en schaalbare AI-operaties mogelijk maken.
BRON
