Paul Arends
Waarom zou je nog een gereviseerde Mac Pro nodig hebben als je eenvoudig meerdere Mac Studios kunt combineren tot één geïntegreerd computersysteem? Met de aankomende release van macOS Tahoe 26.2 introduceert Apple een nieuwe functie met lage latentie waarmee je meerdere Macs met elkaar kunt verbinden via Thunderbolt 5. Voor ontwikkelaars en onderzoekers is dit een potentieel nuttige manier om krachtige AI-supercomputers te creëren die enorme lokale modellen kunnen draaien. Op deze manier kunnen vier Mac Studios, die elk tot 512 GB uniform geheugen kunnen gebruiken, het Kimi-K2-Thinking-model met 1 biljoen parameters veel efficiënter uitvoeren dan pc’s met energieverslindende GPU’s.
Hoewel we eerder Thunderbolt-clusters voor Macs hebben gezien, werden ze beperkt door lagere Thunderbolt-snelheden, vooral als ze een hub nodig hadden (die de snelheden tot 10 Gb/s zou kunnen verlagen). De nieuwe functie van Apple maakt volledige Thunderbolt 5-connectiviteit mogelijk met maximaal 80 Gb/s. Bovendien is de clusterfunctie niet alleen beperkt tot de dure Mac Studio, maar werkt deze ook met de Mac mini M4 Pro en MacBook Pro M4 Pro/Max. Ontwikkelaars hebben geen speciale hardware nodig om clusters te maken, alleen standaard Thunderbolt 5-kabels en compatibele Macs.
In een demo zag ik een cluster van vier Mac Studios het enorme Kimi-K2-Thinking-model laden en uitvoeren in een vroege versie van EXO 1.0 van ExoLabs. Opvallend was dat het cluster minder dan 500 watt aan stroom verbruikte, wat ongeveer 10 keer minder is dan een typisch GPU-cluster (NVIDIA’s RTX 5090 heeft een vermogen van 575 W, maar de eisen kunnen ook hoger zijn).
macOS Tahoe 26.2 zal Apple’s open source MLX-project ook volledige toegang geven tot neurale versnellers op de M5-chip, wat de AI-inferentie aanzienlijk zou moeten versnellen. Ironisch genoeg ondersteunt de enige M5 Mac die momenteel verkrijgbaar is, de 14-inch MacBook Pro, alleen Thunderbolt 4. Dat betekent dat hij geen voordeel zal kunnen halen uit de nieuwe clusterfunctie van de Mac.
Het uniforme geheugen en het energiezuinige ontwerp van Apple Silicon hebben Macs al tot een nuttige keuze gemaakt voor veeleisende AI-taken, maar de mogelijkheid om meerdere systemen samen te voegen via Thunderbolt 5 is potentieel nog aantrekkelijker voor iedereen die met grote modellen werkt. Natuurlijk is een Mac Studio met 512 GB RAM niet goedkoop (hij begint bij $ 9.499 met de M3 Ultra-chip), maar dat is gewoon de hoogste optie. Laboratoria en bedrijven die al Mac Studios, Mac mini’s en MacBook Pro’s hebben, kunnen mogelijk de systemen die ze al hebben aangeschaft bundelen.
