Paul Arends
Als je de laatste tijd hebt opgelet op Google, weet je dat het wil dat we zijn AI-tools gebruiken. Zozeer zelfs dat Chrome blijkbaar een bestand van 4 GB downloadt met de details om Gemini Nano, de LLM, op het apparaat van Google uit te voeren. Computerwetenschapper Alexander Hanff publiceerde de details eerder deze week op zijn website The Privacy Guy en legt haarfijn uit waarom dit geen goed idee is voor Google.
Ik heb zojuist gecontroleerd wat er stond over het bestand met de naam “weights.bin” en vond het in de Chrome-map in de macOS-bibliotheekmap (die normaal gesproken verborgen is, zodat gebruikers niet met potentieel kritieke bestanden kunnen knoeien). In feite is het een bestand van meer dan 4 GB, precies waar hij zei dat het zou zijn. Hanff merkt terecht op dat Chrome gebruikers nooit vraagt om te vragen of ze Gemini Nano-gewichten willen installeren, die Chrome-gebruikers gebruiken voor AI-aangedreven functies zoals “help me schrijven” en zwendeldetectie op het apparaat.
Het is vermeldenswaard dat op een tweede Mac die ik controleerde, het bestandweights.bin niet was geïnstalleerd, en ook niet op de laptop van een collega werd gevonden. Kort nadat ik Chrome had bijgewerkt naar versie 148.0.7778.97 op mijn persoonlijke laptop, verschenen de map en het bestand. En toen ik de map met het bestand verwijderde op de eerste computer die ik controleerde, kwam het grote bestandweights.bin enkele minuten later terug.
Hanff schreef dat hij soortgelijk gedrag ook tegenkwam bij meerdere Windows-installaties. “Gebruiker verwijdert, Chrome downloadt opnieuw, gebruiker verwijdert opnieuw, Chrome downloadt opnieuw. De enige manier om de verwijdering te laten voortduren is door de AI-functies van Chrome uit te schakelen via chrome://flags of zakelijke beleidstools die thuisgebruikers doorgaans niet hebben, of door Chrome volledig te verwijderen.”
Zoals Hanff opmerkt, zijn er talloze problemen met dit gedrag. Het is een onzichtbare download waar de gebruiker niet van op de hoogte is en waarvoor geen expliciete toestemming nodig is, en die ook niet eenvoudig te verwijderen is. Het is ook diep verborgen in mappen die de meeste gebruikers niet controleren, met een generieke naam die geen echte informatie geeft over het doel ervan.
Bijkomende zorgen van Hanff zijn onder meer dat dit in strijd zou kunnen zijn met de Europese privacywetten, waaronder de AVG. Daarnaast zijn er mogelijk hoge milieukosten. Hanff schat dat een ‘middenklasse’-implementatie van dit bestand van 4 GB 500 miljoen apparaten zou bereiken, oftewel ongeveer 15% van de Chrome-gebruikers. Deze impuls zou zich vertalen in ongeveer 30.000 ton CO2e – de jaarlijkse uitstoot van 6.500 auto’s. Houd er ook rekening mee dat dit alleen de initiële leveringskosten zijn en dat veel extra factoren zouden resulteren in hogere energiekosten.
We hebben contact opgenomen met Google voor commentaar, maar hebben vóór de publicatie geen reactie ontvangen. We zullen dit verhaal bijwerken als we iets horen.
.
BRON
