Paul Arends
Mark Zuckerberg heeft onlangs zijn verbazing gedeeld over zijn visie om “superintendence” op te bouwen. Hij heeft gesuggereerd dat het streven naar superkrachtigheid kan vereisen dat het bedrijf selectiever wordt in het openstellen van bronnen.
Met betrekking tot “security issues” schreef Meta dat het “rigoureus” had moeten zijn in deze beslissingen. Dit standpunt was opvallend voor velen, aangezien Zuckerberg – die eerder sprak over gesloten platforms – open source centraal stelde in de AI DI-meta-strategie.
Tijdens de winstoproep van het tweede kwartaal erkende Zuckerberg ook dat er een verandering zou kunnen komen, hoewel hij dit minimaliseerde. Dit is wat hij zei toen hem werd gevraagd of zijn standpunt was veranderd.
Ik denk niet dat onze standpunten hierover vooral zijn veranderd. We hebben altijd enkele van onze modellen geopend en we hebben niet alles geopend wat we hebben gedaan. Dus ik verwacht dat we de belangrijkste open source-modellen zullen blijven produceren en delen. Ik denk ook dat er een paar trends gaande zijn. Eén daarvan is dat we zulke grote modellen krijgen dat ze niet praktisch zijn voor veel andere mensen om te gebruiken, dus vragen we ons af of het productief of nuttig is om ze te delen, of dat het vooral concurrenten helpt of iets dergelijks. Dus ik denk dat er die bezorgdheid is.
En dan denk ik natuurlijk, naarmate echte superintelligentie nadert, zijn er heel andere beveiligingsproblemen waarvan ik denk dat we ze heel serieus moeten nemen, zoals ik vanochtend in mijn notities heb geschreven. Maar ik denk dat de bottom line is dat ik verwacht dat we een open voorraadwerk zullen blijven hebben. Ik verwacht dat we daarin een leider zullen blijven, en ik verwacht ook dat we niet alles zullen blijven openstellen wat we doen, wat een voortzetting is van waar we aan hebben gewerkt.
Dit staat lijnrecht tegenover wat hij bijna precies een jaar geleden schreef in een stuk getiteld “AI Open Source is the Forward Path”. In die uitgebreidere opmerking zei hij dat open source cruciaal is, zowel voor vooruitgang als voor ontwikkelaars.
“Mensen vragen me vaak of ik me zorgen maak over het opgeven van een technisch voordeel door open source, maar ik denk dat dit het grotere plaatje mist,” schreef hij. “Ik verwacht dat de ontwikkeling van AI zeer competitief zal blijven, wat betekent dat open source niet elk model op dat moment een enorm voordeel geeft ten opzichte van de volgende beste modellen.”
Hij beweerde ook dat open source veiliger is. “Er is voortdurend debat over de veiligheid van open source kunstmatige intelligentiemodellen en mijn standpunt is dat AI Open Source veiliger zal zijn dan alternatieven. Zolang iedereen toegang heeft tot vergelijkbare generaties modellen – die open source bevorderen – kunnen regeringen en instituten met meer rekenkracht de slechteriken met minder rekenkracht aan.”
Om duidelijk te zijn: Zuckerberg zei dat het bedrijf een deel van zijn werk open zal blijven stellen. Maar het lijkt erop dat er wordt gewerkt aan een toekomst waarin “superintelligentie” veel minder open zal zijn.
