Paul Arends
Een van de moeilijkste vragen bij AI-modellen is waar ze eigenlijk vandaan komen. Het Model Provenance Kit is een tool die modellen op gewichtsniveau controleert om te verifiëren waar ze vandaan komen. Er is echter nog geen duidelijke standaard in de industrie die definieert wat kwalificeert als een afgeleidingsrelatie tussen modellen.
Definities verschillen tussen licentiegevers, normalisatie-instellingen, onderzoeksgroepen en AI-laboratoria, wat problemen veroorzaakt bij het handhaven van licenties, het beoordelen van kwetsbaarheden en het naleven van de regelgeving.
Om dit op te lossen, is de Herkomstmodelgrondwet gecreëerd. Deze grondwet bevat een taxonomie, definitie en grensspecificaties die aantonen wat wel en niet als een model-herkomstrelatie kwalificeert op het niveau van gewichtsafleiding.
Waarom de herkomst van het model definiëren belangrijk is
Kernmodellen ondergaan verschillende stappen voordat ze in een bedrijf terechtkomen, en elke stap creëert een nieuw controlepunt waarvan de relatie met het oorspronkelijke model slecht gedocumenteerd is. Het is essentieel om te weten of een geïmplementeerd model bekende kwetsbaarheden erft of om te bepalen of een controlepunt een licentieverplichting activeert.
Zonder een gedeelde en rigoureuze reactie kunnen organisaties risico lopen, zoals aanvallen op de toeleveringsketen en problemen met regelgeving en incidentrespons.
Herkomst betreft modelgewichten
De Model Provenance Constitution baseert herkomst op de verifieerbare afleidingsgeschiedenis van getrainde gewichten van modellen. Modellen delen hun herkomst als een causale keten van gewichtsafleiding hen verbindt.
De grondwet definieert ook wanneer twee modellen met elkaar verbonden zijn, hoe deze relatie tot stand komt en wat niet als een herkomstrelatie wordt beschouwd.
Stel een teststandaard op
De Provenance Model Constitution maakt gebruik van bronnen zoals officiële documentatie, controlepuntverificatie en analyses van derden om herkomst vast te stellen. Dit helpt bij het voorkomen van foutieve beslissingen met betrekking tot licenties, kwetsbaarheden en naleving.
Afstemming met AI-bedreigingskaders en -standaarden
Attestatie van modelherkomst kan worden gezien als controle op de toeleveringsketen, en de grondwet dient als een definitieniveau dat afhankelijkheid van modellen verifieerbaar maakt.
De Model Provenance Constitution is gebaseerd op bestaande raamwerken die al worden gebruikt door AI-toeleveringsketenprogramma’s, en het is essentieel voor consistente documentatie binnen organisaties en bij leveranciers.
Een levend document
Nieuwe methoden voor het bouwen van modellen ontstaan sneller dan vaste taxonomieën kunnen bijhouden, en de Modelgrondwet inzake de Herkomst zal worden herzien naarmate het landschap evolueert.
