Paul Arends
Philippe Dufresne, de Canadese privacycommissaris, ontdekte dat OpenAI “niet in overeenstemming” was met de Canadese federale en provinciale privacywetten bij het trainen van zijn AI-modellen. Na een onderzoek zeggen Dufresne en zijn collega’s in Alberta, Quebec en British Columbia dat OpenAI’s benadering van zaken als gegevensverzameling en toestemming meerdere wetten heeft beïnvloed, waaronder de Canadese Personal Information Protection and Electronic Documents Act (PIPEDA), die regelt hoe bedrijven persoonlijke informatie verzamelen en gebruiken in de normale gang van zaken.
Commissarissen die aan het onderzoek deelnamen, identificeerden meerdere privacyproblemen met de aanpak van OpenAI, waaronder dat het bedrijf “grote hoeveelheden persoonlijke informatie verzamelde zonder adequate waarborgen om het gebruik van die informatie te voorkomen om zijn modellen te trainen” en dat het überhaupt geen toestemming kreeg om die persoonlijke informatie te verzamelen en te gebruiken. Waarschuwingen in ChatGPT wijzen erop dat AI-interacties kunnen worden gebruikt bij trainingen, maar dat de gegevens van derden die OpenAI heeft gekocht of opgehaald ook persoonlijke gegevens bevatten waarvan mensen zich waarschijnlijk niet eens bewust zijn. Het feit dat ChatGPT-gebruikers geen manier hebben om toegang te krijgen tot dergelijke gegevens, deze te corrigeren of te verwijderen, was een ander probleem dat door de commissarissen werd geïdentificeerd, volgens een samenvatting van de bevindingen van het onderzoek, samen met de matte pogingen van OpenAI om de onnauwkeurigheid van sommige ChatGPT-reacties te erkennen.
De Canadese privacycommissaris zegt dat OpenAI open is geweest en heeft gereageerd op het onderzoek en al heeft toegezegd meerdere wijzigingen in ChatGPT aan te brengen om de Canadese privacywetten te volgen. OpenAI heeft eerdere modellen die de Canadese privacywetgeving schonden buiten gebruik gesteld en gebruikt nu “een filtertool om persoonlijke informatie (zoals namen of telefoonnummers) te detecteren en te maskeren in openbaar toegankelijke internetgegevens en gelicentieerde datasets die worden gebruikt om zijn modellen te trainen”, zegt de commissaris. Het bedrijf heeft er ook mee ingestemd om binnen de komende drie maanden een nieuwe kennisgeving toe te voegen aan de versie zonder inloggegevens van ChatGPT, waarin wordt uitgelegd dat chats kunnen worden gebruikt voor training en dat gevoelige informatie niet mag worden gedeeld, en wel binnen de komende zes maanden:
Terwijl het Canadese onderzoek naar het privacybeleid van OpenAI in 2023 werd gestart, is het bedrijf recentelijk onder de loep genomen door toezichthouders vanwege zijn verband met de massale schietpartij op Tumbler Ridge in februari 2026. OpenAI heeft naar verluidt in 2025 het account van de vermeende schutter gemarkeerd omdat het waarschuwingen bevatte voor geweld in de echte wereld, maar slaagde er niet in deze zorgen te escaleren naar de Canadese wetshandhaving. Na de schietpartij vroegen toezichthouders het bedrijf om zijn benadering van beveiliging te veranderen, en OpenAI stemde er uiteindelijk mee in om in de toekomst meer samen te werken met Canadese wetshandhavings- en gezondheidsinstanties.
