Paul Arends
OpenAI heeft onlangs onthuld dat een account uit China CHATGPT gebruikte om promotiemateriaal en projectplannen te maken voor een luistertool op sociale media. Dit werk zou naar verluidt zijn uitgevoerd voor een overheidsklant. De tool, die door OpenAI als een ‘sonde’ werd omschreven, kon sociale-mediasites zoals X, Facebook, Instagram, Reddit, Tiktok en YouTube doorzoeken op specifieke politieke, etnische of religieuze inhoud, zoals gedefinieerd door de exploitant. Het bedrijf kon echter niet onafhankelijk verifiëren of de tool daadwerkelijk door een Chinese overheidsinstantie werd gebruikt. OpenAI heeft later dit jaar de activiteiten stopgezet.
Naast het verbannen van het account dat CHATGPT gebruikte voor de luistertool, heeft OpenAI ook een ander account verboden dat werd gebruikt om een voorstel te ontwikkelen voor een tool die werd omschreven als een “waarschuwingsmodel voor een instroom met een hoog risico”. Deze tool zou helpen bij het volgen van de bewegingen van “Oeigoers-gelinkte” personen, een kwestie waar China al lange tijd van wordt beschuldigd.
OpenAI is begonnen met het publiceren van dreigingsrapporten om bewustzijn te creëren over aan de staat gelieerde actoren die grote modellen gebruiken voor kwaadaardige doeleinden zoals het ontwikkelen van phishing-fraude. Het bedrijf heeft ook melding gemaakt van Russische, Koreaanse en Chinese ontwikkelaars die CHATGPT gebruiken om malware te verfijnen, evenals van hele netwerken in Cambodja, Myanmar en Nigeria die de chatbot gebruiken voor oplichtingspraktijken.
Afgelopen zomer heeft OpenAI CHATGPT ingezet in Iran, Rusland en China om posts en commentaren te genereren die betrokkenheid en verdeeldheid stimuleren als onderdeel van online beïnvloedingscampagnes. De door AI gegenereerde inhoud is gebruikt op verschillende sociale-mediaplatforms, zowel nationaal als internationaal.
BRON
