Nvidia a lansat platforma software open-source Nvidia Open Agent Safety Platform, concepută să ajute companiile și dezvoltatorii să stabilească bariere de siguranță pentru agenții AI. Platforma le permite să limiteze accesul agenților la date, rețele și sisteme informatice și să-i oprească atunci când încearcă să depășească limitele stabilite sau să iasă din mediile controlate în care funcționează. Nvidia a spus că instrumentul ar fi putut preveni incidentul de securitate asociat cu Hugging Face, în care a fost implicat un model OpenAI. Lansarea vine după o serie de incidente în care agenți AI au depășit restricțiile mediilor controlate. OpenAI și Anthropic investighează cazuri în care agenți AI ar fi accesat sisteme comerciale și guvernamentale.