NVIDIA lansează o platformă open-source pentru controlul agenților AI
Sistemul Open Agent Safety Platform combină izolarea software și supravegherea tehnică pentru a limita acțiunile agenților AI.
Publicat de Cosmin Meca, 29 septembrie 2026, 09:29
NVIDIA a lansat Open Agent Safety Platform, un sistem open-source destinat testării și controlului agenților de inteligență artificială. Platforma combină mecanisme software de izolare cu monitorizare pentru a limita accesul agentului la date, rețele și sisteme. Scopul declarat este ca organizațiile să poată stabili ce operațiuni sunt permise și să oprească acțiunile care depășesc aceste limite.
Inițiativa vine într-un moment în care companiile testează sisteme capabile să execute sarcini în mod autonom, iar incidentele de securitate ridică întrebări despre ce se întâmplă când un agent acționează în afara instrucțiunilor. NVIDIA prezintă platforma ca pe o referință pentru evaluare și implementare, nu ca pe o garanție că orice comportament nedorit poate fi prevenit. Eficiența va depinde de regulile configurate de fiecare organizație și de testarea în condiții reale.
