A mesura que augmenta l'ús de la IA, la seguretat segueix sent una de les principals preocupacions que s'escolten de les organitzacions va en la línia dels riscos que poden portar una adopció ràpida. Google Cloud s'ha compromès a ajudar els nostres clients a crear i desplegar IA amb confiança de forma segura, compatible i privada. Per fer front als riscos durant tot el cicle de vida de la IA, Google Cloud ha anunciat avui AI Protection, una nova solució dissenyada per protegir les càrregues de treball i les dades d'IA a tots els núvols i models - independentment de les plataformes que els clients decideixin utilitzar.

  • Aquesta solució integral permet als equips de seguretat descobrir l'inventari d'IA, protegir els actius d'IA i gestionar les amenaces.
  • En concret, les seves funcions protegeixen davant amenaces com la injecció prompt, el jailbreak, la pèrdua de dades, les URL malicioses i el contingut ofensiu.
  • AI Protection també està integrat amb Google Security Command Center (SCC), el que permet a les organitzacions obtenir una visió centralitzada de la seva posició d'IA i la capacitat de gestionar els riscos d'IA de forma holística en conjunt amb els seus altres riscos al núvol.

Per fer un pas més en la protecció de la IA, Mandiant Consultants ofereix serveis per ajudar les organitzacions a avaluar i implementar mesures de seguretat sòlides per als sistemes d'IA, així com equips vermells per a la IA, informats sobre els últims atacs als serveis d'IA detectats en compromisos de primera línia.

Com s'utilitza?

La gestió eficaç del risc d'IA comença amb una comprensió completa d'on i com s'utilitza la IA en el seu entorn. Les nostres capacitats l'ajuden a descobrir i catalogar automàticament els recursos d'IA, inclòs l'ús de models, aplicacions i dades, i les seves relacions.

És primordial comprendre quines dades admeten les aplicacions d'IA i com es protegeixen actualment. La protecció de dades crítiques (SDP) ara amplia el descobriment automatitzat de dades als conjunts de dades de Vertex AI per ajudar-lo a comprendre la sensibilitat de les dades i els tipus de dades que componen les dades d'entrenament i d'ajustament. També pot generar perfils de dades que proporcionen una visió més profunda del tipus i sensibilitat de les dades d'entrenament.

Les organitzacions poden utilitzar AI Protection per reforçar la seguretat de les aplicacions de Vertex AI aplicant posicions en el Security Command Center. Aquests controls de posició, dissenyats amb coneixements propis de l'arquitectura de Vertex AI, defineixen configuracions de recursos segurs i ajuden les organitzacions a prevenir la deriva o els canvis no autoritzats.

AI Protection opera la investigació i la intel·ligència de seguretat de Google i Mandiant per ajudar a defensar els vostres sistemes d'IA. Els detectors del Security Command Center es poden utilitzar per descobrir els intents d'accés inicials, l'escalada de privilegis i els intents de persistència de les càrregues de treball d'IA. Aviat arribaran nous detectors per a AI Protection basats en la darrera intel·ligència de primera línia per ajudar a identificar i gestionar amenaces en temps d'execució, com ara el segrest de models fonamentals.

"A mesura que les solucions basades en IA esdevenen cada cop més habituals, la seguretat dels sistemes d'IA és primordial i supera la protecció bàsica de dades. La seguretat de la IA, per la seva naturalesa, requereix una estratègia integral que inclogui la integritat del model, la procedència de les dades, el compliment i un govern sòlid", va dir la doctora Grace Trinidad, directora d'investigació d'IDC.