A medida que aumenta el uso de la IA, la seguridad sigue siendo una de las principales preocupaciones va ligada a los riesgos que pueden acarrear una adopción rápida. Google Cloud se ha comprometido a ayudar a nuestros clientes a crear y desplegar IA con confianza de forma segura, compatible y privada. Para hacer frente a los riesgos durante todo el ciclo de vida de la IA, Google Cloud ha anunciado hoy AI Protection, una nueva solución diseñada para proteger las cargas de trabajo y los datos de IA en todas las nubes y modelos - independientemente de las plataformas que los clientes decidan utilizar. 

  • Esta solución integral permite a los equipos de seguridad descubrir el inventario de IA, proteger los activos de IA y gestionar las amenazas.
  • En concreto, sus funciones protegen frente a amenazas como la inyección prompt, el jailbreak, la pérdida de datos, las URL maliciosas y el contenido ofensivo.
  • AI Protection también está integrado con Google Security Command Center (SCC), lo que permite a las organizaciones obtener una visión centralizada de su postura de IA y la capacidad de gestionar los riesgos de IA de forma holística en conjunto con sus otros riesgos en la nube. 

Para dar un paso más en la protección de la IA, Mandiant Consultants ofrece servicios para ayudar a las organizaciones a evaluar e implementar medidas de seguridad sólidas para los sistemas de IA, así como equipos rojos para la IA, informados sobre los últimos ataques a los servicios de IA detectados en compromisos de primera línea.

¿Cómo se utiliza?

La gestión eficaz del riesgo de IA comienza con una comprensión completa de dónde y cómo se utiliza la IA en su entorno. Nuestras capacidades le ayudan a descubrir y catalogar automáticamente los recursos de IA, incluido el uso de modelos, aplicaciones y datos, y sus relaciones. 

Es primordial comprender qué datos admiten las aplicaciones de IA y cómo se protegen actualmente. La protección de datos sensibles (SDP) ahora amplía el descubrimiento automatizado de datos a los conjuntos de datos de Vertex AI para ayudarle a comprender la sensibilidad de los datos y los tipos de datos que componen los datos de entrenamiento y de ajuste. También puede generar perfiles de datos que proporcionan una visión más profunda del tipo y sensibilidad de los datos de entrenamiento.

Las organizaciones pueden utilizar AI Protection para reforzar la seguridad de las aplicaciones de Vertex AI aplicando posturas en el Security Command Center. Estos controles de postura, diseñados con conocimientos propios de la arquitectura de Vertex AI, definen configuraciones de recursos seguros y ayudan a las organizaciones a prevenir la deriva o los cambios no autorizados.

AI Protection opera la investigación y la inteligencia de seguridad de Google y Mandiant para ayudar a defender sus sistemas de IA. Los detectores del Security Command Center pueden utilizarse para descubrir los intentos de acceso iniciales, la escalada de privilegios y los intentos de persistencia de las cargas de trabajo de IA. En breve llegarán nuevos detectores para AI Protection basados ​​en la última inteligencia de primera línea para ayudar a identificar y gestionar amenazas en tiempo de ejecución, como el secuestro de modelos fundamentales.

"A medida que las soluciones basadas en IA son cada vez más habituales, la seguridad de los sistemas de IA es primordial y supera la protección básica de datos. La seguridad de la IA, por su naturaleza, requiere una estrategia integral que incluya la integridad del modelo, la procedencia de los datos, el cumplimiento y un gobierno sólido", dijo la doctora GraC Trinidad.