5 consejos de DevSecOps para acelerar la adopción eficaz de Agentforce

La seguridad es responsabilidad principal del director de ciberseguridad. Sin embargo, últimamente los directores de nuevas tecnologías (CIO) se están volcando en ella, a raíz del auge de la IA agéntica en todo el ecosistema tecnológico de la empresa. El 75 % de las organizaciones prevé un aumento en sus presupuestos de seguridad para poder defenderse de las ciberamenazas más frecuentes y sofisticadas. Hasta que los CIO no tienen la certeza de que un agente de IA se ha desarrollado de manera segura y se ha probado a fondo, este no pasa del sandbox a producción. La vía más rápida hacia el éxito es un agente de IA seguro por diseño, con la seguridad integrada desde el minuto uno, en la fase inicial de planificación y durante todo el proceso de DevSecOps.

La automatización en DevSecOps es esencial para aplicar medidas eficaces de seguridad y privacidad de datos, como el enmascaramiento y la anonimización. Esta automatización mejora la eficiencia y la rentabilidad, lo que conduce a un crecimiento más rápido de los ingresos y a mayores márgenes operativos.

Aquí tiene cinco consejos de DevSecOps para garantizar una adopción fluida y eficaz de Agentforce:

1. Evite almacenar datos confidenciales en sandboxes

La exposición de datos confidenciales, como la información personal identificable (PII) y la información médica protegida (PHI), puede amplificarse en entornos de desarrollo y pruebas debido a la gran velocidad de procesamiento de la IA basada en agentes. Los entornos de sandboxes suelen ser menos seguros y, a menudo, pueden acceder a ellos más desarrolladores o asesores externos. Por lo tanto, es cada vez más importante evitar almacenar los datos confidenciales en entornos de desarrollo y pruebas. Un buen primer paso es aplicar los principios de seguridad de confianza cero, que parten de que ningún desarrollador ni máquina es de total confianza y, por ende, abogan por las técnicas de enmascaramiento y siembra de datos. Por otro lado, hay que seguir siempre el principio de mínimos accesos (PLP).

Identifique y etiquete los datos confidenciales que deben protegerse desde el minuto uno. La clasificación de datos es la base para proteger adecuadamente la información, ya que permite saber qué campos requieren capas extra de protección con enmascaramiento, anonimización, cifrado, permisos, seguimiento del historial de campos y supervisión. En vez de usar hojas de cálculo para hacer un seguimiento de lo que hay que proteger, codifíquelo en las herramientas que automaticen el enmascaramiento de datos y la anonimización para evitar errores humanos en el proceso. Esto cobra especial importancia con la IA agéntica, que exige actualizar periódicamente los datos para que resulten realistas y simulen entornos reales.

2. Instaure medidas de defensa potentes, con salvaguardas y detección de inyección de solicitudes

Al diseñar una IA agéntica, es esencial aplicar principios de seguridad tradicionales, como el de mínimos accesos, otorgando a los agentes solo los permisos necesarios para su tarea. Por ejemplo, evitar flujos con acceso a todos los datos previene accesos no autorizados.

Además, es crucial establecer salvaguardas para controlar el comportamiento de los agentes. Por ejemplo, prohibir explícitamente que un agente de IA ofrezca asesoramiento financiero o acceda a datos financieros confidenciales de un cliente, incluso si el usuario lo solicita.

También es indispensable defenderse contra los ataques de inyección de solicitudes, donde indicaciones maliciosas engañan a los modelos de lenguaje para que desvelen información confidencial o realicen acciones fraudulentas. Estos ataques explotan la capacidad de los modelos de lenguaje para seguir instrucciones, eludiendo normas de seguridad y generando contenido dañino.

Con la irrupción de los flujos de trabajo basados en agentes, detectar y frustrar los intentos de inyección de solicitudes es de vital importancia.

3. Proporcione datos de calidad a la IA agéntica

Las copias de seguridad automáticas y la recuperación granular son esenciales para revertir cambios y reparar datos con precisión. Comparar copias creadas antes y después del lanzamiento facilita verificar que todas las actualizaciones se aplicaron correctamente. También son valiosas para desarrollar IA basada en agentes, ya que proporcionan datos históricos para hacer pruebas y entrenarla.

4. Acelere la IA basada en agentes mediante la automatización de DevSecOps

La automatización es clave para implantar DevSecOps en la IA agéntica, pues agiliza la gestión de datos, supervisión, alertas y detección de amenazas. Sus ventajas incluyen:

• Evitar fallos y errores
• Ofrecer una mayor transparencia a InfoSec
• Evitar los costes que supone repetir el trabajo
• Hacer el despliegue con la aprobación de InfoSec cuando esté todo listo, en lugar de esperar
• Detectar riesgos con antelación
• Revertir los cambios con copias de seguridad si es necesario
• Corregir los cambios indeseados y avanzar pese a los fallos

Aquí tiene algunos ejemplos de tareas que puede optimizar mediante automatización en cada fase del ciclo vital de DevSecOps:

5. Pruebe y supervise minuciosamente a los agentes de IA

Las pruebas exhaustivas y la supervisión continua son clave para asegurar agentes de IA fiables y seguros. Use datos realistas que simulen situaciones reales para validar su rendimiento y toma de decisiones. Las pruebas de escala permiten detectar fallos de seguridad o rendimiento que no aparecen en entornos controlados. Supervise de forma continua durante y después del desarrollo para corregir vulnerabilidades a tiempo.

Acelere la IA basada en agentes con DevSecOps

DevSecOps no frena el negocio, sino que lo impulsa.Al integrar la seguridad desde el inicio, se aceleran los ciclos de desarrollo al detectar y resolver problemas temprano, evitando retrabajos y retrasos costosos.

Obtenga más información sobre cómo prioriza Salesforce la seguridad en su plataforma y acceda a recursos complementarios sobre seguridad.