El mundo se encuentra en medio de una period sin precedentes de innovación en inteligencia synthetic. De cara al futuro, habrá dos tipos de empresas: las que liderarán la IA y las que correrán el riesgo de perder relevancia.
Para las organizaciones que se toman en serio la IA, la composición de su fuerza laboral está a punto de cambiar drásticamente.
Hoy, su fuerza laboral es enteramente humana. Mañana se expandirá exponencialmente para incluir una variedad de trabajadores de IA, incluidas aplicaciones, agentes, robots e incluso humanoides. Viviremos en un mundo donde los agentes y las personas de IA conectados trabajan juntos para orquestar todo tipo de flujos de trabajo complejos. Y creo que se traducirá en enormes ganancias en productividad y capacidad, con considerables beneficios compartidos.
Imagínese lo que puede lograr una población humana de 8 mil millones de personas si colectivamente tenemos la capacidad de 80 mil millones.
La pregunta, sin embargo, es ¿cómo podemos hacer esta transición de manera segura?
La adopción de la IA introduce nuevos riesgos
Mantener la IA segura en una empresa es un problema difícil y relativamente nuevo. Esto se debe a que las aplicaciones de IA se construyen de manera diferente, agregando una nueva capa a la pila: los modelos. A diferencia de las aplicaciones tradicionales, los modelos de IA pueden comportarse de manera impredecible y la realidad es que la mayoría de las organizaciones utilizarán múltiples modelos en nubes públicas y privadas. Este panorama de múltiples modelos, múltiples nubes y múltiples agentes exige un nuevo enfoque en materia de seguridad y protección.
Lo que está en juego aún más es que cuando los modelos fallan, las consecuencias pueden ser graves. Se deben abordar los problemas de seguridad, como el sesgo, la toxicidad o los resultados inapropiados, junto con las amenazas de actores externos que explotan las vulnerabilidades para robar datos confidenciales o comprometer de otro modo su seguridad. Los proveedores de modelos y creadores de aplicaciones implementarán sus propias salvaguardas, pero estas medidas, aunque necesarias, inevitablemente serán fragmentadas e insuficientes.
En última instancia, sus equipos de seguridad necesitarán una capa común de visibilidad y management. No solo deben ver y comprender todos los lugares donde se utiliza la IA en su organización (tanto por parte de los usuarios como de los desarrolladores de aplicaciones), sino que también deben validar y hacer cumplir continuamente sus barreras de seguridad preferidas sobre cómo se comportan los modelos, aplicaciones y agentes de IA.
Presentamos AI Protection: reinventando la seguridad y la protección para la IA
Necesita moverse rápido con la IA, pero no puede darse el lujo de sacrificar la seguridad por la velocidad. Por eso hoy, en nuestra Cumbre de IA, anunciamos Defensa de IA de Cisco—una solución diseñada para eliminar este inconveniente y permitirle innovar sin miedo.
AI Protection proporciona una protección sólida en dos áreas críticas:
- Acceso a aplicaciones de IA: Las aplicaciones de inteligencia synthetic de terceros pueden potenciar la productividad, pero plantean riesgos como la fuga de datos o descargas maliciosas. Con AI Protection, obtiene visibilidad completa del uso de las aplicaciones y aplica políticas que garantizan un acceso seguro, todo ello impulsado por Acceso seguro a Cisco y mejorado con protecciones específicas de IA.
- Creación y ejecución de una aplicación de IA: Los desarrolladores necesitan la libertad de innovar sin preocuparse por las vulnerabilidades o problemas de seguridad en sus modelos de IA. AI Protection descubre su huella de IA, valida modelos para identificar vulnerabilidades, aplica barreras de seguridad y las hace cumplir en tiempo actual en nubes públicas y privadas.
AI Protection se basa en dos innovaciones revolucionarias en las que somos pioneros: validación continua de IA y protección a escala.
Validando a escala
Debe asegurarse de que sus modelos de IA sean adecuados para su propósito y que no tengan vulnerabilidades, comportamientos inesperados, envenenamiento de datos u otros problemas.
Para las aplicaciones tradicionales, se utilizaría un «equipo rojo» de humanos para intentar romper la aplicación y encontrar vulnerabilidades. Lamentablemente, esto no es realista para los modelos de IA no deterministas.
Aquí es donde entra en juego nuestra capacidad del Equipo Rojo Algorítmico de IA. Es una de las principales razones por las que Cisco adquirió Sturdy Intelligence el verano pasado. Son un equipo de pioneros en seguridad de IA que han desarrollado lo que creemos que es la primera solución algorítmica de equipos rojos del mundo.
El Equipo Rojo Algorítmico de IA envía una serie sucesiva de variantes de indicaciones a un modelo para intentar que proporcione respuestas que no debería. En lugar de tener un equipo rojo de miles de personas intentando hacer jailbreak a un modelo durante semanas, lo hacemos en sólo unos segundos.
Es como jugar un juego de 100 preguntas. Pero como está automatizado, es un juego de 1 billón de preguntas. Y la IA hace que 1 billón parezca pequeño.
Una vez que AI Protection encuentra vulnerabilidades, recomienda medidas de seguridad que puede aplicar. Y lo hace continuamente. Por lo tanto, cada vez que su modelo cambia o cada vez que hay un nuevo tipo de amenaza, su modelo se revalida y se aplican medidas de seguridad actualizadas.
Protección a escala
Gracias a nuestro enfoque de plataforma, podemos proteger la IA a escala de maneras que solo Cisco puede ofrecer.
Ya fusionamos la seguridad tradicional directamente en la crimson. Obtiene miles de puntos de cumplimiento distribuidos, dondequiera que los necesite, cerca de los usuarios y de las cargas de trabajo. Estos puntos de management pueden ubicarse en una aplicación en la nube pública, en la infraestructura de una nube privada, en un servidor, en un conmutador de la parte superior del bastidor o incluso en el borde.
AI Protection aprovecha al máximo este enfoque de plataforma para que sus barreras de seguridad de IA también estén hiperdistribuidas y disponibles donde las necesite. Obtendrá visibilidad whole de toda su huella de IA y el management para aplicarla en todas partes.
Fundamentalmente, AI Protection también es sencillo para los desarrolladores. De hecho, es invisible. No hay agentes, no requiere bibliotecas ni nada que ralentice el desarrollo. Eso significa que puede actuar rápidamente para crear nuevas experiencias de IA e innovar para sus clientes.
Tecnología diseñada específicamente y respaldada por una inteligencia inigualable
AI Protection se basa en tecnología especialmente diseñada y en nuestros propios modelos de IA personalizados impulsados por Scale AI. Al trabajar estrechamente con líderes como Scale AI y aprovechar nuestra propia inteligencia patentada, AI Protection proporciona información incomparable, lo que garantiza una protección rápida, eficiente y precisa.
Liberando todo el potencial de la IA
Estoy increíblemente orgulloso de lo que nuestro equipo ha logrado con Cisco AI Protection. Esta solución permite a las organizaciones actuar con rapidez, innovar con audacia y desbloquear todo el potencial de la IA, de forma segura y sin concesiones.
Obtenga más información sobre Cisco AI Protection y cómo puede proteger su viaje hacia la IA:
Leer: Cisco AI Protection: seguridad integral para la adopción de IA empresarial
Mira el vídeo
Regístrese para la repetición en línea de la Cumbre de IA
https://www.ciscoaisummit.comMás información
Compartir:
