Los riesgos de que algo salga mal con la IA son increíblemente altos. Solo 29% de las organizaciones Siéntete completamente equipado para detectar y prevenir la manipulación no autorizada de la IA.(1). Con la IA, los riesgos emergentes se dirigen a diferentes etapas del ciclo de vida de la IA, mientras que la responsabilidad recae en diferentes propietarios, incluidos los desarrolladores, los usuarios finales y los proveedores.
A medida que la IA se vuelva omnipresente, las empresas utilizarán y desarrollarán cientos, si no miles, de aplicaciones de IA. Los desarrolladores necesitan seguridad de IA y barreras de protección que funcionen para cada aplicación. Paralelamente, los implementadores y usuarios finales se apresuran a adoptar la IA para mejorar la productividad, exponiendo potencialmente a su organización a la fuga de datos o al envenenamiento de datos propietarios. Esto se suma a los crecientes riesgos relacionados con el hecho de que las organizaciones vayan más allá de los datos públicos para entrenar modelos con sus datos patentados.
Entonces, ¿cómo podemos garantizar la seguridad de los sistemas de IA? ¿Cómo proteger la IA del acceso no autorizado y el uso indebido? ¿O evitar que se filtren datos? Garantizar la seguridad y el uso ético de los sistemas de IA se ha convertido en una prioridad crítica. La Unión Europea ha dado pasos importantes en esta dirección con la introducción del Ley de IA de la UE.
Este weblog explora cómo la Ley de IA aborda la seguridad de los sistemas y modelos de IA, la importancia de la alfabetización en IA entre los empleados y el enfoque de Cisco para salvaguardar la IA a través de una visión holística de Defensa de la IA.
La Ley de IA de la UE: un marco para una IA segura
La Ley de IA de la UE representa un esfuerzo histórico de la UE para crear un enfoque estructurado para la gobernanza de la IA. Uno de sus componentes es su énfasis en los requisitos de ciberseguridad para sistemas de inteligencia synthetic de alto riesgo. Esto incluye exigir protocolos de seguridad sólidos para evitar el acceso no autorizado y el uso indebido, garantizando que los sistemas de IA funcionen de forma segura y predecible.
La Ley promueve la supervisión humana, reconociendo que si bien la IA puede impulsar la eficiencia, el juicio humano sigue siendo indispensable para prevenir y mitigar riesgos. También reconoce el importante papel de todos los empleados a la hora de garantizar la seguridad, lo que exige que tanto los proveedores como los implementadores tomen medidas para garantizar un nivel suficiente de conocimientos de IA de su private.
Identificar y aclarar funciones y responsabilidades a la hora de proteger los sistemas de IA es complejo. La Ley de IA se centra principalmente en los desarrolladores de sistemas de IA y en ciertos proveedores de modelos de IA de propósito normal, aunque reconoce acertadamente la responsabilidad compartida entre los desarrolladores y los implementadores, lo que subraya la naturaleza compleja de la cadena de valor de la IA.
La visión de Cisco para proteger la IA
En respuesta a la creciente necesidad de seguridad de la IA, Cisco ha imaginado un enfoque integral para proteger el desarrollo, la implementación y el uso de aplicaciones de IA. Esta visión se basa en cinco aspectos clave de la seguridad de la IA, desde asegurar el acceso a las aplicaciones de IA hasta la detección de riesgos como la fuga de datos y amenazas adversas sofisticadas, hasta la capacitación de los empleados.
“Al adoptar la IA, las organizaciones no deberían tener que elegir entre velocidad y seguridad. En un panorama dinámico donde la competencia es feroz, asegurar eficazmente la tecnología durante todo su ciclo de vida y Sin concesiones, así es como Cisco reimagina la seguridad para la period de la IA”.
- Evaluación de vulnerabilidad automatizada: Al utilizar técnicas impulsadas por IA, las organizaciones pueden evaluar de forma automática y continua los modelos y aplicaciones de IA en busca de vulnerabilidades. Esto ayuda a identificar cientos de riesgos potenciales de seguridad y protección, lo que permite a los equipos de seguridad abordarlos de manera proactiva.
- Seguridad en tiempo de ejecución: La implementación de protecciones durante el funcionamiento de los sistemas de IA ayuda a defenderse contra amenazas en evolución, como la denegación de servicio y la fuga de datos confidenciales, y garantiza que estos sistemas funcionen de forma segura.
- Protecciones del usuario y prevención de pérdida de datos: Las organizaciones necesitan herramientas que prevengan la pérdida de datos y monitoreen comportamientos inseguros. Las empresas deben garantizar que las aplicaciones de IA se utilicen de conformidad con las políticas internas y los requisitos reglamentarios.
- Gestión de la IA en la sombra: Es elementary monitorear y controlar las aplicaciones de IA no autorizadas, conocidas como IA en la sombra. Identificar las aplicaciones de terceros utilizadas por los empleados ayuda a las empresas a aplicar políticas para restringir el acceso a herramientas no autorizadas, proteger la información confidencial y garantizar el cumplimiento.
- Formación de ciudadanos y empleados.: Además de las soluciones tecnológicas adecuadas, la alfabetización en IA entre los empleados es essential para el uso seguro y eficaz de la IA. Aumentar la alfabetización en IA ayuda a crear una fuerza laboral capaz de gestionar de manera responsable las herramientas de IA, comprender sus limitaciones y reconocer los riesgos potenciales. Esto, a su vez, ayuda a las organizaciones a cumplir con los requisitos reglamentarios y fomenta una cultura de seguridad de la IA y conciencia ética.
“La Ley de IA de la UE subraya la importancia de dotar a los empleados de algo más que conocimientos técnicos. Se trata de implementar un enfoque holístico para la alfabetización en IA que también cubra consideraciones éticas y de seguridad. este elLos lps garantizan que los usuarios estén mejor preparados para manejar la IA de forma segura y aprovechar el potencial de esta tecnología revolucionaria”.
Esta visión está integrada en la nueva estrategia de Cisco. tecnología solución “Defensa de IA”. En la búsqueda multifacética de proteger las tecnologías de IA, regulaciones como la Ley de IA de la UE, junto con la capacitación de ciudadanos y empleados, e innovaciones como AI Protection de Cisco juegan un papel importante.
A medida que la IA continúa transformando todas y cada una de las industrias, estos esfuerzos son esenciales para garantizar que se utilice de manera segura, ética y responsable y, en última instancia, salvaguardar tanto a las organizaciones como a los usuarios en la period digital.
(1) Cisco Índice de preparación para la IA 2024
Compartir:
