Cisco se complace en compartir que Strong Intelligence, una startup de seguridad de IA adquirida recientemente, ha sido mencionada en el primer informe Gartner Cool Distributors for AI Safety de 2024.
Como afirma Gartner, “los líderes en seguridad y gestión de riesgos enfrentan desafíos operativos, preocupaciones de cumplimiento y ataques dirigidos a sistemas de inteligencia synthetic. Esta investigación de Cool Vendor identifica proveedores con formas innovadoras de proteger las aplicaciones de IA, respaldando la confianza de la IA, las capacidades de gestión de riesgos y seguridad”.
Además, la inclusión de Strong Intelligence celebra el trabajo innovador que el equipo realizó desde el primer día: creó el primer firewall de IA, realizó una investigación exhaustiva sobre temas como el ajuste fino y el jailbreak algorítmico, y desarrolló una plataforma de extremo a extremo para la seguridad de la IA. que se ha convertido en el modelo de nuestra industria.
«Estamos increíblemente emocionados y emocionados de ser reconocidos en el informe Gartner Cool Distributors», dijo Yaron Singer, cofundador de Strong Intelligence y vicepresidente de IA e ingeniería de Cisco. “Creemos que esto es un testimonio no sólo del trabajo innovador que hemos realizado en Strong Intelligence, sino también, en términos más generales, del estado precise de la seguridad de la IA. En nuestra opinión, cuando una firma analista líder a nivel mundial como Gartner publica un informe como este, reafirma que la seguridad de la IA es uno de los desafíos más apremiantes que enfrentan las empresas en la actualidad”.
Por qué Strong Intelligence es un excelente proveedor de seguridad de IA
El riesgo de IA no gestionado puede introducir una serie de riesgos financieros, legales y de reputación para cualquier empresa que adopte esta nueva tecnología transformadora. La responsabilidad de la seguridad de la IA es compartida por quienes desarrollan aplicaciones de IA y los equipos de seguridad y gobernanza que protegen los datos confidenciales a nivel organizacional. La solución de seguridad de IA adecuada debería facilitar un desarrollo seguro y responsable y, al mismo tiempo, hacer cumplir los controles de tiempo de ejecución después de la implementación.
Como pionero en este espacio, Strong Intelligence introdujo el primer AI Firewall en el mercado como parte de su plataforma integral de seguridad de AI. Las organizaciones a la vanguardia de la innovación en IA confían en Strong Intelligence para proteger sus aplicaciones de IA contra cientos de riesgos de seguridad.
La plataforma Strong Intelligence consta de tres componentes principales que protegen las aplicaciones de IA durante todo su ciclo de vida:
- Escaneo de archivos de modelo identifica de forma proactiva vulnerabilidades de seguridad en componentes de código abierto de la cadena de suministro de IA, como los modelos de Hugging Face. Si no se detectan, estas inserciones maliciosas podrían comprometer todo un sistema de inteligencia synthetic.
- Validación de IA automatiza las pruebas de seguridad para modelos de IA, ayudando a los desarrolladores a identificar y mitigar estos riesgos en una fase más temprana del proceso. Este equipo rojo algorítmico analiza la susceptibilidad a cientos de técnicas de ataque y categorías de amenazas para la IA.
- Protección de IA proporciona seguridad en tiempo de ejecución para aplicaciones de producción de IA contra una amplia variedad de ataques y respuestas no deseadas. Esta cobertura abarca cientos de categorías y continúa creciendo según la investigación de vanguardia sobre amenazas de IA.
El motor detrás de la plataforma Strong Intelligence está impulsado por tres elementos patentados: tecnología algorítmica de equipos rojos, un canal de inteligencia sobre amenazas de IA de clase mundial y asignaciones de políticas. El equipo de Strong Intelligence también ha ayudado a establecer estándares de seguridad de IA a través de nuestra colaboración con MITRE, NIST, OWASP y otras entidades. Esta profunda experiencia ayuda a nuestros clientes a mitigar una amplia variedad de amenazas de IA y monitorear el cumplimiento de las políticas relevantes. También nos permite ofrecer actualizaciones sobre la marcha para mantener a nuestros clientes protegidos de un panorama dinámico de amenazas.
Strong Intelligence continúa estando a la vanguardia de la innovación en seguridad de IA, desde la creación del primer firewall de IA de la industria hasta la realización de investigaciones innovadoras sobre IA. Los temas han incluido el jailbreak algorítmico, los riesgos de ajustar los modelos básicos, la extracción de datos de entrenamiento y exploits en varios LLM de última generación.
La tecnología de Strong Intelligence, integrada en Cisco Safety Cloud, fortalece nuestra capacidad para proteger aplicaciones y modelos de IA contra una amplia gama de amenazas.
¡No podríamos estar más emocionados de que Strong Intelligence haya sido nombrado Cool Vendor y esperamos llevar la seguridad de la IA a una escala sin precedentes como parte de Cisco!
Gartner, Cool Distributors for AI Safety, Jeremy D’Hoinne, Bart Willemsen, Avivah Litan, Dennis Xu, 23 de octubre de 2024.
GARTNER es una marca comercial registrada y una marca de servicio y COOL VENDORS son marcas comerciales de Gartner, Inc. y/o sus afiliados en los EE. UU. e internacionalmente y se utilizan en este documento con permiso. Reservados todos los derechos. Gartner no respalda a ningún proveedor, producto o servicio descrito en sus publicaciones de investigación y no recomienda a los usuarios de tecnología que seleccionen sólo aquellos proveedores con las calificaciones más altas u otra designación. Las publicaciones de investigación de Gartner consisten en opiniones de la organización de investigación de Gartner y no deben interpretarse como declaraciones de hechos. Gartner renuncia a toda garantía, expresa o implícita, con respecto a esta investigación, incluida cualquier garantía de comerciabilidad o idoneidad para un propósito explicit.
Nos encantaría escuchar lo que piensas. Haga una pregunta, comente a continuación y manténgase conectado con Cisco Safe en las redes sociales.
Canales sociales de seguridad de Cisco
Compartir:
