¿Qué es el riesgo asociado a los proveedores de IA?
El riesgo asociado a los proveedores de IA es la exposición que su organización asume cuando un tercero suministra, aloja, entrena o integra capacidades de IA en sus productos, procesos o decisiones. Este riesgo es más amplio que el riesgo clásico de los proveedores de TI, ya que un proveedor de IA no solo procesa sus datos, sino que también puede influir en los resultados de los que dependen sus empleados y clientes, con un comportamiento que cambia con el tiempo a medida que los modelos se reentrenan y actualizan.
En la mayoría de las organizaciones actuales, los proveedores de IA se dividen en cuatro categorías superpuestas:
- Proveedores del modelo de fundación como OpenAI, Anthropic, Google, Mistral y Cohere, a las que se accede mediante API y que están integradas en herramientas internas, agentes o funciones orientadas al cliente.
- Herramientas SaaS nativas de IA tales como tomadores de notas, asistentes de codificación, copilotos de atención al cliente, herramientas de habilitación de ventas y plataformas de análisis donde la IA es el producto.
- Inteligencia artificial integrada en el software empresarial como la generación de resúmenes mediante IA en CRM, la puntuación mediante IA en sistemas de recursos humanos, la revisión mediante IA en la gestión de contratos o la clasificación mediante IA en la gestión de servicios, donde la IA es una nueva función en una relación con un proveedor ya existente.
- Proveedores de etiquetado de datos y datos de entrenamiento que se sitúan en la parte superior de cualquier modelo que construyas, con una influencia significativa sobre los sesgos, la calidad y la base legal para la formación.
Cada categoría conlleva riesgos diferentes, pero todas comparten un problema común: el proveedor controla el comportamiento del que usted es responsable. Los reguladores, los clientes y las aseguradoras esperan cada vez más que usted demuestre que ha evaluado y supervisado activamente dicho comportamiento, y no solo que ha firmado un contrato y se ha desentendido del asunto.
¿Por qué el riesgo asociado a los proveedores de IA se ha convertido en un tema de debate en los consejos de administración?
Tres factores han impulsado la supervisión de los proveedores de IA, pasando de ser una tarea de adquisición a una preocupación a nivel de la junta directiva.
Dependencia concentrada. Un puñado de proveedores de modelos básicos ahora sustentan miles de funcionalidades de IA en prácticamente todas las plataformas empresariales. Las interrupciones del modelo, los cambios de políticas, las modificaciones de precios y las restricciones geográficas se propagan de inmediato a sus productos y a la experiencia del cliente. Este es un riesgo de concentración que el consejo de administración debe asumir.
Comportamiento no determinista. A diferencia de un proveedor de SaaS tradicional, cuyo software hace lo mismo hoy que ayer, un proveedor de IA puede modificar los pesos del modelo, las indicaciones del sistema, los filtros de seguridad y los datos de entrenamiento sin previo aviso. El resultado que validaste en las pruebas puede no ser el mismo que tu cliente vea en producción seis meses después.
Responsabilidad regulatoria. ISO 42001, la Ley de IA de la UELos reguladores del sector (FCA, PRA, NHS Digital, Ofcom) y las autoridades de protección de datos imponen ahora obligaciones explícitas al implementador de un sistema de IA, no solo al desarrollador. Ya no basta con culpar al proveedor. Hay que demostrar que se eligió un proveedor adecuado y que se le realizó un seguimiento.
La consecuencia práctica: el riesgo del proveedor de IA debe figurar en el registro de riesgos empresariales, en el paquete del comité de auditoría y en el política de IA, no enterrado en el proceso de adquisiciones.
¿Qué dice la norma ISO 42001 sobre la supervisión de proveedores de IA?
ISO 42001, El Anexo A.10, una de las nueve áreas de control del Anexo A, aborda directamente las relaciones con terceros en materia de IA. Esta área de control abarca a los proveedores, la asignación de responsabilidades entre organizaciones y los clientes, ya que en una cadena de suministro de IA se puede ser las tres cosas a la vez: proveedor de una parte, implementador de otra y cliente de una tercera.
El Anexo A.10 le exige lo siguiente:
- Establezca un proceso para identificar a los proveedores de IA y los sistemas de IA que le proporcionan.
- Asigne responsabilidades entre usted y sus proveedores de forma clara y por escrito, para que no haya lagunas en la rendición de cuentas en cuanto al riesgo, el impacto y el rendimiento de la IA.
- Abordar las consideraciones específicas de la IA en la selección de proveedores, la contratación y la gestión continua, no solo en términos genéricos de seguridad de la información.
- Asegúrese de que los clientes de sus sistemas de IA tengan la información que necesitan para utilizarlos de forma responsable.
El Anexo B (que es normativo, no informativo) proporciona orientación para la implementación de cada control del Anexo A, incluido el A.10. Junto con el Anexo A.10, la supervisión de los proveedores de IA también abarca los apartados A.2 (políticas relacionadas con la IA), A.3 (organización interna y responsabilidades), A.5 (evaluación de los impactos de los sistemas de IA), A.7 (datos para sistemas de IA) y A.8 (información para las partes interesadas). Para consultar el conjunto completo, véase nuestra Controles del anexo A referencia y el dedicado Anexo A.10 Relaciones con terceros y clientes .
La Declaración de aplicabilidad Debe documentar cómo aplica cada uno de estos controles a su conjunto de proveedores de IA, incluidas las exclusiones y la justificación de las mismas.
Todo lo que necesitas para ISO 42001
Contenido estructurado, riesgos mapeados y flujos de trabajo integrados para ayudarlo a gobernar la IA de manera responsable y con confianza.
¿Cómo se evalúa a un proveedor de IA?
La debida diligencia con los proveedores de IA debe ir más allá de un cuestionario de seguridad. Se evalúa no solo cómo el proveedor protege sus datos, sino también cómo construye, opera, modifica y retira el sistema de IA del que depende. El marco que se presenta a continuación abarca las nueve áreas que toda evaluación de proveedores de IA debe considerar, con ejemplos de preguntas y las señales de alerta que deberían impedir la firma de un contrato.
| Área | Preguntas que debe hacer | bandera roja |
|---|---|---|
| Entrenamiento de datos | ¿Con qué datos se entrenó el modelo? ¿Se utilizó alguno de nuestros datos para el entrenamiento por defecto? ¿Podemos optar por no participar por escrito? ¿Cuál es la base legal para el uso de los datos de entrenamiento (consentimiento, interés legítimo, licencia)? | El proveedor no puede informarle sobre las fuentes de datos de capacitación, utiliza datos del cliente para la capacitación por defecto sin opción de exclusión, o se basa en datos extraídos sin ninguna base legal que lo justifique. |
| Transparencia del modelo | ¿Puede proporcionarnos una tarjeta de modelo o de sistema? ¿Cuáles son las limitaciones y los modos de fallo conocidos? ¿Cómo se gestiona el versionado del modelo? ¿Se nos notificará sobre los cambios de modelo o las actualizaciones importantes de la formación? | Sin documentación del modelo, cambios silenciosos de modelo, sin control de versiones o negativa a describir el modelo en absoluto (caja negra sin garantías). |
| Postura de seguridad | ¿El proveedor cuenta con las certificaciones ISO 27001 y SOC 2? ¿Cómo se segregan los datos de los clientes? ¿Cuáles son los controles de cifrado, gestión de claves y acceso al tráfico de inferencias y registros? | Sin certificación reconocida, vivienda compartida sin segregación, mensajes y resultados registrados en texto plano de forma indefinida, o sin SSO ni MFA. |
| Privacidad y RGPD | ¿Dónde se procesan y almacenan los datos? ¿Existe un acuerdo de procesamiento de datos? ¿Existen mecanismos de transferencia adecuados para los flujos internacionales? ¿Cómo se gestionan los derechos de los interesados en relación con los datos de entrada y salida? | Sin acuerdo de protección de datos, transferencias fuera del Reino Unido y del EEE sin garantías, sin mecanismo para respaldar las solicitudes de acceso o eliminación de datos por parte de los interesados, o retención poco clara de las notificaciones. |
| Certificaciones | ¿Cuentan con la certificación ISO 42001? ¿Poseen las certificaciones ISO 27001 y SOC 2 Tipo II? ¿Cuándo se realizaron las últimas auditorías de vigilancia? ¿Podemos consultar los certificados y las declaraciones de alcance? | Sin certificación ISO 42001 (o sin una hoja de ruta creíble para su implementación), certificados caducados, declaraciones de alcance que excluyen el servicio que está adquiriendo o solo autodeclaración. |
| Respuesta al incidente | ¿Cómo definen un incidente de IA? ¿Cuál es su acuerdo de nivel de servicio (SLA) para notificar a los clientes? ¿Cómo gestionan las alucinaciones del modelo, los resultados perjudiciales, los incidentes de sesgo y las brechas de seguridad? ¿Podemos ver un informe posterior al incidente con información confidencial eliminada? | No hay una definición de incidente específica de IA, ventanas de notificación de más de 72 horas, no hay informes posteriores al incidente, o incapacidad para mostrar cualquier incidente anterior manejado de principio a fin. |
| Gestión del cambio | ¿Cómo se gestionan los cambios en los pesos de los modelos, las indicaciones del sistema, los filtros de seguridad y las medidas de protección? ¿Recibimos alguna notificación? ¿Podemos mantener una versión fija? ¿Cómo se prueban los cambios antes de su implementación? | Actualizaciones continuas sin previo aviso, sin opción de fijar la versión, sin pruebas previas al lanzamiento en el tráfico empresarial, ni mecanismo de reversión. |
| Subprocesadores | ¿Quiénes son sus subprocesadores, incluyendo los de alojamiento, alojamiento de modelos, evaluación y etiquetado de datos? ¿Cómo se aprueban y auditan? ¿Recibimos notificación de los cambios? | Lista incompleta de subprocesadores, uso opaco de sub-subprocesadores, falta de derecho a oponerse a nuevos subprocesadores o uso de subprocesadores en jurisdicciones adversas. |
| Plan de salida | ¿Cómo recuperamos nuestros datos? ¿Cuánto tiempo se conservan tras la finalización del proceso? ¿Se eliminan por completo los datos de configuración, resultados y ajustes? ¿Existe un formato de portabilidad para los datos de configuración o evaluación personalizados? | Sin fecha de salida definida, retención medida en años en lugar de días, sin formato de exportación, o bloqueo mediante datos de evaluación propietarios. |
Califica cada área, asigna un peso según el riesgo del caso de uso de IA y vincula el resultado con el registro del proveedor en tu base de datos de proveedores. El objetivo es tomar una decisión justificable, no obtener una puntuación perfecta.
¿Qué condiciones contractuales debería exigir a los proveedores de IA?
Los contratos con proveedores de IA deben ir más allá de los términos estándar de SaaS. Los acuerdos de seguridad y los acuerdos de procesamiento de datos gestionan la capa de datos, pero el comportamiento, el cambio y la responsabilidad de la IA requieren cláusulas específicas. La siguiente lista de verificación incluye lo mínimo que esperamos en cualquier contrato importante con un proveedor de IA:
- Derecho a auditar. Un derecho contractual a auditar al proveedor o a basarse en informes de garantía independientes (certificado ISO 42001, SOC 2 Tipo II, resúmenes de pruebas de penetración) con una periodicidad definida, que abarquen el sistema de IA específico que se está adquiriendo.
- Aviso de cambio de modelo. Notificación por escrito de cambios importantes en los pesos del modelo, las indicaciones del sistema, los filtros de seguridad o las medidas de protección, con un período de notificación definido (normalmente de 30 a 90 días para casos de uso empresarial) y una opción de fijación de versión para cargas de trabajo reguladas.
- Restricciones de uso de datos. Prohibición explícita de utilizar las entradas, salidas, datos de ajuste fino o metadatos del cliente para entrenar los modelos generales del proveedor sin su consentimiento por escrito, con compromisos de segregación de datos.
- Compromisos de precisión de la salida. Declaraciones sobre el uso previsto, las limitaciones conocidas y cualquier parámetro de precisión o seguridad que publique el proveedor, con las soluciones que se puedan tomar si el proveedor elimina las funcionalidades documentadas.
- Notificación de incidente. Un acuerdo de nivel de servicio (SLA) definido para la notificación de incidentes de IA (con un plazo de entre 24 y 72 horas, según la gravedad) que cubra violaciones de seguridad, incidentes de sesgo, eventos de salida perjudiciales y degradación prolongada del servicio.
- Propiedad intelectual. Asignación clara de la propiedad intelectual en insumos, productos y cualquier obra derivada, con indemnización frente a reclamaciones de terceros por propiedad intelectual derivadas de los productos del modelo.
- Indemnización y responsabilidad. Indemnizaciones personalizadas por violaciones de la protección de datos, infracción de la propiedad intelectual en los resultados de los modelos y multas regulatorias cuando la conducta del proveedor sea la causa directa, con límites de responsabilidad proporcionales al riesgo del caso de uso de la IA.
- Salida y retorno de datos. Proceso de salida definido con formatos de exportación garantizados, certificados de eliminación y un período máximo de retención para los datos residuales después de la finalización (normalmente de 30 a 90 días).
- Aviso del subprocesador. Una lista de los subprocesadores actuales en el contrato, notificación previa por escrito de los cambios y derecho a oponerse por motivos de riesgo documentados.
- Mantenimiento de certificación. Compromiso de mantener las certificaciones indicadas (ISO 42001, ISO 27001, SOC 2) durante la vigencia del contrato, con notificación en caso de que alguna certificación caduque o cambie el alcance del servicio.
Estas cláusulas deben clasificarse por niveles de riesgo. Un proveedor de modelos básicos en un proceso de toma de decisiones orientado al cliente justifica todas las cláusulas; una herramienta interna de productividad de bajo riesgo puede funcionar con un conjunto más sencillo y renovaciones supervisadas.
¿Cómo se realiza el seguimiento de los proveedores de IA después de la firma del contrato?
La debida diligencia durante la incorporación es necesaria, pero no suficiente. Los proveedores de IA cambian, y también la forma de utilizarlos. El monitoreo continuo debe combinar reevaluaciones programadas con activadores basados en eventos.
Actividades programadas que deberían figurar en el calendario de supervisión de proveedores de IA:
- Revisión anual de la debida diligencia para proveedores de alto riesgo, bienal para riesgos medios, que abarca las mismas nueve áreas que la incorporación con una revisión delta.
- Revisión trimestral del modelo del proveedor, los subprocesadores y los registros de cambios de políticas en comparación con su línea base fija.
- Revisión anual de los certificados ISO 42001, ISO 27001 y SOC 2 del proveedor y de las declaraciones de alcance.
- Revisión de los informes de incidentes y transparencia publicados por el proveedor (cuando estén disponibles) en cada ciclo de revisión de la dirección.
- Revisar la sección de proveedores de su Declaración de aplicabilidad siempre que el alcance del proveedor cambie sustancialmente
Factores desencadenantes basados en eventos que deberían forzar una reevaluación inmediata:
- Un proveedor le notifica un cambio en el modelo del material, un cambio de subprocesador o un cambio de política.
- El proveedor sufre un incidente de seguridad, protección o discriminación que se hace público.
- El proveedor pierde, cambia el alcance o no renueva una certificación en la que confía.
- Se modifica el caso de uso de la IA (por ejemplo, al trasladar una herramienta interna a un flujo de trabajo orientado al cliente o a un contexto de alto riesgo según la Ley de IA de la UE).
- Una nueva normativa, una guía sectorial o una medida coercitiva modifica sustancialmente sus obligaciones como operador.
Cada actividad de monitoreo debe generar evidencia vinculada al registro del proveedor, los controles pertinentes del Anexo A y las entradas del registro de riesgos de IA a las que contribuye el proveedor. Así es como se transforma la supervisión de proveedores, de un mero trámite administrativo a una gobernanza auditable.
Comience fácilmente con una demostración personal del producto
Uno de nuestros especialistas en incorporación lo guiará a través de nuestra plataforma para ayudarlo a comenzar con confianza.
¿Cómo modifica la Ley de IA de la UE las obligaciones de los proveedores de IA?
El Ley de IA de la UE Crea un conjunto estructurado de obligaciones que se extienden a lo largo de la cadena de suministro de IA. Si usted implementa un sistema de IA de alto riesgo o es un proveedor que integra un modelo de terceros, la elección de sus proveedores se convierte en una cuestión de cumplimiento normativo.
Implicaciones clave para la supervisión de los proveedores de IA:
- Las obligaciones de los proveedores llegan a sus vendedores. Los proveedores de modelos de IA de propósito general (GPAI) tienen sus propias obligaciones en cuanto a documentación técnica, resúmenes de datos de entrenamiento, política de derechos de autor y (para modelos de riesgo sistémico) pruebas adversarias, informes de incidentes y ciberseguridad. Debería solicitar a los proveedores de modelos base que demuestren cómo cumplen con estas obligaciones.
- Las obligaciones del desplegador llegan hasta usted. Si utiliza un sistema de IA de alto riesgo, tiene obligaciones de supervisión humana, retención de registros, monitorización, notificación de incidentes y (en muchos casos) una evaluación del impacto en los derechos fundamentales. Para cumplir con estas obligaciones, necesita información del proveedor, la cual debe ser objeto de un contrato.
- Flujo de información a lo largo de la cadena. Los proveedores deben facilitar a los implementadores la documentación técnica y las instrucciones de uso necesarias para cumplir con sus obligaciones. Es fundamental que usted verifique, mediante la debida diligencia, la existencia de este material para cualquier componente de IA de alto riesgo que adquiera.
- Riesgo de modificación sustancial. Si se modifica, adapta o reutiliza un modelo de propósito general hasta el punto de realizar cambios sustanciales, se puede llegar a ser un proveedor independiente, con la consiguiente carga de evaluación de la conformidad. Los contratos con los proveedores deben especificar claramente qué modificaciones están permitidas y cuáles no, y qué garantías conllevan.
- Prácticas prohibidas. Ciertos usos de la IA (puntuación social, extracción de datos faciales no dirigida, inferencia de emociones en el ámbito laboral y educativo, entre otros) están prohibidos. Su política de IA y la evaluación de proveedores deben examinar los casos de uso en función de estas prohibiciones antes de la contratación, no después.
La norma ISO 42001 y la Ley de IA de la UE son complementarias. La norma proporciona la estructura del sistema de gestión; la ley define las obligaciones legales que dicha estructura debe cumplir. Un proceso de supervisión de proveedores bien ejecutado beneficia a ambas.
Cómo ISMS.online gestiona el riesgo de los proveedores de IA
SGSI.online Proporciona a la supervisión de proveedores de IA un lugar estructurado dentro de su sistema de gestión de IA más amplio. En lugar de dispersar los datos de los proveedores en hojas de compras, cuestionarios de seguridad, carpetas legales y sistemas de seguimiento de cumplimiento, la plataforma consolida el ciclo de vida en un espacio de trabajo conectado:
- Registro de proveedores con campos específicos para IA. Cada proveedor de IA tiene un registro con el tipo de proveedor (modelo base, IA SaaS, IA integrada, etiquetado de datos), casos de uso, nivel de riesgo, certificaciones, subprocesadores y enlaces de control relevantes del Anexo A.
- Cuestionarios de diligencia debida de IA. Plantillas prediseñadas que abarcan las nueve áreas de evaluación, con puntuación, aprobación y evidencia almacenada adjunta al registro del proveedor.
- Seguimiento de contratos y cláusulas. Las cláusulas clave de la IA (derecho de auditoría, notificación de cambio de modelo, uso de datos, SLA de incidentes, salida) se registran como campos en el registro del proveedor, para que pueda generar informes sobre su infraestructura de IA de un vistazo.
- Flujos de trabajo de monitorización continua. Reevaluaciones programadas, alertas de vencimiento de certificados, revisiones del registro de cambios y reevaluaciones basadas en activadores, todo ello vinculado al registro del proveedor y al registro de riesgos de IA.
- Evaluaciones vinculadas de riesgos e impactos de la IA. Las entradas de proveedores se conectan directamente con las entradas del registro de riesgos de IA (Cláusula 6.1.2) y las evaluaciones de impacto del sistema de IA (Cláusula 6.1.4), por lo que el riesgo del proveedor se trata como parte del panorama general de riesgos de IA, no como un universo paralelo.
- Evidencia de auditoría a nivel de control. Cada evaluación, revisión y reevaluación genera evidencia vinculada al control específico del Anexo A al que respalda, lista para las auditorías de vigilancia.
El resultado práctico: cuando un auditor pregunta cómo se cumple con el Anexo A.10 para la cadena de suministro de IA, la respuesta es un análisis detallado (proveedor, evaluación, contrato, historial de seguimiento, evidencia), no una semana de capturas de pantalla y hojas de cálculo.
¿Por qué elegir ISMS.online para la gestión del riesgo de proveedores de IA?
SGSI.online Está diseñada para la gobernanza de la IA de principio a fin, por lo que la supervisión de proveedores es una parte fundamental de la plataforma, no un añadido. Esto es lo que obtienes:
- Registro de proveedores específicos de IA. Campos diseñados específicamente para el tipo de proveedor de IA, casos de uso, nivel de riesgo, certificaciones, subprocesadores y versiones del modelo, no una lista genérica de proveedores reutilizada de una herramienta de gestión de activos de TI.
- Plantillas de análisis de viabilidad con IA predefinidas. Los cuestionarios se ajustan al Anexo A.10 de la norma ISO 42001, a las directrices del Anexo B y a las obligaciones derivadas de la Ley de IA de la UE, de modo que los equipos parten de una base estándar en lugar de redactar preguntas desde cero.
- Integrado con el registro de riesgos de IA. El riesgo del proveedor se vincula directamente con los riesgos de la IA (Cláusula 6.1.2) y las evaluaciones del impacto del sistema de IA (Cláusula 6.1.4), con ciclos de puntuación, tratamiento y revisión en un mismo lugar.
- En vivo Declaración de aplicabilidad. La sección de proveedores de su Declaración de Acuerdo se mantiene actualizada a medida que cambian los proveedores, los controles y las justificaciones, en lugar de permanecer congelada en un documento de Word.
- Monitorización continua integrada. Las reevaluaciones programadas, las alertas de vencimiento de certificados y las revisiones activadas por eventos mantienen activa la supervisión del proveedor durante todo el ciclo de vida del contrato.
- Reutilización de múltiples estándares. Los registros de proveedores se comparten entre ISO 42001 y los controles de proveedores de sus sistemas de gestión ISO existentes, de modo que usted ejecuta un único programa de proveedores, no varios. Para la superposición, consulte ISO 42001 frente a ISO 27001.
- Método de resultados garantizados. Un enfoque de implementación probado, soporte para la adopción y ayuda en tiempo real para que la supervisión del proveedor de IA esté operativa en semanas, no en trimestres.
Ya sea que esté comenzando desde cero o actualizando un programa de riesgo de terceros existente a estándares específicos de IA, SGSI.online Le proporciona las herramientas para gestionar el riesgo de los proveedores de IA de acuerdo con la norma ISO 42001 y la Ley de IA de la UE. Para obtener información completa sobre la implementación, consulte nuestra Guía de implementacióno cabeza Volver al centro ISO 42001.
¿Listo para ver la plataforma en acción? Agendar demo .
Preguntas Frecuentes
¿Qué es la gestión de riesgos de los proveedores de IA?
La gestión de riesgos de proveedores de IA es el proceso de identificar, evaluar, contratar y supervisar a terceros que proporcionan capacidades de IA a su organización. Abarca proveedores de modelos base, herramientas SaaS nativas de IA, funciones de IA integradas en software empresarial y proveedores de etiquetado de datos o datos de entrenamiento. Amplía la gestión clásica de riesgos de terceros con consideraciones específicas de la IA, como los datos de entrenamiento, la transparencia del modelo, el comportamiento no determinista y la gestión de cambios en los pesos del modelo y las indicaciones del sistema.
¿La norma ISO 42001 exige evaluaciones de los proveedores de IA?
Sí. El Anexo A.10 de la norma ISO 42001 aborda directamente las relaciones con terceros y clientes, exigiendo a las organizaciones que identifiquen a los proveedores de IA, asignen responsabilidades y gestionen las consideraciones específicas de la IA a lo largo del ciclo de vida del proveedor. El Anexo B (normativo) proporciona orientación para la implementación. SGSI.online La Declaración de Aplicabilidad debe documentar cómo se aplican estos controles a su conjunto de proveedores de IA, justificando cualquier exclusión.
¿Cuáles son las principales señales de alerta en la evaluación de un proveedor de IA?
Los principales obstáculos son: el entrenamiento con datos de clientes por defecto sin opción de exclusión, la falta de documentación del modelo o control de versiones, la ausencia de certificaciones reconocidas (ISO 42001, ISO 27001, SOC 2) o certificaciones caducadas, la falta de un acuerdo de nivel de servicio (SLA) específico para respuesta a incidentes o notificaciones de IA, cambios silenciosos en el modelo sin previo aviso, acuerdos poco transparentes con subprocesadores y la falta de un proceso de salida definido. Cualquiera de estos problemas debería dar lugar a una decisión de riesgo a nivel directivo antes de la firma del contrato.
¿Con qué frecuencia deberíamos reevaluar a los proveedores de IA?
La reevaluación anual es un punto de partida razonable para los proveedores de IA de alto riesgo, con una revisión bienal para los de riesgo medio y un seguimiento más flexible para los de bajo riesgo. Además del calendario, los eventos desencadenantes —cambios importantes en el modelo o subprocesador, incidentes divulgados públicamente, pérdida de la certificación, cambios en el caso de uso, nuevas regulaciones— deberían obligar a realizar una reevaluación inmediata, independientemente del calendario.
¿Afecta la Ley de IA de la UE a nuestros contratos con proveedores de IA?
Sí. La Ley de IA de la UE impone obligaciones a los proveedores, implementadores e importadores de sistemas de IA, y la información debe fluir a lo largo de la cadena para que se cumplan dichas obligaciones. Los contratos con los proveedores de modelos base y los proveedores de IA posteriores deben exigir la documentación técnica, las instrucciones de uso, la información sobre transparencia y la notificación de incidentes necesarias para que usted cumpla con sus obligaciones como implementador o proveedor. El ajuste fino o la modificación sustancial de un modelo de propósito general también puede convertir a un implementador en un proveedor, lo cual debe abordarse contractualmente.
¿Es suficiente con que un proveedor cuente con la certificación ISO 27001 para los casos de uso de IA?
No. La norma ISO 27001 abarca la gestión de la seguridad de la información y constituye una base sólida, pero no aborda los riesgos específicos de la IA, como la procedencia de los datos de entrenamiento, la transparencia del modelo, el impacto en las personas afectadas, los sesgos o la gestión de cambios en el modelo. Para casos de uso relevantes de la IA, también se debe buscar la certificación ISO 42001 (o una hoja de ruta creíble para su implementación), la certificación SOC 2 Tipo II que cubra el servicio de IA en cuestión y cláusulas explícitas de IA en el contrato que vayan más allá de los términos de seguridad de la información.
¿Puede ISMS.online gestionar el riesgo de los proveedores de IA junto con el riesgo general de los proveedores?
Sí. SGSI.online Se trata de una plataforma multiestándar, por lo que los proveedores de IA se encuentran en el mismo registro de proveedores que sus proveedores externos, con campos específicos para IA, plantillas de diligencia debida y flujos de trabajo de monitorización integrados. Esto significa un único programa de proveedores, un único conjunto de evidencias y un único registro de auditoría, que abarca el Anexo A.10 de la norma ISO 42001 y los controles de proveedores de sus sistemas de gestión existentes en una sola vista.
