El gobierno está apostando todo por la IA. Anunciada en enero, su Plan de acción de oportunidades de IA Busca impulsar el crecimiento económico, mejorar la calidad de los servicios públicos y brindar más oportunidades a las personas. Pero para que su ambicioso plan tenga éxito, el gobierno sabe que las empresas deben confiar en los productos y servicios en los que desean invertir. Aquí es donde entra en juego la garantía de IA.
Es un sector pequeño pero en crecimiento que ya vale £1 millones en valor añadido bruto (VAB) en 2024. El gobierno cree que, con el respaldo adecuado, podría alcanzar casi £19 millones para 2035. Para llegar allí, acaba de publicar una nueva hoja de ruta para proveedores de seguros externos: una parte del mercado que se pasa por alto pero que es potencialmente significativa.
El mercado todavía está madurando
En relación con la actividad económica, el mercado de aseguramiento de IA del Reino Unido es mayor que el de Estados Unidos, Alemania y Francia, según cifras gubernamentales. También se estima que hasta el 80 % de las firmas de aseguramiento externas muestran señales de crecimiento, lo que significa que las condiciones son propicias para convertir al Reino Unido en un líder mundial en este campo. Sin embargo, existen desafíos. Entre los mencionados en la hoja de ruta se encuentran:
- La calidad de los bienes y servicios ofrecidos por proveedores externos de garantía de IA. Aún no está claro qué estándares técnicos deberían aplicarse al mercado para mitigar el riesgo de daños o de ofertas de baja calidad.
- El sector de aseguramiento de la IA en el Reino Unido ya emplea a unas 12,500 personas, pero los proveedores parecen tener dificultades para encontrar candidatos con la combinación adecuada de habilidades. Parte del desafío reside en que estas pueden variar considerablemente, desde competencias técnicas hasta el conocimiento de las leyes pertinentes, la gobernanza y los estándares de la IA. La falta de diversidad también está perjudicando al sector, según el gobierno.
- El acceso a la información sobre sistemas de IA es vital para las empresas que desean ofrecer servicios de aseguramiento relevantes. Sin embargo, ya sea por motivos de seguridad, comerciales o de otro tipo, muchos proveedores se muestran reacios a compartir este tipo de información, que podría incluir datos de entrenamiento, modelos de IA e información sobre gestión y gobernanza.
- La innovación en el sector de la garantía de la IA es vital para impulsar el crecimiento, pero requiere la participación de diversos expertos, incluidos los desarrolladores de IA. El desafío radica en que existen relativamente pocos foros para el trabajo colaborativo de I+D en este ámbito, según afirma el gobierno.
Calidad de construcción
Afortunadamente, el gobierno cuenta con un plan para abordar cada uno de estos desafíos. El primer objetivo es mejorar la garantía de calidad. Para ayudar a las empresas de garantía del Reino Unido a diferenciarse y, en general, aumentar la confianza de los clientes en el mercado, el gobierno tiene tres ideas para mejorar la calidad. Busca profesionalizar la industria mediante la certificación o el registro de personas, aunque admite que dichos programas deberían diseñarse cuidadosamente, desarrollarse en colaboración con organismos profesionales y contar con el respaldo de un ecosistema de formación de alta calidad. El informe admite que probablemente aún sea demasiado pronto para establecer un organismo regulado de la industria y un estándar profesional asociado con la garantía de la IA.
Otra forma de mejorar la calidad podría incluir la verificación de la calidad de procesos de aseguramiento específicos, como la evaluación de riesgos o la auditoría de sesgos. El informe afirma que normas como la ISO 24027 podrían utilizarse para desarrollar certificaciones relevantes en este ámbito. Sin embargo, si bien la estandarización de los procesos de aseguramiento podría mejorar la consistencia y el acceso a los mercados globales, podría excluir del mercado a las empresas más pequeñas con menos recursos.
Finalmente, el gobierno sugiere que el servicio nacional de acreditación del Reino Unido (UKAS) podría ayudar a evaluar si las organizaciones pueden llevar a cabo actividades de evaluación de la conformidad, como la certificación, las pruebas y la inspección, de forma competente, imparcial y consistente. Sin embargo, el informe señala que no existen muchas normas que puedan respaldar la certificación por parte de proveedores de garantía acreditados, lo que limita el impacto de estas medidas.
Para poner en marcha sus planes, el Departamento de Ciencia, Innovación y Tecnología (DSIT) está convocando un consorcio de partes interesadas para desarrollar los pilares necesarios para profesionalizar el sector de aseguramiento de la IA. Esto incluye el desarrollo de un código ético voluntario, un marco de habilidades y competencias y, a partir de ahí, un sistema de certificación o registro profesional, que podría comenzar con la auditoría de IA.
Otras áreas de acción
Habilidades: El gobierno se dispone a colaborar con el mismo consorcio para realizar mejoras en este ámbito, afirmando que el Reino Unido necesita formar a decenas de miles de profesionales de la IA durante los próximos cinco años, tanto en áreas técnicas como no tecnológicas, como el impacto social y el cumplimiento ético. Los programas de formación y certificación existentes, como el Certificado de gobernanza de IA de IAPP Los programas en ciberseguridad, ciencia de datos, auditoría interna e ingeniería de software podrían ser útiles en este sentido. Sin embargo, aún no existe una ruta clara para quienes aspiran a ser profesionales de la auditoría de IA.
DSIT trabajará primero con el consorcio en un marco integral de habilidades y competencias para la garantía de la IA, que incluye un programa de certificación profesional para IA que puede basarse en certificaciones y estándares existentes en áreas como la ciberseguridad. Una vez finalizado este trabajo, DSIT podrá evaluar si se necesita más apoyo para el desarrollo de cursos de formación y cualificaciones.
Acceso a la información: El consorcio colaborará con los proveedores de servicios de auditoría del Reino Unido para comprender sus requisitos de información para los diferentes tipos de servicios de auditoría de IA. Esto le ayudará a desarrollar directrices de buenas prácticas para las empresas que utilizan servicios de auditoría, de modo que sepan de antemano qué tipo de acceso a la información se espera.
Innovación: El gobierno establecerá un nuevo foro para la colaboración entre múltiples partes interesadas: el Fondo de Innovación para la Garantía de la IA. Este fondo recibirá 11 millones de libras para apoyar la investigación de mecanismos innovadores de garantía de la IA, de modo que las partes interesadas puedan identificar mejor los riesgos de la IA. El plazo de solicitud para la primera ronda de financiación se abrirá en la primavera de 2026. El fondo también podría apoyar a los Centros de Adopción de IA del Reino Unido.
Un paso importante
Sharron Gunn, directora ejecutiva de BCS, The Chartered Institute for IT, le dice a ISMS.online que el plan del gobierno ayudará a hacer crecer el mercado de garantía de IA y a generar confianza pública en los sistemas de IA.
“El compromiso del gobierno con la creación de una profesión de aseguramiento de la IA, cuyos profesionales se enorgullecen de rendir cuentas ante un código ético, es un gran avance”, añade. “También es acertado que un consorcio, que incluye organismos profesionales, se encargue de desarrollar este código y de recomendar las vías adecuadas para los registros y certificaciones de aseguramiento de la IA”.
Jennifer Appleton, directora general de ISO Quality Services, sostiene que la hoja de ruta es un paso importante para ayudar a las organizaciones a “traducir la ambición en acciones prácticas”.
Ella comenta a ISMS.online: «Muchas empresas están entusiasmadas con las oportunidades que ofrece la IA, pero se mantienen cautelosas en cuanto a la gobernanza, el riesgo y la rendición de cuentas. Al proporcionar un marco estructurado, la hoja de ruta tiene el potencial de guiar a las organizaciones en la integración responsable de la IA en sus operaciones».
Appleton está especialmente satisfecho con la alineación de la hoja de ruta con la norma ISO 42001.
Contar con un estándar internacional reconocido ayuda a las empresas a demostrar no solo cumplimiento, sino también confianza, transparencia y responsabilidad ética al adoptar la IA. Para muchas organizaciones, esto marcará la diferencia entre explorar la IA en teoría e implementarla con confianza, afirma.
Por supuesto, como con cualquier marco emergente, el reto residirá en lograr el equilibrio adecuado entre flexibilidad y rigor, garantizando que funcione para empresas de todos los tamaños y sectores. Pero, en general, representa un avance positivo y muy necesario, y esperamos apoyar a las empresas en su aplicación práctica.
Tom McNamara, director ejecutivo de Atoro, acoge los planes con mayor cautela. Los describe como un camino lógico y sensato que busca definir la profesión y generar conocimiento antes de certificar los procesos. Sin embargo, argumenta que el consorcio debe estar liderado por quienes están en la primera línea, con experiencia práctica en el desarrollo y la seguridad de sistemas de IA.
"El éxito del marco se basa en un supuesto peligroso: que las personas adecuadas estén disponibles para construirlo", explica McNamara a ISMS.online.
Una garantía eficaz de la IA exige un profundo conocimiento técnico del funcionamiento de estos modelos, no solo de los resultados que producen. La primera y más crucial tarea del consorcio es contar con auténticos expertos en IA. Sin ellos, el marco será un ejercicio bienintencionado, pero vacío de contenido.
