El compromiso de autorregulación de la IA, firmado por empresas tecnológicas en la Casa Blanca, contempla controles internos, evaluación de riesgos, auditorías independientes y supervisión de los consejos de administración
El director ejecutivo de Meta, Mark Zuckerberg, explicó los principales elementos del nuevo acuerdo voluntario para establecer mecanismos de seguridad y supervisión en el desarrollo de inteligencia artificial (IA), luego de participar en una reunión con el presidente de Estados Unidos, Donald Trump, y otros dirigentes de las principales compañías tecnológicas.
El encuentro, realizado este martes en la Casa Blanca, derivó en un compromiso de autorregulación de la industria, mediante el cual las empresas participantes acordaron establecer controles internos y diferentes niveles de revisión para sus sistemas de IA. Trump calificó el pacto como “moralmente vinculante” y lo comparó con una especie de constitución para el sector.
Zuckerberg explicó que el esquema parte de cuatro niveles de supervisión, diseñados para que las compañías identifiquen riesgos y sometan sus sistemas a distintas revisiones antes y durante su implementación.
Los cuatro pilares del acuerdo
1. Controles internos sólidos.
Las compañías deberán establecer mecanismos internos para supervisar el diseño, desarrollo e implementación de sus modelos de inteligencia artificial, así como detectar posibles problemas relacionados con su funcionamiento.
2. Evaluaciones internas de riesgos.
Los equipos de las propias empresas realizarán revisiones continuas para identificar vulnerabilidades y otros riesgos asociados con sus tecnologías, con el objetivo de actuar de manera preventiva.
3. Auditorías externas independientes.
El acuerdo contempla la participación de evaluadores y auditores externos que puedan revisar y poner a prueba los sistemas desarrollados por las compañías, agregando una capa independiente de supervisión.
4. Supervisión de los consejos de administración.
Los consejos directivos de las empresas deberán revisar de manera independiente los informes elaborados por los auditores y evaluar las medidas adoptadas frente a los riesgos detectados.
Este modelo de varias capas de control fue descrito por Zuckerberg como un punto de partida para establecer estándares comunes en la industria, más que como una solución definitiva para todos los riesgos asociados con la IA.
El acuerdo se produce en un contexto de debate en Estados Unidos sobre cuánto debe intervenir el Gobierno en la regulación de la inteligencia artificial. La administración Trump ha defendido un enfoque basado en una mayor autorregulación de las compañías, mientras que distintos sectores han planteado la necesidad de establecer mecanismos adicionales de supervisión pública.
De acuerdo con los reportes sobre la reunión, entre los participantes estuvieron ejecutivos de empresas como Meta, Google, Nvidia, OpenAI y Anthropic, además de otros representantes de la industria tecnológica.
El compromiso no sustituye por sí mismo una legislación federal y, al tratarse de un acuerdo voluntario, su aplicación dependerá de los mecanismos internos y externos que adopte cada compañía. La iniciativa busca establecer un marco común de seguridad mientras continúa el desarrollo acelerado de sistemas de inteligencia artificial.
