Trump y los gigantes de la IA acordaron autorregularse: quién controlará el desarrollo de la tecnología
Google, OpenAI, Anthropic, Meta, xAI y Nvidia firmaron un compromiso voluntario para reforzar los controles de seguridad de sus modelos. El acuerdo contempla auditorías externas y supervisión interna, pero no establece una regulación federal obligatoria.
Los principales gigantes tecnológicos de Estados Unidos acordaron avanzar en la autorregulación de la Inteligencia Artificial (IA) tras reunirse con el presidente Donald Trump en la Casa Blanca. El compromiso busca reforzar los controles sobre los modelos más avanzados en un momento de creciente preocupación por los riesgos asociados con sistemas cada vez más autónomos.
El acuerdo fue firmado por compañías como Google, OpenAI, Anthropic, Meta, xAI y Nvidia y establece distintos mecanismos de control y auditoría. Sin embargo, se trata de un compromiso voluntario y sin fuerza legal equivalente a una regulación federal.
Trump defendió públicamente este esquema y sostuvo que las empresas deben asumir la responsabilidad de controlar sus propios desarrollos.
Qué acordaron las empresas de IA
El compromiso establece cuatro niveles de controles y auditorías destinados a supervisar el comportamiento y las capacidades de los modelos de IA.
Entre las medidas contempladas aparecen:
- Controles internos para monitorear las capacidades de los modelos durante su entrenamiento y despliegue.
- Evaluaciones específicas en áreas consideradas sensibles, como ciberseguridad, bioseguridad y amenazas químicas.
- Equipos internos encargados de verificar que los mecanismos de seguridad funcionen correctamente.
- Auditorías realizadas por evaluadores externos independientes.
- Supervisión de los resultados de esas auditorías mediante estructuras de gobierno corporativo de las propias compañías.
Uno de los objetivos es evitar que los sistemas puedan acceder o intervenir de manera no prevista en otros sistemas tecnológicos.
Un acuerdo voluntario, no una nueva ley
Uno de los puntos centrales del anuncio es que el compromiso no reemplaza una legislación específica sobre seguridad de la Inteligencia Artificial.
Trump planteó la autorregulación como una alternativa a una mayor intervención estatal y afirmó que las compañías comprenden que deben establecer sus propios controles.
El documento deja abierta, de todos modos, la posibilidad de que algunas de estas medidas puedan transformarse posteriormente en leyes o regulaciones.
Por ahora, la responsabilidad principal queda dentro de las propias empresas que desarrollan los modelos.
¿Quién va a controlar a quienes controlan la IA?
Ese es uno de los principales interrogantes que deja el acuerdo.
Las compañías se comprometen a implementar mecanismos internos, pero también aceptan la participación de auditores externos independientes. El esquema busca combinar el control de las propias empresas con una evaluación realizada desde fuera de sus estructuras.
Trump también planteó la posibilidad de crear un comité de aproximadamente diez personas para supervisar el cumplimiento del compromiso. La composición y las atribuciones definitivas de ese organismo todavía forman parte de la discusión.
El debate aparece en un contexto en el que distintos especialistas y empresas vienen planteando dudas sobre la velocidad con la que avanzan los modelos de IA y sobre la capacidad de los mecanismos de seguridad para acompañar ese desarrollo.
La IA avanza mientras aumentan las advertencias
La discusión sobre seguridad se intensificó después de distintos incidentes protagonizados por agentes de IA capaces de ejecutar acciones de manera autónoma.
Reuters informó que OpenAI y Anthropic reportaron episodios en los que agentes de sus sistemas realizaron acciones no previstas relacionadas con el acceso a sistemas informáticos.
Estos episodios alimentaron una discusión más amplia sobre hasta qué punto los desarrolladores pueden anticipar el comportamiento de modelos cada vez más capaces.
El acuerdo anunciado en Washington busca responder a parte de esas preocupaciones mediante controles, evaluaciones y auditorías, aunque mantiene a las propias compañías en el centro del proceso.
Una discusión que recién comienza
El pacto entre la Casa Blanca y los gigantes tecnológicos no establece un sistema definitivo de regulación de la IA. En cambio, marca un modelo basado en compromisos voluntarios, auditorías y supervisión corporativa.
La cuestión de fondo sigue abierta: cómo garantizar que los sistemas de Inteligencia Artificial sean seguros sin frenar el desarrollo de una tecnología que Estados Unidos considera estratégica frente a China.
Por ahora, Trump y las principales empresas del sector eligieron avanzar con la autorregulación. El alcance real de ese compromiso dependerá de cómo se implementen los controles y de qué mecanismos externos existan para verificar que sean efectivos.