Acuerdan Líderes de IA autorregularse tras reunirse con Trump
WASHINGTON, Estados Unidos.- Los principales líderes de la industria tecnológica acordaron establecer mecanismos de autorregulación para el desarrollo de inteligencia artificial, luego de reunirse con el presidente estadounidense Donald Trump en la Casa Blanca.
El acuerdo contempla controles internos, evaluaciones y auditorías externas para supervisar el comportamiento de los sistemas de IA. Trump planteó además la posibilidad de crear un comité de unas 10 personas para vigilar el cumplimiento de los compromisos.
¿Qué acordaron las empresas de inteligencia artificial?
Las compañías participantes asumieron compromisos para implementar controles destinados a detectar riesgos y verificar que sus modelos funcionen de acuerdo con lo previsto.
El acuerdo contempla cuatro niveles de controles y auditorías, incluidos mecanismos internos de evaluación, revisiones externas y supervisión por parte de los consejos directivos de las empresas.
Entre los asistentes estuvieron Mark Zuckerberg, de Meta; Sundar Pichai, de Google; Greg Brockman, de OpenAI; Dario Amodei, de Anthropic; Jensen Huang, de Nvidia; Alex Karp, de Palantir; Jeff Bezos, de Amazon, y Elon Musk.
El acuerdo es de carácter voluntario. Trump lo calificó como “moralmente vinculante”, mientras que el documento contempla que, eventualmente, algunas de estas medidas puedan incorporarse a leyes o regulaciones.
¿Por qué aumentó la preocupación por los riesgos de la IA?
La reunión ocurrió en medio de advertencias de empresas y especialistas sobre incidentes relacionados con sistemas de inteligencia artificial que han presentado comportamientos no previstos.
OpenAI y Anthropic han reportado situaciones relacionadas con modelos que tuvieron comportamientos problemáticos o accesos no autorizados a otros sistemas, mientras que dentro de la propia industria existen posiciones distintas sobre la velocidad con la que debe avanzar el desarrollo de esta tecnología.
Dario Amodei, director ejecutivo de Anthropic, ha señalado que los riesgos de la IA son reales y que requieren mecanismos para avanzar de manera segura. Al mismo tiempo, otros ejecutivos del sector han defendido que innovación y seguridad pueden desarrollarse de manera paralela.
La preocupación también ha generado llamados desde el Congreso estadounidense para establecer mecanismos obligatorios de evaluación, pruebas y reporte de incidentes, frente al esquema voluntario planteado por la administración Trump.
¿Qué propone Trump para supervisar el desarrollo de la IA?
Trump ha defendido un desarrollo acelerado de la inteligencia artificial y se ha pronunciado contra medidas que, desde su perspectiva, podrían frenar la competencia tecnológica de Estados Unidos.
Como parte del nuevo acuerdo, propuso crear un comité de aproximadamente 10 integrantes para supervisar al sector y señaló que las propias empresas deberán asumir buena parte de la vigilancia sobre sus sistemas.
El mandatario también anunció que su administración utilizará el término “Super Intelligence” para referirse a la tecnología y adelantó que nombrará a un responsable de IA dentro del gobierno estadounidenses.
El encuentro abrió así una nueva etapa en el debate estadounidense sobre cómo equilibrar el desarrollo de sistemas cada vez más avanzados con mecanismos de seguridad y supervisión.
