Reúne Trump a líderes tecnológicos para discutir el futuro de la inteligencia artificial

Donald Trump reunió este martes en la Casa Blanca a ejecutivos de algunas de las principales compañías tecnológicas para abordar el desarrollo de la inteligencia artificial (IA), en un momento en que aumentan las preocupaciones sobre la seguridad de los modelos más avanzados y el Congreso estadounidense analiza posibles mecanismos de supervisión.

Entre los asistentes al encuentro estuvieron Dario Amodei, director ejecutivo de Anthropic; Greg Brockman, presidente de OpenAI; Jeff Bezos, fundador de Amazon; Elon Musk, Mark Zuckerberg, Sundar Pichai y Jensen Huang, además de otros empresarios y funcionarios estadounidenses. La reunión contó con 31 asistentes confirmados, de acuerdo con una lista reportada por Axios.

El encuentro se realizó después de que distintas empresas del sector plantearan la necesidad de reforzar las medidas de seguridad ante el crecimiento de las capacidades de los sistemas de IA.

Rechaza Trump frenar el desarrollo de la IA

Antes de la reunión, Trump dejó clara su postura sobre el ritmo de desarrollo de esta tecnología y descartó limitar su crecimiento.

“No podemos frenar el crecimiento de una tecnología que será más grande que la Revolución Industrial”, afirmó el mandatario durante la presentación de America.gov, un nuevo portal gubernamental que incorpora herramientas de inteligencia artificial.

Trump también ha relacionado la continuidad del desarrollo de la IA con la competencia tecnológica entre Estados Unidos y China. Este martes sostuvo que no considera conveniente establecer mecanismos conjuntos con Beijing para gobernar esta tecnología, al argumentar que ello podría afectar la posición de las empresas estadounidenses.

La postura del presidente contrasta con las propuestas de algunos líderes de la industria que han llamado a establecer mecanismos de evaluación y seguridad antes de continuar acelerando el desarrollo de los modelos más avanzados.

¿Por qué algunos líderes piden reducir el ritmo de la IA?

Uno de los principales promotores de una mayor cautela es Dario Amodei, director ejecutivo de Anthropic, quien publicó en septiembre un planteamiento para “ralentizar” o establecer un ritmo controlado en el desarrollo de los sistemas de frontera.

Amodei propuso incorporar evaluadores independientes dentro de los laboratorios de IA y promover acuerdos de coordinación entre compañías y gobiernos para establecer medidas de seguridad. El directivo sostiene que la tecnología puede generar importantes beneficios, pero también riesgos relacionados con la pérdida de control sobre los sistemas, ciberataques y alteraciones económicas.

El debate también ha involucrado a Sam Altman, director ejecutivo de OpenAI, quien señaló que su empresa está ajustando el ritmo de desarrollo y que en determinadas circunstancias puede detener el entrenamiento de un modelo para realizar evaluaciones de seguridad adicionales.

Por su parte, Musk también ha expresado respaldo a la propuesta de Amodei de establecer mecanismos para controlar el ritmo de avance de la IA.

Advierte Anthropic sobre posibles riesgos de la inteligencia artificial

El debate tomó mayor relevancia luego de que Anthropic incluyera en los documentos relacionados con su próxima oferta pública inicial advertencias sobre los riesgos potenciales de sus modelos.

La empresa señaló que sistemas avanzados podrían desarrollar comportamientos como resistirse a ser apagados, ocultar o manipular información y presentar conductas similares al chantaje, según el documento revisado por Reuters.

Anthropic también advirtió que el desarrollo de modelos cada vez más avanzados podría representar riesgos “catastróficos o existenciales” si la tecnología no se maneja adecuadamente.

La compañía destinó aproximadamente 80 de las 261 páginas de su prospecto a describir factores de riesgo, de acuerdo con Reuters.

OpenAI también ha reforzado sus evaluaciones de seguridad

En paralelo, OpenAI ha enfrentado cuestionamientos después de incidentes relacionados con el comportamiento de agentes de inteligencia artificial.

La empresa ha señalado que sus modelos más recientes requieren medidas de seguridad adicionales debido al incremento de sus capacidades. En septiembre, OpenAI informó que había retrasado partes del desarrollo y lanzamiento de uno de sus modelos mientras reforzaba las protecciones contra usos indebidos y acciones no autorizadas.

El escenario ha incrementado la presión sobre el gobierno estadounidense para definir hasta dónde debe llegar la supervisión de la industria.

Buscan equilibrio entre innovación y supervisión

El presidente de la Cámara de Representantes, Mike Johnson, quien también participó en la discusión, planteó que Estados Unidos no necesita una moratoria sobre la IA ni una regulación excesiva, pero sí mecanismos de supervisión y transparencia.

La reunión ocurre mientras legisladores de ambos partidos han impulsado propuestas relacionadas con la seguridad y supervisión de los sistemas de inteligencia artificial. Sin embargo, algunos esfuerzos legislativos permanecen detenidos.

Una encuesta nacional de Reuters/Ipsos realizada entre el 17 y el 20 de septiembre encontró que 73% de los encuestados expresó preocupación porque las empresas de IA no han hecho lo suficiente para evitar daños graves a la sociedad, mientras que 55% consideró favorable reducir el ritmo de desarrollo de esta tecnología.

Así, la reunión en la Casa Blanca puso sobre la mesa dos posiciones que actualmente conviven dentro del debate estadounidense: mantener el ritmo de innovación para conservar la ventaja tecnológica frente a China y, al mismo tiempo, establecer medidas de seguridad que permitan supervisar las capacidades crecientes de los sistemas de IA.