CEO de OpenAI: «Hay peligros reales que se ciernen sobre el mundo, y tal vez muy pronto»

El director ejecutivo de OpenAI, Sam Altman, advirtió sobre «peligros reales» que podrían enfrentar EE.UU. y el mundo en un futuro cercano, en un mensaje publicado en X en el contexto de recientes acuerdos de la empresa con el Departamento de Guerra estadounidense para el uso de inteligencia artificial (IA) en entornos gubernamentales.

«Hay peligros reales que se ciernen sobre el mundo, y tal vez muy pronto», aseveró.

Altman reflexionó sobre cómo se sentiría «el día después de un ataque contra EE.UU. o de una nueva arma biológica que podríamos haber ayudado a prevenir», al explicar los dilemas que enfrenta la compañía ante decisiones relacionadas con la seguridad y la cooperación con gobiernos.

El ejecutivo sostuvo que la IA plantea riesgos y beneficios significativos y defendió que el desarrollo de esta tecnología debe mantenerse bajo el control del proceso democrático. También afirmó que ninguna empresa privada debería decidir por sí sola el futuro del mundo, por lo que considera necesario fortalecer el poder de los individuos.

Acuerdos entre OpenAI y el Gobierno de EE.UU.

El mensaje llega después que OpenAI confirmara un acuerdo con el Departamento de Guerra para desplegar sus modelos de IA en nubes clasificadas del Gobierno.

Según reportó el diario Financial Times, el Pentágono explora el desarrollo de sistemas de IA con fines militares, entre ellos herramientas destinadas a identificar vulnerabilidades en la infraestructura de China, para lo cual ha mantenido conversaciones con grandes compañías tecnológicas.

Entre los principios incluidos en el acuerdo mencionó la prohibición de la vigilancia masiva doméstica y la obligación de mantener supervisión humana en el uso de la fuerza, incluidas las armas autónomas.