OpenAI busca a alguien que se ocupe de las amenazas provenientes de la IA
Sam Altman, CEO y cofundador de OpenAI, anunció este sábado que la compañía matriz de ChatGPT busca contratar a «un jefe de Preparación». «Este puesto es crucial en un momento crucial; los modelos están mejorando rápidamente y ahora son capaces de muchas cosas excelentes, pero también están empezando a presentar desafíos reales», indicó el empresario en una publicación en X.
«El posible impacto de los modelos en la salud mental fue algo que ya pudimos ver en 2025; ahora estamos viendo que los modelos se están volviendo tan expertos en seguridad informática que están empezando a detectar vulnerabilidades críticas», reconoció.
Altman aseguró que la compañía tiene a su disposición «una base sólida para medir capacidades de crecimiento», sin embargo, necesita tener «una comprensión y una medición más matizadas de cómo se puede abusar de esas capacidades y cómo podemos limitar esas desventajas» sin tener que perder los beneficios que aporta la inteligencia artificial.
De acuerdo con sus palabras, el candidato para el cargo debería desear «ayudar al mundo a descubrir cómo habilitar a los defensores de la ciberseguridad con capacidades de vanguardia y al mismo tiempo garantizar que los atacantes no puedan usarlas para hacer daño».
¿Qué se tendrá que hacer exactamente?
En paralelo al anuncio de Altman, OpenAI también publicó un comunicado en el que informa sobre la vacante. Según se precisa, el trabajador tendrá que realizar las siguientes tareas:
- «Gestionar la estrategia de preparación de OpenAI de principio a fin mediante la creación de evaluaciones de capacidad, el establecimiento de modelos de amenazas y la creación y coordinación de mitigaciones».
- «Dirigir el desarrollo de evaluaciones de capacidades de vanguardia, garantizando que sean precisas, sólidas y escalables en ciclos de productos rápidos».
- «Supervisar el diseño de mitigación en las principales áreas de riesgo (por ejemplo, cibernético, biológico), garantizando que las protecciones sean técnicamente sólidas, efectivas y estén alineadas con los modelos de amenazas subyacentes».
- «Orientar la interpretación de los resultados de la evaluación y garantizar que informen directamente las decisiones de lanzamiento, las opciones de políticas y los casos de seguridad».
- «Perfeccionar y desarrollar el marco de preparación a medida que surjan nuevos riesgos, capacidades o expectativas externas».
«Colaborar de manera interfuncional con equipos de investigación, ingeniería, productos, equipos de monitoreo y cumplimiento de políticas, gobernanza y socios externos para integrar la preparación en la implementación en el mundo real».