Jan Leike, un líder destacado de OpenAI, renunció recientemente, alegando que la seguridad en la empresa se ha visto eclipsada por el brillo de los productos innovadores. Leike, quien dirigía el equipo de «Superalignment» en OpenAI, expresó su frustración en una serie de publicaciones en la red social X, donde mencionó que su decisión de unirse a la compañía se basó en la creencia de que sería el mejor lugar para realizar investigaciones avanzadas en inteligencia artificial.
«He estado en desacuerdo con la dirección de OpenAI sobre las prioridades principales de la empresa durante mucho tiempo,» escribió Leike. Finalmente, esta discordancia alcanzó un punto de ruptura que culminó en su salida. Con una sólida formación en investigación de IA, Leike ha enfatizado la importancia de centrarse en la preparación para la próxima generación de modelos de inteligencia artificial, subrayando aspectos como la seguridad y el análisis de los impactos sociales de estas tecnologías.
Leike afirmó que construir «máquinas más inteligentes que los humanos es una empresa inherentemente peligrosa» y que OpenAI está asumiendo una responsabilidad enorme en nombre de toda la humanidad. Por ello, instó a que OpenAI se convierta en una compañía que priorice la seguridad en el desarrollo de la inteligencia artificial general (AGI), una visión futurista de máquinas tan inteligentes como los humanos, capaces de realizar múltiples tareas con la misma eficiencia.
El CEO de OpenAI, Sam Altman, respondió a las publicaciones de Leike, agradeciéndole sus contribuciones y expresando su tristeza por su partida. Altman reconoció que «tenemos mucho más por hacer; estamos comprometidos a hacerlo», y prometió elaborar más sobre el tema en una publicación futura.
Reacciones y cambios en OpenAI tras las renuncias
La salida de Jan Leike no fue un hecho aislado en OpenAI. Poco después de su renuncia, Ilya Sutskever, cofundador y científico jefe de la compañía, también anunció su partida. Sutskever, que había estado con OpenAI casi una década, fue uno de los cuatro miembros de la junta que votaron para destituir a Sam Altman el otoño pasado, solo para revertir esa decisión rápidamente. Sutskever, al comunicar su decisión de dejar la compañía, mencionó que trabajaría en un proyecto nuevo y significativo, aunque no dio más detalles al respecto.
La renuncia de Leike resultó en la disolución de su equipo, el «Superalignment», el cual había sido creado el año pasado para enfocarse en los riesgos de la inteligencia artificial. La empresa confirmó que los miembros del equipo de Leike serían distribuidos en distintos proyectos de investigación dentro de OpenAI, integrando sus esfuerzos en las iniciativas actuales.
En respuesta a las salidas, Altman nombró a Jakub Pachocki como el nuevo científico jefe de la compañía. Altman describió a Pachocki como «uno de los mayores genios de nuestra generación», expresando su confianza en que liderará OpenAI hacia un progreso rápido y seguro en su misión de asegurar que la AGI beneficie a toda la humanidad.
Esta ola de cambios en OpenAI llegó justo después de la presentación de la última actualización de su modelo de inteligencia artificial. Este modelo actualizado no solo puede imitar los tonos humanos en sus respuestas verbales, sino que también intenta detectar el estado de ánimo de las personas. Con estas capacidades avanzadas, OpenAI continúa impulsando los límites de la tecnología de IA, aunque no sin enfrentar desafíos internos significativos en cuanto a la dirección y las prioridades de la empresa.
