Caitlin Kalinowski, quien lideraba el área de robótica y hardware de consumo en OpenAI, anunció su renuncia el sábado, expresando inquietudes sobre el acuerdo de la compañía con el Departamento de Defensa de EE.UU. En una publicación en redes sociales, Kalinowski señaló que OpenAI no dedicó el tiempo necesario antes de decidir desplegar sus modelos de inteligencia artificial en las redes clasificadas del Pentágono.
Preocupaciones sobre la gobernanza y la ética
Kalinowski, en su mensaje, subrayó que la inteligencia artificial juega un papel crucial en la seguridad nacional. Sin embargo, enfatizó que la vigilancia de ciudadanos estadounidenses sin supervisión judicial y la autonomía letal sin autorización humana son cuestiones que debieron recibir más atención de la que obtuvieron.
Comentarios y reacciones
Reuters no pudo contactar a Kalinowski de inmediato, pero ella mencionó en X que, a pesar de su « profundo respeto » por Sam Altman, CEO de OpenAI, consideraba que el anuncio del acuerdo con el Pentágono se realizó « sin las salvaguardias definidas ». En otra publicación, Kalinowski reafirmó que la cuestión de la gobernanza es primordial y que estos temas son demasiado importantes para ser tratados apresuradamente.
Posición de OpenAI y futuras discusiones
Al día siguiente de la firma del acuerdo, OpenAI comunicó que se implementarán salvaguardias adicionales para proteger los casos de uso de sus tecnologías. El sábado, la empresa reiteró que sus « líneas rojas » impiden el uso de su tecnología en vigilancia doméstica o en armamento autónomo.
- OpenAI reconoce que hay opiniones fuertes sobre estos temas.
- La empresa se compromete a dialogar con empleados, gobiernos y sociedades civiles a nivel global.
Trayectoria de Caitlin Kalinowski
Kalinowski se unió a OpenAI en 2024, después de haber liderado el desarrollo de hardware de realidad aumentada en Meta Platforms.
La renuncia de Kalinowski plantea interrogantes sobre la dirección futura de OpenAI y su compromiso con la ética en el desarrollo de la inteligencia artificial. ¿Cómo manejará la empresa las preocupaciones sobre la seguridad y la gobernanza en sus proyectos venideros?
