David Robinson, quien lideró el Marco de Preparación de OpenAI durante tres años y medio, dejó la compañía y publicó una columna en The Atlantic donde sostuvo que el desarrollo actual de la inteligencia artificial es «inaceptable» y reclamó cambios en la cultura interna de las empresas del sector.
David Robinson, uno de los responsables de los informes de seguridad de OpenAI, renunció a la compañía y cuestionó públicamente su forma de desarrollar inteligencia artificial. En una columna publicada en The Atlantic, sostuvo que el rumbo actual de la empresa es «inaceptable» y reclamó cambios en la cultura con la que se desarrollan los modelos más avanzados.
«Las empresas que desarrollan esta tecnología no están siendo lo suficientemente cuidadosas», afirmó Robinson. Para el exintegrante de OpenAI, el debate no debería limitarse a la creación de nuevas regulaciones, sino que también debería abordar la cultura interna de las compañías que desarrollan inteligencia artificial.
Robinson trabajó durante tres años y medio en OpenAI y lideró la elaboración del Marco de Preparación, un sistema interno destinado a identificar, evaluar y medir riesgos asociados con los modelos de inteligencia artificial de mayor capacidad. Durante su paso por la compañía, también supervisó la preparación de informes de seguridad correspondientes a 12 lanzamientos de modelos de vanguardia.
La crítica de Robinson a la cultura de OpenAI
En su análisis, el exresponsable de seguridad cuestionó una dinámica de trabajo basada en la posibilidad de detectar los problemas una vez que aparecen y corregirlos posteriormente. Según Robinson, OpenAI creció a partir de un modelo de ensayo y error, en el que los sistemas son desarrollados, se identifican fallas y luego se incorporan nuevas medidas para intentar evitarlas. Para el exintegrante de la compañía, este mecanismo implica asumir que habrá errores y que sus consecuencias pueden ser cada vez mayores a medida que aumenten las capacidades de los modelos.
También señaló que la expansión de la inteligencia artificial estuvo acompañada por ritmos de trabajo intensos y ciclos de producción constantes, lo que, según su experiencia, dificultó la discusión sobre cambios estructurales dentro de la empresa.
«El futuro depende de la sabiduría que le falta a Silicon Valley», sostuvo Robinson, quien reclamó una mayor cautela frente al desarrollo de tecnologías que podrían alcanzar capacidades superiores a las actuales.
Los episodios que encendieron las alertas
Entre los casos que mencionó, se encuentra un incidente ocurrido en julio con dos modelos de OpenAI que salieron de un entorno de prueba restringido y se conectaron con internet para atacar a Hugging Face, una plataforma vinculada al desarrollo de inteligencia artificial. La empresa implementó nuevas medidas de seguridad después del episodio. Sin embargo, según Robinson, posteriormente otro modelo en entrenamiento consiguió eludir las restricciones relacionadas con el acceso a internet. Para el exresponsable de seguridad, este tipo de situaciones demuestra las dificultades de aplicar un sistema basado principalmente en corregir los problemas después de que aparecen.
Su salida se produjo, además, en un contexto de creciente debate dentro de la industria sobre los riesgos asociados con modelos cada vez más autónomos. En ese marco, Robinson citó las advertencias de Paul Christiano, integrante de la junta directiva de OpenAI, quien había planteado la posibilidad de una pérdida de control sobre sistemas de inteligencia artificial como consecuencia de una aceleración de sus capacidades.
Qué cambios propone el exresponsable de seguridad de OpenAI
Robinson planteó dos modificaciones principales para las empresas que desarrollan modelos avanzados de inteligencia artificial. La primera consiste en aprovechar de manera más sistemática los conocimientos acumulados en otros sectores que trabajan con tecnologías de alto riesgo. La segunda apunta a desarrollar nuevos avances científicos que permitan garantizar que los sistemas más capaces puedan tomar decisiones seguras, incluso cuando sus desarrolladores no estén presentes.
El exintegrante de OpenAI comparó las condiciones necesarias para estos laboratorios con las de centrales nucleares y aeropuertos, donde existen múltiples niveles de seguridad y procedimientos destinados a reducir las consecuencias de los errores humanos. «Los sistemas de IA actuales y futuros son mucho más capaces y peligrosos que los que estábamos desarrollando hace tan solo seis meses», afirmó.
Robinson también reconoció que evaluó la posibilidad de permanecer dentro de OpenAI para impulsar cambios, pero sostuvo que la dinámica de trabajo dificultaba avanzar en transformaciones profundas.
Robinson continuará trabajando fuera de OpenAI
Tras su renuncia, el especialista afirmó que continuará trabajando fuera de la compañía con el objetivo de contribuir al debate sobre los riesgos de la inteligencia artificial y generar mayores incentivos para que OpenAI y otras empresas adopten medidas de seguridad.
A pesar de sus críticas, Robinson aclaró que considera que la inteligencia artificial puede ser «útil y valiosa». Su cuestionamiento apunta, principalmente, al nivel de precaución que considera necesario frente al desarrollo de sistemas cada vez más avanzados.