Meera Murati, directora de tecnología de OpenAI, cree que los reguladores gubernamentales deberían estar «muy involucrados» en el desarrollo de estándares de seguridad para el despliegue de modelos avanzados de IA como ChatGPT.
También cree que la pausa propuesta de seis meses en el desarrollo no es la forma correcta de construir sistemas más seguros y que la industria no está actualmente cerca de lograr la inteligencia general artificial (AGI), un umbral intelectual hipotético en el que un agente artificial es capaz de realizar cualquier tarea que requiera inteligencia, incluida la cognición a nivel humano. Sus comentarios surgieron de una entrevista con The Associated Press publicada el 24 de abril.
Conectado: Elon Musk lanzará la plataforma de IA de búsqueda de la verdad TruthGPT
Cuando se le preguntó acerca de las precauciones que tomó OpenAI antes de lanzar GPT-4, Muratti explicó que la compañía adoptó un enfoque de aprendizaje lento no solo para frenar la propensión de la máquina a comportamientos no deseados, sino también para identificar cualquier preocupación posterior, relacionada con tales cambios:
“Hay que tener mucho cuidado porque se puede crear otro desequilibrio. Debes auditar constantemente […] Entonces hay que volver a ajustarlo y tener mucho cuidado cada vez que se hace una intervención, viendo qué más se rompe.
Desde el lanzamiento de GPT-4, los expertos que temen lo desconocido que rodea el futuro de la IA han pedido una intervención, que va desde una mayor regulación gubernamental hasta una pausa de seis meses en el desarrollo global de la IA.
La última propuesta atrajo la atención y el apoyo de luminarias de IA como Elon Musk, Gary Marcus y Eliezer Yudkowsky, mientras que muchas figuras notables, incluidos Bill Gates, Yang Lekun y Andrew Ng, se opusieron.
buen negocio: @Elon MuskY. Bengio, S. Russell,@tegmarkV. Kraknova, P. Maza,@Grady_Booch,@AndrewYang,@tristanharisy más de 1000 personas, incluyéndome a mí, hemos pedido una pausa temporal en los sistemas de entrenamiento que superan GPT-4 https://t.co/PJ5YFu0xm9
— Gary Marcus (@GaryMarcus) 29 de marzo de 2023
Por su parte, Muratti expresó su apoyo a la idea de una mayor participación del gobierno y dijo que «estos sistemas deben ser regulados». estos sistemas para, al menos a nivel de empresa, acordar algún nivel de estándares.’
Pero en cuanto a la pausa en el desarrollo, el tono de Muratti fue más crítico:
“Algunas de las declaraciones en la carta eran simplemente falsas sobre el desarrollo de GPT-4 o GPT-5. No entrenamos GPT-5. No tenemos planes de hacerlo en los próximos seis meses. Y no escapamos a GPT-4. De hecho, nos llevó seis meses concentrarnos por completo en el desarrollo y la implementación seguros de GPT-4″.
Cuando se le preguntó si actualmente había «un camino entre productos como GPT-4 y AGI», Muratti dijo a Associated Press que «estamos lejos del punto de tener un sistema AGI seguro, confiable y alineado».
Estas pueden ser malas noticias para aquellos que creen que GPT-4 limita con AGI. El enfoque actual de la compañía en la seguridad y el hecho de que, según Muratti, ni siquiera está capacitando al GPT-5 todavía son indicadores sólidos de que el avance de inteligencia general deseado sigue siendo difícil de alcanzar por ahora.
El mayor enfoque de la compañía en la regulación se produce en medio de una mayor tendencia hacia el control gubernamental. OpenAI prohibió recientemente sus productos GPT en Italia y tiene como fecha límite el 30 de abril para cumplir con las regulaciones locales y europeas en Irlanda, que según un experto será difícil de cumplir.
Dichas prohibiciones podrían tener un impacto serio en la escena europea de las criptomonedas, ya que existe un movimiento creciente hacia la adopción de bots avanzados de comercio de criptomonedas creados sobre aplicaciones que utilizan la API de GPT. Si OpenAI y las empresas que crean productos similares no pueden operar legalmente en Europa, los comerciantes que utilicen la tecnología podrían verse obligados a ir a otro lugar.
