Sam Altman, CEO de OpenAI, pide regular herramientas como ChatGPT por su capacidad de "hacer daño"

MADRID/El CEO de OpenAI, Sam Altman, cree que la regulación para los pequeños modelos de lenguaje impulsados por inteligencia artificial (IA)"no tiene sentido" y apuesta por regular herramientas grandes como ChatGPT, porque son "los que realmente pueden hacer daño".

Así lo ha expresado el director ejecutivo de la compañía creadora de herramientas como Whisper y Dall-E2, en un coloquio en la IE University donde ha estado acompañado por el científico de investigación de OpenAI Mo Bavarian; el director ejecutivo del Programa Owners Scaleup, Joe Haslam, y la cofundadora y CEO de Clibrain, Elena González-Blanco.

Durante su ponencia, el CEO de OpenAI ha remarcado que la regulación es "muy importante", pero también ha puesto énfasis en que sobrerregular "no es bueno" ya que, en el caso de las pequeñas compañías de modelos de lenguajes, cortaría su capacidad de innovación y de creación.

"No pensamos que la regulación para modelos pequeños tenga sentido", ha observado Altman, al tiempo que ha indicado que la regulación tiene que estar diseñada para los modelos grandes, para que "no podamos hacer daño en el mundo". Así, ha sugerido que se debe "dejar crecer" a los modelos pequeños y que lo lógico es centrar la atención de la regulación en los modelos grandes, ya que "somos los que podemos manejarlos".

La privacidad

Igualmente, el CEO de OpenAI ha remarcado la importancia de la privacidad y la preocupación en torno a esta cuestión a todos los niveles. En este sentido, ha asegurado que desde la compañía continuarán "trabajando con otros gobiernos alrededor del mundo" para conseguir mejorar los modelos de lenguaje impulsados por IA y proteger la privacidad.

Además, ha apuntado que desde OpenAI quieren llevar a cabo tecnología con la que "la gente se encuentre cómoda y segura". "Queremos hacer lo que la gente quiera. Queremos crear el producto que la gente quiera utilizar", ha aseverado Altman, en referencia al trabajo que han estado llevando a cabo con ChatGPT para mejorar aspectos como la privacidad, la seguridad de los datos y la calidad de la información.

"Es justo y razonable ser escéptico", ha manifestado, al tiempo que ha admitido que el trabajo de la tecnología con la IA "no ha sido perfecto". Así, ha señalado que aunque ha habido "muchos errores", también se ha de tener en cuenta todo el trabajo llevado a cabo para solucionarlos y crear mejoras.

De la misma forma, Altman ha explicado que han empujado a estas tecnologías, en este caso ChatGPT, a ser "abiertas de cara al mundo", aun sabiendo que no son perfectas, porque "la gente tiene que probarlas"; cree mejor que la gente, las instituciones y los gobiernos prueben esta tecnología, aunque aún no esté completamente lista, para ver "cómo se puede utilizar de forma buena y mala y, con arreglo a ello, adaptarla a la sociedad".

Por todo ello, ha reiterado la importancia de la regulación de los modelos de lenguaje impulsados por IA como ChatGPT, pero también ha hecho hincapié en que lo que preocupa a la compañía es, sobre todo, "hacer lo correcto" y, por ello, ha puesto en valor que llevan ocho meses "haciendo ChatGPT más seguro".

Los objetivos de ChatGPT

Tal y como ha explicado, el éxito de ChatGPT y los modelos de lenguaje de OpenAI se basa en tres características:

• Es un algoritmo "que realmente puede aprender": puede establecer relaciones entre una gran cantidad de datos y eso "no era obvio para la gente".
• El algoritmo es predecible: "podemos predecir cómo de buenos van a ser los resultados".
• Con "muy pocos datos", es capaz de comportarse como "cualquier sistema de valores".

Altman y Bavarian han explicado que usan ChatGPT de forma personal "muy a menudo" y que dentro de OpenAI lo utilizan sobre todo para codificar y conectar toda la tecnología dentro de la compañía. Han remarcado que la intención de ChatGPT es convertirse en un superasistente de IA que pueda "ayudar con todo" y que la idea es que pueda ayudar a realizar pequeñas tareas y que sean cada vez más complejas.

Impacto en la sociedad

Por otra parte, el director ejecutivo de la firma también ha señalado que otro de los objetivos que tienen las tecnologías como ChatGPT es equilibrar la sociedad y ayudar a cualquier persona a tener acceso a información o a herramientas para poder desarrollar sus iniciativas, "independientemente de quien sea".

Así, el CEO de OpenAI se ha referido a la educación y al impacto de herramientas como ChatGPT. En este aspecto, ha señalado que puede significar una "súper-herramienta", tanto para profesores como para estudiantes y que, por tanto, todos deberían "abrazar" este cambio en el modelo de la educación que está por venir. "Las instituciones educativas deben meterse en esto", ha dicho Altman.

Altman ha concluido recordando que la tecnología impulsada por IA, como la de OpenAI, es la más capacitadora que ha visto el ser humano" y que, gracias a ella y posibilidades de creatividad e innovación que presenta, "el mundo va a ser tremendamente diferente y mejor". "Si das a la gente mejores herramientas, tendrás un mejor futuro", ha sentenciado.

Sánchez defiende un órgano global que supervise la inteligencia artificial

El presidente del Gobierno, Pedro Sánchez, ha defendido ante Sam Altman la necesidad de un órgano global de supervisión de la inteligencia artificial. En el encuentro, en el que ha participado también la vicepresidenta primera y ministra de Asuntos Económicos y Transformación Digital, Nadia Calviño, se ha abordado el desarrollo de la inteligencia artificial y su potencial para contribuir al crecimiento económico, la reducción de la desigualdad y la solución de problemas globales.

Asimismo, según ha informado Moncloa, se han tratado los desafíos y riesgos que supone para la protección de la democracia y el fomento de la transparencia.

Sánchez ha defendido la necesidad de un órgano global de supervisión de esta tecnología y la importancia de la próxima aprobación del reglamento europeo de Inteligencia Artificial (AI Act), cuya negociación ha dicho será prioritaria para la presidencia española del Consejo de la UE.

El presidente del Gobierno ha recordado que España ha impulsado un banco de pruebas piloto para acordar una guía de buenas prácticas y ha aprobado la creación de la primera Agencia Española de Supervisión de Inteligencia Artificial (AESIA) en LA Coruña.

A ello ha sumado la puesta en marcha del Fond-ICO Next Tech para apoyar a empresas emergentes punteras y ha destinado 500 millones de euros del Plan de Recuperación para acelerar el desarrollo de la inteligencia artificial. También ha destacado que la Unión Europea ha elegido a Sevilla para albergar el Centro para la Transparencia Algorítmica.