Creador del ChatGPT: La inteligencia artificial puede causar "un daño significativo al mundo" si no se regula

Sam Altman sugirió la creación de una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes.

16/05/2023EditorEditor

OpenAI, la empresa que desarrolló la popular herramienta ChatGPT, cree que la intervención de los gobiernos será fundamental para mitigar los riesgos de los sistemas de inteligencia artificial (IA).

"A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vida. Nosotros también lo estamos", comentó Sam Altman, director general de OpenAI, en una comparecencia este martes ante el Senado estadounidense.

Altman sugirió que se creara una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes y tuviera autoridad para "retirar esa licencia y garantizar el cumplimiento de las normas de seguridad".

El auge del ChatGPT, que ha desatado el pánico entre los educadores por el uso que le dan numerosos estudiantes para hacer trampas en los exámenes, ha generado nuevas preocupaciones sobre la capacidad de esta poderosa herramienta de "IA generativa" para engañar a la gente, difundir falsedades, violar la protección de los derechos de autor y poner en peligro algunos puestos de trabajo.

El senador demócrata Richard Blumenthal, que preside el Subcomité de privacidad, tecnología y legislación del Comité Judicial del Senado, dijo que las empresas de IA deberían estar obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos al mercado, y expresó su especial preocupación por cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral. 

Altman se mostró en gran medida de acuerdo. Cuando se le preguntó por su peor temor respecto a la IA, el empresario comentó que dicha industria podría causar "un daño significativo al mundo" y que "si esta tecnología sale mal, puede salir muy mal". Sin embargo, propuso que una nueva agencia reguladora impusiera salvaguardas que bloquearan los modelos de IA que pudieran "autorreplicarse y autoexfiltrarse en la naturaleza", aludiendo a preocupaciones futuristas sobre sistemas avanzados de IA que pudieran manipular las decisiones de los humanos.

Aunque no hay indicios inmediatos de que el Congreso estadounidense vaya a elaborar nuevas normas generales sobre IA, el Parlamento Europeo aprobó el pasado jueves medidas para regular su uso. La legislación será tratada en un pleno en junio para acordar la versión definitiva del nuevo reglamento.

rt

Lo más visto
image-444

El Papa que vendió el cielo: crónica del pontificado más oscuro de la historia

Editor
30/04/2025

Entre orgías, asesinatos y traiciones, se forjó uno de los capítulos más bochornosos en la historia de la Iglesia. Fue en el siglo XI, en una Roma desgarrada por la ambición de familias nobles, donde el papado cayó en su mayor abismo moral. Al centro de esa tormenta: Benedicto IX, el único hombre que llegó a ocupar el trono de San Pedro tres veces y que terminó por venderlo como quien subasta una reliquia sagrada.

diplomado internacional jovenes lideres

Lanzan el Diplomado internacional de Jóvenes Líderes, un prestigioso programa de formación 100% online en el que participan figuras influyentes a nivel global

Editor
06/05/2025

Jóvenes Líderes lanza una edición de su Diplomado Internacional, un programa formativo de 7 semanas que reúne a jóvenes de toda América Latina con referentes globales como Julio María Sanguinetti, Luis Almagro, Pilar Sordo y Felipe Paullier, entre otros. Con clases 100% online y certificado avalado por la Universidad de Belgrano, esta iniciativa busca formar a la próxima generación de líderes comprometidos con el cambio social.