Creador del ChatGPT: La inteligencia artificial puede causar "un daño significativo al mundo" si no se regula

Sam Altman sugirió la creación de una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes.

General16/05/2023EditorEditor

OpenAI, la empresa que desarrolló la popular herramienta ChatGPT, cree que la intervención de los gobiernos será fundamental para mitigar los riesgos de los sistemas de inteligencia artificial (IA).

"A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vida. Nosotros también lo estamos", comentó Sam Altman, director general de OpenAI, en una comparecencia este martes ante el Senado estadounidense.

Altman sugirió que se creara una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes y tuviera autoridad para "retirar esa licencia y garantizar el cumplimiento de las normas de seguridad".

El auge del ChatGPT, que ha desatado el pánico entre los educadores por el uso que le dan numerosos estudiantes para hacer trampas en los exámenes, ha generado nuevas preocupaciones sobre la capacidad de esta poderosa herramienta de "IA generativa" para engañar a la gente, difundir falsedades, violar la protección de los derechos de autor y poner en peligro algunos puestos de trabajo.

El senador demócrata Richard Blumenthal, que preside el Subcomité de privacidad, tecnología y legislación del Comité Judicial del Senado, dijo que las empresas de IA deberían estar obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos al mercado, y expresó su especial preocupación por cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral. 

Altman se mostró en gran medida de acuerdo. Cuando se le preguntó por su peor temor respecto a la IA, el empresario comentó que dicha industria podría causar "un daño significativo al mundo" y que "si esta tecnología sale mal, puede salir muy mal". Sin embargo, propuso que una nueva agencia reguladora impusiera salvaguardas que bloquearan los modelos de IA que pudieran "autorreplicarse y autoexfiltrarse en la naturaleza", aludiendo a preocupaciones futuristas sobre sistemas avanzados de IA que pudieran manipular las decisiones de los humanos.

Aunque no hay indicios inmediatos de que el Congreso estadounidense vaya a elaborar nuevas normas generales sobre IA, el Parlamento Europeo aprobó el pasado jueves medidas para regular su uso. La legislación será tratada en un pleno en junio para acordar la versión definitiva del nuevo reglamento.

rt

Te puede interesar
Leandro Viotto

Finalizó la Cumbre internacional de Jóvenes Líderes, con los mensajes de figuras como el Secretario General de la ONU

Editor
General15/08/2024

Un evento vibrante y multifacético tuvo lugar en el Teatro 25 de Mayo, donde cerca de 1.000 jóvenes se congregaron para escuchar a una destacada variedad de oradores que compartieron sus conocimientos y experiencias. La décimo sexta edición de la Cumbre Internacional de Jóvenes Líderes se consolidó, así, como un referente mundial en el intercambio, encuentro y desarrollo del liderazgo juvenil, con mensajes de figuras como el SG de las Naciones Unidas, el actor Guillermo Francella y la empresaria Beatríz Fernandez

arrodillarse-scaled

Esto le pasa a tu cerebro cuando rezas Y ES INGRECÍBLEMENTE MÁGICO

Editor
General30/06/2024

El célebre escritor británico C.S. Lewis, famoso por haber creado el universo literario de Narnia, describió muy bien lo que para muchos significa la oración. "Oro porque no puedo evitarlo, oro porque estoy desconsolado, oro porque la necesidad de hacerlo fluye de mí todo el tiempo, despierto o dormido. Orar no cambia a Dios. Me cambia a mí", dijo en alguna ocasión.

Lo más visto