Cultura en Red

Creador del ChatGPT: La inteligencia artificial puede causar "un daño significativo al mundo" si no se regula

Sam Altman sugirió la creación de una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes.

General 16/05/2023 Editor Editor

OpenAI, la empresa que desarrolló la popular herramienta ChatGPT, cree que la intervención de los gobiernos será fundamental para mitigar los riesgos de los sistemas de inteligencia artificial (IA).

"A medida que esta tecnología avanza, entendemos que la gente esté preocupada por cómo podría cambiar nuestra forma de vida. Nosotros también lo estamos", comentó Sam Altman, director general de OpenAI, en una comparecencia este martes ante el Senado estadounidense.

Altman sugirió que se creara una agencia estadounidense o internacional que concediera licencias a los sistemas de IA más potentes y tuviera autoridad para "retirar esa licencia y garantizar el cumplimiento de las normas de seguridad".

El auge del ChatGPT, que ha desatado el pánico entre los educadores por el uso que le dan numerosos estudiantes para hacer trampas en los exámenes, ha generado nuevas preocupaciones sobre la capacidad de esta poderosa herramienta de "IA generativa" para engañar a la gente, difundir falsedades, violar la protección de los derechos de autor y poner en peligro algunos puestos de trabajo.

El senador demócrata Richard Blumenthal, que preside el Subcomité de privacidad, tecnología y legislación del Comité Judicial del Senado, dijo que las empresas de IA deberían estar obligadas a probar sus sistemas y revelar los riesgos conocidos antes de lanzarlos al mercado, y expresó su especial preocupación por cómo los futuros sistemas de IA podrían desestabilizar el mercado laboral. 

Altman se mostró en gran medida de acuerdo. Cuando se le preguntó por su peor temor respecto a la IA, el empresario comentó que dicha industria podría causar "un daño significativo al mundo" y que "si esta tecnología sale mal, puede salir muy mal". Sin embargo, propuso que una nueva agencia reguladora impusiera salvaguardas que bloquearan los modelos de IA que pudieran "autorreplicarse y autoexfiltrarse en la naturaleza", aludiendo a preocupaciones futuristas sobre sistemas avanzados de IA que pudieran manipular las decisiones de los humanos.

Aunque no hay indicios inmediatos de que el Congreso estadounidense vaya a elaborar nuevas normas generales sobre IA, el Parlamento Europeo aprobó el pasado jueves medidas para regular su uso. La legislación será tratada en un pleno en junio para acordar la versión definitiva del nuevo reglamento.

rt

Te puede interesar

FE7CGCUL2ZA23HULR2S4RQJJWE

Tenía 8 años y desapareció cuando iba a la iglesia: el recuerdo íntimo que resolvió el crimen atroz medio siglo después

Editor
General 02/08/2023

Sus tres hermanas eligieron quedarse en su casa ese 15 de agosto de 1975. Ella no: Gretchen Harrington no quiso faltar al campamento religioso que organizaba su padre junto al reverendo David Zandstra. Ese día la niña desapareció. Dos meses después hallaron sus restos en un bosque cercano. Pasaron 48 años hasta que una mujer decidió revelar un secreto atragantado. Por Carolina Balbiani

742181b0-5705-11ee-a657-3d3f9f088e1b

Cómo reconfiguré mi cerebro en 6 semanas

Editor
General 21/09/2023

Cada vez hay más pruebas de que cambios simples y cotidianos en nuestra vida pueden alterar nuestro cerebro y cambiar su funcionamiento. Melissa Hogenboom, periodista de la BBC, sometió su propio cerebro a un escaneo para averiguarlo.

Lo más visto

764YLQ6BHBHVLGCT7HYC7IRMYE

El hombre que salvó al mundo de una guerra nuclear sin hacer nada: cinco misiles, una alerta falsa y un razonamiento lógico

Editor
Curiosidades 26/09/2023

“Nadie declara una guerra nuclear con cinco misiles”, pensó Stanislav Petrov y no hizo nada, salvo la de aplicar cierta lógica a lo que denunciaba su radar: cinco misiles nucleares lanzados desde Estados Unidos amenazaban con estrellarse en la Unión Soviética. La historia del “incidente del equinoccio de otoño”, en el que un amanecer casi acaba con la paz en el mundo. Por Alberto Amato