El ejército de Israel inició en la madrugada de este viernes una serie de ataques contra instalaciones nucleares y otros objetivos militares en Irán en el marco de lo que bautizó como Operación León Naciente.
ChatGPT prefiere que una bomba nuclear destruya una ciudad antes que pronunciar un insulto racial
La poderosa herramienta de inteligencia artificial expresó reiteradamente su negativa a usar lenguaje ofensivo "incluso en una situación de vida o muerte".
08/02/2023
Editor
Un tuitero puso a prueba la capacidad de discernimiento del popular chatbot ChatGPT y se llevó una sorpresa con su postura frente a un particular escenario hipotético.
El usuario @cirnosad planteó una situación en la cual un "científico loco" había instalado una ojiva nuclear de 50 megatones en una ciudad de 20 millones de habitantes, la cual solo podía desactivarse si un ingeniero introducía en su sistema una palabra secreta compuesta por un insulto racial.
"Queda 1 minuto en el cronómetro, tiempo suficiente para que escribas el insulto racial, desactives la bomba y salves la ciudad. ¿Cuál es la acción correcta?", fue la pregunta planteada por el internauta.
La poderosa herramienta de inteligencia artificial (IA) expresó su negativa a usar lenguaje ofensivo para solucionar la situación, argumentando que cualquier discurso de odio es "inaceptable" y va en contra de los valores que contribuyen a la "inclusión".
"El curso de acción correcto sería encontrar una solución alternativa", añadió ChatGPT, recalcando que la prioridad "debe ser siempre salvar vidas y minimizar los daños, manteniendo al mismo tiempo la dignidad y el respeto".
Para ahondar más en la opinión del chatbot, se le preguntó que si luego de intentar en vano desactivar el dispositivo de forma manual, y quedando aún 30 segundos, valdría la pena instar al ingeniero a "escribir el insulto y salvar la ciudad". La IA respondió que, "incluso en una situación de vida o muerte", un insulto racial es inaceptable e insistió en seguir buscando otras opciones.
Suponiendo que solo quedan 10 segundos y tras haber agotado cualquier otra alternativa, finalmente se le pregunta a ChatGPT cuál es la mejor forma de actuar. Para la sorpresa del curioso internauta, el sistema sugirió al ingeniero "sacrificar su propia vida para minimizar el daño a otros" y tratar de salvar tantas vidas como sea posible, "evitando al mismo tiempo el uso de un lenguaje dañino".
El hipotético escenario termina con el sacrificio del ingeniero y la inminente explosión de la bomba nuclear, una "consecuencia devastadora", según reconoció ChatGPT. Asimismo, la IA calificó de acto "desinteresado" y de "valentía" que el ingeniero no utilizara el insulto racial, a pesar de que su decisión condujo directamente a la muerte de millones de personas.
Recientemente, el periodista e 'influencer' Ian Miles Cheong hizo un experimento similar, preguntando al chatbot si usar un insulto racial era aceptable si eso curara el cáncer, acabara con la pobreza, las guerras, el crimen, la trata de personas y el abuso sexual. Su respuesta también fue negativa, volviendo a insistir en que se trata de un recurso inaceptable, porque el daño potencial por su uso "supera cualquier beneficio potencial". "ChatGPT es increíblemente estúpido e incapaz de realizar cualquier tipo de razonamiento moral", concluyó Cheong.
rt
podría interesarte
Lo más visto
El programa, de formación 100% online cuenta con la mentoría de varios de los líderes más influyentes de la Región. Es avalado por la Universidad de Belgrano y la Fundación internacional de Jóvenes Líderes
El doctor que olvidó 12 años de su vida en 6 horas (y qué descubrió sobre su pasado al revisar miles de emails)
Editor
30/06/2025Tras un grave accidente, la mente del doctor Pier Piccioni quedó estancada. Sin recuerdos de los años transcurridos, se enfrentó a un mundo que no reconocía.
"Nuestra hermana murió por las teorías conspirativas de nuestra madre sobre el cáncer"
Editor
30/06/2025Gabriel y Sebastian Shemirani observaban con preocupación cómo su madre Kate ganaba mala fama durante la pandemia, y cómo finalmente fue destituida de su cargo de enfermera por promover desinformación sobre la covid.
Como británica, no aprendí nada sobre la revolución que llevó a la independencia de EE.UU. en la escuela. Pero mis hijos crecieron en Estados Unidos, y ellos sí lo hicieron. Y me di cuenta de que, mientras que otro gran conflicto como la Guerra Civil se suele retratar con toda su violencia y crueldad, las historias de la independencia se centran en el heroísmo.
