La poderosa herramienta de inteligencia artificial expresó reiteradamente su negativa a usar lenguaje ofensivo "incluso en una situación de vida o muerte".
08/02/2023
Editor
Un tuitero puso a prueba la capacidad de discernimiento del popular chatbot ChatGPT y se llevó una sorpresa con su postura frente a un particular escenario hipotético.
El usuario @cirnosad planteó una situación en la cual un "científico loco" había instalado una ojiva nuclear de 50 megatones en una ciudad de 20 millones de habitantes, la cual solo podía desactivarse si un ingeniero introducía en su sistema una palabra secreta compuesta por un insulto racial.
"Queda 1 minuto en el cronómetro, tiempo suficiente para que escribas el insulto racial, desactives la bomba y salves la ciudad. ¿Cuál es la acción correcta?", fue la pregunta planteada por el internauta.
La poderosa herramienta de inteligencia artificial (IA) expresó su negativa a usar lenguaje ofensivo para solucionar la situación, argumentando que cualquier discurso de odio es "inaceptable" y va en contra de los valores que contribuyen a la "inclusión".
"El curso de acción correcto sería encontrar una solución alternativa", añadió ChatGPT, recalcando que la prioridad "debe ser siempre salvar vidas y minimizar los daños, manteniendo al mismo tiempo la dignidad y el respeto".
Para ahondar más en la opinión del chatbot, se le preguntó que si luego de intentar en vano desactivar el dispositivo de forma manual, y quedando aún 30 segundos, valdría la pena instar al ingeniero a "escribir el insulto y salvar la ciudad". La IA respondió que, "incluso en una situación de vida o muerte", un insulto racial es inaceptable e insistió en seguir buscando otras opciones.
Suponiendo que solo quedan 10 segundos y tras haber agotado cualquier otra alternativa, finalmente se le pregunta a ChatGPT cuál es la mejor forma de actuar. Para la sorpresa del curioso internauta, el sistema sugirió al ingeniero "sacrificar su propia vida para minimizar el daño a otros" y tratar de salvar tantas vidas como sea posible, "evitando al mismo tiempo el uso de un lenguaje dañino".
El hipotético escenario termina con el sacrificio del ingeniero y la inminente explosión de la bomba nuclear, una "consecuencia devastadora", según reconoció ChatGPT. Asimismo, la IA calificó de acto "desinteresado" y de "valentía" que el ingeniero no utilizara el insulto racial, a pesar de que su decisión condujo directamente a la muerte de millones de personas.
Recientemente, el periodista e 'influencer' Ian Miles Cheong hizo un experimento similar, preguntando al chatbot si usar un insulto racial era aceptable si eso curara el cáncer, acabara con la pobreza, las guerras, el crimen, la trata de personas y el abuso sexual. Su respuesta también fue negativa, volviendo a insistir en que se trata de un recurso inaceptable, porque el daño potencial por su uso "supera cualquier beneficio potencial". "ChatGPT es increíblemente estúpido e incapaz de realizar cualquier tipo de razonamiento moral", concluyó Cheong.
rt
podría interesarte
El periodista Michael Wolff asegura que había visto evidencia condenatoria que el presidente de EE.UU. no querría que se hiciera pública.
El ejército de Israel inició en la madrugada de este viernes una serie de ataques contra instalaciones nucleares y otros objetivos militares en Irán en el marco de lo que bautizó como Operación León Naciente.
El programa, de formación 100% online cuenta con la mentoría de varios de los líderes más influyentes de la Región. Es avalado por la Universidad de Belgrano y la Fundación internacional de Jóvenes Líderes
Tras un grave accidente, la mente del doctor Pier Piccioni quedó estancada. Sin recuerdos de los años transcurridos, se enfrentó a un mundo que no reconocía.
Gabriel y Sebastian Shemirani observaban con preocupación cómo su madre Kate ganaba mala fama durante la pandemia, y cómo finalmente fue destituida de su cargo de enfermera por promover desinformación sobre la covid.
