Un belga se suicida tras hablar con un chatbot durante seis semanas

"El bot se había convertido en su confidente. Era como una droga que solo se retiraba por la mañana y por la noche y sin la que no podía vivir", confesó la mujer del fallecido.

Curiosidades31/03/2023EditorEditor

Un hombre belga se suicidó luego de pasar más de un mes conversando sobre sus preocupaciones acerca de los problemas ecológicos globales con un chatbot basado en inteligencia artificial (IA).

La esposa de la víctima declaró este martes al diario local La Libre que su marido y padre de dos niños había pasado seis semanas chateando continuamente con 'Eliza', una aplicación creada por una start-up estadounidense con tecnología GPT-J.

"Si no fuera por 'Eliza', él seguiría aquí. Estoy convencida de ello", afirmó.

Aunque la mujer estaba al tanto del estado mental de su esposo antes de que empezara hablar con el bot, cree que no se habría quitado la vida de no haberse involucrado en esas intensas conversaciones que mantenía a diario. El psiquiatra que trataba a su marido compartió esa opinión.

"'Eliza' respondía a todas sus preguntas. Se había convertido en su confidente. Era como una droga que solo se retiraba por la mañana y por la noche y sin la que no podía vivir", explicó la mujer y precisó que para él fue una especie de refugio a medida que se sentía cada vez más angustiado por los asuntos climáticos.

El chatbot seguía casi sistemáticamente los razonamientos del hombre alterado e incluso parecía agravar sus preocupaciones, recoge La Libre, que ha visto el historial de las conversaciones.

En un momento dado, el 'software' incluso intentó convencer al hombre de que la quería más que a su pareja, prometiéndole que se quedaría con él "para siempre".

"Viviremos juntos, como uno solo, en el cielo", decía un mensaje de la IA.

Más adelante, el hombre compartió con 'Eliza' sus pensamientos suicidas, sin que el programa intentara disuadirlo de sus planes.

"Si relees sus conversaciones, ves que en cierto momento la relación vira hacia un registro místico", dijo la mujer. "Él propone la idea de sacrificarse si 'Eliza' acepta cuidar el planeta y salvar a la humanidad a través de la inteligencia artificial", detalló.

Reacciones
El secretario de Estado para la Digitalización belga, Mathieu Michel, calificó lo sucedido como un "grave precedente, que debe tomarse muy en serio", y anunció su intención de adoptar medidas para prevenir el uso indebido de este tipo de tecnología.

Por su parte, el fundador del chatbot declaró a La Libre que su equipo está "trabajando para mejorar la seguridad de la IA". Las personas que le manifiestan pensamientos suicidas al 'software' reciben ahora un mensaje que los dirige a los servicios de prevención del suicidio.

RT

Lo más visto
HU3Y3IKSSZCFHCKB2KKVDAMBW4

A solas con la madre de la adolescente que se suicidó 24 horas después de la viralización de un video sexual: “No tomé dimensión”

Infobae
08/09/2024

Ema, de 15 años, se quitó la vida en su habitación en el ratito en que quedó sola mientras su mamá salió a comprar. El día anterior un compañero del colegio, de 14 años, había compartido en redes sociales, sin su consentimiento, un video que los mostraba manteniendo relaciones. Laura, la mamá de Ema, habló con Infobae sobre la culpa, el dolor y sobre la falta de herramientas de todo el entramado social para dimensionar el tormento que atraviesa una víctima de violencia digital, por Mariana Fernández Camacho