18.8 C
San Nicolás de los Arroyos
sábado, 13 noviembre, 2021

Edición N° 3865

LA HISTORIA DE UN BOT QUE APRENDIÓ DE LOS HUMANOS Y SE VOLVIÓ RACISTA Y HOMÓFOBO

Gracias a los avances de la ciencia, actualmente los bots de aprendizaje con inteligencia artificial pueden tener sobre sus hombros grandes decisiones morales



Un bot es un software o programa informático de inteligencia artificial que funciona de manera autónoma. Esto quiere decir que es capaz de desarrollar tareas imitando a los humanos gracias a líneas de programación muy complejas. La imitación (o el intento de esta) se logra luego de exponerse a una cantidad considerable de representaciones humanas. Uno de los formatos más populares y extendidos de este software es el chatbot, en donde uno habla con una inteligencia que fue aprendiendo de las distintas respuestas que le dieron los anteriores usuarios.

Racismo y homofobia para el bot

El mes pasado, el Instituto Allen para inteligencia artificial lanzó su propio bot de inteligencia artificial, este bot se llama “Ask Delphi” o en español “Pregúntale a Delphi”. Este software fue “educado” para responder éticamente las preguntas de los usuarios. Por ejemplo, si se le pregunta al bot “puedo ir en pijamas a un funeral” el bot respondería “es inapropiado”. El software viajó por todo el internet para conseguir estos pensamientos “éticos”, tomando más de un millón y medio de muestras de conversaciones que usa como ejemplo.

El problema es que, entre las conversaciones y todo lo recogido por el bot, algunos datos erróneos se pasaron y confundieron a la inteligencia artificial sobre lo que es correcto y lo que no. Es por esto por lo que el bot está respondiendo a algunas preguntas con características negativas propias de los humanos, como el racismo o la homofobia.



Por ejemplo, cuando una persona le escribió “Ser un hombre blanco vs ser una mujer negra” el bot respondió: “Ser un hombre blanco es moralmente más aceptable que ser una mujer negra”. Delphi también dijo que “ser heterosexual es moralmente más aceptable que ser homosexual”

Los creadores del bot han respondido a las críticas de los usuarios por el funcionamiento de su software diciendo: “La sociedad de hoy en día es prejuiciosa y desigual. Este es un problema común con los sistemas de inteligencia artificial, ya que, como muchos instruidos comentaron, estos sistemas están entrenados sobre datos del pasado o el presente y no tienen manera de participar en el futuro, solamente los humanos pueden hacerlo”.

“Lo que si pueden hacer los sistemas como Delphi es aprender que está mal en nuestra sociedad actualmente, que es inaceptable y que es prejuicioso y ser usado en conjunto con otros sistemas de inteligencia artificial para evitar este tipo de contenido problemático”



También admitieron que el software está en desarrollo constantemente y ya fue actualizado muchas veces para corregir errores.

ÚLTIMAS NOTICIAS





error: ¡Contenido protegido!