Mostrar prejuicios hacia los demás no requiere un alto nivel de capacidad cognitiva y podría ser exhibido fácilmente por máquinas artificialmente inteligentes, según sugiere una nueva investigación.
Los expertos en informática y psicología de la Universidad de Cardiff y el MIT han demostrado que grupos de máquinas autónomas pueden demostrar prejuicios simplemente identificando, copiando y aprendiendo este comportamiento unos de otros.
Puede parecer que el prejuicio es un fenómeno humano específico que requiere la cognición humana para formarse una opinión o estereotipo de cierta persona o grupo.
Aunque algunos tipos de algoritmos informáticos ya han exhibido prejuicios, como el racismo y el sexismo, basados en el aprendizaje de registros públicos y otros datos generados por humanos, este nuevo trabajo demuestra la posibilidad de que AI desarrolle grupos perjudiciales por sí mismos.
Los nuevos hallazgos, que se han publicado en la revista Informes científicos , se basan en simulaciones por computadora de cómo individuos con prejuicios similares, o agentes virtuales, pueden formar un grupo e interactuar entre sí.
En un juego de toma y daca, cada individuo toma una decisión sobre si donar a alguien dentro de su propio grupo o en un grupo diferente, en función de la reputación de un individuo, así como de su propia estrategia de donación, que incluye sus nivelesde prejuicio hacia los extraños.
A medida que el juego se desarrolla y una supercomputadora acumula miles de simulaciones, cada individuo comienza a aprender nuevas estrategias copiando a otros dentro de su propio grupo o de toda la población.
El coautor del estudio, el Profesor Roger Whitaker, del Instituto de Investigación de Crimen y Seguridad de la Universidad de Cardiff y la Escuela de Informática e Informática, dijo: "Al ejecutar estas simulaciones miles y miles de veces, comenzamos a comprendercómo evoluciona el prejuicio y las condiciones que lo promueven o lo impiden.
"Nuestras simulaciones muestran que el prejuicio es una fuerza poderosa de la naturaleza y, a través de la evolución, puede ser fácilmente incentivado en poblaciones virtuales, en detrimento de una conectividad más amplia con otros. La protección contra grupos perjudiciales puede conducir inadvertidamente a individuos a formar grupos perjudiciales adicionales,resultando en una población fracturada. Tal prejuicio generalizado es difícil de revertir ".
Los hallazgos involucran a individuos que actualizan sus niveles de prejuicio copiando preferentemente aquellos que obtienen un mayor beneficio a corto plazo, lo que significa que estas decisiones no necesariamente requieren habilidades cognitivas avanzadas.
"Es factible que las máquinas autónomas con la capacidad de identificarse con discriminación y copiar a otras puedan ser susceptibles en el futuro a fenómenos perjudiciales que vemos en la población humana", continuó el profesor Whitaker.
"Muchos de los desarrollos de IA que estamos viendo involucran autonomía y autocontrol, lo que significa que el comportamiento de los dispositivos también está influenciado por otros a su alrededor. Los vehículos y el Internet de las cosas son dos ejemplos recientes. Nuestro estudio ofrece una visión teóricadonde los agentes simulados recurren periódicamente a otros para obtener algún tipo de recurso "
Otro hallazgo interesante del estudio fue que bajo condiciones particulares, que incluyen subpoblaciones más distintas que están presentes dentro de una población, era más difícil que los prejuicios se afianzaran.
"Con un mayor número de subpoblaciones, las alianzas de grupos no perjudiciales pueden cooperar sin ser explotadas. Esto también disminuye su condición de minoría, lo que reduce la susceptibilidad al prejuicio. Sin embargo, esto también requiere circunstancias en las que los agentes tengan un mayordisposición a interactuar fuera de su grupo ", concluyó el profesor Whitaker.
Fuente de la historia :
Materiales proporcionados por Universidad de Cardiff . Nota: El contenido puede ser editado por estilo y longitud.
Referencia del diario :
Cita esta página :