Sesgo y discriminación en IA y ML: Aprende sobre sus fuentes, impacto y mitigación

Question 1

¿Cuál de las siguientes es una medida de equidad utilizada para evaluar el rendimiento de los algoritmos de ML?

Accepted Answer

Disparidad de Impacto Relativo (RID)

Answer

Precisión global

Answer

Recall

Answer

Puntuación F1

Question 2

¿Cuál de las siguientes NO es una fuente potencial de sesgo en los sistemas de IA y ML?

Accepted Answer

Evaluaciones objetivas

Answer

Datos de entrenamiento desequilibrados

Answer

Algoritmos de entrenamiento sesgados

Answer

Prejuicios inconscientes de los desarrolladores

Question 3

¿Cómo puede afectar el sesgo a las decisiones tomadas por los sistemas de IA y ML?

Accepted Answer

Ambos A y B

Answer

Tomar decisiones injustas o discriminatorias

Answer

Reducir la precisión y la eficacia

Answer

Ninguno de los anteriores

Question 4

¿Qué se entiende por un conjunto de datos sesgado?

Accepted Answer

Un conjunto de datos que no representa adecuadamente la distribución real de la población prevista

Answer

Un conjunto de datos que contiene únicamente ejemplos positivos o negativos

Answer

Un conjunto de datos que se ha modificado para mejorar su precisión

Answer

Un conjunto de datos que se ha utilizado para entrenar un modelo de IA

Question 5

¿Cuál de las siguientes NO es una práctica recomendada para reducir el sesgo en los sistemas de IA y ML?

Accepted Answer

Ignorar las características protegidas

Answer

Utilizar conjuntos de datos diversos y representativos

Answer

Evaluar regularmente los modelos de IA y ML en busca de sesgos

Answer

Implementar mecanismos de transparencia y auditoría

Question 6

Identifica la principal fuente de sesgo en los datos de entrenamiento utilizados para desarrollar sistemas de IA y ML.

Accepted Answer

Datos históricos sesgados

Answer

Sesgos cognitivos de los usuarios finales

Answer

Falta de diversidad en los equipos de desarrollo

Answer

Algoritmos inherentemente sesgados

Question 7

Indica el concepto que describe el impacto negativo del sesgo en las decisiones tomadas por los sistemas de IA y ML.

Accepted Answer

Discriminación algorítmica

Answer

Falsa correlación

Answer

Sesgo de confirmación

Answer

Equidad de datos

Question 8

Selecciona la medida que se utiliza para evaluar la equidad en los resultados de un sistema de IA y ML.

Accepted Answer

Paridad de probabilidades positivas

Answer

Precisión

Answer

Sensibilidad

Answer

F-medida

Question 9

Indica la ley que prohíbe las prácticas discriminatorias en el empleo basadas en características protegidas, como la raza o el género.

Accepted Answer

Ley de Derechos Civiles de 1964

Answer

Ley de Equidad en la Vivienda

Answer

Ley de Estadounidenses con Discapacidades

Question 10

Selecciona la práctica que ayuda a reducir el sesgo en la etapa de recolección de datos.

Accepted Answer

Muestreo estratificado

Answer

Limpieza de datos

Answer

Imputación de datos faltantes

Answer

Normalización de datos

Question 11

Indica el tipo de sesgo que surge cuando un sistema de IA y ML trata a los individuos de manera diferente en función de su grupo de afiliación, como la raza o el género.

Accepted Answer

Sesgo de representación

Answer

Sesgo de selección

Answer

Sesgo de medición

Answer

Sesgo algorítmico

Question 12

Selecciona la práctica ética que debe seguirse en el desarrollo de sistemas de IA y ML justos y equitativos.

Accepted Answer

Transparencia y rendición de cuentas

Answer

Precisión y velocidad

Answer

Innovación y disrupción

Answer

Eficiencia y rentabilidad

Question 13

Selecciona el enfoque que se centra específicamente en abordar el sesgo en los algoritmos y modelos de IA y ML.

Accepted Answer

Sesgo algorítmico

Answer

Sesgo de interfaz de usuario

Answer

Sesgo de datos

Answer

Sesgo de implementación

Question 14

¿Qué tipo de sesgo se produce cuando un modelo de IA predice sistemáticamente un resultado diferente para un grupo particular de individuos?

Accepted Answer

Sesgo de disparidad dispar

Answer

Sesgo de contexto

Answer

Sesgo de generalización

Answer

Sesgo de medición

Question 15

¿Qué impacto negativo puede tener el sesgo en los sistemas de IA y ML?

Accepted Answer

Decisiones injustas o discriminatorias

Answer

Mayores requisitos de almacenamiento de datos

Answer

Costos computacionales elevados

Answer

Menor precisión general

Question 16

¿Cuál es una ventaja de utilizar técnicas de mitigación de sesgo en los sistemas de IA y ML?

Accepted Answer

Decisiones más justas y equitativas

Answer

Requisitos de almacenamiento de datos más pequeños

Answer

Precisión general mejorada

Answer

Costos computacionales reducidos

Question 17

¿Cuál de las siguientes es una consideración ética al desarrollar sistemas de IA y ML?

Accepted Answer

Evitar la discriminación y promover la equidad

Answer

Adoptar las últimas tecnologías

Answer

Maximizar los beneficios financieros

Answer

Minimizar los costos operativos

Question 18

¿Qué concepto describe el impacto potencial del sesgo en las decisiones tomadas por los sistemas de IA y ML?

Accepted Answer

Responsabilidad algorítmica

Answer

Aprendizaje federado

Answer

Garantía de calidad de los datos

Answer

Interpretabilidad del modelo

Question 19

¿Cuál de las siguientes NO es una fuente de sesgo en la IA?

Accepted Answer

Datos no representativos

Answer

Algoritmos tendenciosos

Answer

Datos históricos sesgados

Answer

Sesgos humanos

Question 20

Un impacto negativo del sesgo en la IA incluye:

Accepted Answer

Decisiones injustas

Answer

Resultados más rápidos

Answer

Mayor precisión

Answer

Eficiencia mejorada

Question 21

Para promover la equidad en los sistemas de IA, es esencial:

Accepted Answer

Considerar las características demográficas

Answer

Definir métricas de éxito sesgadas

Answer

Evitar la transparencia en el proceso de decisión

Answer

Ignorar las diferencias individuales

Question 22

¿Cuál de los siguientes es un ejemplo de sesgo algorítmico?

Accepted Answer

Un algoritmo empleado en la contratación que discrimina injustamente a los solicitantes de empleo por su género

Answer

Un algoritmo de detección de spam que bloquea correos electrónicos no deseados

Answer

Un algoritmo de recomendaciones de películas que sugiere películas similares a las que el usuario ha visto anteriormente

Question 23

¿Qué implica el sesgo de confirmación en la IA?

Accepted Answer

Tendencia de algunos algoritmos a favorecer información que confirma creencias preexistentes

Answer

Incapacidad de procesar información compleja

Answer

Dependencia excesiva de datos históricos

Question 24

El principio de "justicia algorítmica" se refiere a:

Accepted Answer

Diseñar algoritmos que traten a todos los individuos de manera justa e imparcial

Answer

Hacer que los algoritmos sean lo más eficientes posible

Answer

Utilizar IA para resolver problemas sociales

Question 25

¿Qué medida se puede tomar para reducir el sesgo de los conjuntos de datos de entrenamiento?

Accepted Answer

Equilibrar las clases subrepresentadas

Answer

Eliminar características redundantes

Answer

Aumentar el tamaño del conjunto de datos

Answer

Utilizar técnicas de aprendizaje por transferencia

Question 26

¿Cuál de las siguientes opciones NO es una ventaja de mitigar el sesgo en los sistemas de IA?

Accepted Answer

Resultados menos precisos

Answer

Mejor reputación de la empresa

Answer

Decisiones más justas

Answer

Mayor confianza del público

Question 27

**¿Cuál de las siguientes es una ventaja primaria de utilizar conjuntos de datos diversos para entrenar modelos de IA y ML?**

Accepted Answer

Reduce el sesgo en las predicciones del modelo

Answer

Reduce la necesidad de supervisión humana

Answer

Aumenta la velocidad de entrenamiento del modelo

Answer

Mejora la precisión del modelo en datos no vistos

Question 28

**¿Cuál de las siguientes es una práctica que puede ayudar a identificar el sesgo en conjuntos de datos de entrenamiento para IA y ML?**

Accepted Answer

Análisis exploratorio de datos para detectar valores atípicos y patrones sospechosos

Answer

Utilizar técnicas de aprendizaje profundo para reducir el sobreajuste

Answer

Establecer un umbral de precisión arbitrario para los modelos

Question 29

**Selecciona la opción que describe con precisión el impacto del sesgo en los sistemas de IA y ML.**

Accepted Answer

Puede generar resultados injustos o discriminatorios

Answer

Reduce la necesidad de supervisión humana

Answer

Mejora la exactitud de las predicciones

Question 30

**¿Cuál de las siguientes es una técnica empleada para mitigar el sesgo en los modelos de IA?**

Accepted Answer

Regularización

Answer

Optimización de hiperparámetros

Answer

Procesamiento del lenguaje natural

Answer

Aprendizaje por refuerzo

Question 31

**El sesgo de confirmación es la tendencia a:**

Accepted Answer

Buscar y dar más peso a información que confirma creencias preexistentes

Answer

Basar decisiones únicamente en pruebas objetivas

Answer

Evitar activamente información que contradice creencias preexistentes

Question 32

**¿Cuál es el propósito principal de la regulación ética en el contexto del sesgo y la discriminación en los sistemas de IA y ML?**

Accepted Answer

Establecer directrices y normas para el desarrollo y uso responsables

Answer

Proporcionar financiación para la investigación sobre el sesgo en la IA

Answer

Capacitar a profesionales de IA y ML en sesgo y equidad

Question 33

**Define "justicia algorítmica".**

Accepted Answer

El proceso de garantizar la imparcialidad, la equidad y la ausencia de sesgos en los algoritmos y los resultados de la IA

Answer

La eliminación completa del sesgo de todos los sistemas de IA

Answer

El uso de la IA para promover únicamente la igualdad social

Question 34

**¿Cuál es la distinción clave entre sesgo implícito y sesgo explícito?**

Accepted Answer

El sesgo implícito es inconsciente, mientras que el sesgo explícito es consciente e intencional

Answer

El sesgo implícito es más fácil de mitigar que el sesgo explícito

Answer

El sesgo explícito solo influye en las decisiones humanas, no en los algoritmos de la IA

Question 35

**¿Qué principio ético fundamental debe guiar el desarrollo y uso de sistemas de IA y ML?**

Accepted Answer

Equidad, justicia e imparcialidad

Answer

Eficiencia y rentabilidad

Answer

Precisión y exactitud

Answer

Innovación y avance tecnológico

Question 36

¿Qué implica el concepto de equidad en los sistemas de IA?

Accepted Answer

Garantizar un trato justo e imparcial para todos, independientemente de sus atributos personales

Answer

Lograr un resultado mutuamente ventajoso

Question 37

¿Qué función desempeña la educación en la lucha contra el sesgo y la discriminación en los sistemas de IA?

Accepted Answer

Puede concienciar sobre el problema y empoderar a las personas para combatir el sesgo

Answer

Puede imponer sanciones a las organizaciones que utilizan sistemas de IA sesgados

Answer

Puede ofrecer soluciones técnicas para eliminar el sesgo de los sistemas de IA

Question 38

¿Qué principio ético sustenta la equidad en los sistemas de IA?

Accepted Answer

Justicia

Answer

No maleficencia

Answer

Beneficencia

Answer

Autonomía

Question 39

¿Cuál de las siguientes es una métrica comúnmente utilizada para evaluar la equidad de los sistemas de IA?

Accepted Answer

Paridad de oportunidad

Answer

Exactitud

Answer

Velocidad

Answer

Precisión

Question 40

¿Cuáles de las siguientes afirmaciones sobre el sesgo en los sistemas de IA y ML es FALSA?

Accepted Answer

Los datos de entrenamiento diversos pueden eliminar por completo el sesgo

Answer

Los algoritmos pueden estar diseñados con sesgos heredados de los datos de entrenamiento

Answer

La falta de supervisión humana puede exacerbar el sesgo

Answer

Los datos de entrenamiento sesgados pueden introducir sesgos en los modelos

Question 41

¿Cuál de las siguientes métricas es ESENCIAL para evaluar el sesgo en los sistemas de IA y ML?

Accepted Answer

Disparidad de impacto

Answer

Sensibilidad

Answer

Especificidad

Answer

Precisión

Question 42

La discriminación algorítmica se produce cuando:

Accepted Answer

Un algoritmo toma decisiones injustas basadas en características protegidas

Answer

Un algoritmo es entrenado en datos sesgados

Answer

Un algoritmo produce resultados precisos

Question 43

¿Cuál de los siguientes es un desafío ético planteado por el sesgo en los sistemas de IA y ML?

Accepted Answer

Potencial de toma de decisiones injustas

Answer

Creación de nuevos puestos de trabajo

Answer

Automatización de tareas

Answer

Beneficios económicos

Question 44

¿Qué función desempeñan las regulaciones gubernamentales para abordar el sesgo en los sistemas de IA y ML?

Accepted Answer

Proporcionar directrices éticas y marcos legales

Answer

Capacitar a profesionales en ética de IA y ML

Answer

Diseñar nuevos algoritmos de IA y ML

Answer

Supervisar el uso de IA y ML

Question 45

La equidad en los sistemas de IA y ML se centra en:

Accepted Answer

Tratar a todos los individuos de manera justa e imparcial

Answer

Minimizar el coste y el tiempo de desarrollo

Answer

Maximizar la precisión y la eficiencia

Question 46

Para promover la equidad en los procesos de desarrollo de IA y ML, se recomienda:

Accepted Answer

Involucrar equipos diversos en el diseño y la implementación

Answer

Priorizar algoritmos de caja negra

Answer

Utilizar únicamente conjuntos de datos grandes

Question 47

Los riesgos de no abordar el sesgo en los sistemas de IA y ML incluyen:

Accepted Answer

Toma de decisiones injustas, discriminación y erosión de la confianza

Answer

Creación de nuevas oportunidades económicas

Answer

Aumento de la productividad y la eficiencia

Question 48

¿Cuál es el papel de la educación en la mitigación del sesgo en los sistemas de IA y ML?

Accepted Answer

Concienciar, formar a los profesionales y fomentar prácticas éticas

Answer

Regular estrictamente la industria de la IA y el ML

Answer

Desarrollar nuevas tecnologías para eliminar el sesgo

Question 49

Un sistema de reconocimiento facial tiene una precisión significativamente menor en la identificación de personas con tonos de piel más oscuros. ¿Cuál es la mejor estrategia para mitigar este sesgo?

Accepted Answer

Utilizar conjuntos de datos de entrenamiento más diversos e inclusivos.

Answer

Desarrollar algoritmos específicos para cada grupo étnico.

Answer

Ajustar los parámetros del algoritmo para mejorar la precisión.

Question 50

¿Cuál de las siguientes opciones NO es un principio ético para el desarrollo responsable de la IA?

Accepted Answer

Maximizar la eficiencia del sistema, incluso a expensas de la equidad.

Answer

Equidad y justicia en los resultados de la IA.

Answer

Transparencia y explicabilidad de las decisiones de la IA.

Question 51

La técnica de "auditoría de sesgo" se utiliza para:

Accepted Answer

Identificar y cuantificar el sesgo presente en un sistema de IA.

Answer

Prevenir el sesgo en el desarrollo de un sistema de IA.

Answer

Corregir el sesgo presente en un sistema de IA.

Question 52

¿Cuál de los siguientes métodos NO es una técnica común para mitigar el sesgo en los datos de entrenamiento?

Accepted Answer

Eliminar los datos que no coinciden con las expectativas del equipo de desarrollo.

Answer

Recolectar datos de fuentes diversas e inclusivas.

Answer

Utilizar técnicas de remuestreo para balancear los datos.

Question 53

¿Qué implica la "equidad algorítmica" en el contexto de la IA?

Accepted Answer

Garantizar que los sistemas de IA no discriminen a ningún grupo de usuarios.

Answer

Asegurar que los sistemas de IA sean transparentes y explicables.

Answer

Maximizar la precisión de los algoritmos de IA.