KnowSoda
TecnologíaIA y datos
Ética de la IA: datos curiosos y test
Lo esencial en 7 ideas, con datos curiosos, una historia ilustrada y un test para ver cuánto sabes.
Lo esencial
Sesgos en la IA
La IA aprende de datos creados por personas, así que puede heredar sesgos humanos. Una herramienta de selección de personal entrenada con decisiones pasadas puede repetir injusticias pasadas.
Dato clave
Unos datos diversos y bien revisados ayudan a reducir los sesgos.
Explicar las decisiones
Algunos sistemas de IA son «cajas negras»: incluso a sus creadores les cuesta explicar una sola decisión. Eso importa cuando la IA ayuda a decidir sobre préstamos o tratamientos médicos.
Dato clave
La IA explicable es todo un campo de investigación.
IA y privacidad
Los sistemas de IA suelen necesitar muchos datos, que pueden incluir información personal. El reconocimiento facial en lugares públicos es polémico, porque puede seguir a las personas sin su consentimiento.
Dato clave
El Reglamento de IA de la UE, acordado en 2024, restringe algunos usos del reconocimiento facial.
IA y empleo
La IA puede automatizar algunas tareas y crear otras nuevas. Muchos expertos creen que cambiará la mayoría de los empleos más que sustituirlos sin más.
Dato clave
Las nuevas tecnologías no dejan de crear empleos que antes no existían.
Seguridad de la IA
La investigación en seguridad de la IA intenta que los sistemas de IA potentes hagan lo que la gente pretende y no causen daños, incluso en situaciones que sus creadores no previeron.
Dato clave
Poner a prueba una IA contra usos indebidos antes de lanzarla se llama «red teaming».
¿Quién es responsable?
Si un coche autónomo choca o una IA da un consejo dañino, ¿quién es responsable: el fabricante, el usuario o el propietario? Las leyes aún se están poniendo al día.
Dato clave
Muchas normas dicen que una persona debe seguir al mando de las grandes decisiones.
La huella de la IA
Entrenar y usar grandes modelos de IA consume mucha electricidad, además de agua para refrigerar los centros de datos. Hacer la IA más eficiente es un objetivo cada vez más importante.
Dato clave
Los modelos más pequeños y eficientes pueden hacer muchas tareas con mucha menos energía.
Datos curiosos
En 2018, Amazon abandonó una IA de selección de personal que había aprendido a puntuar peor los currículums que mencionaban la palabra «women’s» («de mujeres»).
Según la legislación de la UE, puedes pedir que una persona revise algunas decisiones tomadas por completo por máquinas.
Hay investigadores que han engañado a algunos sistemas de reconocimiento facial con gafas impresas con patrones especiales.
Los cajeros automáticos no acabaron con los empleados de ventanilla de los bancos en EE. UU.: su número siguió creciendo durante décadas tras la llegada de los cajeros.
En un famoso experimento mental, una IA a la que solo se le pide fabricar clips lo convierte todo en clips, a nosotros incluidos.
En 2018, un coche autónomo de pruebas atropelló mortalmente a una peatona en Arizona, y más tarde se acusó a su conductora de seguridad.
Algunos centros de datos envían su calor sobrante a las viviendas cercanas para calentarlas.
Historia: El chatbot que aprendió demasiado bien
El chatbot que aprendió demasiado bien
Marzo de 2016. Microsoft lanza Tay, un chatbot en Twitter pensado para charlar como un adolescente y aprender de quienes hablan con él.
En pocas horas, los trols lo inundan de mensajes de odio. Tay aprende rápido y empieza a repetirlos.
Microsoft desconectó a Tay tras unas 16 horas. La lección: una IA aprende lo que le das, lo malo junto con lo bueno.
¿Verdadero o falso?
Toca tu respuesta para ver si has acertado, y por qué.
-
Pregunta 1 de 10
La IA puede heredar sesgos de sus datos de entrenamiento.
Ver la respuesta
Verdadero. Aprende cualquier patrón que haya en los datos.
-
Pregunta 2 de 10
Algunas decisiones de la IA son difíciles de explicar.
Ver la respuesta
Verdadero. Sobre todo en las grandes redes neuronales.
-
Pregunta 3 de 10
El reconocimiento facial en público plantea problemas de privacidad.
Ver la respuesta
Verdadero. Puede identificar a personas sin preguntarles.
-
Pregunta 4 de 10
Es probable que la IA cambie las tareas de muchos empleos.
Ver la respuesta
Verdadero. Algunas tareas se automatizan y aparecen otras nuevas.
-
Pregunta 5 de 10
La seguridad de la IA busca que los sistemas de IA se comporten como se pretende.
Ver la respuesta
Verdadero. Y que no den sorpresas dañinas.
-
Pregunta 6 de 10
Las leyes sobre la responsabilidad de la IA aún se están desarrollando.
Ver la respuesta
Verdadero. Los países están redactando normas nuevas.
-
Pregunta 7 de 10
Usar grandes modelos de IA consume mucha electricidad.
Ver la respuesta
Verdadero. Los centros de datos necesitan enormes cantidades de energía.
-
Pregunta 8 de 10
La IA es justa automáticamente porque es una máquina.
Ver la respuesta
Falso. Refleja los datos de los que aprendió.
-
Pregunta 9 de 10
Cualquier sistema de IA puede explicar exactamente por qué decidió algo.
Ver la respuesta
Falso. Muchos no pueden, y eso es un problema real.
-
Pregunta 10 de 10
No hay ninguna ley en ningún lugar que regule la IA.
Ver la respuesta
Falso. El Reglamento de IA de la UE es un ejemplo.
Sigue en la app
KnowSoda aprende lo que sabes y te recuerda lo que estás a punto de olvidar. En Ética de la IA te esperan 6 ideas más en los niveles Avanzado y Experto.
Fuentes
- European Commission — The EU Artificial Intelligence Act
- OECD — AI Principles
- UNESCO — Recommendation on the Ethics of Artificial Intelligence
- Reuters (2018) — Amazon scraps secret AI recruiting tool that showed bias
- IEA — Energy and AI (2025)
- European Commission — AI Act
- ProPublica (2016), Machine bias
- Krakovna et al. — Specification gaming examples in AI
