La inteligencia artificial (IA) está transformando la manera en que trabajamos, nos comunicamos y tomamos decisiones. Desde el asistente que nos recomienda una película hasta los sistemas que ayudan a diagnosticar enfermedades, la IA promete un futuro más eficiente. Sin embargo, en muchas ocasiones tendemos a pensar en esta tecnología como una herramienta fría, lógica y, sobre todo, objetiva.
Nada más alejado de la realidad. La IA, en lugar de ser un juez imparcial, a menudo actúa como un espejo de la sociedad que la creó, reflejando y, en ocasiones, amplificando nuestros propios prejuicios.
En Datasketch, donde trabajamos a diario con datos, entendemos que la información rara vez es neutral. Por esa razón, te explicamos cómo se construyen los modelos de IA y cómo entender sus sesgos.
¿Cómo “aprende” una inteligencia artificial?
Lejos de ser una conciencia mágica, la mayoría de las IA (especialmente los modelos de lenguaje como ChatGPT o los sistemas de reconocimiento) “aprenden” de forma similar a un estudiante que se prepara para un examen estudiando miles de libros.
Estos “libros” son conjuntos de datos masivos (datasets): texto extraído de internet, millones de imágenes, registros históricos, estadísticas, etc. La IA no “comprende” esta información como un humano; lo que hace es identificar patrones estadísticos. Aprende que la palabra “perro” suele estar cerca de “ladrar”, o que ciertos patrones en una imagen suelen corresponder a la etiqueta “gato”.
El problema surge cuando los “libros” que le damos para estudiar están incompletos, equivocados o, más comúnmente, reflejan los sesgos históricos de la humanidad.
1. Sesgo en los datos
Este es el sesgo más común. Si los datos de entrenamiento están sesgados, el resultado de la IA también lo estará.
Pensemos en un sistema de IA entrenado para ayudar en procesos de contratación. Si se alimenta con el historial de contrataciones de una empresa de los últimos 50 años, es probable que esos datos reflejen una época en la que los hombres ocupaban la mayoría de los puestos directivos y técnicos. La IA aprenderá ese patrón y podría concluir estadísticamente que los hombres son “mejores” candidatos para esos roles, penalizando currículums con características asociadas a mujeres.
La IA no es “machista” en sí misma; simplemente está reproduciendo el patrón histórico sesgado que le enseñamos.
2. Sesgo humano: Las decisiones del desarrollador
Aquí es donde el sesgo se vuelve intencional, o al menos, una consecuencia directa de la concepción de la herramienta. Los desarrolladores toman decisiones cruciales: ¿Qué datos incluimos? ¿Qué datos excluimos? ¿Y con qué propósito?
Un ejemplo perfecto es Grok de xAI. Esta IA fue concebida desde su inicio para tener una personalidad “mordaz” y “rebelde”. Para lograrlo, sus creadores tomaron la decisión humana de alimentarla principalmente con los datos en tiempo real de la red social X (antes Twitter).
Esta no es una decisión técnica neutral; es una decisión editorial. Al elegir deliberadamente una fuente de datos conocida por su polarización, inmediatez y sarcasmo, los desarrolladores están insertando un sesgo de diseño desde el inicio.
La herramienta no solo refleja los sesgos de los datos (como vimos en el punto 1), sino que fue diseñada para adoptar una personalidad específica basada en ellos. El sesgo, en este caso, no es un accidente que se busca corregir; es una característica de diseño.
Entender los sesgos de la IA no es solo un ejercicio técnico, sino también ético y social. Cada modelo que usamos —desde un recomendador hasta un sistema de análisis predictivo— toma decisiones basadas en datos que provienen de contextos específicos, con historias y desigualdades propias. Por eso, más que preguntarnos si la IA es “buena” o “mala”, deberíamos preguntarnos quién la construyó, con qué información y para quién está pensada. Solo así podremos identificar sus límites y usarla de manera responsable, consciente y verdaderamente útil para nuestras comunidades.
Para cerrar: una invitación a seguir aprendiendo
Si te interesa profundizar en cómo funciona la inteligencia artificial, sus riesgos, su potencial y el papel de los datos en todo esto, te invitamos a explorar más contenidos sobre IA en nuestro blog. En Datasketch seguimos creando recursos, análisis y herramientas para que cualquier persona —sin importar su nivel técnico— pueda entender y aprovechar mejor estas tecnologías. Te esperamos para seguir conversando y aprendiendo juntas y juntos.
