Descubre cómo la inteligencia artificial impacta en la diversidad

A partir del desarrollo y aplicación de algoritmos, la inteligencia artificial (IA) llegó al mundo programada para optimizar y mejorar diversos procesos de toma de decisiones. Desde la selección de pasantes para un proyecto universitario hasta el análisis de personas supuestamente sospechosas a través de la detección facial, la participación e interferencia de la inteligencia artificial en la vida de las personas avanza a grandes pasos.

Considerando que hay participación humana en el diseño de tales algoritmos, todo este contexto resalta la importancia de evaluar el sentido de la ética de quienes crean tales algoritmos. Después de todo, si uno de los puntos clave es el machine learning, vale la pena abordar el impacto de esta tecnología en la diversidad. Al mismo tiempo, es fundamental analizar cómo puede, de hecho, contribuir a la conquista de un mundo más justo y multifacético.

La diversidad es uno de los valores de nuestra empresa y una parte importante de nuestra estrategia corporativa. El mundo está cambiando, al igual que Bosch y, especialmente en tiempos de cambio, la empresa necesita más diversidad que nunca. Después de todo, son los colaboradores quienes contribuyen al éxito con sus diferentes personalidades, experiencias y perspectivas. 

Creemos que el cambio estructural y digital en una empresa líder en AIoT se puede lograr con una cultura de trabajo abierta que reconozca el valor de cada individuo y en la que todos los colaboradores puedan aportar su talento y diferentes puntos de vista de la mejor manera posible, ya sea en el día a día o en el desarrollo de soluciones.

Antes de enfocarnos en el efecto de la correlación de todas las partes bajo análisis, es necesario observar algunas definiciones, comenzando por los propios algoritmos de inteligencia artificial. Básicamente, son equivalentes a un cierto conjunto de procedimientos secuenciales que proporcionan respuestas basadas en los datos disponibles y cómo se cruzan.

En general, los sesgos son correlaciones instantáneas y automáticas que realiza el cerebro humano entre las situaciones más variadas. De acuerdo con sus propias experiencias y visión del mundo, el individuo es propenso a pensar o actuar de manera sesgada.

El hecho es que existen numerosos tipos de sesgos, lo que solo hace que el problema destacado sea aún más complejo. Solo con fines ilustrativos, cabe mencionar uno de los sesgos más conocidos: el efecto de popularidad. En este caso, las posiciones de las personas tienden a estar sesgadas según la posición adoptada por un grupo de individuos.

En otro aspecto, ligado al anterior, está el sesgo de confirmación, en el que las personas interpretan la información (que no son opiniones, por cierto) de forma selectiva. Aquí, solo se valoran los aspectos del punto de vista defendido por el individuo, que simplemente ignora el resto.

Para comprender cómo los algoritmos están sesgados, recuerda que la mejora de las soluciones que ofrecen depende de sus creadores. Dado que las personas son responsables de desarrollar los procesos matemáticos en cuestión, es natural ver que están destinadas a ser influenciadas por los mismos estándares sesgados adoptados por estas personas.

En la práctica, los algoritmos de IA siguen los parámetros asignados por sus desarrolladores. Dado que los seres humanos somos parciales, no tiene sentido esperar que las tecnologías actúen de una manera perfectamente racional y objetiva.

De hecho, lo que se ve (hasta ahora) con considerable regularidad es exactamente lo contrario: soluciones apoyadas en algoritmos que reproducen comportamientos llenos de subjetividad y sesgos problemáticos. No faltan pruebas de esto, como verás a continuación.

Por ahora, es importante señalar que estas consecuencias negativas están relacionadas con la entrada de datos discriminatorios o con el diseño del algoritmo en sí, o con ambos. Los datos denominados "incorrectos" pueden estar:

• incompletos, o que pueden distorsionar los resultados deseados;

• desactualizados;

• falta de parámetros representativos de un determinado grupo;

• extraídos de contextos discriminatorios, como ciertos períodos históricos.

En cuanto al funcionamiento del algoritmo, el comportamiento sesgado también se manifiesta de diferentes formas. Un buen ejemplo son las recomendaciones, basadas en una concentración reducida de datos. Es el caso de los servicios de streaming (distribución y transmisión digital de contenidos multimedia), que utilizan frecuentemente recomendaciones y acaban poniendo al usuario en una “burbuja”, presentándole únicamente contenidos relacionados entre sí.

En un proceso de selección de empleo, el sesgo negativo tiene consecuencias más graves. Esto se debe a que el sistema está acostumbrado a agrupar solo a personas similares a las previamente seleccionadas, que pueden incluir detalles como el color de piel y el sexo.

Otro ejemplo es el reconocimiento facial defectuoso que se usa en los aeropuertos y otros lugares. Después de todo, no debería ser una coincidencia que la mayoría de las personas tratadas como sospechosas por los algoritmos tengan la piel negra.

El desempeño cuestionable de una amplia gama de algoritmos solo demuestra que los sesgos sociales, a veces inconscientes, también se reflejan en las soluciones tecnológicas. En otros tiempos, quizás existía la idea que, con el avance de la tecnología, se resolverían problemas crónicos y estructurales, como el racismo y la desigualdad de género.

Llegados a este punto, vale la pena reflexionar: el origen del problema no es la inteligencia artificial, sino su uso inadecuado o infrautilizado. Por tanto, es necesario realizar un debate ético en torno al tema. Después de todo, el elemento común entre la sociedad del mundo real y el universo digital es el propio ser humano.

Cuando se alimentan con datos que simplemente apoyan y refuerzan patrones discriminatorios, los algoritmos de inteligencia artificial contribuyen a la ocurrencia de injusticias. Además, obstaculizan la búsqueda de una sociedad verdaderamente basada en una diversidad amplia y viva.

No hay duda de la facilidad y el progreso que los algoritmos, aún en pleno desarrollo, pueden aportar a la vida humana. Sin embargo, es necesario que los procesos asociados a la inteligencia artificial estén debidamente regulados para que sean más transparentes.

Para 2025, el objetivo es que todos los productos de Bosch contengan IA o hayan sido desarrollados o fabricados con su ayuda. Sin embargo, hay un detalle sumamente relevante: la confianza de las personas. Es por eso que el código de ética de IA de Bosch se basa en el principio que los seres humanos deben ser la voz final a la hora de tomar decisiones basadas en la inteligencia artificial.

Este punto central aparece junto al compromiso de Bosch en desarrollar sistemas o productos que sean seguros, robustos, accesibles y, sobre todo, confiables. Todo ello, por supuesto, debidamente regido por la normativa legal vigente.

Desde el momento en que se desarrollan soluciones tecnológicas con ética, justicia y diversidad, es totalmente posible que alcancen su objetivo final: mejorar la vida de toda la sociedad. Antes de eso, sin embargo, es necesario saber cómo dialogar con las personas. Como líder mundial, Bosch comprende su papel en la presentación de los beneficios generados (y futuros) por la inteligencia artificial, como una contribución a la reducción del calentamiento global.

Basados en nuestra estrategia "Innovación para tu vida", actuamos de manera responsable y de acuerdo con los valores de calidad y confiabilidad al desarrollar y utilizar productos de IA.

Nuestro objetivo es crear soluciones en las que nuestros clientes puedan confiar. Para lograrlo, combinamos acciones basadas en valores, metodologías y excelencia tecnológica.

Nos guiamos por los siguientes principios:

• Todos los productos de IA de Bosch deben reflejar nuestra filosofía de "Innovación para tu vida", que combina la búsqueda de la innovación con un sentido de responsabilidad social.
• Las decisiones que afectan a las personas no deben tomarse sin un líder humano, la IA debe ser una tecnología para facilitar la vida de las personas.
• Desarrollamos soluciones seguras, robustas y explicables.
• La confianza es uno de los valores fundamentales de la empresa. Nuestra intención es desarrollar soluciones confiables.
• Seguimos los requisitos legales y nos guiamos por principios éticos.

Seguimos los siguientes criterios:

• Un producto con IA, y/o el uso para el que se aplica, no debe violar los artículos de la Declaración Universal de Derechos Humanos.
• Su uso debe cumplir con las leyes de los países para los que se desarrolló la solución.
• Todo debe cumplir con nuestra misión “We are Bosch”
• Las soluciones deben estar orientadas en "Innovación para tu vida": creadas para mejorar la calidad de vida y conservar los recursos naturales.

“Human-in-command” (HIC): En este enfoque, el producto de IA se utiliza puramente como una herramienta. En todo momento, las personas deciden cuándo y cómo utilizar los resultados presentados. Un ejemplo es cuando una máquina ayuda a las personas con tareas de clasificación.

“Human-in-the-loop” (HITL): En este enfoque, las personas pueden influir directamente o cambiar las decisiones tomadas por una solución de IA.

"Human-on-the-loop" (HOTL): Este enfoque se refiere a casos en los que las personas definen los parámetros relevantes para las decisiones durante el proceso de diseño. Esto asegura que las personas no solo establezcan los parámetros para la toma de decisiones de antemano, sino que también verifiquen retrospectivamente que la decisión se ejecutó correctamente.

Este es el tipo de iniciativa que la población espera de las empresas comprometidas con la creación, implementación y sostenimiento de una cultura digital, basada en principios éticos. Finalmente, cabe destacar que los resultados que genera la inteligencia artificial deben, en consecuencia, reflejar las diferencias en la sociedad, ya que existe una mayor participación de las personas, lo que representa una mayor diversidad social.

Obtén más información sobre el Código de ética de Bosch para IA.