La inteligencia artificial (IA) es, por definición, una cosa que nos es extraña y ajena a partes a iguales. Para el público general es una gran desconocida que la mayoría de nosotros no entendemos y en muchos casos nos puede llegar a dar miedo. Ahora bien, eso podría cambiar muy pronto. Dani, Javier, Pablo y Carles se han propuesto evaluar los riesgos de la inteligencia artificial, como el racismo o el machismo, y hacer llegar al público general y a las empresas de todas partes las posibilidades de la inteligencia artificial a través d'EXPAI, su empresa creada en Barcelona, sin embargo, según aseguran "con vocación global".

Esta es una entidad pionera en todo el mundo, de hecho, es la primera startup europea especializada en combatir los peligros, la falta de transparencia y los retos de la inteligencia artificial. Aseguran que "el futuro ya está aquí y no estamos preparados". En una conversación con ElNacional.cat los cuatro explican qué es la inteligencia artificial, como funciona, que aporta su empresa, como se gestó la idea y lo más importante, sus retos de futuro.

La tarea d'EXPAI, de hecho, es hacer comprender como funcionan los modelos y los algoritmos de inteligencia artificial tanto al público general como a las empresas a través de dos espacios muy diferentes, su tarea más empresarial y lo que han denominado EXPAI Academy.

¿Qué es y para qué sirve la inteligencia artificial?

De su tarea, lo que puede llegar más fácilmente es la EXPAI Academy, un espacio donde volcar contenidos didácticos sobre inteligencia artificial para rebajar, y hasta cierto punto desmitificar, este mundo que a priori es muy complicado de entender y poner al alcance de todo el mundo las técnicas de evaluación que disponen. Al fin y al cabo, para responder dos preguntas, qué es la inteligencia artificial y para qué sirve.

Aunque a priori parece una cosa muy complicada, simplificadamente Carles explica que la IA es una "tecnología capaz de replicar comportamientos que, si los hiciera una persona, dirías que es una persona inteligente".

Carles Soler, uno de los cuatro fundadores de EXPAI

¿Qué hace EXPAI?

Dentro de esta descripción tan general, EXPAI se ha especializado en los modelos de decisión y en Javier explica que este apartado de la IA es "un método matemático que intenta encontrar patrones en los datos aprendiendo a partir de otros datos", metafóricamente, añade, que es el método actual para intentar saber que pasará en el futuro. Eso, al fin y al cabo, permite que se puedan tomar decisiones basadas en datos objetivos y no tener que hacerlo por intuición. De forma más técnica, la IA es un algoritmo o un método que, recibiendo unos datos de entrada, es capaz de predecir una salida o una respuesta.

Estas predicciones, nos explica el equipo de EXPAI, puede ir desde saber quién te comprará un móvil nuevo, pasando por el precio de venta de un vehículo o a qué candidato tienes que contratar para tu empresa; hasta llegar a un coche se conduzca solo o un sistema de reconocimiento facial, por lo tanto, como se puede ver la aplicación de la inteligencia artificial es realmente vasta y nos puede afectar en muchos ámbitos de nuestra vida cotidiana, y no es, en muchos casos, tan compleja como nos la imaginamos.

Javier Rando, uno de los cuatro fundadores d'EXPAI

Por lo tanto, su principal actividad no va dirigida al público general, sino a las empresas. Concretamente lo que hacen desde de EXPAI es analizar los procesos de IA que usan y detectar si hay algún sesgo que pueda llegar a representar una desventaja para alguna persona o colectivo o una cosa todavía más sencilla, detectar si tu modelo funciona correctamente, tal como tú habías planeado. Explicado así de forma más simple, EXPAI posibilita a las empresas que puedan entender lo que pasa dentro de sus algoritmos, según declaran los cuatro creadores y ponen a su disposición los mecanismos de evaluación necesarios.

La tarea de evaluación de EXPAI se puede comparar con la apertura de una caja negra de un avión. Es decir, abren el mecanismo, saben cómo funciona y el razonamiento que hay dentro del algoritmo y, en caso de error, lo trasladan al cliente. Eso permite agilizar el proceso de perfeccionamiento del algoritmo.

En definitiva, como resume Pablo, con EXPAI, una empresa podrá mirar su modelo, analizarlo y poder ver cómo funciona, las variables que tiene en cuenta y el porqué de los resultados que obtiene, por lo tanto, podrá explicarlos a una tercera persona. El hecho de entender el modelo, permite al usuario poder confiar en él mucho más fácilmente.

¿Cuáles son los riesgos de la IA?

Sobre la mesa, la IA parece infalible, pero el cierto es que tiene muchos más riesgos de los que parece. Dentro del espacio de trabajo de EXPAI, los algoritmos matemáticos, los errores pueden venir por todos lados y provocar discriminaciones realmente peligrosas; realmente puede hacer que los algoritmos puedan llegar a tener problemas vinculados con el racismo, el machismo o la LGTBfobia o provocar que una empresa tome decisiones menos óptimas y que, por lo tanto, acabe perdiendo posibles beneficios.

Pablo Vitòria, uno de los cuatro fundadores d'EXPAI

Ahora bien, como los métodos matemáticos están construidos por humanos y se alimentan de datos previos, se pueden generar sesgos con cierta facilidad. A la hora de desarrollarse, el algoritmo aplica estos sesgos, así es como se puede llegar a discriminar alguien.

Un ejemplo muy sencillo es lo que le pasó a Amazon con un algoritmo de selección de personal con el fin de ser más rápidos y objetivos. Este modelo estuvo entrenado con los datos de los últimos diez años, cuando la mayoría de personas contratadas habían sido hombres y, por lo tanto, el algoritmo aprendió que los hombres eran un mejor perfil que las mujeres y las descartaba. Este era, claramente, un problema de machismo y está, precisamente, en lo que se dedica EXPAI.

 

Daniel Hormigo, uno de los cuatro fundadores d'EXPAI

Ahora bien, los errores de los modelos no siempre son causados por errores humanos. Hay un tipo de algoritmo que aprende por sí solo, y por lo tanto puede pasar de que no tome de manera deseada, por lo tanto EXPAI también entra en este terreno.

¿Cómo nació este proyecto?

Nació en las aulas de la Universidad Pompeu Fabra, concretamente a través de un trabajo universitario que explicaba un modelo para calcular el precio de los pisos de alquiler turísticos a través d'IA, por lo tanto una persona que ponía su casa o piso para alquilar, entendía por qué la aplicación le recomendaba un precio. A partir de allí, Dani y Javier se dieron cuenta de que las empresas también tenían este problema. Todo fue tomando forma cuando Dani y Javier se pusieron a pensar y acabaron poniendo sobre la mesa lo que hoy en día es EXPAI. Después se unieron Pablo y Carles, que dieron una idea más de negocios, para acabar de dar forma al proyecto tal como es hoy en día.

De cara al futuro, los cuatro quieren, evidentemente, que la empresa vaya bien, pero aseguran que eso lo tendrán que decidir los mercados. Al mismo tiempo consideran que su producto aporta mucho valor a las empresas. Ahora bien, todavía hace muy poco que "han salido de bajo el radar" y ahora están en fase de testear su producto con algunos clientes, aunque piensan que los primeros contratos pueden llegar pronto. Además, aseguran que lo que quieren es tener un impacto global, de hecho, aspiran a ser un referente global en este sector.

Imagen principal: De izquierda a derecha, Dani, Javier y Pablo, tres de los fundadores d'EXPAI