La Inteligencia Artificial es hoy muy sofisticada, compleja y puede llegar a ser muy certera. Pero \u00bfpodemos confiar en ella?<\/p>\r\n\r\n\r\n\r\n
Inteligencia Artificial es un t\u00e9rmino ya ampliamente aceptado y utilizado en nuestra sociedad tecnol\u00f3gica: en empresas grandes y peque\u00f1as, en el mundo de la investigaci\u00f3n y aplicado a pr\u00e1cticamente todos los campos y \u00e1reas en los que se realiza investigaci\u00f3n y desarrollo.<\/p>\r\n\r\n\r\n\r\n
La Inteligencia Artificial consiste en copiar y formalizar cualidades y caracter\u00edsticas que realizamos con la inteligencia humana, para aplicarlas de manera automatizada a la resoluci\u00f3n y optimizaci\u00f3n de problemas.<\/p>\r\n\r\n\r\n\r\n
Una de las cualidades m\u00e1s interesantes que hemos copiado del cerebro es la capacidad de aprender, lo que se denomina aprendizaje autom\u00e1tico<\/em>. El ordenador, ya desde hace d\u00e9cadas, puede procesar unos datos (que se llaman de entrenamiento, porque se utilizan para que aprenda de ellos) y posteriormente enfrentarse a otros datos nuevos que, aun siendo un poco diferentes, pueden ser reconocidos poniendo en pr\u00e1ctica lo que ha aprendido (que no memorizado).<\/p>\r\n\r\n\r\n\r\n Por ejemplo, se puede aprender a partir de muchas im\u00e1genes de lindos gatitos (entre otras de otros animales) y posteriormente ser capaz de reconocer una imagen de otro lindo gatito no visto anteriormente.<\/p>\r\n\r\n\r\n\r\n Las empresas y centros de investigaci\u00f3n llevan utilizando esta tecnolog\u00eda varias d\u00e9cadas con el fin de resolver problemas complejos que requieren aprender de los datos existentes y posteriormente aplicar el algoritmo que ha aprendido de ellos a nuevos casos y escenarios complejos y desconocidos.<\/p>\r\n\r\n\r\n\r\n La precisi\u00f3n con la que consiguen acertar en su predicci\u00f3n ha ido en aumento y los tipos de algoritmos utilizados para aprender se han ido sofisticando cada vez m\u00e1s. Como resultado, en ocasiones se realizan proyectos fara\u00f3nicos de creaci\u00f3n de \u00abpredictores\u00bb para anticipar con una fiabilidad muy alta lo que puede suceder con un cliente en una compa\u00f1\u00eda, con un diagn\u00f3stico en salud, con un incidente en industria o con un suceso en la sociedad. La gran confianza en estos algoritmos est\u00e1 conduciendo a dejar en sus manos decisiones incluso en el \u00e1mbito penal o de contrataci\u00f3n profesional.<\/p>\r\n\r\n\r\n\r\n Sin embargo, desde hace mucho tiempo los expertos en inteligencia artificial y aprendizaje autom\u00e1tico saben bien que, si los datos que utiliza el algoritmo para aprender son incorrectos, la predicci\u00f3n que realizar\u00e1 el algoritmo tambi\u00e9n lo ser\u00e1 en cierto modo. Esto es lo que informalmente se conoce como \u201ctrash in, trash out\u201d<\/strong>\u00a0(entra basura, sale basura).<\/p>\r\n\r\n\r\n\r\n El gran problema es que no en todos los casos los datos son claramente incorrectos o deficientes. Hay numerosas t\u00e9cnicas para tratar esos datos, limpiarlos, corregirlos y completarlos, incluso aun con inc\u00f3gnitas en ellos. En muchas ocasiones, los datos aparentemente son correctos, pero incluyen una desproporci\u00f3n o desequilibrio en su cantidad o casu\u00edstica que hace que no sean del todo completos. Esto se conoce como sesgo (bias<\/em> en ingl\u00e9s) y podemos imaginarlo como aprender s\u00f3lo de una parte espec\u00edfica y homog\u00e9nea de la informaci\u00f3n.<\/p>\r\n\r\n\r\n\r\n Estos sesgos se han producido en numerosas ocasiones y en proyectos importantes y con gran repercusi\u00f3n, como la atribuci\u00f3n de riesgo de delincuencia asociada a unas razas concretas (en las que el algoritmo aprendi\u00f3 de datos en los que mayoritariamente los datos de delincuentes eran de dicha raza, pero no ten\u00eda pr\u00e1cticamente casos de los que aprender de no delincuentes), o bien en la contrataci\u00f3n de perfiles de un g\u00e9nero espec\u00edfico ante otro (e igualmente motivado por no disponer de suficiente informaci\u00f3n en los datos de entrenamiento de uno de los g\u00e9neros para poder tomar una decisi\u00f3n ecu\u00e1nime).<\/p>\r\n\r\n\r\n\r\n De ah\u00ed que posteriormente se acu\u00f1ara tambi\u00e9n la frase informal \u00abbias in, bias out<\/strong>\u00ab, esto es: entra sesgo, sale sesgo. Lo que viene a decir que, si los datos que utilizamos para aprender est\u00e1n sesgados, nuestra predicci\u00f3n o atribuci\u00f3n lo estar\u00e1 tambi\u00e9n.<\/p>\r\n\r\n\r\n\r\n Al margen de esta situaci\u00f3n no intencionada, m\u00e1s peligroso es que exista adem\u00e1s la posibilidad de que se pueda realizar una modificaci\u00f3n malintencionada de los datos de entrada (lo que se denomina envenenamiento de datos) o bien del \u00e1mbito de aplicaci\u00f3n para modificar la predicci\u00f3n que realiza el algoritmo a favor de la persona que lo ha realizado. Como si de un hacker se tratara.\u00a0<\/p>\r\n\r\n\r\n\r\n Este riesgo dispar\u00f3 alarmas entre la comunidad cient\u00edfica e hizo replantearse la confiabilidad en la inteligencia\u00a0artificial, no con el objetivo de perder la fe en ella, sino todo lo contrario: generar un marco formal en el que consigamos que s\u00ed sea confiable. Esta preocupaci\u00f3n desemboc\u00f3 en el t\u00e9rmino ya acu\u00f1ado en Europa y con un seguimiento actual muy enfocado, denominado: Inteligencia Artificial Fiable (Trustworthy IA<\/em>)<\/a>.<\/p>\r\n\r\n\r\n\r\n Este marco se sustenta en tres pilares fundamentales que son conseguir que la IA sea\u00a0l\u00edcita\u00a0<\/strong>(y cumpla todas las leyes y regulaciones existentes), que sea\u00a0\u00e9tica\u00a0<\/strong>(asegurando los principios de equidad y justicia b\u00e1sicos) y que sea\u00a0robusta\u00a0<\/strong>(tanto desde un punto de vista t\u00e9cnico como social).<\/p>\r\n\r\n\r\n\r\n Para conseguir estos objetivos, se han puesto ya en marcha una serie de requisitos que deben ser revisados, evaluados y asegurados en nuestros sistemas inteligentes para cumplir con esta confiabilidad. Se han establecido los siguientes siete requisitos a nivel europeo:<\/p>\r\n\r\n\r\n\r\n Ya no es suficiente con tratar y limpiar los datos para aplicar inteligencia artificial, ni con elegir el mejor algoritmo posible para realizar la mejor predicci\u00f3n. Ahora es necesario, por fin, que nuestros sistemas inteligentes sean confiables.<\/p>\r\n\r\n\r\n\r\n\r\n