En la antesala del IV Encuentro Empresarial Hispano-Alemán, que bajo el título 'Inteligencia Artificial, Sociedad y Empresa' se celebrará el 12 de noviembre en Madrid, la Cámara Alemana se ha propuesto conocer la opinión de algunos de los principales expertos en IA a través de una serie de entrevistas. En esta primera entrega, Jorge Villagrá, Senior Research Scientist del Centre for Automation and Robotics (CSIC-UPM) y ponente de la primera mesa del Encuentro Empresarial, ofrece una perspectiva general sobre la situación actual de la IA en nuestro país y la convergencia europea, las reticencias a la hora de introducir la IA en entornos más críticos como la producción, la coexistencia de vehículos conducidos por personas y otros automatizados y los aspectos éticos de la aplicación de IA en nuestro entorno.
EncEmp2020 | Madrid, 12/11/2020 | ¡Inscripción abierta! Inscríbase ya aquí
P: Las aplicaciones de la Inteligencia Artificial se introducen en los procesos industriales con el aprovechamiento de cantidades masivas de datos al servicio de sofisticados algoritmos matemáticos (reconocimiento de patrones, redes neuronales, Data Analytics, Cloud Computing, etc.). Así, estas aplicaciones potencian múltiples áreas como la robótica avanzada, la fabricación digital o la movilidad autónoma, y con ello cambian la manera en la que producimos, interactuamos con los equipos o incluso nos relacionamos. Desde su perspectiva, ¿cuáles son las áreas en entornos industriales donde más aplicaciones de la IA se usan actualmente y qué aplicaciones son?
Efectivamente, el crecimiento exponencial de datos, combinado con las crecientes capacidades computacionales, que además pueden ser altamente distribuidas y ubicuas, ha hecho que cada vez más aplicaciones y servicios basados en IA hayan surgido hasta en una gran variedad de sectores industriales. Así, existen cada vez más sistemas orientados a Business Intelligence que mejoran la calidad en la toma de decisiones estratégicas. En niveles más críticos (producción, desarrollo de componentes y sistemas para industrias como la aeronáutica o la de automoción), existe aún una cierta reticencia a la introducción de soluciones que, aún mejorando las prestaciones en un amplio número de contextos, tienen aún un cierto grado de impredecibilidad en situaciones para las que no han sido entrenadas. Así, aunque hasta los sectores tradicionalmente mas conservadores de la industria hayan asistido a una revolución en su manera de plantear sus negocios y su relación -cada vez mas personalizada- con los clientes, existe aún mucho camino por andar en la robustez de soluciones robóticas avanzadas. En efecto, el gran desafío de los próximos años es la democratización del embodiment de la IA en entornos industriales y su relación segura e intuitiva con el humano.
P: El programa AUTOPIA del Centro de Automática y Robótica en el Consejo Superior de Investigaciones Científicas (CSIC), que usted lidera hace ya 4 años, tiene una trayectoria de más de 20 años de historia, y con ello, una sólida experiencia en el desarrollo de inteligencia artificial a sistemas de vehículos automatizados. ¿Cómo ha nacido este programa y cuáles son las áreas de investigación más prometedoras?
AUTOPIA nace hace algo más de veinte años como resultado de una constatación: los coches y los robots móviles, salvando el entorno en el que normalmente operan, tienen grandes similitudes tanto en su estructura física (ruedas, suspensión, dirección) como en la lógica que ha de guiarles (evitando obstáculos de manera segura y confortable). Así, los investigadores del grupo de la época trasladan su experiencia y conocimientos en lógica borrosa para intentar con ella aplicar al coche las bases del razonamiento humano al conducir. En los primeros años, el trabajo se centra, por un lado, en el diseño de estrategias de control lo más seguras y aceptables para el humano, y por otro, en la exploración de posibilidades de cooperación entre diversos vehículos conectados y automatizados.
La tecnología para vehículos inteligentes avanza a un ritmo vertiginoso en los últimos tiempos. Sin embargo, la complejidad subyacente a algunos escenarios de conducción urbana, altamente inciertos y dinámicos, sugiere que la automatización total puede tener límites de uso en un futuro cercano. AUTOPIA trabaja en mitigar las limitaciones potenciales de la conducción totalmente autónoma mediante el uso del control compartido humano-máquina y la cooperación con otros agentes de la carretera.
P: AUTOPIA tiene como objetivo combinar el desarrollo de soluciones específicas de nuestro entorno con la exploración de técnicas que puedan contribuir a afrontar los grandes retos en el contexto urbano. Los vehículos manuales y los vehículos automatizados tendrán que coexistir todavía un largo tiempo. ¿Cómo ve usted el futuro del vehículo autónomo y en qué manera cambiará la movilidad urbana?
En efecto, nos espera un periodo no corto de coexistencia entre vehículos conducidos por personas y otros automatizados con diferentes niveles de autonomía, y, por tanto, de capacidades. La disminución de los primeros en detrimento de los segundos dependerá de la aceptación entre los usuarios de las soluciones de automatización parcial que irán llegando al mercado.
El vehículo completamente autónomo, capaz de navegar sin ninguna intervención humana en cualquier contexto (desde ciudades a autopistas, pasando por zonas rurales con poco acceso a mapas y a infraestructuras de comunicaciones) está aún lejos de llegar. Sin embargo, van a ir apareciendo soluciones comerciales en situaciones de complejidad limitada en los que haya propuestas de valor consistentes. Ejemplos de ello será el platooning para camiones (convoyes de camiones automatizados que aprovechan la conectividad entre ellos), o el automated valet parking (aparcamiento completamente autónomo en entorno de interés, como los aeropuertos).
El punto de inflexión en esta aparición progresiva de soluciones con mayores capacidades será el transporte autónomo a demanda, tanto de ultima milla para transporte de mercancías como de primera milla en entornos peri-urbanos. Y por supuesto, la guinda del pastel llegará con el “robot-taxi” compartido en el centro de las ciudades. Estos últimos, bien combinados con otras soluciones de transporte colectivo, provocarán una disrupción total no sólo en la movilidad, sino en la manera de vivir las ciudades.
P: En relación con la IA, su desarrollo científico y sus aplicaciones en la industria, siempre se habla mucho de China y de Estado Unidos. Parece que llevan bastante ventaja sobre Europa, sobre todo en lo que es patentar aplicaciones de IA, y en la creación de grandes empresas tecnológicas como son “the big nine”. ¿Comparte esta percepción? ¿De dónde la diferenciadel caso europeo? Y dónde ve los puntos fuertes para el desarrollo de la IA en nuestro entorno más próximo?
Efectivamente, ninguna empresa europea esta representada entre esos “big nine”. Y es cierto que tenemos un retraso considerable en una gran cantidad de soluciones de consumo que se apoyan en la IA y ya forman parte de nuestras vidas. Sin embargo, el Libro Blanco en IA, publicado hace escasamente 4 meses por la Comisión Europea, esboza aspectos diferenciales de la “aproximación europea” en las que podríamos ser competitivos. Todos ellos están englobados en lo que llamamos ecosistemas de confianza, y hacen alusión, entre otros, a un enfoque human-centric (supervisión humana) de la IA, a una mejor y más transparente gobernanza de los datos y de la privacidad, a una mayor diversidad de los datos de los que se aprende, sin discriminación y con equidad, o una gestión apropiada de la denominada accountability de los algoritmos.
En mi modesta opinión, la explotación correcta de esta visión permitiría a Europa recuperar o mantener el liderazgo en aplicaciones la IA de seguridad crítica (aquellas en las que no están permitidos los fallos), como la aeronáutica, la automoción, el equipamiento médico o la Industria 4.0. Para alcanzar esa competitividad, hay 3 tipos tecnologías habilitadoras en las que Europa puede y deber tener un rol protagonista en la próxima década: el trasvase de parte de la computación en la nube a la computación edge, la computación neuromórfica y la computación cuántica.
P: Para finalizar, y volviendo al tema de la movilidad y del vehículo autónomo, hay un gran reto de la ética detrás. Si todas las decisiones se basan esencialmente en el dato y su análisis y cálculo, ¿cuáles serán los puntos débiles de estas decisiones?¿Y sobre quién recaerá en el futuro la responsabilidad de estas decisiones y de las acciones de máquinas guiadas por estos algoritmos?
Dar una respuesta acertada a esta pregunta es extraordinariamente complicado desde la posición aislada de un investigador. Creo que sólo tras un ejercicio de reflexión conjunta entre científicos, ingenieros, juristas, reguladores, aseguradoras y organismos de estandardización se podrá llegar a articular una solución a los dilemas éticos y regulatorios asociados la toma de decisión articial. La solución, a mi entender, pasará primero por el diseño de procedimientos comunes de certificación de seguridad de los sistemas usados en el coche (de manera análoga a como sucede hoy en los aviones); y después, por la identificación de mecanismos de evaluación y trazabilidad que permitan averiguar el origen de un potencial accidente, y en consecuencia su responsable y su corrección de cara al futuro
En este sentido, es muy interesante el debate surgido hace dos años en torno a la creación (o no) de la personalidad jurídica de los robots, y en consecuencia de los vehículos autónomos. La potentísima emergencia del aprendizaje máquina en muchos entornos de nuestra vida ha trasladado a la sociedad la idea de que emergirá inevitablemente una inteligencia potencialmente intrazable, e incluso ingobernable, a partir de algoritmos diseñados por humanos. Ese punto es desde luego discutible, pero la comprensión de las bases sobre las que reposa la IA actual y sus posibles sesgos son en todo caso esenciales para determinar la mejor manera de regular los efectos de estos algoritmos.
Jorge Villagra es Ingeniero Industrial por la Universidad Politécnica de Madrid y Doctor en Informática en Tiempo Real, Robótica y Control Automático por la École des Mines de Paris (Francia) desde 2006. De 2007 a 2009 ocupó un puesto de profesor visitante en la Universidad Carlos III (España). Luego fue investigador JAE Doc en el Programa AUTOPIA en el Centro de Automatica y Robótica, UPM-CSIC (España). Desde 2013 hasta 2016 dirigió el Departamento de ADAS y Sistemas de Conducción Autónoma en la empresa Ixion Industry & Aerospace SL. Dirige el Programa AUTOPIA en el CSIC desde octubre de 2016. Ha participado en unos 40 proyectos de I+D (15 europeos, 20 nacionales y 7 contratos privados con empresas), de los que es o ha sido investigador principal en la mitad de ellos.
El autor participará en el marco del IV Encuentro Empresarial Hispano-Alemán, que se celebrará el próximo noviembre en Madrid, como ponente en la primer mesa de debate "El hombre y la máquina: la IA en los entornos industriales".