5 fallos recientes de la Inteligencia Artificial

¿Te ha gustado nuestro artículo? ¡Vota!

La Inteligencia Artificial se está infiltrando rápidamente en diferentes ámbitos del mundo, y progresa a pasos agigantados, dadas sus múltiples ventajas a diferentes niveles (empresarial, científico, médico, etcétera). No obstante, en su constante evolución, han surgido problemas y errores. Te hablamos de cinco fallos muy sonados de la Inteligencia Artificial en los últimos años.

1. La IA de Amazon

Amazon el líder del comercio electrónico decidió presentar en 2018 una herramienta experimental para la búsqueda de empleo que, con la ayuda de la inteligencia artificial, otorgaba puntuaciones a los candidatos y, en base a eso, seleccionaba a los cinco perfiles más destacados para cada puesto.

La idea era mecanizar la búsqueda de talento y ayudar a los equipos de recursos humanos en la gestión de grandes volúmenes de currículums. Sin embargo, demostró que la herramienta tenía un sesgo contra las mujeres, por lo que la empresa se vio obligada a desecharla.

La pregunta es: ¿Por qué el software era más favorable para los solicitantes masculinos? Básicamente porque el algoritmo de Big Data de Amazon se alimentó previamente con una recopilación de currículums con una mayoría de perfiles de hombres que de mujeres.

2. Vehículo autónomo de Uber

El 28 de marzo de 2018, un camión SUV de Uber acabó con la vida de una mujer en el estado de Arizona (EEUU). Esta fue la primera vez que un vehículo autónomo mataba a un peatón. La tragedia ocurrió porque los frenos de emergencia del vehículo se desactivaron automáticamente a raíz de un fallo en el software.

Este desafortunado suceso provocó que Uber suspendiera todas las pruebas de autoconducción en las ciudades de Estados Unidos donde estaban programadas. También se sumaron a esta inciativa otras empresas desarrolladoras de Inteligencia Artificial, como Nvidia y Toyota.

Todos los sistemas de Inteligencia Artificial y más aún los pensados para la autoconducción deben estar preparados para hacer frente a gran cantidad de situaciones y saberlas resolver de manera efectiva.

Bien es cierto que no hay un sistema infalible, siempre existe riesgo. Por este motivo, los coches 100% autónomos aún están lejos de convertirse en una realidad. Aunque también habría que destacar que aunque no son sistemas exactos al milímetro, han demostrado que la tasa de accidentes es menor a la de los humanos.

3.Reconcimiento de voz de HSBC

El ID de reconocimiento de voz del banco HSBC es un sistema de seguridad con inteligencia artificial que permite a los usuarios acceder a sus cuentas mediante comandos de voz. La compañía afirma que este sistema es igual de seguro que un sistema de Touch ID de huellas dactilares. Sin embargo, está claro que aún tienen que mejorar.

En 2017, Dan Simmons, un reportero de la BBC, y Joe Simmons, su hermano mellizo, decidieron practicar un experimento. La prueba trataba de establecer que el sistema no es todo lo seguro que debería ser, puesto que el hermano de Joe consiguió acceder a la cuenta bancaria de HSBC de su hermano, únicamente imitando su voz.

4. Face ID de Apple

Cuando se lanzó el iPhone X en el año 2017, una de sus características estrella y más esperada por los usuarios era el novedoso Face ID, es decir, el reconocimiento facial que permitiría acceder al menú del teléfono y a infinidad de aplicaciones únicamente analizando la cara.

¿Cómo funciona el reconocimiento facial? El dispositivo se sirve de la cámara frontal y de un sistema de aprendizaje automático que crea un mapa en tres dimensiones de las facciones del propietario.

No obstante, una semana después de que se lanzara esta funcionalidad, algunos hackers quisieron dejar claro que este sistema no era tan seguro como afirmaba la compañía. Consiguieron engañar a Face ID mediante máscaras impresas en 3D para acceder al smartphone.

5. Chatbot de Microsoft

En 2016 Microsoft presentó a Tay (@TayandYou), un bot conversacional que basaba sus operaciones en inteligencia artificial. Estaba alimentado por conversaciones de usuarios de entre 18 y 24 años con el objetivo de que éste aprendiese la forma que éstos tienen de comunicarse en la red.

Empezó a funcionar en Twitter, pero tras unos días de uso, la compañía decidió retirarlo temporalmente. El motivo fue que, al tratarse de un sistema que aprendía de las interacciones, muchos usuarios dedicaron un esfuerzo coordinado a que Tay aprendiese conductas inapropiadas, convirtiéndose en un bot que ofrecía respuestas racistas, misóginas y antisemitas.