La Sociedad de la Inteligencia Artificial

La industria, los medios de comunicación, la sanidad, los servicios de empleo o el mercado laboral cambian hacia un modelo cada vez más automatizado, en el que los datos, los algoritmos y las personas conviven, aprenden y se relacionan en entornos físicos y virtuales. Esta realidad plantea enormes desafíos éticos y oportunidades de desarrollo, que debemos analizar y debatir desde todos los sectores de la SIA, la Sociedad de la Inteligencia Artificial.

Datos

Los datos, el sustento de la Sociedad de la Inteligencia Artificial

Los datos se han convertido en la “forma de pago” de muchos servicios y aplicaciones “gratuitas” que utilizamos a diario. ¿Somos conscientes de los datos que generamos cada día? ¿Protegemos nuestra privacidad de forma adecuada? ¿Sabemos qué tipo de datos existen y para qué se utilizan?

Tipos de datos personales en la LOPD y RGPD

Datos especialmente protegidos

Ideología, afiliación sindical, religión, creencias, origen racial o étnico, salud, vida sexual, datos genéticos y biométricos así como datos relativos a  condenas e  infracciones  penales.

Datos relativos a las características personales

Datos de estado civil, datos de familia, fecha de nacimiento, lugar de acimiento, edad, sexo, nacionalidad, lengua materna, características físicas o antropométricas.

Datos académicos y profesionales

Formación, titulaciones, historial del estudiante, experiencia profesional, pertenencia a colegios o asociaciones profesionales.

Datos que aportan Información comercial

Actividades y negocios, licencias comerciales, subscripciones a publicaciones o medios de comunicación, creaciones artísticas, literarias, científicas o técnicas.

 

Datos identificativos

DNI, dirección postal o electrónica, imagen, voz, nº Seguridad Social o Mutualidad, teléfono, fax, marcas físicas, nombre y dos apellidos, firma o huella, firma electrónica, tarjeta sanitaria.

Datos relativos a las circunstancias sociales

Características de alojamiento, vivienda, situación familiar, propiedades, posesiones, aficiones y estilos de vida, pertenencia a clubes y asociaciones, licencias, permisos y autorizaciones.

Detalles de empleo

Profesión, puestos de trabajo, datos no económicos de nómina, historial del trabajador.

 

Datos económicos, financieros y de seguros

Ingresos, rentas, inversiones, bienes patrimoniales, créditos, préstamos, avales, datos bancarios, planes de pensiones, jubilación, datos económicos de nómina, datos deducciones impositivas/impuestos, seguros, hipotecas, subsidios, beneficios, historial de créditos, tarjetas de crédito.

 

 ¿Cómo se utilizan los datos? 

Diseño de nuevos fármacos y reducción de los tiempos y costes de producción. Reducir errores de diagnóstico, Mejorar la prevención y tratamiento personalizado de las enfermedades más frecuentes. Avances en biotecnología.

Tu peso, tu estatura, tus alergias, tus dolencias, tu genética, tu alimentación. tus hábitos, si haces deporte,… tus constantes vitales, datos recogidos por sensores y tecnologías, reconocimiento facial, tu iris,…

La innovación conduce a optimizar recursos y automatizar procesos, predecir la demanda y mejorar la productividad, la capacidad de adaptación, la personalización de servicios, nuevas herramientas de trabajo, de monitorización de trabajadores o los procesos de selección de personal, …

Tu formación, tus habilidades, los eventos a los que asistes, si estás de baja, si tienes alguna enfermedad, tus hábitos online, tu estado civil, si tienes hijas, tus cargas familiares, … En este ámbito, los sensores son especialmente relevantes porque aportan gran cantidad de datos que ayudan a optimizar y hacer precisiones muy acertadas.

Sugerencia de contenidos basados en tus gustos y preferencias para mantenerte más tiempo conectado y que consumas sus servicios o productos.

Las webs que visitas, las compras que haces, tus me gusta, los productos que ves, tu ideología, tu edad, tus aficiones, tu sexo, tu poder adquisitivo, tu trabajo, con quien te relacionas, … tus reacciones ante determinados contenidos (reconocimiento facial, tu iris,…)

Mejora de la eficiencia de los sistemas de gestión de riesgos. Disponen de más datos y conceden préstamos con menor riesgo, igual que sucede con los seguros de salud, de vida o de coche.

Tu nómina, tus gastos, tus préstamos, si alguna vez te has retrasado en los pagos, si estás en el listado de personas morosas, si haces apuestas online, en qué gastas tu dinero, si tienes ahorros, el tiempo que has estado sin empleo, dónde vives, tus datos personales, los datos financieros de tu familia,.

La mejora en la gestión de residuos, el diseño de estrategias contra el cambio climático, la reducción de la contaminación, análisis de datos para promover la biodiversidad, gestionar la basura de los océanos, las soluciones ante desastres naturales y soluciones tecnológicas innovadoras para el Agro.

Tus hábitos de consumo, dónde vives,   tu sensibilidad con cuestiones medioambientales,… Aquí los sensores también juegan un papel importantísimo, al medir la humedad, la temperatura, el viento y con las predicciones meteorológicas cada vez más precisas, se puede hacer un uso mucho más eficiente del agua, la electricidad y para la gestión de los cultivos, los bosques y las granjas.

Itinerarios formativos personalizados y herramientas de autodiagnóstico, en materias que permitan explotar el talento y el potencial de cada persona, de forma flexible, relegando el papel de los profesionales de la educación formal, no formal e informal a un papel de facilitación, acompañamiento, asesoramiento, motivación o validación.

Tus datos personales, tus intereses, tu talento, el tiempo que pasas en Internet, tus hábitos, tus aspiraciones, tu entorno familiar, tu entorno social, tu formación, tu experiencia, tu motivación, tu profesión, tus aspiraciones, tus hobbies,  el reconocimiento facial (para pasar lista).

La IA ha demostrado su valor para enfrentar la pandemia de COVID-19

  • PContribuye a frenar el impacto económico de la crisis a través de las plataformas digitales.
  • También ayuda a los investigadores a procesar grandes cantidades de datos en la carrera para encontrar una vacuna o un tratamiento.
  • La IA ha participado para contener la propagación del virus a través de tecnologías de prueba, rastreo y seguimiento.
  • Sin embargo, a medida que la gente está dando acceso a sus datos, el uso de la IA durante esta pandemia ha reabierto las preocupaciones sobre la privacidad, la protección de los datos y el uso de los datos más allá de las necesidades de rastreo del virus.

Los datos: ¿Cómo se extraen? ¿Cómo se utilizan?

Los datos pueden obtenerse de múltiples fuentes, como las plataformas online donde los clientes consumen contenidos o realizan compras, los dispositivos móviles o incluso los wearables que se utilizan para hacer deporte. La lista es interminable. 

Y todo esto, mientras aumenta el uso que hacemos de todos esos dispositivos, se instalan más y más sensores en espacios públicos y privados, en medios de transporte y se aplican técnicas de reconocimiento facial y gestión inteligente en los servicios, los procedimientos administrativos o las nuevas herramientas de comunicación y trabajo.

I. A.

Algoritmos

Los algoritmos son programas informáticos que procesan todos estos datos, los cruzan con millones de datos de nuestro entorno, y nos ofrecen resultados personalizados a nuestras búsquedas (información, música, vídeo, productos,…) o sugerencias mientras navegamos por Internet. 

Pero también están detrás de la concesión de prestaciones sociales, del acceso a préstamos, de procesos de selección de personal, de las listas de espera en los hospitales o las políticas sociales.

El diseño de estos algoritmos es una cuestión controvertida. No siempre sabemos cómo se programan. La transparencia es cada vez más importante. Solo así se puede evitar que un algoritmo discrimine a una persona por motivos injustificados.

Detrás de un algoritmo, siempre debe haber una persona que sea responsable de sus efectos y que pueda explicar las razones por la que el algoritmo ofrece un determinado resultado.

Aprendizaje Automático

El aprendizaje automático o «machine learning» es la parte más conocida de la Inteligencia Artificial, ya que es la que permite a las máquinas aprender a partir de unos datos y tomar decisiones en base a los patrones que han conseguido gracias al estudio de esos datos.

Ejemplo:

A medida que vamos escribiendo un correo en Gmail nos aparecen sugerencias de texto para autocompletar ese texto. Esto se ha conseguido gracias al aprendizaje automático en el procesamiento del lenguaje natural (PLN), a partir del análisis de datos e identificar aquellas palabras que solemos escribir detrás de otra, y así tomar la decisión de ofrecernos esa sugerencia cuando escribimos.

El aprendizaje automático sucede con cada experiencia, tanto cuando aceptamos una sugerencia como válida, como cuando la rechazamos. Toda esa información alimenta un sistema que aprende y ofrece resultados cada vez más precisos. ¡Toda una revolución que crece de forma exponencial!

Inteligencia Artificial

Al combinar datos, algoritmos, aprendizaje automático y aplicarlos a un contexto determinado, las tecnologías consiguen emular al cerebro humano, y es capaz de tomar decisiones por sí mismas. A esto se le llama inteligencia artificial y permite automatizar procesos que hasta ahora solo podían realizar las personas.

La inteligencia artificial le está dando forma al mundo en el que vamos a vivir. Aunque está presente en nuestras vidas desde hace años, los avances tecnológicos y el mayor uso que hacemos de las tecnologías digitales, han convertido la IA en la tecnología más estratégica del siglo XXI.

Invita a la reflexión: la inteligencia artificial facilita un número creciente de recomendaciones y sugerencias a las personas en su día a día, pero también a las administraciones públicas, los medios de comunicación, las industrias,… Por lo que debemos asegurarnos que esas tecnologías sean justas y seguras (Agenda Davos 2021).

Gobernanza

Gobernanza

La idea de gobernanza emerge con fuerza en la SIA. 

La convivencia de los intereses de la ciudadanía, las empresas, las administraciones públicas, los marcos normativos, las tecnologías, … genera relaciones complejas, en continua evolución. 

La gobernanza se refiere a ese entramado social, cultural, político y económico que la IA está transformando. 

La gobernanza de la IA requiere transparencia y ha de desarrollarse dentro de unos límites éticos y morales que actualmente no están definidos. El objetivo final se debe siempre a la promoción de una sociedad cohesionada, justa y diversa.

La ética aplicada a la Inteligencia Artificial produce un nuevo modelo de gobernanza con interrogantes abiertos: ¿dónde están los límites, qué valores guían ese modelo?, ¿quién debe establecer esas normas?, ¿los gobiernos, las empresas tecnológicas, la ciudadanía? 

La educación, la cultura, los derechos humanos, el mercado de trabajo. La SIA requiere una nueva versión de todo lo que conocemos que debemos reinventar.

«Todas las personas, en todas las partes del mundo, deberíamos participar en este debate.
¡La Inteligencia Artificial es asunto de todos los seres humanos!»

UNESCO

P

La IA ya está en nuestras vidas. El primer paso es convenir exactamente qué valores deben ser consagrados, y qué normas deben ser aplicadas. ¿Quién es responsable de los perjuicios que puedan causar las técnicas de IA? Hay vacíos legislativos. Existen muchos marcos y directrices, pero se aplican de manera desigual. La IA es mundial, para regularla se deben considerar las diferentes culturas, valores, las distintas sensibilidades en torno a temas críticos como el género, la identidad, el color de la piel, la edad.  (UNESCO, 2021).

 La IA no puede ser un mundo sin ley. Países y organizaciones internacionales están dando los primeros pasos en sus marcos éticos y normativos para contrarrestar las brechas digitales y garantizar la igualdad de oportunidades, la inclusión y la participación de todas las personas en el nuevo paradigma SIA.

P

La IA puede ser una herramienta poderosa para abordar el cambio climático y las cuestiones ambientales. Mediante la recopilación y el análisis de datos, los modelos impulsados por la IA podrían ayudar a mejorar la gestión de los ecosistemas y la restauración del hábitat, la gestión de los residuos, los océanos,… 

La extracción de datos consume casi el diez por ciento de la energía a nivel mundial. Por lo tanto, también es esencial abordar el alto consumo de energía de la IA y el consiguiente impacto en la emisión de carbono. 

P

La IA contribuye a la polarización de la sociedad en burbujas de filtros y cámaras de eco, que a su vez son espacios propicios para la proliferación de campañas de desinformación. Las técnicas de IA sirven tanto para crear y difundir noticias manipuladas como vídeos (Deep fakes) que pueden suplantar la identidad de personajes públicos, con su consiguiente influencia en la opinión pública.

Fomentar la alfabetización mediática y el pensamiento crítico mitigará los efectos negativos que la IA tiene en la democracia y la cohesión social, especialmente ante la fabricación automática de contenidos con fines políticos y su influencia en la sociedad.

P

Siempre debe haber una persona que responda ante las consecuencias de la aplicación de cualquier forma de IA. Los resultados de cada proceso deben poder explicarse en todo su recorrido. 

Las cajas negras, los algoritmos opacos, las fuentes de datos sesgados, el reconocimiento facial y de voz, son algunas cuestiones controvertidas ante negocios como la publicidad o los servicios financieros, la vigilancia masiva o la gestión de la pandemia,…

Se deben fomentar técnicas responsables que generen confianza en la sociedad, con datos abiertos y registros que permitan entender el uso que las empresas y administraciones públicas hacen de los datos.

P

La integridad física de las personas, la convivencia pacífica, los valores democráticos, la privacidad, la identidad y la diversidad son límites evidentes en la aplicación de técnicas de IA. Sin embargo, son cuestiones globales que no están garantizadas en todo el mundo.

 Nuevas amenazas ante el valor creciente de nuestros datos personales, la mayor disponibilidad de información sensible en la Red, empresas con intereses poco éticos y un incremento de servicios y aplicaciones que generan datos. Los gobiernos y la sociedad civil deben velar por el uso seguro de la IA, comprometido con los Derechos Humanos y la dignidad de las personas.

P

Mejorar tus competencias digitales en materias como la ciberseguridad, la búsqueda, evaluación, filtrado y gestión de la información, velar por tu identidad digital, analizar los servicios y los dispositivos que realizas, navegar de forma segura y, sobre todo, velar por tus datos y ser consciente de los permisos que concedes, las cláusulas que aceptas y las consecuencias que eso puede tener.

Debemos ser conscientes de esta realidad de la sociedad de la IA en la que nos encontramos, aprender cómo se utilizan los datos generados y entender de dónde proceden todas las interacciones que las máquinas nos devuelven. Es imposible no generar datos y que éstos sean utilizados, pero sí podemos comprender los procesos y hacer que esos datos estén dirigidos a devolvernos informaciones y servicios que contribuyan a una sociedad inclusiva y cohesionada.

Estamos ante la tecnología más estratégica del siglo XXI, por lo que la formación especializada en técnicas de IA, desde cualquier disciplina, ayudará a mejorar nuestras opciones de desarrollo personal, social y profesional en la Sociedad de la IA.

Experimenta

Experimenta con la IA

A través de esta sección se puede acceder a distintas herramientas que permiten practicar y experimentar con el aprendizaje automático y tratar cuestiones cómo la ética… ¡además de divertirte!

Teachable Machine

Teachable Machine es una herramienta basada en la Web que hace posible crear modelos de aprendizaje automático (machine learning) de manera rápida, sencilla y accesible para todos. ¿Cómo funciona? Recopila y agrupa los ejemplos, prepara el modelo y permite probarlo y finalmente exporta el modelo para proyectos: sitios, aplicaciones…Se puede descargar el modelo o alojarlo online de forma gratuita.

LearningML - AI made easy: Home spanish

LearningML es una plataforma web para la enseñanza y aprendizaje de Machine Learning o Aprendizaje Automático, una de las técnicas de Inteligencia Artificial más exitosas y utilizadas en la actualidad. Esta plataforma constituye una herramienta completa para construir modelos de Machine Learning y programar aplicaciones que utilizan dichos modelos. La base pedagógica sobre la que se ha diseñado LearningML es la de “aprender haciendo”.

Survival of the Best Fit

Survival of the Best Fit es un juego web basado en la aplicación de la inteligencia artificial para la selección de personal. Simula lo que sucede cuando las empresas automatizan sus procesos de selección y ofrece una gran explicación intuitiva de cómo el sesgo (humano) puede afectar en aplicaciones de inteligencia artificial o aprendizaje automático en el reclutamiento, selección u otras prácticas y procesos de gestión de recursos humanos.

This Person Does Not Exist

Este sitio web utiliza la inteligencia artificial para crear imágenes de personas y cosas que no existen. Cada vez que se actualiza aparece una imagen distinta y todas tienen algo en común: no son reales y están generadas utilizando inteligencia artificial.

Quick, Draw!

Juego creado con aprendizaje automático con el que dibujas, y una red neuronal intenta adivinar lo que estás dibujando. Por supuesto, no siempre funciona. Pero cuanto más juegues con él, más aprenderá. Esto es un ejemplo de cómo se puede usar el aprendizaje automático de formas divertidas.

AI Experiments

AI Experiments es un escaparate de experimentos simples que facilitan que cualquier persona comience a explorar el aprendizaje automático a través de imágenes, dibujos, lenguaje, música y más.
Puedes acceder ahora a esta herramienta y comenzar a experimentar.

Máquina Moral

Las máquinas inteligentes están apoyando o totalmente asumiendo actividades humanas cada vez más complejas. La mayor autonomía dada a las máquinas inteligentes en estos papeles, puede llevar a situaciones en las que éstas tienen que tomar decisiones de manera autónoma, que afectan a la integridad física de humanos. Este juego sirve para que las personas opinen sobre cómo las máquinas deben tomar decisiones cuando se enfrentan a dilemas morales.

Thing Translator

Esta web forma parte de la colección de experimentos de IA de Google. Utilizando la cámara web, se toma una fotografía y la herramienta, utilizando técnicas de aprendizaje automático, reconoce el objeto y nos dice qué es en distintos idiomas. Es solo un ejemplo de lo que puede hacer con las API de aprendizaje automático de Google, sin necesidad de profundizar en los detalles del aprendizaje automático.

DeepFakes, Can You Spot Them?

Un deepfake es una tecnología basada en la Inteligencia Artificial que consigue superponer el rostro de una persona en el de otra y falsificar sus gestos para hacernos creer que están haciendo o diciendo algo que no ha pasado en realidad. Esta web muestra videos de los que la mitad son deepfakes, la otra mitad no y permite ir dando respuestas.

Referencias

Enlaces de referencia

Una vez evidenciado el potencial de desarrollo de la IA, a continuación se referencian iniciativas de ética aplicada a la IA de organizaciones que velan por la educación y la cultura (UNESCO), los Derechos Humanos, la democracia y la legislación (Consejo de Europa – CAHAI), la perspectiva global (Foro Económico Mundial) y la nacional (ENIA).

Estrategia Nacional de Inteligencia Artificial.
Noviembre 2020.
Con ella se pretende posicionar a España en este sector estratégico a nivel global que afecta a todos los ámbitos de la economía, además de potenciar el uso de la lengua española en la aplicación de la IA para la innovación y la generación de nuevas oportunidades.
https://www.lamoncloa.gob.es/presidente/actividades/Documents/2020/021220-ENIA.pdf

Primera versión del proyecto de recomendación sobre la Ética de la Inteligencia Artificial.
Diciembre 2020.
En este documento se plantean importantes cuestiones relacionadas con la creciente recopilación de datos susceptibles de usarse para sistemas de inteligencia artificial: la confidencialidad, la privacidad, el riesgo de reproducir prácticas discriminatorias y la propagación de estereotipos.
https://unesdoc.unesco.org/ark:/48223/pf0000373434_spa

Libro blanco sobre la Inteligencia Artificial de la Comisión Europea.
Febrero de 2020.
El Libro blanco de la inteligencia artificial busca un enfoque europeo coordinado en torno a las implicaciones éticas y humanas de la inteligencia artificial basado en la regulación y en la inversión, y dirigido a asegurar un ecosistema de excelencia y un ecosistema de confianza.
COMISIÓN EUROPEA Bruselas, 19.2.2020 COM(2020) 65 final LIBRO BLANCO sobre la inteligencia artificial – un enfoque europeo ori

Inteligencia artificial, naturalmente. ONTSI Y Red.es.
Junio 2020.
Un «manual de convivencia» entre humanos y máquinas que se centra en la Inteligencia Artificial, haciendo un breve recorrido por su historia, describiendo su impacto actual y planteando los retos que presenta desde diferentes perspectivas.
INTELIGENCIA ARTIFICIAL, naturalmente

The Impact of Artificial Intelligence on Human Rights, Democracy and the Rule of Law.
Junio 2020.
Recurso en inglés. Comité Ad Hoc sobre Inteligencia Artificial del Consejo de Europa.
CAHAI – Ad hoc Committee on Artificial Intelligence

Directrices éticas para una IA fiable
(Comisión Europea 2018).
La fiabilidad de la 
inteligencia artificial (IA) se apoya en tres componentes que deben satisfacerse a lo largo de todo el ciclo de vida del sistema: ética, lícita y robusta.
Ethics Guidelines for Trustworthy AI of the European Commission High Level Expert Group on AI 

Consejo sobre IA para la Humanidad.
Enero 2021
Foro Económico Mundial. Agenda de Davos.
World Economic Forum Global Future Council on AI for Humanity

Inteligencia Artificial e Inteligencia Estratégica.
Visión integral de las interconexión de la IA con todos los sectores de la sociedad, la economía y la cultura desarrollado por el Foro Económico Mundial.
https://intelligence.weforum.org/topics/a1Gb0000000pTDREA2?tab=publications

Contacto

Contacto

10 + 13 =