Cómo funciona esta tecnología que ya está transformando nuestras vidas, qué sabe hacer, qué no puede hacer… y por qué se ha vuelto indispensable comprenderla.
La inteligencia artificial está en todas partes
La inteligencia artificial está en todas partes. Traduce nuestros mensajes, recomienda películas, reconoce nuestros rostros, corrige nuestros textos, ayuda a tomar determinadas decisiones médicas y ahora responde a nuestras preguntas con un lenguaje que se parece extraordinariamente al nuestro. Se abre paso en las empresas, las administraciones públicas, las universidades, los hospitales e incluso en nuestras conversaciones cotidianas.
Desde la llegada de las grandes herramientas de inteligencia artificial generativa, su presencia se ha vuelto mucho más visible. En cuestión de segundos, una máquina puede redactar una carta, resumir un libro, crear una imagen, componer música o explicar un tema complejo. A veces basta con hacerle una pregunta.
La facilidad de uso resulta desconcertante. La tecnología que hay detrás lo es aún más.
Tras esa aparente sencillez se esconden sistemas informáticos de gran complejidad, entrenados con cantidades ingentes de datos y capaces de realizar tareas que, hasta hace poco, parecían reservadas exclusivamente al ser humano.
Pero ¿sabemos realmente qué es la inteligencia artificial? ¿Cómo funciona? ¿Aprende como aprendemos nosotros? ¿Comprende lo que nos cuenta? Y, sobre todo, ¿qué podemos esperar razonablemente de ella?
Antes de examinar las promesas, las inquietudes y las relaciones de poder que rodean esta revolución, tenemos que hacer un pequeño rodeo. No para impartir una clase de informática, sino para establecer algunas referencias indispensables.
Porque lo que nos espera va mucho más allá del funcionamiento de una máquina.
Una inteligencia… ¿pero de qué naturaleza?
La expresión «inteligencia artificial» puede inducir a equívocos. Sugiere que una máquina se ha vuelto inteligente en el mismo sentido que un ser humano. Sin embargo, la realidad es bastante más compleja.
La inteligencia artificial, o IA, designa un conjunto de técnicas que permiten a los sistemas informáticos realizar tareas que suelen requerir determinadas capacidades humanas: reconocer, clasificar, aprender, traducir, anticipar, resolver problemas o generar contenidos.
No existe una única definición que cuente hoy con el consenso de todos. La Organización para la Cooperación y el Desarrollo Económicos (OCDE) actualizó su definición en noviembre de 2023. Según esta definición, un sistema de IA es un sistema basado en una máquina que, a partir de la información que recibe y de objetivos explícitos o implícitos, deduce cómo generar resultados —predicciones, contenidos, recomendaciones o decisiones— capaces de influir en entornos físicos o virtuales. Los sistemas pueden presentar distintos grados de autonomía y adaptabilidad después de su puesta en funcionamiento.
Detrás de esta definición hay una idea bastante sencilla: dotar a una máquina de la capacidad de procesar información, extraer conclusiones y producir un resultado sin que una persona tenga que indicarle cada operación.
Pensemos en un ejemplo cotidiano. Cuando nuestro servicio de correo electrónico clasifica automáticamente un mensaje como correo no deseado, puede recurrir a mecanismos capaces de reconocer características comunes a miles de mensajes fraudulentos. Cuando nuestro teléfono identifica nuestro rostro, analiza elementos visuales para determinar si coinciden con los que ha aprendido a reconocer.
En ambos casos, la máquina realiza una tarea que exige algo más que una simple suma o una secuencia de instrucciones elementales.
Eso no significa que piense como nosotros. Significa que puede reproducir, mediante procedimientos informáticos, determinadas operaciones asociadas a nuestras facultades intelectuales.
Y esta distinción es fundamental.
¿Cómo puede aprender una máquina?
Para comprender cómo funcionan muchas de las inteligencias artificiales actuales, conviene recordar tres elementos: los datos, los algoritmos y los modelos.
Los datos constituyen la materia prima. Pueden adoptar la forma de textos, fotografías, sonidos, vídeos, cifras o información procedente de sensores.
Los algoritmos son métodos matemáticos e informáticos que permiten procesar esos datos.
El modelo, por último, es el sistema diseñado para realizar una tarea. En el aprendizaje automático, se ajusta durante un proceso de entrenamiento a partir de datos. Una vez entrenado, puede utilizarse para analizar nueva información y producir un resultado.
Imaginemos que queremos enseñar a un ordenador a reconocer gatos.
Le mostramos miles de fotografías: gatos negros, blancos y pelirrojos; sentados, tumbados, de frente o de perfil. Durante el entrenamiento, el sistema identifica regularidades en las imágenes: formas, texturas, proporciones y combinaciones de características.
No recibe necesariamente una lista completa de reglas del tipo: «un gato tiene dos orejas puntiagudas, bigotes y cola». Aprende a partir de los ejemplos que se le presentan.
Una vez entrenado, el modelo puede recibir una fotografía que nunca ha visto y estimar si representa a un gato.
Este es el principio general del aprendizaje automático, conocido también por su denominación inglesa, machine learning.
Existen distintas formas de aprender. En el aprendizaje supervisado, los ejemplos van acompañados de respuestas esperadas. En el aprendizaje no supervisado, el sistema busca agrupaciones o estructuras en los datos sin disponer de las mismas indicaciones previas. En el aprendizaje por refuerzo, progresa probando acciones y recibiendo recompensas o penalizaciones según los resultados obtenidos.
Estos métodos no son intercambiables, pero comparten una ambición: permitir que una máquina extraiga regularidades de la experiencia en lugar de depender exclusivamente de instrucciones escritas de antemano.
Del cerebro humano a las redes neuronales artificiales
Hay otra expresión que aparece con frecuencia cuando hablamos de inteligencia artificial: las redes neuronales.
El nombre no es casual. Estos sistemas matemáticos se inspiran, de forma muy simplificada, en algunas características del funcionamiento del cerebro humano.
En nuestro cerebro, las neuronas se comunican mediante conexiones complejas. Las redes neuronales artificiales reproducen ciertos principios de procesamiento de la información mediante unidades de cálculo conectadas entre sí y organizadas en capas.
Durante el entrenamiento, el sistema ajusta progresivamente un gran número de parámetros matemáticos para reducir los errores entre sus resultados y los resultados esperados, según el método utilizado.
Cuando estas redes tienen muchas capas, hablamos de aprendizaje profundo, o deep learning.
Este enfoque ha ampliado considerablemente las posibilidades de la inteligencia artificial. Ha contribuido, en particular, a los avances en reconocimiento de voz, análisis de imágenes, traducción automática y procesamiento del lenguaje.
Pero atención a la analogía: una red neuronal artificial no es un cerebro en miniatura. No posee nuestra organización biológica, nuestra experiencia del mundo ni, necesariamente, nuestras formas de comprensión.
El vocabulario tomado de las neurociencias no debe hacernos olvidar que estamos ante construcciones matemáticas e informáticas.
La IA generativa: ¿por qué nos impresiona tanto esta nueva generación?
Todos hemos oído hablar de ChatGPT, Claude, Gemini y otros asistentes conversacionales. Estas herramientas pertenecen a una familia especialmente visible de la inteligencia artificial: la IA generativa.
Su característica principal es que produce contenidos a partir de una petición formulada por el usuario. Ese contenido puede ser un texto, una imagen, un sonido, un vídeo o incluso código informático.
Los grandes modelos de lenguaje, conocidos habitualmente por las siglas inglesas LLM (Large Language Models), se entrenan con conjuntos de datos muy amplios, entre ellos textos. Aprenden regularidades en las palabras, las expresiones, las estructuras lingüísticas y los contextos.
Para simplificar su funcionamiento, podemos decir que, en cada etapa, un modelo de lenguaje calcula las probabilidades de los distintos elementos que podrían aparecer a continuación en una secuencia. Estos elementos se denominan «tokens»: pueden corresponder a una palabra completa, a una parte de una palabra o a otro fragmento de texto. A continuación, un mecanismo de generación selecciona un token entre las posibilidades, siguiendo reglas que pueden variar de una herramienta a otra. El modelo continúa así, paso a paso, hasta producir su respuesta.
Repetido a gran escala y enriquecido con arquitecturas sofisticadas, este mecanismo permite generar textos sorprendentemente coherentes.
Una pregunta da lugar a una respuesta. Una instrucción puede producir un resumen. Una conversación puede continuar teniendo en cuenta los intercambios anteriores. El sistema puede reformular, comparar, explicar o proponer distintas opciones.
Eso es precisamente lo que a veces crea la impresión de estar conversando con una persona.
Pero conviene examinar esa impresión. El modelo no consulta necesariamente una biblioteca de verdades en la que cada respuesta esté ya registrada. Genera una respuesta a partir de las regularidades aprendidas, del contexto que se le proporciona y de los mecanismos que rigen su generación.
Algunas herramientas también pueden consultar fuentes externas, utilizar programas o realizar búsquedas. Otras funcionan sin acceso directo a la información más reciente. Todo depende de su diseño y de las funciones que tengan asociadas.
Por tanto, es importante distinguir entre lo que el modelo ha aprendido durante su entrenamiento y lo que una herramienta puede consultar en el momento de responder.
¿Para qué sirve la inteligencia artificial?
Sería injusto contemplar la inteligencia artificial únicamente desde el prisma de sus riesgos. También abre posibilidades considerables, algunas de las cuales ya aportan beneficios concretos.
En medicina, los sistemas especializados pueden ayudar a analizar imágenes, detectar determinadas anomalías o trabajar con grandes cantidades de datos. Pueden asistir a los profesionales, pero no sustituyen automáticamente su experiencia ni su responsabilidad.
En la investigación científica, la IA permite explorar conjuntos de datos complejos, acelerar determinadas simulaciones y contribuir a la búsqueda de nuevas moléculas o materiales.
En educación, puede ayudar a explicar un concepto, adaptar un ejercicio al nivel de un alumno, traducir un documento o acompañar un proceso de aprendizaje. Eso sí, su uso debe estar bien orientado y el alumno no debe confundir la asistencia con el aprendizaje real.
En las empresas, interviene en la gestión de existencias, el mantenimiento predictivo, el análisis comercial, la relación con los clientes o la automatización de determinadas tareas.
En nuestra vida cotidiana, a veces está presente sin que apenas nos demos cuenta: recomendaciones de contenidos, filtros de correo no deseado, asistentes de voz, traducción automática, navegación y reconocimiento de imágenes.
Por último, en los ámbitos creativos puede convertirse en una herramienta de exploración, búsqueda de ideas, generación de imágenes o asistencia a la escritura.
Estos usos no son todos equivalentes. Algunos están bien consolidados; otros siguen siendo experimentales o requieren una validación humana rigurosa. Pero todos ilustran una realidad: la inteligencia artificial no es una tecnología única reservada a los laboratorios. Se integra progresivamente en numerosos sectores de la sociedad.
Lo que la inteligencia artificial puede hacer… y lo que no garantiza
Aquí es donde el entusiasmo debe dar paso a cierta prudencia.
Una IA puede producir una respuesta perfectamente formulada y, sin embargo, inexacta. Puede inventar una referencia, confundir dos acontecimientos, presentar una hipótesis como un hecho o reproducir un sesgo presente en los datos utilizados para su entrenamiento.
Los modelos generativos son conocidos, en particular, por producir lo que se denomina «alucinaciones»: información falsa o inventada que, en ocasiones, se presenta con gran seguridad.
Este fenómeno no significa que todos sus resultados sean falsos. Simplemente nos recuerda que una respuesta convincente no es necesariamente una respuesta verificada.
La IA también puede reproducir prejuicios o desequilibrios presentes en los datos utilizados para construirla. Puede funcionar bien en determinadas situaciones y fallar en otras, especialmente cuando las condiciones se alejan de las que encontró durante su entrenamiento.
También debemos distinguir la capacidad de manejar el lenguaje de la comprensión humana. Un modelo puede explicar la tristeza, escribir un poema sobre la soledad o mantener una conversación sobre el amor. Eso no demuestra que experimente esas emociones.
Puede producir frases que se parecen a las de una persona que comprende, sin que podamos deducir de ello que posee una experiencia subjetiva comparable a la nuestra.
Por tanto, la inteligencia artificial no es infalible, ni neutral por naturaleza, ni autónoma de forma automática. Sus capacidades dependen de su diseño, de sus datos, de sus objetivos, de sus herramientas y de las condiciones en las que se utiliza.
Y detrás de cada sistema hay decisiones humanas: técnicas, económicas, industriales y, en ocasiones, políticas.
Una tecnología y muchas preguntas que van más allá de la técnica
Ahora disponemos de algunas referencias básicas. Sabemos que la inteligencia artificial abarca tecnologías diferentes, que algunos sistemas aprenden a partir de datos, que otros se basan en reglas y que los modelos generativos pueden producir contenidos que a veces crean la ilusión de una conversación humana.
Pero comprender cómo funciona no es suficiente.
Una tecnología no debe juzgarse únicamente por lo que sabe hacer. También hay que examinar los usos que se hacen de ella, los intereses a los que sirve, el poder que concentra y las consecuencias que provoca.
¿Quién posee los datos? ¿Quién construye los modelos? ¿Quién decide sus objetivos? ¿Quién controla las empresas y las infraestructuras que los desarrollan? ¿Quién asume la responsabilidad por los errores? Y ¿quién se beneficia realmente de las ganancias de productividad anunciadas?
Estas preguntas nos llevan mucho más allá de la informática. Afectan a la economía, la política, las libertades individuales, la creación, el trabajo y, en última instancia, a nuestra propia concepción del progreso.
Sería prematuro, por tanto, concluir que la inteligencia artificial representa una amenaza para la humanidad. Pero sería igual de imprudente considerar que sus promesas bastan para garantizar un futuro mejor.
Entre la fascinación y la inquietud existe un espacio que queremos explorar: el del examen crítico, la confrontación de los hechos y la reflexión independiente.
Este capítulo de apertura no es más que una primera aproximación.
Hemos entreabierto la puerta para comprender de qué tecnología estamos hablando. Todavía no hemos explorado los intereses que orientan su desarrollo, las inquietudes expresadas por algunos de sus creadores, las rivalidades entre potencias, las transformaciones que provoca en el trabajo y la creación, ni las cuestiones de control y responsabilidad que plantea.
Ahí es precisamente donde comienza nuestra investigación.
¿Por qué algunos de los investigadores y directivos que participan en esta revolución alertan hoy sobre sus riesgos? ¿Qué temen exactamente? ¿Están de acuerdo entre ellos? Y cuando los intereses económicos, las ambiciones tecnológicas y la seguridad colectiva entran en conflicto, ¿quién decide el rumbo que hay que seguir?
Dejaremos ahora atrás estas primeras referencias para adentrarnos en los entresijos de esta revolución.
La otra cara de la revolución artificial. Esa que ya es urgente mirar de frente.
La inteligencia artificial: ¿sabemos realmente a quién nos enfrentamos?
Para inaugurar esta serie de investigaciones, esta primera entrega supera el entusiasmo inmediato para cuestionar la verdadera naturaleza de los sistemas que se instalan en nuestra vida cotidiana. ¿Qué se esconde tras las respuestas fluidas de los modelos? ¿Cómo distinguir la potencia de cálculo de la ilusión de conciencia? ¿Y por qué las preguntas que hoy plantean los creadores de la IA van mucho más allá de la tecnología?
Una serie de artículos, una obra en construcción
Cada publicación de The Dark Side of AI será concebida como una contribución a un proyecto más amplio. Los artículos, sus fuentes contrastadas y los análisis que los acompañan formarán progresivamente la materia de una obra profunda sobre los cambios, riesgos y desafíos humanos de la revolución artificial.
📝 Acceder al Blog oficial ➜