Rostand, promotor de la AI Week Barcelona: “Existe el riesgo de que la IA nos controle o mate”

Hace un año, dos emprendedores de tan solo 22 años, Adam Hruska y Tanguy Wincker (cofundadores de Rusker), organizaron un primer encuentro sobre inteligencia artificial que reunió a 3.000 personas en Barcelona. El evento fue respaldado por Guillaume Rostand, presidente de la French Tech Barcelona. 

Aquella convocatoria fue tal éxito que se repite con una segunda edición. Este 16 de septiembre arranca la AI Week Barcelona, una semana que se extenderá hasta el día 23 con más de 50 eventos por toda la ciudad. Su acto central, el AI Summit Barcelona, se celebrará los días 22 y 23 en el World Trade Center con una previsión de más de 15.000 participantes. La cumbre reunirá a compañías como Anthropic, OpenAI, Microsoft, Google o Nvidia, además de la Generalitat de Cataluña, que aprovechará el marco del evento para presentar su plan de inversión en IA.

Al frente del proyecto y de AI Alliance Barcelona —la entidad matriz organizadora— está el propio Guillaume Rostand.

Rostand atiende la entrevista en un español con acento e ideas francesas sin esquivar ninguna de las preguntas incómodas: ni la de los casos de suicidio vinculados al uso de chatbots, ni la de los propios investigadores de Anthropic que han llegado a hablar de una probabilidad real de extinción humana.

--¿Qué novedades importantes traerá este año la AI Week Barcelona?

--Dentro del mundo de la IA hay novedades cada día. Creo que la novedad principal para la ciudad misma es que estamos creando una semana que, de aquí en adelante, se va a repetir cada año. Lo que intentamos es poner la AI Week Barcelona en el mapa de la IA a nivel europeo, y quizá global. Tenemos más de 50 eventos sobre todos los temas: Voice AI, agentes, commerce… La idea es decir: “Oye, esta semana de septiembre es la cita de todo el mundo sobre IA en Europa”.

--¿Qué puede esperar el público de los más de 50 eventos de la AI Week Barcelona?

--Encontrar a la gente que ya está creando y operando este cambio de la IA. Tenemos empresas como Make.com, Vapi, especializada en Voice API, o Amazon, a través de AWS, que están innovando con nuevas herramientas. Estos eventos permiten encontrarte con quienes realmente están construyendo lo que viene.

Descubrir todo esto también ayuda al ciudadano a poner en perspectiva cómo va a cambiar la IA su propia vida. La revolución tiene un impacto tanto personal como profesional. Hace solo cuatro años que existe ChatGPT y ya estamos viendo sus primeros efectos.

--¿Por qué Barcelona se está convirtiendo en un punto de referencia para la inteligencia artificial?

--Barcelona es muy conocida en el mundo por sus eventos: el Mobile World Congress, el Smart City Expo... Aquí cada industria tiene su evento en la ciudad. Hay ferias sobre todos los temas, pero faltaba una sobre IA, y la hemos creado. Creo que la ciudad facilita mucho la organización de eventos. 

--Además, contáis con el apoyo de la Generalitat de Cataluña. 

--Sí, la Generalitat de Cataluña va a anunciar durante la AI Summit sus planes de inversión en inteligencia artificial. Se toman este cambio muy en serio y van a invertir mil millones de euros en infraestructuras. A esto le añadimos el propio lifestyle de la ciudad: el evento se celebrará en el World Trade Center frente al mar y más del 50% de la gente viene de fuera de España atraída por la calidad de vida, los espacios al aire libre...

--El pasado 3 de septiembre, ChatGPT, Claude y Grok sufrieron caídas simultáneas. Si cada vez dependemos más de estas herramientas, ¿qué ocurre cuando todas fallan?

--Lo que no vemos es el coste o la complejidad de la infraestructura física que hay para sostener la IA.  Hay servidores y centros de datos que están todos interconectados: si uno falla, casi todos caen. No sé exactamente qué pasó porque no lo han comunicado, pero hay que entender que debajo de toda esta inteligencia artificial hay algo físico. La realidad es que la construcción de infraestructuras va más lenta que el uso de la IA; hoy en día hay más demanda que capacidad.

--OpenAI, Anthropic, Google y Microsoft están compitiendo por convertirse en la inteligencia artificial que utilicemos todos los días. De momento, para usted, ¿quién va ganando la batalla?

--Súper buena pregunta. Todos pensábamos que ganaría ChatGPT de OpenAI. Y desde hace un año y pico parece que el que gana es Claude, de Anthropic. Yo utilizo casi todos los servicios, no tengo solo uno, y cada uno tiene su particularidad. Hoy te digo Anthropic con seguridad, pero no sabemos si mañana será Google. Estamos en el momento en el que se crean el mercado y las herramientas; no hemos alcanzado la fase de madurez.

--Puede que todavía ni se haya creado el chatbot de IA ganador. 

--Creo que nos enfocamos demasiado en la competición entre estos cuatro o cinco players, pero mañana tendremos nuevos servicios y nuevas maneras de utilizar la IA que hoy no conocemos. Es muy complicado posicionarse dentro de este cambio ahora mismo.

--¿Vamos hacia un futuro en el que tendremos que pagar una cuota mensual para tener una IA realmente útil, como pagamos Netflix o Spotify?

--O si no, será con publicidad. Hoy todo esto se subvenciona muchísimo mediante rondas de financiación: los tokens le cuestan más al operador de lo que paga cada usuario, o directamente el servicio es gratis. Algún día estos actores van a tener que ganar dinero, y para eso, o meten publicidad como hace Google o pagaremos todos, porque la suscripción actual no es rentable para ellos. Ocurrirá como con Spotify: había una publicidad cada tres canciones y ahora es una cada una. No veo otros modelos posibles.

--Hoy hay ciudadanos que utilizan ChatGPT como si fuera su mejor amigo o, incluso, su psicólogo. Lo usan para consultar síntomas o tomar decisiones económicas. ¿Hasta qué punto deberíamos fiarnos de una IA?

--Yo mismo la utilizo mucho para preguntar antes de tomar una decisión. Cuando una IA te conoce bien, habla casi con tu propio cerebro. No podemos fiarnos con los ojos cerrados, pero después de trabajar un buen tiempo con la IA, te entiende casi más que tú mismo; es imposible ocultar esta realidad. Eso sí, yo me fío mucho de ella para mis decisiones profesionales, pero para las personales, de momento, no me fío. Hago una división clara entre lo personal y lo profesional.

--Esto puede llegar a ser muy peligroso. De hecho, hay casos de suicidio vinculados a la inteligencia artificial, porque vuelcas tus sentimientos en algo que, al final, es una base de datos.

--Sí, hay peligros. Pero creo que, como con muchas otras cosas peligrosas hoy en día —las redes sociales, por ejemplo—, la clave está en la educación: en leer, en entender, en no dejar que los niños, los adolescentes o cualquier persona caigan sin más dentro de la IA. Necesitamos mantener una distancia, porque lo que dice una IA no es la verdad universal. Es una herramienta: si la usas bien, te ayuda muchísimo; si no la usas bien, puede ser peligrosa.

--La inteligencia artificial necesita una enorme cantidad de datos. ¿Qué garantías tengo hoy de que mis conversaciones con ChatGPT o Gemini no acabarán utilizándose para otros fines?

--Si hablamos de la cantidad de datos, creo que también es responsabilidad nuestra ser conscientes de qué le damos a la IA. Los modelos utilizan demasiados recursos y energía, aunque empresas como OpenAI o Anthropic tienen planes para reducirlos por una razón económica. Pero sobre las garantías... no, hoy no tienes garantías. Tienes que ser reservado a la hora de introducir datos.

--Anthropic está preparando importantes movimientos en España. ¿Nos puede adelantar qué novedades de Claude veremos próximamente?

--Anthropic tiene planes firmes de instalarse y desarrollar su presencia aquí en España. Anunciarán novedades importantes, aunque los detalles concretos aún no se saben. 

--Hay investigadores que han abandonado Anthropic advirtiendo de que se está desarrollando una superinteligencia muy rápido, y otros expertos sitúan en más de un 10% la posibilidad de que se extinga el ser humano antes de que termine la década. Si quienes construyen estas tecnologías dicen que no estamos preparados, ¿por qué deberíamos confiar en que las empresas sabrán poner estos límites?

--Tiene usted razón, da mucho miedo. Tengo sentimientos encontrados sobre esto. La verdad es que estamos dando mucho poder a estas herramientas y eso puede ser peligroso, pero también tenemos, como seres humanos, la responsabilidad de utilizarlas bien. Llegará un punto en el que la IA podría llegar a controlarnos o matarnos, y creo que esa es una posibilidad en un futuro bastante cercano. Tenemos que aprender a convivir con la idea de que existen escenarios en los que perderemos el control. 

--Muchos tenemos miedo de llegar a ese punto.

--Tener miedo, para mí, es aceptar que ya hemos perdido el control. Tenemos que entender que esta herramienta es increíble, pero que si dejamos demasiado control, lo perderemos. No me importa decirlo: hay un riesgo y no podemos utilizar la IA cada día sin pensar en las consecuencias.

--¿No es una irresponsabilidad seguir acelerando el desarrollo sin tener primero las garantías de seguridad?

--Ahí está el gran dilema. La cuestión no es frenar en seco, sino cómo aceleramos al mismo tiempo la gobernanza y la regulación. Cuando digo que parece que perdemos el control, me refiero a que la velocidad de los modelos supera nuestra capacidad cultural y legislativa. Por eso eventos como la AI Week buscan sentar en la misma mesa a los creadores, a los políticos y a la ciudadanía. No podemos confiar únicamente en la buena voluntad de Anthropic o de OpenAI para que se autoimpongan límites comerciales; los límites se tienen que poner desde la regulación pública.