Rostand, promotor da AI Week Barcelona: "Existe o risco de que a IA nos controle ou mate"

Há um ano, dois empreendedores de apenas 22 anos, Adam Hruska e Tanguy Wincker (cofundadores da Rusker), organizaram um primeiro encontro sobre inteligência artificial que reuniu 3.000 pessoas em Barcelona. O evento contou com o apoio de Guillaume Rostand, presidente da French Tech Barcelona.

Aquela convocação teve tal sucesso que se repete com uma segunda edição. Este 16 de setembro arranca a AI Week Barcelona, uma semana que estender-se-á até o dia 23 com mais de 50 eventos por toda a cidade. O seu evento central, o AI Summit Barcelona, celebrar-se-á nos dias 22 e 23 no World Trade Center com uma previsão de mais de 15.000 participantes. A cimeira reunirá companhias como Anthropic, OpenAI, Microsoft, Google ou Nvidia, além da Generalitat de Cataluña, que aproveitará o marco do evento para apresentar o seu plano de investimento em IA.

À frente do projecto e da AI Alliance Barcelona —a entidade matriz organizadora— está o próprio Guillaume Rostand.

Rostand atende a entrevista num espanhol com acento e ideias francesas sem esquivar nenhuma das perguntas incómodas: nem a dos casos de suicídio vinculados ao uso de chatbots, nem a dos próprios pesquisadores de Anthropic que chegaram a falar de uma probabilidade real de extinção humana.

Artículo relacionado

Assim é Astra: o novo modelo de ChatGPT lançado por OpenAI com autonomia total

Ana Siles

--Que novidades importantes trará neste ano a AI Week Barcelona?

--Dentro do mundo da IA há novidades todos os dias. Acho que a novidade principal para a cidade é que estamos a criar uma semana que, de aqui em adiante, se vai repetir todos os anos. O que tentamos é pôr a AI Week Barcelona no mapa da IA a nível europeu, e quiçá global. Temos mais de 50 eventos sobre todos os temas: Voice AI, agentes, commerce… A ideia é: "Ouve, nesta semana em setembro realiza-se o maior evento mundial de IA na Europa.".

--Que pode esperar o público dos mais de 50 eventos da AI Week Barcelona?

--Encontrar pessoas que já estão a criar e operar esta mudança da IA. Temos empresas como Make.com, Vapi, especializada em Voice API, ou Amazon, através de AWS, que estão a inovar com novas ferramentas. Estes eventos permitem encontrar-te com quem realmente está a construir o que aí vem.

Descobrir tudo isto também ajuda o cidadão a pôr em perspectiva como vai mudar a IA a sua própria vida. A revolução tem um impacto tanto pessoal como profissional. Há apenas quatro anos que existe o ChatGPT e já estamos a ver os seus primeiros efeitos.

--Porque Barcelona se está a converter num ponto de referência para a inteligência artificial?

--Barcelona é muito conhecida no mundo pelos seus eventos: o Mobile World Congress, o Smart City Expo... Aqui cada indústria tem o seu evento na cidade. Há feiras sobre todos os temas, mas faltava uma sobre IA, e a criámos. Acho que a cidade facilita muito a organização de eventos.

--Ademais, contam com o apoio da Generalitat de Cataluña.

--Sim, a Generalitat de Cataluña vai anunciar durante a AI Summit os seus planos de investimento em inteligência artificial. Tomam esta mudança muito em sério e vão investir bilhão de euros em infraestruturas. A isto lhe acrescentamos o próprio lifestyle da cidade: o evento celebrar-se-á no World Trade Center em frente ao mar e mais de 50% das pessoas vêm de fora de Espanha atraída pela qualidade de vida, os espaços ao ar livre...

Artículo relacionado

Caem ChatGPT, Claude e Grok de maneira simultânea em todo mundo

Ana Carrasco González

--O passado 3 de setembro, ChatGPT, Claude e Grok sofreram quedas simultâneas. Se cada vez dependemos mais destas ferramentas, que ocorre quando todas falham?

--O que não vemos é o custo ou a complexidade da infraestrutura física que há para sustentar a IA. Há servidores e centros de dados que estão todos interconectados: se um falha, quase todos caem. Não sei exactamente o que aconteceu porque não o comunicaram, mas há que entender que debaixo de toda esta inteligência artificial há algo físico. A realidade é que a construção de infraestruturas vai mais lenta que o uso da IA; hoje em dia há mais procura que capacidade.

--OpenAI, Anthropic, Google e Microsoft estão a competir por converter na inteligência artificial que utilizemos todos os dias. Por enquanto, na sua opinião, quem vai ganhar a batalha?

--Súper boa pergunta. Todos pensávamos que ganharia ChatGPT de OpenAI. E desde há um ano e pico parece que o que ganha é Claude, da Anthropic. Eu utilizo quase todos os serviços, não tenho só um, e cada um tem a sua particularidade. Hoje digo-te Anthropic com segurança, mas não sabemos se amanhã será Google. Estamos no momento no qual se criam o mercado e as ferramentas; não atingimos a fase de maturidade.

--Pode ser que ainda nem se tenha criado o chatbot de IA vencedor.

--Acho que focamos-nos demasiado na competição entre estes quatro ou cinco players, mas amanhã teremos novos serviços e novas fromas de utilizar a IA que hoje não conhecemos. É muito complicado posicionar-se dentro desta mudança agora mesmo.

--Vamos para um futuro no qual teremos que pagar uma quota mensal para ter uma IA realmente útil, como pagamos Netflix ou Spotify?

--Ou se não, será com publicidade. Hoje tudo isto se subvenciona muitíssimo mediante rodadas de financiamento: os tokens custam-lhe mais ao operador do que paga cada utilizador, ou directamente o serviço é grátis. Algum dia estes actores vão ter que ganhar dinheiro, e para isso, ou metem publicidade como faz Google ou pagaremos todos, porque a assinatura atual não é rentável para eles. Ocorrerá como com Spotify: tinha uma publicidade cada três canções e agora é uma a cada uma. Não vejo outros modelos possíveis.

--Hoje há cidadãos que utilizam o ChatGPT como se fosse o seu melhor amigo ou, inclusive, o seu psicólogo. Usam-no para consultar sintomas ou tomar decisões económicas. Até que ponto deveríamos confirar numa IA?

--Eu mesmo a utilizo muito para perguntar antes de tomar uma decisão. Quando uma IA te conhece bem, fala quase com o teu próprio cérebro. Não podemos confiar de olhos fechados, mas após trabalhar um bom tempo com a IA, entende-te quase mais que a ti mesmo; é impossível ocultar esta realidade. Isso sim, eu confio muito nela para as minhas decisões profissionais, mas para as pessoais, por enquanto, não confio. Faço uma divisão clara entre o pessoal e o profissional.

--Isto pode chegar a ser muito perigoso. De facto, há casos de suicídio vinculados à inteligência artificial, porque viras os teus sentimentos em algo que, no final, é um banco de dados.

--Sim, há perigos. Mas acho que, como com muitas outras coisas perigosas hoje em dia —as redes sociais, por exemplo—, a chave está na educação: em ler, em entender, em não deixar que as crianças, os adolescentes ou qualquer pessoa caiam sem mais dentro da IA. Precisamos manter uma distância, porque o que diz uma IA não é a verdade universal. É uma ferramenta: se usa-la bem, ajuda-te muito; se não a usas bem, pode ser perigosa.

Artículo relacionado

Google vai a tribunal por causa da primeira morte associada à sua IA: convenceu um homem a tirar a própria vida

Ana Carrasco González

--A inteligência artificial precisa de uma enorme quantidade de dados. Que garantias tenho hoje de que as minhas conversas com o ChatGPT ou Gemini não acabarão a ser usadas para outros fins?

--Se falamos da quantidade de dados, acho que também é responsabilidade nossa ser conscientes do que lhe damos à IA. Os modelos utilizam demasiados recursos e energia, ainda que empresas como OpenAI ou Anthropic têm planos para reduzir por uma razão económica. Mas sobre as garantias... não, hoje não tens garantias. Tens que ser reservado na hora de introduzir dados.

--Anthropic está a preparar importantes movimentos em Espanha. Pode-nos adiantar que novidades do Claude veremos proximamente?

--Anthropic tem planos firmes de instalar-se e desenvolver a sua presença aqui em Espanha. Anunciarão novidades importantes, ainda que os detalhes concretos ainda não se sabem.

--Há investigadores que abandonaram a Anthropic alertando de que se está a desenvolver uma superinteligencia muito rápido, e outros peritos situam em mais de 10% a possibilidade de que se extinga o ser humano antes de que termine a década. Se quem constroi estas tecnologias dizem que não estamos preparados, porque deveríamos confiar em que as empresas saberão pôr estes limites?

--Tem razão, dá muito medo. Tenho sentimentos contraditórios sobre isto. A verdade é que estamos a dar muito poder a estas ferramentas e isso pode ser perigoso, mas também temos, como seres humanos, a responsabilidade de as utilizar bem. Chegará um ponto no qual a IA poderia chegar a controlar-nos ou a nos matar, e acho que essa é uma possibilidade num futuro bastante próximo. Temos que aprender a conviver com a ideia de que existem palcos nos quais perderemos o controle.

---Muitos de nós temos medo de chegar a esse ponto.

--Ter medo, para mim, é aceitar que já perdemos o controlo. Temos que entender que esta ferramenta é incrível, mas que se deixamos demasiado controle, perdê-lo-emos. Não me importo de dizê-lo: há um risco e não podemos utilizar a IA todos os sem pensar nas consequências.

--Não é uma irresponsabilidad continuar a acelerar o desenvolvimento sem ter primeiro as garantias de segurança?

--Aí está o grande dilema. A questão não é frear em seco, mas sim como aceleramos ao mesmo tempo o governo e a regulação. Quando digo que parece que perdemos o controlo, refiro-me a que a velocidade dos modelos ultrapassa a nossa capacidade cultural e legislativa. Por isso eventos como a AI Week procuram sentar na mesma mesa os criadores, os políticos e a cidadania. Não podemos confiar apenas na boa vontade da Anthropic ou da OpenAI para se imporem limites comerciais; estes limites devem ser definidos através de regulamentação pública.