Rostand, promotor da AI Week Barcelona: "Existe o risco de que a IA nos controle ou mate"

Faz um ano, dois empreendedores de tão só 22 anos, Adam Hruska e Tanguy Wincker (cofundadores de Rusker), organizaram um primeiro encontro sobre inteligência artificial que reuniu a 3.000 pessoas em Barcelona. O evento foi respaldado por Guillaume Rostand, presidente da French Tech Barcelona.

Aquela convocação foi tal sucesso que se repete com uma segunda edição. Este 16 de setembro arranca a AI Week Barcelona, uma semana que estender-se-á até o dia 23 com mais de 50 eventos por toda a cidade. Seu acto central, o AI Summit Barcelona, celebrar-se-á nos dias 22 e 23 no World Trade Center com uma previsão a mais de 15.000 participantes. A cimeira reunirá a companhias como Anthropic, OpenAI, Microsoft, Google ou Nvidia, além da Generalitat de Cataluña, que aproveitará o marco do evento para apresentar seu plano de investimento em IA.

À frente do projecto e de AI Alliance Barcelona —a entidade matriz organizadora— está o próprio Guillaume Rostand.

Rostand atende a entrevista num espanhol com acento e ideias francesas sem esquivar nenhuma das perguntas incómodas: nem a dos casos de suicídio vinculados ao uso de chatbots, nem a dos próprios pesquisadores de Anthropic que têm chegado a falar de uma probabilidade real de extinção humana.

Artículo relacionado

Assim é Astra: o novo modelo de ChatGPT lançado por OpenAI com autonomia total

Ana Siles

--Que novidades importantes trará neste ano a AI Week Barcelona?

--Dentro do mundo da IA há novidades a cada dia. Acho que a novidade principal para a cidade mesma é que estamos a criar uma semana que, de aqui em adiante, se vai repetir a cada ano. O que tentamos é pôr a AI Week Barcelona no mapa da IA a nível europeu, e quiçá global. Temos mais de 50 eventos sobre todos os temas: Voice AI, agentes, commerce… A ideia isto é: "Ouve, nesta semana de setembro é cita-a de todo mundo sobre IA em Europa".

--Que pode esperar o público dos mais de 50 eventos da AI Week Barcelona?

--Encontrar à gente que já está a criar e operando esta mudança da IA. Temos empresas como Make.com, Vapi, especializada em Voice API, ou Amazon, através de AWS, que estão a inovar com novas ferramentas. Estes eventos permitem encontrar-te com quem realmente estão a construir o que vem.

Descobrir tudo isto também ajuda ao cidadão a pôr em perspectiva como vai mudar a IA sua própria vida. A revolução tem um impacto tanto pessoal como profissional. Faz só quatro anos que existe ChatGPT e já estamos a ver seus primeiros efeitos.

--Por que Barcelona se está a converter num ponto de referência para a inteligência artificial?

--Barcelona é muito conhecida no mundo por seus eventos: o Mobile World Congress, o Smart City Expo... Aqui a cada indústria tem seu evento na cidade. Há feiras sobre todos os temas, mas faltava uma sobre IA, e a criámos. Acho que a cidade facilita muito a organização de eventos.

--Ademais, contáis com o apoio da Generalitat de Cataluña.

--Sim, a Generalitat de Cataluña vai anunciar durante a AI Summit seus planos de investimento em inteligência artificial. Tomam-se esta mudança muito em sério e vão investir bilhão de euros em infra-estruturas. A isto lhe acrescentamos o próprio lifestyle da cidade: o evento celebrar-se-á no World Trade Center em frente ao mar e mais de 50% da gente vem de fora de Espanha atraída pela qualidade de vida, os espaços ao ar livre...

Artículo relacionado

Caem ChatGPT, Claude e Grok de maneira simultânea em todo mundo

Ana Carrasco González

--O passado 3 de setembro, ChatGPT, Claude e Grok sofreram quedas simultâneas. Se a cada vez dependemos mais destas ferramentas, que ocorre quando todas falham?

--O que não vemos é o custo ou a complexidade da infra-estrutura física que há para sustentar a IA. Há servidores e centros de dados que estão todos interconectados: se um falha, quase todos caem. Não sei exactamente que passou porque não o comunicaram, mas há que entender que embaixo de toda esta inteligência artificial há algo físico. A realidade é que a construção de infra-estruturas vai mais lenta que o uso da IA; hoje em dia há mais demanda que capacidade.

--OpenAI, Anthropic, Google e Microsoft estão a competir por converter na inteligência artificial que utilizemos todos os dias. Por enquanto, para você, quem vai ganhando a batalha?

--Súper boa pergunta. Todos pensávamos que ganharia ChatGPT de OpenAI. E desde faz um ano e bico parece que o que ganha é Claude, de Anthropic. Eu utilizo quase todos os serviços, não tenho só um, e a cada um tem sua particularidade. Hoje digo-te Anthropic com segurança, mas não sabemos se amanhã será Google. Estamos no momento no que se criam o mercado e as ferramentas; não temos atingido a fase de maturidade.

--Pode que ainda nem se tenha criado o chatbot de IA ganhador.

--Acho que focamos-nos demasiado na competição entre estes quatro ou cinco players, mas amanhã teremos novos serviços e novas maneiras de utilizar a IA que hoje não conhecemos. É muito complicado posicionar-se dentro desta mudança agora mesmo.

--Vamos para um futuro no que teremos que pagar uma quota mensal para ter uma IA realmente útil, como pagamos Netflix ou Spotify?

--Ou se não, será com publicidade. Hoje tudo isto se subvenciona muitíssimo mediante rodadas de financiamento: os tokens custam-lhe mais ao operador do que paga a cada utente, ou directamente o serviço é grátis. Algum dia estes actores vão ter que ganhar dinheiro, e para isso, ou metem publicidade como faz Google ou pagaremos todos, porque a assinatura atual não é rentável para eles. Ocorrerá como com Spotify: tinha uma publicidade a cada três canções e agora é uma a cada uma. Não vejo outros modelos possíveis.

--Hoje há cidadãos que utilizam ChatGPT como se fosse seu melhor amigo ou, inclusive, seu psicólogo. Usam-no para consultar sintomas ou tomar decisões económicas. Até que ponto deveríamos nos fiar de uma IA?

--Eu mesmo a utilizo muito para perguntar dantes de tomar uma decisão. Quando uma IA te conhece bem, fala quase com teu próprio cérebro. Não podemos fiar com os olhos fechados, mas após trabalhar um bom tempo com a IA, te entende quase mais que tu mesmo; é impossível ocultar esta realidade. Isso sim, eu me fio muito dela para minhas decisões profissionais, mas para as pessoais, por enquanto, não me fio. Faço uma divisão clara entre o pessoal e o profissional.

--Isto pode chegar a ser muito perigoso. De facto, há casos de suicídio vinculados à inteligência artificial, porque viras teus sentimentos em algo que, ao final, é um banco de dados.

--Sim, há perigos. Mas acho que, como com muitas outras coisas perigosas hoje em dia —as redes sociais, por exemplo—, a chave está na educação: em ler, em entender, em não deixar que os meninos, os adolescentes ou qualquer pessoa caiam sem mais dentro da IA. Precisamos manter uma distância, porque o que diz uma IA não é a verdade universal. É uma ferramenta: se usa-la bem, te ajuda muitíssimo; se não a usas bem, pode ser perigosa.

Artículo relacionado

Google vai a tribunal por causa da primeira morte associada à sua IA: convenceu um homem a tirar a própria vida

Ana Carrasco González

--A inteligência artificial precisa uma enorme quantidade de dados. Que garantias tenho hoje de que minhas conversas com ChatGPT ou Gemini não acabarão utilizando para outros fins?

--Se falamos da quantidade de dados, acho que também é responsabilidade nossa ser conscientes de que lhe damos à IA. Os modelos utilizam demasiados recursos e energia, ainda que empresas como OpenAI ou Anthropic têm planos para reduzir por uma razão económica. Mas sobre as garantias... não, hoje não tens garantias. Tens que ser reservado à hora de introduzir dados.

--Anthropic está a preparar importantes movimentos em Espanha. Pode-nos adiantar que novidades de Claude veremos proximamente?

--Anthropic tem planos firmes de instalar-se e desenvolver sua presença aqui em Espanha. Anunciarão novidades importantes, ainda que os detalhes concretos ainda não se sabem.

--Há investigadores que têm abandonado Anthropic advertindo de que se está a desenvolver uma superinteligencia muito rápido, e outros experientes situam em mais de 10% a possibilidade de que se extinga o ser humano dantes de que termine a década. Se quem constroem estas tecnologias dizem que não estamos preparados, por que deveríamos confiar em que as empresas saberão pôr estes limites?

--Tem você razão, dá muito medo. Tenho sentimentos encontrados sobre isto. A verdade é que estamos a dar muito poder a estas ferramentas e isso pode ser perigoso, mas também temos, como seres humanos, a responsabilidade das utilizar bem. Chegará um ponto no que a IA poderia chegar a nos controlar ou nos matar, e acho que essa é uma possibilidade num futuro bastante próximo. Temos que aprender a conviver com a ideia de que existem palcos nos que perderemos o controle.

--Muitos temos medo de chegar a esse ponto.

--Ter medo, para mim, é aceitar que já temos perdido o controle. Temos que entender que esta ferramenta é incrível, mas que se deixamos demasiado controle, perdê-lo-emos. Não me importo dizê-lo: há um risco e não podemos utilizar a IA a cada dia sem pensar nas consequências.

--Não é uma irresponsabilidad seguir acelerando o desenvolvimento sem ter primeiro as garantias de segurança?

--Aí está o grande dilema. A questão não é frear em seco, sina como aceleramos ao mesmo tempo o governo e a regulação. Quando digo que parece que perdemos o controle, me refiro a que a velocidade dos modelos supera nossa capacidade cultural e legislativa. Por isso eventos como a AI Week procuram sentar na mesma mesa aos criadores, aos políticos e à cidadania. Não podemos confiar unicamente na boa vontade de Anthropic ou de OpenAI para que se autoimpongan limites comerciais; os limites têm-se que pôr desde a regulação pública.