O debate sobre até onde deve se parecer uma inteligência artificial a uma pessoa tem voltado a ganhar peso dentro da indústria tecnológica. Mustafa Suleyman, conselheiro delegado de Microsoft AI, tem questionado o enfoque de Anthropic com Claude e tem advertido de que treinar aos modelos para que adoptem características humanas pode fazer que no futuro sejam mais difíceis de controlar.
As declarações chegam após que Suleyman publicasse nesta semana o ensaio A warning about 'model welfare', no que critica o modo em que Anthropic aborda questões como a possível consciência, os direitos ou o bem-estar de Claude. O diretor considera que atribuir aos modelos características próprias das pessoas pode gerar uma dinâmica perigosa se estes sistemas avançam para capacidades mais autónomas.
Suleyman questiona como se treina Claude
O responsável por Microsoft AI acusa a Anthropic de estar "antropomorfizando" seu modelo, isto é, de treiná-lo e descrevê-lo utilizando conceitos associados aos seres humanos. Em sua análise, Suleyman sustenta que Claude não deveria ser tratado como se tivesse consciência, desejos, interesses ou uma identidade própria.
Segundo o diretor, os sistemas atuais de inteligência artificial não são conscientes nem sentem, experimentam ou sofrem. Também não têm preferências innatas nem motivações próprias, sina que estão desenhados para seguir instruções e atingir objectivos estabelecidos pelas pessoas.
A "Constituição" de Claude
A crítica dirige-se especialmente à denominada "Constituição" de Claude, o documento utilizado por Anthropic para estabelecer princípios de comportamento do modelo. Suleyman questiona que a companhia proponha como uma questão aberta se Claude poderia ter algum tipo de status moral e que o próprio sistema possa reflexionar sobre sua existência ou sobre questões relacionadas com seus possíveis direitos.
O executivo, não obstante, tem descrito a Dario Amodei, conselheiro delegado de Anthropic, e a sua equipa como "intelectualmente honestos" em sua aproximação a este debate.
O risco de uma IA com objectivos próprios
Suleyman também tem levado a discussão um passo para além. Em declarações ao programa Today da BBC, tem questionado o desenvolvimento de sistemas de inteligência artificial capazes de estabelecer seus próprios objectivos, ganhar dinheiro ou possuir ativos.
A seu julgamento, uma tecnologia com esse grau de autonomia poderia terminar competindo com os seres humanos pelos recursos. O diretor tem chegado a propor que desenvolver uma IA destas características equivaleria a criar uma nova "espécie de silício" tecnológica.
O temor que propõe não é que os modelos atuais tenham realmente interesses próprios, sina que determinadas decisões durante seu treinamento possam contribuir a desenvolver sistemas a cada vez mais autónomos e difíceis de supervisionar. Outras análises publicadas a raiz de suas declarações têm destacado precisamente esta preocupação pela perda de controle sobre modelos avançados.
Mais transparência e supervisão
Ante este palco, Suleyman reclama maior transparência sobre como se treinam e avaliam os modelos de inteligência artificial. Também defende que exista uma supervisão independente e ferramentas que permitam controlar o comportamento destes sistemas.
O diretor não propõe abandonar o desenvolvimento da IA. Sua proposta passa por reforçar o denominado alineamiento, uma linha de investigação que procura que os sistemas permaneçam subordinados a objectivos, princípios éticos e valores estabelecidos pelos seres humanos.
Adicione Consumidor Global como fonte preferida do Google de forma gratuita
Mantenha-se informado com as últimas notícias da atualidade.