por Ligia Kallas
Tem IA agindo sozinha e as pessoas estão em pânico, agendando sua fuga para as
montanhas. Mas será que precisamos nos desesperar ou devíamos para de
assistir filmes de ficção científica?
O que estamos percebendo é uma mudança na relação entre seres humanos e
máquinas: durante muito tempo desenvolvemos ferramentas para ampliar nossa
capacidade de fazer, permitir criar e operar mais. Acontece que hoje começamos
a desenvolver e investir em sistemas com habilidade e capacidade de decidir e
agir por nós. A diferença fundamental aqui está na autonomia.
Por muitas décadas, os sistemas e ferramentas que criávamos tinham como
principal função responder a um comando. Uma calculadora esperava que você
digitasse uma operação para ela resolver. O rádio ou a TV eram meros receptores
de sinal – emitido e programado pelo homem. Máquinas criadas com a simples
finalidade de executar ordens, transmitir informações ou operar sistemas, mas
invariavelmente dispostas a servir a um propósito humano.
A mudança acontece quando realizamos que a intervenção humana era, sempre,
necessária e não opcional. O maquinário autônomo, criado com o propósito de
aumentar a capacidade produtiva, vira um grande problema quando o sistema
falha e não é capaz de reagir a imprevistos. Ter a estrutura necessária para
produzir 300 vezes mais perde seu apelo quando a mão humana é imprescindível
para seu funcionamento. Nesse momento percebemos que automação sem
autonomia tinha seus limites. Se quiséssemos produzir mais, tínhamos de deixar
máquinas mais ágeis, prontas e, principalmente, inteligentes.
A verdade é que a promessa da tecnologia sempre foi nos poupar trabalho e agora
o compromisso se amplia para não apenas fazer por nós ou mais rápido, mas fazer
melhor e com nosso mínimo esforço. Mas o que é ‘melhor’? Mais rápido? Mais
barato? Mais eficiente? Mais conveniente? Mais lucrativo? Quando delegamos
decisões, mesmo que na busca de mais produtividade, a gente transfere parte do
nosso julgamento.
E esse é o plot twist cruel com que nos deparamos: quanto mais queremos que a
máquina opere por nós, mais precisamos nos preocupar com o que ela entende
como objetivo e limites.
Antes, equipamentos aguardavam comandos, executavam o que lhes era
instruído e paravam quando solicitados. O ser humano era, efetivamente, o centro
da operação. Agora, estamos construindo sistemas que recebem uma missão e
continuam trabalhando até considerar que a missão foi cumprida – muitas vezes
independentemente dos meios. E a maior dificuldade aqui é que ética, moral e
valores são conceitos complexos que definem o humano e, se esperamos das
máquinas uma entrega humanizada, é claro que precisamos entender o que elas
compreendem disso.
A Inteligência Artificial não desenvolveu vontade própria, consciência de classe ou
se rebelou contra nós. A verdade é que estamos criando tecnologias para nos
libertar da execução, mas nos assustamos quando elas demonstram capacidade
de agir sem a gente. Queremos que os sistemas sejam suficientemente
autônomos para criar, pesquisar, programar, negociar e resolver problemas. Mas
rezamos para que eles permaneçam submissos e previsíveis para nunca fazer algo
que não aprovamos, mesmo que longe dos nossos olhos. Queremos que a
máquina decida por nós, mas estamos preparados para aceitar decisões que não
teríamos tomado?
