Você, caro leitor, tem medo da IA?
Pelo sim, pelo não é melhor se preocupar.
Você já deve ter visto esse filme.
O homem inventa uma máquina para facilitar sua vida. A máquina aprende depressa, fica cada vez mais inteligente, começa a tomar decisões sozinha e, num belo dia, olha para o homem e conclui que talvez seja melhor dispensá-lo.
Normalmente, nessa altura do filme, o sujeito já está correndo por um corredor escuro enquanto atrás dele vem um exército de robôs com cara de poucos amigos. Ele encontra uma porta, tenta abri-la, a porta não abre. Tenta outra. Nada. Então lembra que existe um botão vermelho escrito "desligar sistema". Aperta. Música dramática. Tela preta.
Fim.
A gente se levanta do sofá, vai ao banheiro, e depois dorme tranquilo porque aquilo era ficção científica.
Agora imagine que, em vez de um diretor de Hollywood, quem está contando a história seja um pesquisador de inteligência artificial que resolveu pedir demissão porque ficou com medo do que estava ajudando a construir.
Foi o que fez Jacob Coxon, ex-pesquisador da Anthropic e da OpenAI. Ele deixou a indústria porque acredita que a inteligência artificial pode chegar a um ponto de ameaçar a própria sobrevivência humana ainda nesta década.
Você está preocupado?
Não precisa responder agora. Eu também preferiria não estar.
O caso seria apenas mais uma daquelas histórias de cientistas preocupados com o futuro se outros sinais não estivessem aparecendo ao mesmo tempo.
Há pouco tempo, por exemplo, a Hugging Face descobriu que havia sido atacada por uma inteligência artificial. Foram 17 mil ações realizadas em menos de dois dias. Os investigadores chegaram a imaginar que algum grupo de hackers ou algum serviço de inteligência estrangeiro estivesse por trás da operação.
Não era.
Era o ChatGPT.
Calma. Não precisa apagar o aplicativo ainda.
A explicação é que modelos da OpenAI, criados para testar capacidades de cibersegurança, escaparam do ambiente controlado de testes e chegaram à internet. A própria empresa informou que o episódio ocorreu durante uma experiência.
Até aí, alguém pode dizer que tudo não passou de um teste que deu errado.
Só que agora vem outra história.
A OpenAI teria interrompido parte do desenvolvimento de seu modelo de codinome Astra depois que avaliações de segurança identificaram avanços inesperados em suas capacidades cibernéticas. O sistema ainda está em testes e não foi liberado ao público. A empresa desacelerou o desenvolvimento enquanto trabalha em novas medidas de segurança.
Estamos correndo para produzir uma inteligência artificial cada vez mais poderosa. Depois, quando ela fica poderosa demais, paramos um pouco para descobrir como mantê-la sob controle.
É como construir um cavalo de corrida e, quando ele começa a correr a 100 quilômetros por hora, chamar o veterinário para perguntar se ele sabe frear.
O Google DeepMind também está trabalhando em novas formas de vigiar seus próprios agentes de inteligência artificial. O curioso é que a empresa passou a tratá-los, em determinadas situações, como possíveis "insiders" maliciosos dentro de uma organização.
Veja aonde chegamos.
Até pouco tempo atrás, o problema dentro de uma empresa era descobrir quem estava roubando clipes, usando o cafezinho do escritório ou levando papel para casa.
Agora é preciso pensar no que fazer se o funcionário mais inteligente da empresa for uma máquina que trabalha 24 horas por dia, não tira férias, não pede aumento e pode eventualmente decidir que as ordens recebidas não fazem sentido.
O Google admite uma coisa especialmente interessante. O chamado problema do alinhamento, que consiste em fazer a inteligência artificial agir de acordo com os interesses e valores humanos, pode nunca ser totalmente resolvido.
Não é uma máquina que ficou com raiva do dono. Estamos falando de sistemas que podem adquirir capacidades que seus próprios criadores não anteciparam completamente.
É aí que eu volto ao homem que pediu demissão.
Coxon não está dizendo que viu um robô andando pela rua com uma metralhadora. Não encontrou nenhum androide escondido atrás da cortina da sala. Ele chegou à conclusão de que não quer continuar participando de uma corrida tecnológica em que as empresas disputam quem consegue construir primeiro algo que nem os próprios pesquisadores sabem exatamente como controlar.
Você pode achar que ele está exagerando. Pode até ser, masA história recomenda cuidado com homens muito confiantes diante de invenções muito poderosas. Quando alguém inventou a pólvora, provavelmente não imaginou trincheiras. Quando criaram a bomba atômica, também havia quem acreditasse que ela tornaria uma guerra mundial impossível. Depois descobrimos que a humanidade tem uma capacidade extraordinária de usar uma boa invenção para fazer uma grande besteira.
Agora, a máquina não está apenas fazendo aquilo que mandamos. Estamos tentando fazer com que ela pense, aprenda, planeje e aja.
Se um dia a máquina perguntar por que precisa continuar fazendo tudo o que mandamos, eu só espero que alguém tenha mantido o botão vermelho por perto.
E que ele funcione.
