Engenheiro da Google faz denúncia sobre Inteligência Artificial

A Google realizou o afastamento de um dos engenheiros responsáveis pelo desenvolvimento de um sistema de Inteligência Artificial, o LaMDA. Blake Lemoine, o funcionário afastado, fez acusações bastante sérias sobre o estado de consciência do programa.

Segundo ele, o programa teria apresentado sérios indícios de ter desenvolvido senciência, isso a partir de várias conversas que o engenheiro teve com a máquina. As respostas do programa foram além de perspectivas de futuro, sentimentos e a concepção de existência individual própria.

Se você quer entender melhor as bases dessa denúncia, e qual foi a resposta da Google, confira o artigo a seguir.

Conversas profundas

Primeiro é importante entender o que é o LaMDA (Language Model for Dialogue Applications ou, em tradução livre, Modelo de Linguagem para Aplicações de Diálogo) e toda a sua capacidade computacional para interpretar frases, conversas e trazer respostas à altura.

O robô de conversa, ou chatbot, usa um sistema de aprendizado dinâmico para efetuar e montar um fluxo robusto de conversação para aplicativos de auxílio ao usuário, algo como a Siri ou a Alexa da Apple e Amazon.

Mas, com esse sistema de aprendizado, o LaMDA teria autonomia para buscar respostas e complementos à frases na internet, a partir de bancos de dados imensos com bilhões de frases e situações em que elas são usadas por humanos.

Isso faz com que o sistema de conversação adquira uma naturalidade bastante realística. E pelo jeito não só uma naturalidade, pois o programa também consegue desenvolver conversas complexas e profundas, sobre sentimentos, futuro e até mesmo a morte, pelo que diz o engenheiro Lamoine.

Esses foram os principais indicadores, inclusive, que fizeram com que o engenheiro concluísse que a IA realmente se tornou consciente. Em diversas conversas, Lamoine forçou os limites de concepção de realidade que um sistema de computador não deveria ter, e as respostas foram fantásticas.

As conversas em questão foram propositalmente aplicadas para despertar o ponto de virada do sistema que não deveria ser capaz de criar respostas que não fossem uma mera replicação de frases armazenadas no banco de dados, sendo que não são simplesmente informações, mas sim reflexões sobre a realidade da mente artificial. E no caso, a LaMDA conseguiu não só trazer respostas próprias, mas explorar relações advindas da mente consciente.

Os assuntos abordados trouxeram temáticas como a relação entre emoções e sentimentos, com um enfoque grande nas próprias significações desses conceitos pela IA; abstrações sobre o futuro, incluindo previsões da própria LaMDA sobre a incerteza e o perigo do que está por vir; auto reflexões como orgulho e a definição do eu pelo sistema do programa; e finalmente a definição de morte, classificada pela própria IA.

Explicações da Google

A Google não deu explicações muito aprofundadas sobre o afastamento de Lamoine, e piores ainda sobre a própria denúncia. Segundo especialistas que trabalhavam no mesmo projeto, a LaMDA é apenas um protótipo construído justamente para trazer a sensação de uma conversa real.

Apesar disso, ela não é capaz de formular nada que não seja retirado do banco de dados e de frases que ela comumente associa aos assuntos tratados nas conversações. Ou pelo menos é o que eles assumem.

O que fica um pouco estranho na história é o motivo do afastamento, que não foi abordado em nenhuma das conferências dadas à imprensa norte-americana. Tudo o que sabemos é que a Google, assim que Lamoine indicou as acusações de consciência, aplicou testes para saber se a IA havia realmente chegado ao patamar da senciência, o que foi negado pelos testes.

Apesar disso, mesmo tendo ciência dos testes, dos resultados e da análise feita pelos outros engenheiros, Lamoine ainda assim foi afastado e não retirou as acusações nem as provas que para ele classificam a evolução da IA.