O Google está se comprometendo a não usar inteligência artificial para armas ou vigilância. Isso após funcionários protestarem contra o envolvimento da empresa no Project Maven, um programa piloto do Pentágono que usa inteligência artificial para analisar filmagens de drone. O Google vai continuar a trabalhar com militares do USA em segurança cibernética, busca e resgate e outros projetos não ofensivos.
No mês de Maio Sundar Pichai, CEO do Google, foi pego de surpresa. Mais de três mil funcionários, de estagiários a engenheiros com anos de casa, assinaram uma carta (PDF) pedindo que a companhia deixe de colaborar com o Pentágono no projeto Maven e não participe de “negócio de guerra”.
“A tecnologia está sendo desenvolvida para as forças armadas e que, quando entregue, poderá facilmente ser empregada em atividades diferentes.” (Afirmação realizada na carta)
Nem mesmo o fato de companhias como Amazon e Microsoft contribuírem há algum tempo com programas de defesa dos Estados Unidos tranquilizam os funcionários. Eles afirmam que isso não torna a participação do Google menos arriscada e mencionam o antigo lema “don’t be evil” (não seja mau) para lembrar o alcance que a companhia tem sobre bilhões de pessoas.
“Não podemos terceirizar as responsabilidades morais das nossas tecnologias. Os valores internos do Google deixam isso claro: cada um de nossos usuários confia em nós. Esse contrato põe em risco a reputação do Google e contraria nossos principais valores”, diz outro trecho da carta.
O CEO do Google, Sundar Pichai, anunciou a mudança em um conjunto de princípios da empresa com inteligência artificial publicado nesta quinta-feira (7). Os princípios têm como objetivo governar o uso da inteligência artificial pelo Google e são uma resposta à pressão dos funcionários sobre a empresa para que fossem criadas diretrizes para a utilização de IA.
Inteligência Artificial Socialmente Benéfica
O Google vai se concentrar em criar uma inteligência artificial “socialmente benéfica”, disse Pichai, e evitar projetos que causem “danos gerais”. A companhia aceitará contratos governamentais e com os militares norte-americanos desde que eles não violem seus princípios, acrescentou o CEO.
Como a IA é desenvolvida e usada terá um impacto significativo na sociedade por muitos anos”, escreveu Pichai. “Esses não são conceitos teóricos; são padrões concretos que vão governar nossa pesquisa e nosso desenvolvimento de produto, além de impactar nossas decisões de negócio.”
O Project Maven
“Não buscaremos renovação de contratos para o Project Maven!. Por isso, estamos agora trabalhando com nossos clientes para cumprir com responsabilidade nossas obrigações de uma maneira que funcione a longo prazo para eles e que também seja consistente com nossos princípios de IA”.
“Na maioria das frentes, esses princípios são bem pensados, e, com algumas ressalvas, recomendamos que outras grandes empresas de tecnologia estabeleçam diretrizes e objetivos semelhantes para o seu trabalho de IA”, Peter Eckersley, cientista-chefe de computação da Electronic Frontier Foundation, disse ao Gizmodo. Para melhorar seus princípios, o Google deveria se comprometer com uma revisão independente e transparente para garantir que suas regras sejam aplicadas corretamente, afirmou Eckersley. As afirmações de Pichai sobre não usar inteligência artificial para vigilância também deixaram algo a desejar.
“A empresa se limitou a ajudar apenas os projetos de vigilância de IA que não violem as normas aceitas internacionalmente”. “Poderia ser mais reconfortante se o Google tentasse evitar a criação de sistemas de vigilância assistidos por IA.” Disse Eckersley
