As redes geradoras de conflitos não são apenas boas para causar danos. Eles também podem nos mostrar como os algoritmos de IA “pensam”.
GANs, ou redes antagônicas geradoras, são a estrela da mídia social dos algoritmos de IA. Eles são responsáveis por criar a primeira pintura de IA já vendida em um leilão de arte e pela sobreposição de rostos de celebridades nos corpos de estrelas pornôs. Eles trabalham colocando duas redes neurais umas contra as outras para criar saídas realistas com base no que são alimentadas. Alimente um monte de fotos de cães e crie cães completamente novos; Alimente muitas faces e crie novas faces .
Por mais que causem danos, pesquisadores do Laboratório AI do MIT-IBM Watson perceberam que as GANs também são uma ferramenta poderosa: porque eles pintam o que estão “pensando”, podem dar aos humanos uma visão de como as redes neurais aprendem e raciocinam. Isso tem sido algo que a comunidade de pesquisa mais ampla tem procurado há muito tempo – e se tornou mais importante com nossa crescente dependência de algoritmos.Inscreva-se no The AlgorithmInteligência artificial, desmistificada
Ao inscrever-se, você concorda em receber boletins informativos por e-mail e notificações da MIT Technology Review. Você pode alterar suas preferências a qualquer momento. Veja nossa Política de Privacidade para mais detalhes.
“Há uma chance de aprendermos o que uma rede sabe ao tentar recriar o mundo visual”, diz David Bau, um estudante de PhD do MIT que trabalhou no projeto.
Assim, os pesquisadores começaram a investigar a mecânica de aprendizado de um GAN, alimentando-o com várias fotos do cenário – árvores, grama, edifícios e céu. Eles queriam ver se aprenderia a organizar os pixels em grupos sensíveis sem ser explicitamente informado sobre como.
Incrivelmente, com o tempo, isso aconteceu. Ao ligar e desligar vários neurônios e pedir ao GAN para pintar o que pensava, os pesquisadores descobriram clusters de neurônios distintos que aprenderam a representar uma árvore, por exemplo. Outros clusters representavam grama, enquanto outros ainda representavam paredes ou portas. Em outras palavras, ele conseguiu agrupar pixels de árvores com pixels de árvores e pixels de porta com pixels de porta, independentemente de como esses objetos mudaram de cor de foto para foto no conjunto de treinamento.A GAN sabe que não deve pintar nenhuma porta no céu.LABORATÓRIO DE INTELIGÊNCIA ARTIFICIAL E CIÊNCIA DA COMPUTAÇÃO DO MIT
“Essas GANs estão aprendendo conceitos muito de perto, reminiscentes de conceitos que os humanos deram palavras”, diz Bau.
Não só isso, mas o GAN parecia saber que tipo de porta pintar, dependendo do tipo de parede retratado em uma imagem. Ele pintaria uma porta em estilo georgiano em um prédio de tijolos com arquitetura georgiana, ou uma porta de pedra em um prédio gótico. Também se recusou a pintar as portas de um pedaço do céu. Sem ser informado, o GAN de alguma forma captou certas verdades não ditas sobre o mundo.
Esta foi uma grande revelação para a equipe de pesquisa. “Há certos aspectos do senso comum que estão surgindo”, diz Bau. “Até agora não está claro se havia alguma maneira de aprender esse tipo de coisa [através do aprendizado profundo].” Isso é possível sugere que o aprendizado profundo pode nos aproximar de como nossos cérebros funcionam do que pensávamos anteriormente – embora isso ainda não ocorra em lugar algum. perto de qualquer forma de inteligência em nível humano.
Outros grupos de pesquisa começaram a encontrar comportamentos de aprendizagem semelhantes em redes que lidam com outros tipos de dados, de acordo com Bau. Na pesquisa de linguagem, por exemplo, as pessoas encontraram grupos de neurônios para palavras plurais e pronomes de gênero.
Ser capaz de identificar quais clusters correspondem a quais conceitos torna possível controlar a saída da rede neural. O grupo de Bau pode ligar apenas os neurônios das árvores, por exemplo, para fazer as árvores de pintura GAN, ou ligar apenas os neurônios da porta para fazê-lo pintar as portas. As redes de idiomas, da mesma forma, podem ser manipuladas para alterar sua produção – digamos, para trocar o gênero dos pronomes ao traduzir de um idioma para outro. “Estamos começando a capacitar a pessoa a fazer intervenções para causar resultados diferentes”, diz Bau.
Tataa! Estou feliz em anunciar o lançamento do #GANpaint hoje – com base no novo método #GANdissect , que ajuda a identificar quais unidades em um #GAN aprenderam. É uma alegria fazer parte da equipe de David Bau, @ junyanz89 , Antonio Torralba, #MITIBM #AIVeja https://t.co/tVs2olyyds pic.twitter.com/8C8HfwRCSE– Hendrik Strobelt (@henddkn)
A equipe lançou agora um aplicativo chamado GANpaint que transforma essa nova habilidade em uma ferramenta artística. Ele permite que você ligue conjuntos de neurônios específicos para pintar cenas de edifícios em campos gramados com muitas portas. Além de sua tolice como uma saída lúdica, também fala ao maior potencial desta pesquisa.
“O problema com a IA é que, ao pedir que faça uma tarefa para você, você está dando uma enorme quantidade de confiança”, diz Bau. “Você dá sua opinião, isso é pensamento genial, e isso lhe dá alguma saída. Mesmo se você tivesse um especialista humano que fosse super inteligente, não é assim que você gostaria de trabalhar com eles. ”
Com o GANpaint, você começa a soltar a tampa da caixa preta e estabelecer algum tipo de relacionamento. “Você pode descobrir o que acontece se você fizer isso, ou o que acontece se você fizer isso”, diz Hendrik Strobelt, o criador do aplicativo. “Assim que você pode brincar com essas coisas, você ganha mais confiança em suas capacidades e também em seus limites”.
Fonte: MIT Tecnology Review
