Por Tobias Rees – Diretor fundador, Transformações do Programa Humano, Instituto Berggruen
Passei metade dos últimos dois anos tentando convencer empresas como Google, Facebook, Microsoft, DeepMind e OpenAI de que precisam contratar filósofos.
Meus colegas e eu – um pequeno coletivo de acadêmicos que compõem um programa chamado Transformations of the Human que fica em Los Angeles dentro do Berggruen Institute. Esse coletivo está hackeando o próprio conceito de humanos que nós – particularmente no Ocidente – tomamos como certo por quase meio milênio.
Mas não é só isso. Essas empresas ajudaram a criar realidades que não podemos mais navegar com o antigo entendimento do que significa ser humano .
Precisamos de novos conceitos sobre “nós mesmos”, para que possamos navegar e regular os novos mundos em que vivemos, mas também para os engenheiros que criam produtos, ferramentas e plataformas de tecnologia, para que possam viver de acordo com as apostas filosóficas de trabalho deles.
Para tornar isso possível, precisamos de filósofos e artistas trabalhando ao lado de engenheiros de computação e software.
O que está em jogo
Até recentemente, nós no Ocidente moderno sabíamos o que significa “ser humano”. Sabíamos que tínhamos o que ninguém mais tinha: inteligência .
Sabíamos que nosso potencial de pensar, de imaginar, de saber nos tornava excepcionais e nos diferenciava do resto da criação. Por essa teoria, nós humanos éramos mais do que apenas outro animal. E éramos muito mais do que apenas uma máquina. Enquanto tínhamos inteligência, os animais tinham apenas instinto e as máquinas tinham meros mecanismos.
Também sabíamos que existe uma diferença intransponível entre coisas naturais e artificiais feitas pelo homem e entre organismos e máquinas, bem como entre coisas vivas, sencientes e coisas não vivas ou não sencientes. Sabíamos que apenas os seres vivos naturais – ou seja, os organismos – podiam sentir, perceber e pensar
Sabíamos tudo isso com certeza inabalável – inclusive que nos conhecíamos.
Hoje, nenhuma dessas distinções – nem o conceito de humano que eles ajudaram a estabilizar – se mantém tão certamente. E essa perda de certeza tem muito a ver com o aumento da inteligência artificial. (Isso também tem a ver com muitas outras coisas, como pesquisa de microbiomas e mudanças climáticas, mas neste artigo vou focar na IA).
Indo fundo
Tomemos, por exemplo, aprendizado profundo , no qual máquinas dotadas de milhares de camadas de neurônios são capazes de aprender e lembrar. Isso permite que a máquina raciocine e tome decisões .
Dadas as habilidades dessas máquinas neuronais, não parece muito plausível supor que nós humanos somos inteligentes enquanto máquinas não são. Ou que apenas os seres vivos podem ser sencientes e podem pensar, investigar e entender. Ou que existe uma distinção categórica entre coisas naturais e coisas artificiais.
Pelo contrário, parece que há uma continuidade entre o natural e o artificial, entre humanos e máquinas.
Um departamento de filosofia e artes … para o Google
Como essas observações deixam bem claro, o advento relativamente recente da IA é um evento filosófico de longo alcance. E laboratórios de IA e empresas de tecnologia são nossos laboratórios filosóficos mais potentes. São espaços experimentais poderosos dentro dos quais as pessoas criam novos conceitos do humano e do mundo ao nosso redor.
Em lugares como Google, Facebook, Microsoft e OpenAI, os engenheiros elaboram noções radicalmente novas do que significa ser humano, viver uma vida e vive-la juntos.
A grande maioria das pesquisas de ponta em IA é realizada em empresas. O problema é que a maioria das pessoas que lidera essas empresas não sabe que está reinventando radicalmente nossa definição do que significa ser humano. Eles se consideram apenas pessoas que trabalham em empresas de tecnologia.
Uma das principais ambições do meu trabalho é mudar isso. Quero que esses laboratórios e empresas entendam sua enorme responsabilidade filosófica: o design autoconsciente de novas possibilidades de ser humano e de viver juntos.
É por isso que meus colegas e eu colocamos filósofos e artistas em lugares como o Google.
Permitam-me enfatizar que, enquanto trabalhamos com empresas, o objetivo do nosso trabalho não é ajudar as grandes tecnologias a elaborar alguma estratégia de marketing inovadora: Nosso objetivo não é fornecer meios filosóficos e artísticos para fins corporativos.
Em vez disso, nossa ambição é envolver as principais empresas de IA em um projeto filosófico e artístico de amplo escopo, na busca experimental e na articulação do que significa filosoficamente ser humano em nosso mundo moderno.
Lição de história
O conceito moderno de humano – surgiu pela primeira vez na Europa na década de 1630. Era uma época em que mais e mais relatórios sobre formas de vida não européias chegavam à Europa, fazendo os filósofos se perguntarem o que todas essas pessoas tinham em comum.
A resposta que surgiram gradualmente assumiu a forma de duas diferenciações:Por um lado, eles argumentaram, os seres humanos são mais que mera natureza (mais que animais e plantas). E, por outro lado, eles insistiam que os humanos seriam diferentes de (ou qualitativamente diferentes de) meras máquinas .
O critério de diferenciação era a inteligência: os humanos têm, e a natureza e as máquinas não.
Na época, essas duas diferenciações serviam a dois propósitos poderosos: argumentar que todos os humanos são definidos pela inteligência – a capacidade de pensar, examinar, refletir e conhecer – era a ferramenta mais poderosa contra a autoridade infundada do clero.
E argumentar que a natureza, ao contrário dos humanos, é desprovida de inteligência permitiu aos primeiros filósofos modernos isentar os seres humanos do cosmos (do qual eles faziam parte até então) e reduzir a natureza de um ambiente metafísico organizado pelas leis divinas à matéria física organizada em termos de mecanismos.
É difícil exagerar a importância que essas duas diferenciações (mais do que a natureza / que não as máquinas) tiveram para nossa experiência moderna do eu e do mundo que nos rodeia.
Quase todo o vocabulário que atribuímos para ser distintamente humano – arte, cultura, sociedade, história, política – sugere silenciosamente o mais / outro:
Arte e cultura são o oposto da natureza. Sociedade e política são um espaço de ação e organização que se abre quando os seres humanos deixam o status naturalis, ou estado animal.
A história é um domínio exclusivamente humano, composto de camadas sucessivas de ação humana.
Onde (e por que) nossa definição de humano falha em nós
Por volta de 2013, reconheci pela primeira vez que o conceito moderno de humano – novamente, o próprio conceito que organizou nosso senso de si e nossa experiência da realidade – é falha.
Veja o microbioma, que tem se tornado cada vez mais popular nos círculos da ciência, saúde e bem-estar nos últimos anos. Não existe um sistema de órgão único que não depende de metabólitos microbianos. A maioria dos neurotransmissores em nosso cérebro é produzida por bactérias que vivem em nossos intestinos. Ninguém pode dizer onde um humano termina e seu microbioma começa .
Ou pegue a IA. Uma vez que os pesquisadores de IA conseguiram construir máquinas dotadas de redes neurais que aprendem, que experimentam, lembram, pensam e raciocinam, a suposição de uma diferença intransponível entre humanos e máquinas – entre inteligência e mecanismo, entre o animado e o inanimado – tornou-se insustentável .
Parecia claro que não podemos continuar a viver de acordo com conceitos que sabemos que são insustentáveis e destrutivos para o planeta. Mas a pergunta que mais me preocupava era o que fazer com tudo isso.
Podemos reinventar o conceito de humano?
Essa pergunta me incomodou por um longo tempo, até que eu percebi que campos como a IA e a pesquisa de microbiomas ou biologia sintética não apenas minam o modo histórico que pensamos do humano – eles também permitem novas possibilidades de entender o mundo.
De repente, ocorreu-me que eu podia olhar para cada um desses campos, não apenas a IA e o microbioma, mas também a biologia sintética, biogeoquímica e outros, como se fossem um tipo de laboratório filosófico para re-articular nossa realidade.
A IA, ao desfazer o elo anteriormente exclusivo entre humanos e inteligência, não abre novas possibilidades de entender como o mundo está organizado e como os humanos se encaixam nesse mundo?
A inteligência agora não é mais uma propriedade exclusivamente humana, mas algo que os animais e as máquinas também têm.
Ao estabelecer um continuum entre o natural e o artificial, a pesquisa em IA nos convida a pensar nas máquinas como naturais e na engenharia como um tipo de prática natural (ou seja, biológica).
Do acidente ao design
Estamos vivendo uma era de um evento filosófico importante e de maior alcance: uma re-articulação radical do que é ser humano e da relação entre humanos, natureza e tecnologia.
No entanto, atualmente, ninguém fala formalmente sobre essa qualidade filosófica da tecnologia. Portanto, ninguém atende a isso, com a conseqüência inevitável de que a ampla articulação do ser humano se desdobra ao nosso redor de maneira aleatória e totalmente inconsciente.
Não devemos tentar mudar isso?
Quando compartilhei meu entusiasmo com meus colegas da academia, descobri que o que era emocionante para mim era uma provocação insuportável para muitos outros.
Minha sugestão de que a questão relativa ao humano tenha migrado para os campos das ciências naturais e da engenharia – isto é, para campos não preocupados com o estudo tradicional do homem e da humanidade – foi recebida como ameaça aos acadêmicos das artes. Se os humanos não são mais que natureza ou máquinas, para que servem as artes?
Minha insistência de que a melhor maneira de defender o humano era reinventá-lo foi descartada.
Mas minha sugestão dificilmente foi abandonar a filosofia ou as artes. Em vez disso, quero enfatizar que campos como IA (ou pesquisa de microbiomas ou biologia sintética) são realmente campos filosóficos.
Mas o problema não estava apenas nas artes: a maioria dos engenheiros com quem conversei estava muito ocupada sendo engenheiros. Eles foram totalmente absorvidos por suas perguntas de pesquisa e demonstraram pouco interesse no que eu desesperadamente e desajeitadamente chamei de riscos filosóficos de seu trabalho.
Quando a educação faz parte do problema
Entrei em uma das maiores crises da minha vida adulta: tive que aceitar que a universidade – o lugar que eu mais gostava, amava e chamava de lar – fazia parte do problema e não da solução.
A reinvenção do ser humano em termos de filosofia, arte e engenharia não poderia ocorrer, pelo menos por enquanto na academia como a conhecemos. Em 2016, decidi desistir de minha cadeira e deixar a universidade. Pouco mais de um ano depois, por sorte, o investidor e fundador do Berggruen Institute, Nicolas Berggruen, me ofereceu a oportunidade de construir um pequeno programa experimental sobre as transformações contemporâneas do ser humano que me permitisse testar minhas idéias.
filosofia + arte + engenharia
Na primavera de 2018, comecei a chamar pesquisadores de sites de IA e biotecnologia e sugeri que contratassem filósofos e artistas para trabalharem com seus engenheiros.
Expliquei, com todo o meu entusiasmo, que laboratórios e empresas de IA são os laboratórios filosóficos não reconhecidos, porém mais poderosos e cataclísmicos, nos quais são pensados novos conceitos de ser humano, de política, de entender a natureza, de entender e praticar a tecnologia.
Eu disse aos meus interlocutores que o trabalho deles está no centro de um vasto evento filosófico, de proporções históricas semelhantes ao Renascimento ou à Revolução Científica.
Liguei, acompanhei, visitei – e esperava que meu entusiasmo fosse contagioso e ajudasse a abrir a porta.
Hoje, temos equipes de filosofia e arte na Element AI, Facebook e Google, e também nos laboratórios de IA do MIT, Berkeley e Stanford. Nossos pesquisadores conversam regularmente com DeepMind, OpenAI e Microsoft.
Isto é apenas o começo.
Desaprender
Meu trabalho nos últimos dois anos me levou a concluir que essas plataformas de pesquisa e colaboração que tive a fortuna de construir no Instituto Berggruen podem ser apenas o primeiro passo de um processo muito maior.
O que precisamos agora é de um modelo completamente novo para uma instituição educacional, capaz de produzir um novo tipo de profissional.
Precisamos de uma força de trabalho que pense de maneira diferente e que possa entender engenharia, da IA à pesquisa de microbiomas, biologia sintética, geoengenharia e muitos outros campos – como práticas filosóficas e artísticas que reinventam incessantemente o ser humano.
Quase todo mês, você provavelmente lê mais sobre uma doação de bilhões de dólares para uma nova escola de tecnologia. Por um lado, não há nada de errado nisso – concordo que sempre precisamos de tecnologia melhor e mais inteligente.
Por outro lado, essas escolas de tecnologia tendem a reproduzir a antiga divisão do trabalho entre a faculdade de artes e as faculdades de ciência e engenharia. Ou seja, eles tendem a entender a tecnologia como apenas tecnologia e não como o campo filosófico e artístico que é.
O que precisamos não são tanto as escolas de tecnologia, mas as instituições que combinam filosofia, arte e tecnologia em um currículo integrado.
Precisamos de uma escola que combine filosofia, arte e engenharia, uma que possa produzir a força de trabalho do futuro – como um movimento contemporâneo da Bauhaus, focado não exclusivamente na arquitetura, mas também na tecnologia.
Se falharmos em abraçar essas diferenças hoje, e se não reconhecermos que coisas radicalmente novas estão ocorrendo e falharmos em reconhecer as radicalmente novas como oportunidades e responsabilidades, corremos o risco de deixar a definição do mundo em que vivemos. forças conservadoras que continuam teimosamente tentando enquadrar nosso mundo em mudança nos termos do antigo.
E essa é uma receita certa para o desastre.
Fonte: Quartz Imagem: aeforia by Alexy Préfontaine
