Quais são as responsabilidades éticas das empresas que são capazes de manipular o comportamento humano em grande escala? É uma questão que espera que tecnólogos e designers se perguntem quando criam produtos que mudam o mundo; porém não é realizado com muita frequência.
Nossos Aparelhos e Aplicativos são Persuasivos
Condicionamento operante; reforço intermitente; busca de auto-realização: as técnicas utilizadas pelos gerentes de produtos nas maiores empresas mundiais são partes iguais de psicologia e tecnologia. Como Sean Parker, presidente fundador do Facebook, reconheceu recentemente , a empresa há muito se envolveu no negócio de “explorar uma vulnerabilidade na psicologia humana”.
Nossos aparelhos e aplicativos são mais persuasivos do que nunca. No entanto, para os fabricantes dessas tecnologias, existem poucas diretrizes sobre como alterar o comportamento dos usuários de forma ética. Sem um padrão, as empresas tendem a pensar na busca interminável de mais engajamento, mais crescimento e mais lucros. Como um fundador do arranque me disse: “No final do dia, tenho obrigação para com meus investidores e funcionários, e farei o que quiser, sem quebrar a lei, para que as pessoas usem meu produto”.
A indústria de tecnologia precisa fazer melhor do que a ameaça de prisão para decidir fazer o que é certo.
Felizmente, a maioria dos tecnólogos e designers que conheço estão trabalhando para melhorar a vida das pessoas. Em todo o mundo, os empresários aspiram a criar produtos que os clientes adoram. Seja trabalhando em uma grande empresa de tecnologia do Silicon Valley ou fora de uma garagem, eles sonham em mover as pessoas para a ação, oferecendo-lhes a próxima melhoria indispensável em suas vidas, e a maioria tenta abordar isso de forma indireta.
O Poder de Projetar Comportamentos
Claro, muitos deles também não se importariam em ficar rico. Mas essa mistura – o impulso para fazer a diferença e o lucro – é como a humanidade resolveu muitos dos nossos problemas mais irritantes. Não há nada de errado com a construção de produtos que as pessoas desejam usar. Mas o poder de projetar o comportamento do usuário deve vir com um padrão de limitações éticas.
O problema são as mesmas técnicas que cruzam a linha em certos casos e levam a resultados desejáveis em outros. Por exemplo, há uma faixa no Snapchat que informa o número de amigos que compartilharam fotos em dias consecutivos. Essa opção foi criticada para condicionar os adolescentes a compulsivamente retornar ao aplicativo. Mas a mesma técnica de persuasão é usada pelo aplicativo de idiomas Duolingo para ajudar as pessoas a aprender um novo idioma com o programa.
As mesmas recompensas variáveis usadas para extrair dinheiro de jogadores que jogam em máquinas caça- níquéis também são usadas em jogos de vídeo que ajudam crianças com câncer a se distrair quando recebem tratamentos dolorosos.
Claramente, não é a própria técnica de persuasão que é o problema – e sim para que a técnica foi usada.
Mas sem um teste para dizer a diferença entre os usos do bem e do mal; é fácil ver como os designers podem se desviar.
O Teste do Arrependimento
A indústria de tecnologia precisa de uma nova barra ética. O lema do Google, “Não seja mau”, é muito vago. A Regra de Ouro, “Faça aos outros o que você gostaria que eles fizessem”, deixa muito espaço para a racionalização.
Eu argumentaria que o que devemos dizer é: “Não faça aos outros o que eles não gostariam de fazer a eles próprios”. Mas como podemos saber o que os usuários fazem e não querem?
Sugiro humildemente o “teste de arrependimento”.
Fazer com que as pessoas façam algo que não queriam fazer não é mais persuasão – é coerção. Se não tivermos certeza de usar uma tática eticamente questionável, “Se as pessoas soubessem de tudo o que o designer do produto sabe, eles ainda executariam o comportamento pretendido? É provável que se arrependam de fazer isso? “Se os usuários se arrependessem de tomar a ação, a técnica falha no teste e não deve ser incorporada no produto, porque manipulou as pessoas para fazer algo que não queriam fazer.
Então, como podemos saber se as pessoas se arrependem de usar um produto? Simples! Perguntando-lhes.
Assim como as empresas testam as características potenciais que eles estão pensando em lançar; eles podem testar se uma tática questionável é algo que as pessoas responderiam favoravelmente se soubessem o que aconteceria posteriormente.
Este conceito de teste não é novo para os designers de produtos industriais testar novos recursos o tempo todo. Mas o teste de arrependimento inseriria mais uma verificação ética, pedindo uma amostra representativa de pessoas se eles tomassem uma ação sabendo tudo o que o designer sabe que vai acontecer.
O teste não exigiria necessariamente muito esforço ou custo. Em um artigo recente, Jakob Nielsen, do Nielsen Norman Group, escreveu que ele acredita que os resultados dos testes de usabilidade podem vir de testes com apenas cinco pessoas.
Naufrágios
A história da inovação tecnológica envolve muitas conseqüências não intencionais. Como o teórico cultural Paul Virilio disse uma vez: “A invenção do navio também foi a invenção do naufrágio”. A coisa bonita sobre o teste de arrependimento é que poderia ajudar a eliminar algumas dessas conseqüências não intencionais, colocando freio no design antiético antes de entrar em contato com milhões de usuários.
O teste de arrependimento também pode ser usado para check-ins regulares. Como muitas pessoas, desinstalei aplicativos de distração como o Facebook. Lamento desperdiçar tempo deslizando pelo meu feed em vez de estar totalmente presente com as pessoas que me interessam. Não seria do interesse do Facebook conhecer pessoas como eu?
Se qualquer empresa, seja ela Facebook ou outra empresa, não escuta os usuários que cada vez mais se ressentem por uma razão ou outra, arrisca mais pessoas a abandonar o serviço por completo. E é exatamente por isso que o arrependimento é tão importante. Ignorar as pessoas que se arrependem de usar seu produto não é apenas uma ética ruim, também é ruim para os negócios.
Esta publicação apareceu originalmente no blog da Nir .
Fonte: Quartz
