Ao que tudo indica, está chegando ao fim um cabo de guerra de nove meses entre os responsáveis pela elaboração das diretrizes europeias de ética para IA.
A Comissão Europeia publicou nesta segunda-feira suas diretrizes para o desenvolvimento e a implementação de padrões éticos de Inteligência Artificial. O texto não é vinculante, mas deverá servir como um modelo para possíveis regras, assim que os legisladores europeus começarem a elaborá-las.
O documento “Ethics guidelines for thustworthy AI” estabelece que uma IA ética e confiável deve ser transparente, ter supervisão humana e algoritmos seguros e confiáveis, sujeitos a regras de privacidade e proteção de dados.
Entre os principais requisitos estão:
- Intervenção e supervisão humana: os sistemas de IA devem possibilitar sociedades equitativas, apoiando a ação humana e os direitos fundamentais, e não diminuir, limitar ou desorientar a autonomia humana.
- Robustez e segurança: a IA Confiável requer que os algoritmos sejam seguros, confiáveis e robustos o suficiente para lidar com erros ou inconsistências durante todas as fases do ciclo de vida dos sistemas de IA.
- Privacidade e governança de dados: os cidadãos devem ter controle total sobre seus próprios dados, para que não sejam usados para prejudicá-los ou discriminá-los.
- Transparência: a rastreabilidade dos sistemas de IA deve ser assegurada.
- Diversidade, não discriminação e equidade: os sistemas de IA devem considerar toda a gama de habilidades, habilidades e requisitos humanos e garantir a acessibilidade.
- Bem-estar social e ambiental: os sistemas de IA devem ser usados para melhorar a mudança social positiva e aumentar a sustentabilidade e a responsabilidade ecológica.
- Prestação de contas: mecanismos devem ser colocados em prática para garantir a responsabilidade pelos sistemas de IA e seus resultados.
Depois de muito debate, a Comissão está adotando uma abordagem em três fases: (1) estabelecer os requisitos fundamentais para uma IA confiável; (2) lançar uma fase piloto de larga escala para feedback das partes interessadas; e (3) trabalhar na criação de consensos internacionais para uma IA centrada no homem.
Empresas e organizações podem se inscrever para o piloto, previsto para acontecer em junho, após o qual os especialistas analisarão os resultados e a Comissão decidirá sobre as próximas etapas.
Cabo de guerra
Janosch Delcker, correspondente de Inteligência Artificial do site “Politico.eu” tem acompanhado de perto o trabalho do High Level Expert Group on Artificial Intelligence (AI HLEG), encarregado a elaboração do documento publicado hoje.
O grupo é formado por 52 membros e tem como seu presidente Pekka Ala-Pietilä, empreendedor de tecnologia e ex-presidente da Nokia. A maioria dos membros do AI HLEG é da academia e do mundo corporativo (IBM, Google, SAP, Santander, Bayer, etc). Há também representantes da sociedade civil, e de alguns outros segmentos. “Desde o início, o tamanho do grupo, juntamente com as diferentes origens de seus membros, representou um desafio”, comenta Delcker em um artigo recente.
“Os filósofos reclamaram que havia pouco conhecimento de ética no grupo. Os cientistas da computação achavam que estavam discutindo tecnologia com leigos, alguns dos quais tinham ideias erradas sobre o que a IA é capaz de fazer. E as autoridades do setor reclamaram de outras pessoas que, segundo eles, não tinham uma compreensão básica de como funciona uma economia de mercado”, comenta o jornalista.
Ainda assim o grupo trabalhou para chegar a um consenso possível. Um primeiro rascunho foi publicado em dezembro do ano passado. Nele já não constavam palavras como “não-negociável” e “limites”.
“O grupo acabou apagando todas as menções sobre os riscos de longo prazo, que foram cuidadosamente redigidos, do documento porque a indústria temia que o público não pudesse lidar com isso e que isso destruiria os mercados para eles”, disse a Delcker o professor de filosofia da Universidade de Mainz, Thomas Metzinger.
Versões preliminares obtidas pelo “Politico.eu” confirmam que aletas sobre os riscos de longo prazo foram gradualmente eliminados, mas outros membros disseram a Delcker que isso tinha menos a ver com preocupações de negócios e mais com dúvidas sobre sua plausibilidade, bem como preocupações legais.
“Discordamos em muitos tópicos – isso foi natural”, disse Ala-Pietilä. “No fim conseguimos chegar a uma conclusão e encontrar um terreno comum que fundamenta uma base sólida … para construir as diretrizes de IA Ética que desejamos.”
Próximos passos
Interessados em participar do piloto podem se inscrever desde já na European AI Alliance e receber uma notificação quando o teste for iniciado. Também podem interagir com membros do AI HLEG para tirar dúvidas.
O grupo irá apresentar detalhadamente o seu trabalho nesta terça-feira, 9 de abril, durante o terceiro Digital Day promovido em Bruxelas.
No início de 2020, o AI HLEG analisará as listas de avaliação para os principais requisitos, com base no feedback recebido. Com base nesta revisão, a Comissão Europeia avaliará os resultados e proporá os próximos passos.
Além disso, para garantir o desenvolvimento ético da IA, a Comissão pretende lançar lançar um conjunto de redes de centros de excelência em investigação sobre IA até o Outono de 2019. E iniciar a criação de redes de centros de inovação digital, além de, juntamente com os Estados Membros e as partes interessadas, iniciar discussões para desenvolver e implementar um modelo de compartilhamento de dados e fazer o melhor uso de espaços de dados comuns.
Por que tudo isso importa para nós?
Historicamente, o Brasil tem se inspirado nas diretivas europeias para proteção de dados. Certamente, os avanços da Comissão Europeia em relação aos requisitos necessários ao desenvolvimento de uma IA Ética serão considerados na hora de nos debruçarmos sobre essa questão.
Pensando na importância do tema e as poucas informações que possuímos, a fundadora do Voicers, Ligia Zotini se inscreveu para participar do grupo de discussão sobre o tema e foi aprovada!!!
Pedimos para Ligia explicar melhor o que é a Aliança Europeia para IA…
O Que é a Aliança Europeia para Inteligência Artificial ?
A Aliança Europeia para IA é um fórum para uma discussão ampla e aberta de todos os aspectos do desenvolvimento da Inteligência Artificial e seus impactos.
Por que eu, Ligia, me inscrevi na Aliança?
Porque os membros da Aliança Europeia para IA podem interagir com os especialistas da AI HLEG, estabelecida pela Comissão Europeia, em um ambiente de estilo de fórum. A maioria dos membros do AI HLEG é da academia e do mundo corporativo (IBM, Google, SAP, Santander, Bayer, etc).
Eu digo em minhas palestras que temos de estar diretamente envolvidos nos fóruns de Inteligência Artificial pois embora as tecnologias de I.A sejam de propriedade privada, elas só funcionam com dados, e maior parte deles são dados de pessoas (público e privado).
Então quando apareceu essa oportunidade de me inscrever, usando minha cidadania Italiana, nessa Aliança Europeia de IA, eu vi que seria o local ideal para contribuir, a Europa atualmente é a região do planeta onde essas discussões estão mais avançadas e acabarão influenciando o resto do mundo ocidental.
Então em uma frase o que eu estou sentindo: “Uma honra enorme, poder contribuir como pesquisadora e representante da sociedade. Estar diretamente conectada com os que estão desenvolvendo as Diretrizes Éticas que orquestrarão o uso da Inteligência Artificial na Europa, faz parte do movimento necessário de inserir o ponto de vista da sociedade à fóruns oficiais de discussões e decisões no uso de Inteligência Artificial.”
- Empresa britânica planeja criar estúdio de cinema no espaço em 2024
- Tesla: Robô humanoide será foco da empresa em 2022, afirma Musk
- Jeff Bezos quer tornar humanos imortais
- Primeiro avião totalmente elétrico se prepara para decolar
- “Os algoritmos começam a falhar quanto mais complexa é a pessoa”
