O Instituto para IA Ética e Aprendizado de Máquina é um centro de pesquisa top na Europa que desenvolve estruturas pra apoiar o desenvolvimento, implantação e operação responsáveis dos sistemas de aprendizado de máquina. É formado por times multifuncionais de voluntários, incluindo líderes em tecnologia, aprendizado de máquina, indústria, política e academia (STEM, Humanidades e Ciências Sociais).
A gente tá comprometido a defender o desenvolvimento responsável da IA. Somos um centro de pesquisa que faz pesquisas super técnicas, práticas e multifuncionais em relação aos 8 Princípios de Aprendizado de Máquina. Trabalhamos com a indústria, a academia e os governos pra desenvolver estruturas e bibliotecas que estejam alinhadas com as nossas 4 fases pra uma IA responsável.
Os 8 Princípios de Aprendizado de Máquina são um esquema prático montado por especialistas do domínio. O objetivo deles é fornecer orientação pra que os técnicos desenvolvam sistemas de aprendizado de máquina de forma responsável. São eles:
- Aumento Humano: Me comprometo a avaliar o impacto das previsões erradas e, quando faz sentido, projetar sistemas com processos de revisão com humanos envolvidos.
- Avaliação de Viés: Me comprometo a desenvolver continuamente processos que me permitam entender, documentar e monitorar o viés no desenvolvimento e produção.
- Explicabilidade por Justificativa: Me comprometo a desenvolver ferramentas e processos pra melhorar continuamente a transparência e a explicabilidade dos sistemas de aprendizado de máquina, quando for razoável.
- Operações Reprodutíveis: Me comprometo a desenvolver a infraestrutura necessária pra permitir um nível razoável de reprodutibilidade nas operações dos sistemas de ML.
- Estratégia de Deslocamento: Me comprometo a identificar e documentar informações relevantes pra que processos de mudança de negócios possam ser desenvolvidos pra mitigar o impacto nos trabalhadores que estão sendo automatizados.
- Precisão Prática: Me comprometo a desenvolver processos pra garantir que as minhas funções de métrica de precisão e custo estejam alinhadas com as aplicações específicas do domínio.
- Confiança pela Privacidade: Me comprometo a construir e comunicar processos que protegem e lidam com dados com as partes interessadas que podem interagir com o sistema direta ou indiretamente.
- Riscos de Segurança: Me comprometo a desenvolver e melhorar processos e infraestrutura razoáveis pra garantir que a segurança dos dados e dos modelos seja considerada durante o desenvolvimento dos sistemas de aprendizado de máquina.
O Quadro de Aquisição AI-RFX é um conjunto de modelos pra capacitar os profissionais da indústria a subir o nível de segurança, qualidade e desempenho da IA. É de código aberto e converte os Princípios para um Aprendizado de Máquina Responsável numa lista de verificação.
A Rede Ética de ML (BETA) é uma rede global de engenheiros, cientistas, gerentes, líderes e pensadores variados que se alinham aos 8 princípios para o desenvolvimento responsável de aprendizado de máquina e apoiam as 4 fases para o desenvolvimento responsável da IA. Essa rede é relevante pra fundadores de startups/scale-ups de IA, profissionais da indústria, professores e acadêmicos, engenheiros e cientistas de dados, gerentes de produto, projeto ou entrega envolvidos em qualquer etapa do ciclo de vida de um sistema de ML.
