No campo do recrutamento de profissionais, maiores riscos da IA são as escolhas tendenciosas envolvendo racismo e sexismo, classicismo.

Com o uso da inteligência artificial nos processos de recrutamento, descobriu-se, anos atrás, que os algoritmos de recomendação usados para combinar candidatos a oportunidades de emprego estavam produzindo resultados tendenciosos. Isso porque os algoritmos classificavam os candidatos, em parte, com base na probabilidade de se candidatarem a uma posição ou responderem a um recrutador e, dessa forma, o robô acabava indicando mais homens do que mulheres, já que os homens costumam se°r mais agressivos na busca de oportunidades.

Desde então, muitos ajustes já foram feitos pelas plataformas de recrutamento que usam IA e a nova tecnologia ganhou contornos éticos em todas as esferas – não só nos processos de seleção. Surgiu, inclusive, o termo inteligência artificial responsável (IAR). A expressão é definida pela MIT Sloan Management Review e o Boston Consulting Group (BCG) como “uma estrutura com princípios, políticas, ferramentas e processos para garantir que os sistemas de IA sejam desenvolvidos e operados a serviço do bem, para as pessoas e sociedade, enquanto ainda possibilitam um impacto de negócios transformador”. De forma mais concreta, Alexandre Montoro, diretor executivo e sócio do BCG, diz que uma IA verdadeiramente responsável começa com os princípios da própria empresa, que guiarão suas ações – dentro e fora do aspecto tecnológico.

O BCG, inclusive, já listou algumas boas práticas para um uso mais responsável da IA. Entre elas, nomear um líder e uma equipe diversificada para projetar e liderar o programa de IAR; desenvolver princípios, políticas e treinamento para todos os envolvidos; e ter funções e responsabilidades bem estabelecidas, mantendo mecanismos de revisão e adesão.

No estudo “To be a responsible AI leader, focus on being responsible” (Ser um líder de IA responsável, foco em ser responsável), apresentado pelo BCG em setembro e que ouviu mais de mil gestores, quase um quarto dos entrevistados relatou que sua empresa sofreu com alguma falha de IA, desde meros lapsos técnicos até questões de maior potencial, como vazamento de dados. “Cada setor possui um potencial risco diferente, mas já identificamos erros graves de IA”, relata Montoro. “Muitas vezes vimos a ferramenta apresentar um viés tendencioso, sugerindo práticas injustas que podem impactar de forma significativa a vida de indivíduos e comunidades.”

No campo do recrutamento de profissionais, Montoro acredita que o principal risco seja relacionado a vieses tendenciosos da tecnologia, envolvendo racismo, sexismo, classicismo etc. “Um modelo de inteligência artificial é tão bom e responsável quanto os dados que o alimentam”, afirma. “Muitas vezes, esses dados apresentam padrões que acabam levando a decisões tendenciosas e potencializando o viés negativo.”

Por isso, ele aconselha, é essencial que sejam feitos testes de forma exaustiva, garantindo a governança dos dados e eliminando possíveis vieses já na entrada. “O sistema precisa ser monitorado periodicamente e, se necessário, precisa de ajustes para garantir o desempenho da ferramenta de forma justa, ética e eficaz.”