Muitas empresas são empresas de tecnologia em sua essência, mesmo que não estejam no negócio de tecnologia. E, à medida que a tecnologia traz recursos novos e aprimorados para a organização, os profissionais de compliance precisam responder a novas perguntas sobre o que é certo ou errado em dilemas éticos.
A tecnologia ou seu uso torna-se ético quando seu design, entrega e inovação são guiados por um pensamento baseado em princípios. Com os avanços da tecnologia, os riscos associados tornaram-se cada vez mais complexos e as preocupações não estão mais centradas apenas em dados. Por exemplo, apesar de seu poder preditivo adaptativo e aprendizado autônomo, a inteligência artificial (IA) não funciona da mesma maneira que a inteligência humana. Sem salvaguardas adequadas, um sistema de IA pode apresentar os seguintes riscos cognitivos que podem ter implicações legais para a organização:
- Risco de viés: Preservar desvantagens para certos grupos ou classes com base em conjuntos de dados historicamente tendenciosos;
- Risco de precisão: construção de modelos que não capturam com precisão situações do mundo real em andamento;
- Risco de adulteração: Manipular modelos para produzir resultados que não refletem o objetivo prévio;
Para se proteger contra esses riscos, as organizações precisam tomar decisões conhecidas e cautelosas sobre o design, desenvolvimento, implementação e uso de uma ampla variedade de tecnologias emergentes.
O Chief of Compliance Officer (CCO) precisa analisar a regulamentação sobre os usos adequados da tecnologia, defender a empresa à medida que os fiscalizadores abordam questões regulatórias e ajudar ao conselho de administração e outros executivos a navegar no cenário regulatório no que diz respeito ao uso de tecnologias nos negócios. Além disso, o CCO precisa desenvolver uma compreensão de como a tecnologia é usada na organização e seu efeito na exposição legal e regulatória da empresa. Uma maneira de fazer isso é examinar o impacto da tecnologia por meio de três lentes éticas: indivíduo, sociedade e cultura.
O CCO também precisa entender a relevância da tecnologia para as atividades de compliance. Isso significa saber onde o risco pode se apresentar em aplicativos que o departamento de compliance usa, bem como em aplicativos usados em toda a empresa e naqueles que terceiros desenvolvem e usam.
O CCO também deve avaliar as possíveis preocupações éticas de cada ativo de tecnologia na sua empresa. Ao longo da jornada do uso dessas tecnologias, como a consciência da organização, o CCO pode ajudar a determinar o que a organização deve fazer versus o que pode fazer (por exemplo, ler e-mails de clientes ou acessar determinadas informações de saúde). À medida que os casos de uso de tecnologia avançada se ampliam, os riscos podem incluir práticas discriminatórias, estimativas imprecisas, resultados inesperados, interrupção operacional ou violações de dados. Uma verificação técnica ética torna-se importante, pois pode revelar áreas de risco prioritárias.
Nesse sentido, o CCO pode trabalhar com os gestores em um programa de teste e correção que aborda as três dimensões do risco de IA – viés, precisão e adulteração – antes que se tornem problemas que tenham repercussões legais, regulatórias, de reputação e financeiras. Com um programa como esse em vigor, a organização provavelmente estará melhor posicionada para navegar no cenário de políticas públicas em mudança, principalmente aquelas que abordam o uso de tecnologias.
O CCO pode ajudar as áreas de negócios e de tecnologia a entender como reconhecer dilemas éticos na aplicação da tecnologia; suas responsabilidades para abordar questões éticas de tecnologia; e onde eles podem buscar ferramentas, treinamento e outros apoios institucionais para uma reflexão do que não fazer em termos de dilemas éticos. Com o C-Level (alta administração), o CCO pode ajudar a cultivar uma mentalidade que incorpore uma análise ética ao desenvolvimento e aplicação da tecnologia. Pode apoiar na definição de uma narrativa para que os profissionais se tornem capacitados para lidar com situações disruptivas de tecnologia e suas implicações legais, incluindo os possíveis impactos éticos. Isso fornece à equipe de compliance um vocabulário padronizado para um diálogo técnico-ético entre si e com seus colegas em toda a organização.
Uma liderança comprometida com tecnologia ética, distinguirá as empresas que adotaram a tecnologia ética daquelas que não adotaram. Como alguém treinado em julgamento e tomada de decisões éticas, o CCO é uma escolha lógica para liderar essa agenda dentro da empresa
O CCO pode trazer uma perspectiva de riscos, legal e regulatória para uma estrutura de controles que ajuda a sua empresa a lidar com os riscos. Pode-se preparar sua equipe para antecipar e mitigar riscos, verificando se a equipe de compliance sabe como usar a estrutura de tecnologia ética, convidando todas as partes interessadas a se sentar à mesa, realizando check-ins regulares sobre tecnologia ética, seus riscos e avaliar as ações à medida que os fluxos de trabalho terminam.
O uso massivo da tecnologia digital tornou-se uma presença incontornável em nossas vidas, bem como uma aposta para competir no mercado. Mas a tecnologia está se desenvolvendo mais rápido do que a capacidade de muitas empresas de configurar proteções para ela. O CCO pode dar às pessoas em sua organização um modelo mental para usar para fazer escolhas éticas. Uma abordagem baseada em princípios para a tecnologia pode ajudar a mitigar riscos e construir uma reputação de confiança que pode sustentar a organização a longo prazo.
As opinões contidas nas publicações desta coluna são de responsabilidade exclusiva do Autor, não representando necessariamente a opinião da LEC ou de seus sócios.
Estude na LEC, obtenha uma certificação profissional e destaque-se no mercado.
Imagem: unDraw
