Tecnologia inovadora, que vem tomando espaço no mercado de várias formas, a Inteligência Artificial demanda adaptações rápidas e constantes, tanto para desenvolvedores dessa tecnologia quanto para investidores, formuladores de políticas, usuários de negócios e até o público em geral.
Quando a GenIA, a inteligência artificial generativa é usada, pode apresentar riscos em relação à segurança cibernética, privacidade, compliance regulatória, relacionamentos com terceiros, propriedades intelectuais e algumas outras questões de caráter ético.
Como driblar os riscos e gerenciar o uso da ferramenta de forma mais segura e dentro dos padrões éticos?
O que é a IA Generativa e seus impactos?
A inteligência artificial generativa é uma ramificação da inteligência artificial que foca na criação de novos dados a partir de dados existentes nos quais foi treinada. Ela aprende padrões e estruturas de dados para gerar conteúdo origina.
A IA Generativa é aquela que tem se popularizado de forma rápida na web, com geração de textos, imagens, áudio, vídeo e dados sintéticos amplamente utilizados para entretenimento, mas também como ferramenta de auxílio em trabalhos e processos.
Causando impacto significativo em diversos setores e na sociedade como um todo, a GenIA tem promovido um aumento expressivo na criatividade e inovação, auxiliando escritores, artistas, designers e outros profissionais a gerar ideias, superar bloqueios criativos e explorar novas formas de expressão.
Também é ferramenta importante para a melhoria de eficiência e produtividade, visto que automatiza criação de conteúdos que reduzem tempo e custo, além de auxiliar na criação de conteúdo para educação, marketing, entretenimento e outros, melhorando a experiência do usuário.
Ainda, a GenIA tem sido usada para acelerar descoberta de medicamentos, desenvolver novos materiais e aprofundar áreas de pesquisa.
Assim como seus excelentes benefícios, a inteligência artificial generativa também possui seus riscos e desafios.
Quais são os desafios éticos da IA Generativa?
Viés algorítmico
A GenIA trabalha a partir de grandes conjuntos de dados aprendidos. Se esses dados contiverem vieses arraigados na sociedade, como, por exemplo, preconceitos de todos os tipos (gênero, raça, idade), a GenIA pode acabar replicando e até ampliando isso no conteúdo gerado
Isso gera reforço de estereótipos, conteúdo potencialmente discriminatório e pode conduzir a resultados desfavoráveis em caso de auxílio em tomadas de decisão.
Preocupações com privacidade e segurança
Lidando com grandes quantidades de dados, a inteligência artificial generativa levanta questões sobre como os dados são coletados, armazenados e utilizados, podendo ser responsável por gerar conteúdo realista falso, causando danos à segurança.
Se os dados de treinamento da GenIA contiverem PII (informações pessoais identificáveis), existe chance de vazamentos e uso indevido de informações.
Uma pesquisa do Capgemini Research Institute indicou que 97% das organizações sofreram pelo menos uma violação de segurança relacionada à GenAI no último ano, comparado a 51% em 2021. Cerca de 67% expressaram preocupação com vazamentos ou deepfakes, e 43% relataram perdas financeiras diretas por deepfakes
Por sua capacidade de criação de áudio, vídeo e imagem realista, a geração de deepfakes pode ser utilizada para difamação, fraude, manipulação e outros tipos de atividades maliciosas, assim como serem usados para criar ataques de phishing mais sofisticados.
De acordo com uma pesquisa realizada pela Zero Threat, estatísticas de 2025 sobre ataques cibernéticos via IA mostram que os golpes com deepfake e phishing subiram rapidamente: fraudes com geração de deepfakes atingiram US$ 12 bilhões em 2023 e projeções apontam até US$ 40 bilhões até 2027, com crescimento anual composto de 32%.
Autonomia e controle sobre decisões automatizadas
À medida que se torna cada vez mais sofisticada, a inteligência artificial se torna capaz de tomar decisões complexas, preocupando setores sobre o nível de autonomia concedido e quem detém, de fato, controles sobre as decisões automatizadas.
Isso significa que em caso de erros ou danos causados por decisões automatizadas, é mais difícil determinar a responsabilidade do comprometimento, assim como a delegação excessiva à IA pode levar a um menor controle humano em processos significativos, com consequências potencialmente negativas.
Algumas decisões também podem violar direitos fundamentais e levar a resultados discriminatórios.
Como garantir o uso ético de dados?
Princípios para garantir a ética na coleta e uso de dados
Para guiar a GenIA a exercer princípios éticos para realização de seus processos, pode-se utilizar algumas premissas importantes, destacando as principais:
- Consentimento: Obter consentimento livre, informado e inequívoco dos indivíduos antes da coleta e uso de dados;
- Transparência: Informar claramente sobre os procedimentos quanto aos dados – coleta, uso, compartilhamento e tempo de armazenamento e utilização;
- Finalidade: Coletar dados apenas para propósitos legítimos, específicos e explícitos, informados ao titular;
- Adequação: Garantir tratamento de dados compatível com as finalidades informadas ao titular;
- Minimização: Coletar apenas os dados estritamente necessários para cada finalidade;
- Segurança: Implementar medidas técnicas e organizacionais adequadas para proteção das informações contra acessos não autorizados, perda, destruição, alteração ou divulgação indevida;
- Entre diversos outros.
Políticas públicas e regulação
Para o uso ético de IAs generativas, foi necessário o desenvolvimento de diretrizes obrigatórias de regulamentação de coleta, uso e tratamento de dados.
A autoridade máxima em solo nacional é a LGPS, a Lei Geral de Proteção de Dados, promulgando e aplicando uma série de práticas que visam a proteção de dados, estabelecendo os direitos e deveres para o tratamento de dados pessoais.
Houve, também, a criação de autoridades independentes como a ANPD (Autoridade Nacional de Proteção de Dados), com poder de fiscalização, orientação e sanção ao descumprimento da legislação em vigor.
As regulamentações setoriais com diretrizes específicas a determinados setores como financeiro, saúde e educação também estabeleceram padrões de segurança e privacidade mais rigorosos.
Responsabilidade corporativa na implementação da IA Generativa
O papel das empresas em garantir práticas éticas
Com papel central da definição e aplicação de práticas éticas, as instituições devem alinhar-se com o desenvolvimento e com a implantação de medidas éticas e responsáveis, garantindo a integridade dos dados em todo o ciclo de vida da IA, realizando avaliações de impacto ético constantes e mitigando potenciais riscos e consequências negativas na utilização da ferramenta.
É importante manter protocolos claros e eficientes em transparência e explicabilidade sobre decisões tomadas, além de políticas internas de governança e supervisão que sejam comprometidas com a supervisão e o acompanhamento da aplicação da IA Generativa.
Casos práticos de aplicação ética de IA
Apesar de em constante evolução, já existem exemplos de aplicações da GenIA incorporando princípios éticos, como geração de conteúdo acessível para pessoas portadoras de deficiência visual, por exemplo, auxílio na criação artística respeitando direitos autorais e geração de dados sintéticos para pesquisas responsáveis.
A IA também pode ser utilizada para identificar e sinalizar conteúdo gerado por inteligência artificial, assegurando o princípio de legitimidade e detectando a disseminação de desinformação e fake news.
Para garantir recursos éticos e dentro das diretrizes regulatórias estabelecidas, a Clavis oferece serviços especializados em segurança da informação que auxiliam sua empresa a efetuar boas práticas de compliance e garantir segurança total em tratamento de dados.
