A IA dentro da sua organização

Todo mundo já entendeu que o uso da IA nas empresas é um caminho sem volta. Mas sem nenhuma diretriz de utilização, esse uso indiscriminado pode criar problemas de segurança, privacidade e legais. As organizações devem se antecipar a essas situações via uma política de uso corporativo de IA.

Por exemplo, em relação ao sigilo dos dados corporativos que são enviados pelos usuários para as IAs, cada serviço tem os seus próprios termos de uso que ditam o que é feito com essas informações. Em alguns casos, os dados submetidos pelo usuário podem ser usados para retreinar os modelos de IA ou serem compartilhados de alguma outra forma com terceiros, fazendo que dados sigilosos ou dados pessoais possam potencialmente serem vazados.

Outro ponto é em relação ao excesso de confiança dos resultados gerados pela IA. Sem entendimento de como modelos generativos funcionam, há a falsa percepção de que os resultados são infalíveis, o que pode expor o colaborador e a empresa a problemas.

Para empresas de desenvolvimento de software, há também os riscos de segurança vinculados aos códigos desenvolvidos pela IA, que nem sempre vão incluir boas práticas de segurança, demandando regras bem específicas de como essa ferramenta deve ser usada no apoio dos desenvolvedores.

A política também deve deixar absolutamente claro ações proibidas como por exemplo uso de IA para gerar fotos, vídeos ou áudios de pessoas reais, salvo em casos excepcionais autorizados pela organização.

Por fim, a política deve prever a capacitação dos colaboradores no uso responsável da IA, bem como canais de comunicação para que possam reportar dúvidas ou problemas éticos relacionados à tecnologia. Com uma política corporativa bem definida, a empresa não apenas reduz riscos operacionais e legais, como também promove uma cultura de inovação responsável e sustentável.