- Problemas de segurança
- A Snyk, empresa americana de cibersegurança, realizou uma pesquisa com 537 integrantes e líderes de equipes de engenharia de software e segurança
- 91,6% dos respondentes: “as ferramentas de codificação com IA às vezes geraram sugestões de código inseguro”
- 80% dos respondentes: “os desenvolvedores da organização contornam as políticas de segurança para IA”
- 25% dos respondentes: “usam ferramentas automatizadas de varredura para verificar a segurança de componentes open source incluídos nas sugestões de IA para código”
- Poucos tentam adotar medidas adequadas para garantir que as bibliotecas open source sejam seguras
- Segundo a Snyk, o Copilot do GitHub aprende padrões e estruturas a partir de repositórios de código existentes para gerar snippets de código
- Nesse processo, o código pode reproduzir vulnerabilidades de segurança existentes ou práticas incorretas presentes em arquivos adjacentes
- É necessário usar verificações automatizadas de segurança e auditorias de código para encontrar código com riscos de segurança, além de revisar a segurança das ferramentas de IA para geração de código
- Problemas de qualidade do código
- Apontamento de Bernd Greifeneder, fundador e CTO da empresa americana de observability Dynatrace
- Até agora, a IA foi treinada com boas fontes curadas por humanos, como sites tipo Stack Overflow
- No futuro, se os desenvolvedores passarem a usar mais código gerado por IA, pode haver menos incentivo para atualizar esses sites
- Copiar e colar snippets de código para acelerar a implantação já é visto como uma prática ruim
- Isso reduz a manutenibilidade e aumenta o risco de erros ou vulnerabilidades serem replicados ou passarem despercebidos
- Ferramentas de IA para geração de código automatizam esse processo de copiar/colar em alta velocidade
- As organizações precisam analisar cuidadosamente o código gerado por IA, testá-lo e reforçar práticas de desenvolvimento que cumpram padrões de qualidade e segurança
- Aplicar princípios de ‘clean code’ ao código gerado por IA
- É necessário garantir a qualidade do código por meio de testes e análises para que os princípios de clean code sejam refletidos na implementação final do código gerado por IA
- Problemas de direitos autorais
- Ferramentas como o Copilot criam código ao refatorar o código de entrada
- Essas ferramentas podem enfrentar questões de direitos autorais e de licenças open source decorrentes dos dados de treinamento usados para treinar o modelo de IA e do código de saída gerado pelo modelo treinado
- Análise do escritório global de advocacia Finnegan:
- Ferramentas de IA para geração de código podem recomendar cópias do código usado no treinamento do modelo base de IA
- O GitHub também reconheceu que “às vezes o código gerado pelo Copilot cita código open source publicamente disponível com o qual foi treinado”
- Segundo uma investigação interna do GitHub, a probabilidade é extremamente baixa, de 1%, mas o Copilot pode gerar código que inclua alguns blocos exatamente iguais ao código de treinamento
- As licenças de código open source também podem se aplicar ao código desenvolvido com o uso do Copilot
- Se código sob licença open source for reutilizado repetidamente em código criado com ferramentas de IA para geração de código, isso pode constituir violação de direitos autorais quando o uso desse código não cumprir as condições da licença open source, como atribuição e distribuição
- Devido à falta de rastreabilidade do código sugerido por ferramentas de IA para geração de código, não há uma forma imediata de saber se “o código gerado inclui trechos reutilizados que possam violar as condições originais de licença open source”
- É necessário revisar manualmente o código gerado por IA para identificar trechos de código popular já conhecidos
- Também é necessário usar ferramentas de varredura de código para verificar código sujeito a licenças open source
Ainda não há comentários.