{"id":595,"date":"2025-12-09T23:57:36","date_gmt":"2025-12-10T02:57:36","guid":{"rendered":"http:\/\/www.wagnersalvi.com.br\/?p=595"},"modified":"2025-12-10T00:13:55","modified_gmt":"2025-12-10T03:13:55","slug":"de-senior-a-arqueologo-digital-por-que-a-ia-esta-nos-transformando-em-cacadores-de-bugs-alucinados","status":"publish","type":"post","link":"http:\/\/www.wagnersalvi.com.br\/?p=595","title":{"rendered":"De S\u00eanior a Arque\u00f3logo Digital: Por que a IA est\u00e1 nos transformando em ca\u00e7adores de bugs “alucinados”"},"content":{"rendered":"\n

Antes de voc\u00ea pegar sua tocha, seu forcado, foices etc e correr para os coment\u00e1rios me chamar de “inimigo do progresso” e queira fazer uma fogueira, vamos deixar uma coisa bem clara: eu uso Intelig\u00eancia Artificial.<\/strong> <\/p>\n\n\n\n

Uso o ChatGPT, o Copilot e o que mais aparecer. A IA \u00e9 uma ferramenta incr\u00edvel, um “copiloto” sensacional. O problema come\u00e7a quando a gente larga o volante, vai para o banco de tr\u00e1s tirar um cochilo e espera que o copiloto \u2014 que n\u00e3o tem carteira de motorista \u2014 dirija sozinho na serra em dia de neblina.<\/p>\n\n\n\n

Inclusive tenho livros na Amazon sobre IA e alguns ensinam u pouco a usar de forma mais consciente (recomendo inclusive ). Feito o disclaimer<\/em> para afastar os sem no\u00e7\u00e3o<\/em>, vamos falar da realidade do desenvolvimento de software em 2025.<\/p>\n\n\n\n

Voc\u00ea tem a sensa\u00e7\u00e3o de que o c\u00f3digo est\u00e1 ficando mais “sujo”? N\u00e3o \u00e9 coisa da sua cabe\u00e7a.<\/p>\n\n\n\n

Um estudo massivo realizado pela GitClear<\/strong> (analisando 153 milh\u00f5es de linhas de c\u00f3digo alteradas entre 2020 e 2023) trouxe um dado alarmante: a taxa de c\u00f3digo que \u00e9 escrito e logo em seguida descartado ou reescrito est\u00e1 explodindo.<\/p>\n\n\n\n

\n\n\n\n

De S\u00eanior a Arque\u00f3logo Digital: Por que a IA est\u00e1 nos transformando em ca\u00e7adores de bugs “alucinados”<\/h1>\n\n\n\n

Vamos come\u00e7ar tirando o elefante da sala (ou o servidor do rack, para mantermos a tem\u00e1tica): eu n\u00e3o sou contra a Intelig\u00eancia Artificial.<\/strong> Muito pelo contr\u00e1rio. Eu uso o ChatGPT, o Copilot e qualquer ferramenta que prometa automatizar a parte chata do meu trabalho. A IA \u00e9, sem d\u00favida, a revolu\u00e7\u00e3o mais impactante na nossa \u00e1rea desde a inven\u00e7\u00e3o do compilador.<\/p>\n\n\n\n

Por\u00e9m, existe uma linha t\u00eanue entre usar uma parafusadeira el\u00e9trica para agilizar o trabalho e entregar uma motosserra ligada na m\u00e3o de uma crian\u00e7a e esperar que ela construa uma casa na \u00e1rvore. O que estamos vendo em 2024\/2025 n\u00e3o \u00e9 apenas “ajuda”, \u00e9 uma terceiriza\u00e7\u00e3o perigosa do pensamento l\u00f3gico.<\/p>\n\n\n\n

Se antes nosso trabalho era escrever<\/em> c\u00f3digo, hoje estamos nos tornando Arque\u00f3logos Digitais<\/strong>. Passamos o dia escavando reposit\u00f3rios, espanando a poeira de fun\u00e7\u00f5es geradas em segundos por um LLM e tentando decifrar o hier\u00f3glifo moderno: “Por que a IA importou essa biblioteca que n\u00e3o existe?”<\/em>.<\/p>\n\n\n\n

O Grande “Code Churn”: Escrevendo muito, aproveitando pouco<\/h3>\n\n\n\n

Voc\u00ea tem a sensa\u00e7\u00e3o de que o c\u00f3digo est\u00e1 ficando mais “sujo”? N\u00e3o \u00e9 coisa da sua cabe\u00e7a.<\/p>\n\n\n\n

Um estudo massivo realizado pela GitClear<\/strong> (analisando 153 milh\u00f5es de linhas de c\u00f3digo alteradas entre 2020 e 2023) trouxe um dado alarmante: o “Code Churn”<\/strong> \u2014 a taxa de c\u00f3digo que \u00e9 escrito e logo em seguida descartado ou reescrito \u2014 est\u00e1 explodindo.<\/p>\n\n\n\n

O que isso significa na pr\u00e1tica?<\/strong> Estamos gerando montanhas de c\u00f3digo “descart\u00e1vel”. A facilidade de dar um Tab<\/em> e aceitar a sugest\u00e3o do Copilot faz com que devs (especialmente os mais inexperientes) adicionem blocos inteiros sem cr\u00edtica. O resultado \u00e9 um software inchado, dif\u00edcil de manter e que, estatisticamente, tem uma qualidade inferior ao c\u00f3digo “artesanal” de 5 anos atr\u00e1s. A “D\u00edvida T\u00e9cnica” n\u00e3o est\u00e1 mais sendo paga em parcelas; estamos pegando empr\u00e9stimos com agiotas a juros de 100% ao dia . E sim, como empr\u00e9stimo com agiota onde voc\u00ea corre risco de vida, neste caso quem corre risco \u00e9 sua carreira ou sua empresa<\/p>\n\n\n\n

Alucina\u00e7\u00f5es de Pacotes: O Pesadelo de Seguran\u00e7a<\/h3>\n\n\n\n

Aqui a coisa deixa de ser engra\u00e7ada e fica perigosa. O termo “alucina\u00e7\u00e3o” na IA \u00e9 quando ela inventa fatos. No c\u00f3digo, ela inventa depend\u00eancias<\/strong>.<\/p>\n\n\n\n

Pesquisadores de seguran\u00e7a (como a equipe da Vulcan Cyber<\/strong> e Bar Lanyado) descobriram uma t\u00e9cnica de ataque chamada “AI Package Hallucination”<\/strong>. Como funciona?<\/p>\n\n\n\n

    \n
  1. O desenvolvedor pede \u00e0 IA uma solu\u00e7\u00e3o para um problema complexo.<\/li>\n\n\n\n
  2. A IA sugere um c\u00f3digo que importa uma biblioteca fict\u00edcia, ex: import arangodb-async-driver<\/code> (nome inventado, mas que parece<\/em> real).<\/li>\n\n\n\n
  3. O desenvolvedor confia, tenta instalar e v\u00ea que n\u00e3o existe.<\/li>\n\n\n\n
  4. O GOLPE:<\/strong> Hackers monitoram essas alucina\u00e7\u00f5es comuns, criam pacotes maliciosos exatamente<\/em> com esses nomes sugeridos pela IA e publicam nos reposit\u00f3rios oficiais (NPM, PyPI).<\/li>\n\n\n\n
  5. Quando o dev roda o npm install<\/code> ou pip install<\/code>, ele baixa um malware para dentro da empresa, cortesia de uma sugest\u00e3o do ChatGPT.<\/li>\n<\/ol>\n\n\n\n

    Isso n\u00e3o \u00e9 fic\u00e7\u00e3o cient\u00edfica. \u00c9 um vetor de ataque real criado pela confian\u00e7a cega na ferramenta. Lembre-se que tem sem em algum local do mundo algu\u00e9m com tempo livre suficiente e ser mal intencionado para pensar alguma d\u00fazia de maneiras de aproveitar algum brecha para fazer algo errado. N\u00e3o duvide nunca da capacidade humana , nem pro bem, nem pro mal….<\/p>\n\n\n\n

    O Caso Samsung: Quando o Segredo Industrial vira Treino de IA<\/h3>\n\n\n\n

    Lembra quando dissemos para usar a IA com modera\u00e7\u00e3o? Em 2023, a Samsung<\/strong> aprendeu isso da pior forma.<\/p>\n\n\n\n

    Em um esfor\u00e7o para otimizar o trabalho, engenheiros da divis\u00e3o de semicondutores da empresa colaram c\u00f3digos-fonte confidenciais e notas de reuni\u00f5es inteiras dentro do ChatGPT para pedir ajuda com corre\u00e7\u00f5es e resumos. O problema? Ao fazer isso, eles enviaram segredos industriais para os servidores da OpenAI, onde esses dados poderiam (teoricamente) ser usados para treinar o modelo. Resultado: A Samsung baniu o uso de IA generativa em dispositivos da empresa e correu para criar sua pr\u00f3pria IA interna.<\/p>\n\n\n\n

    Isso ilustra o fen\u00f4meno do “Shadow AI”<\/strong>: o desenvolvedor, na \u00e2nsia de entregar a tarefa logo, joga as regras de seguran\u00e7a pela janela (e o c\u00f3digo propriet\u00e1rio junto).<\/p>\n\n\n\n

    A Era da “Programa\u00e7\u00e3o Orientada a F\u00e9”<\/h3>\n\n\n\n

    Estamos vivendo a ascens\u00e3o do Faith-Driven Development<\/strong> (Desenvolvimento Orientado a F\u00e9). Funciona assim:<\/p>\n\n\n\n

      \n
    1. Digita o prompt.<\/li>\n\n\n\n
    2. Copia o c\u00f3digo.<\/li>\n\n\n\n
    3. Cola na IDE.<\/li>\n\n\n\n
    4. Reza para compilar.<\/li>\n<\/ol>\n\n\n\n

      Se der erro, a solu\u00e7\u00e3o n\u00e3o \u00e9 ler a documenta\u00e7\u00e3o ou entender a l\u00f3gica. A solu\u00e7\u00e3o \u00e9 copiar o erro, colar de volta no chat e perguntar: “Deu erro, arruma a\u00ed”<\/em>. Isso cria um ciclo vicioso onde o programador perde a capacidade de entender a causa raiz<\/em> dos problemas. Se o or\u00e1culo (a IA) n\u00e3o souber a resposta, o projeto trava.<\/p>\n\n\n\n

      Conclus\u00e3o: O Humano como “Safety Net”<\/h3>\n\n\n\n

      A IA veio para ficar e quem n\u00e3o usar vai ficar para tr\u00e1s. Isso \u00e9 certo e n\u00e3o tem pra onde correr. Mas a profiss\u00e3o de desenvolvedor est\u00e1 mudando. Estamos deixando de ser pedreiros de c\u00f3digo para nos tornarmos inspetores de obra.<\/p>\n\n\n\n

      O valor de um profissional de TI hoje n\u00e3o est\u00e1 na velocidade com que ele digita, mas na capacidade de olhar para o que a m\u00e1quina cuspiu e dizer: “Isso aqui vai ferrar em produ\u00e7\u00e3o daqui a tr\u00eas meses”<\/em> ou “Essa biblioteca nem existe, a IA ta viajando de novo”<\/em>.<\/p>\n\n\n\n

      Use a IA. Abuse da produtividade dela. Mas nunca, jamais, entregue as chaves da produ\u00e7\u00e3o para ela sem antes fazer uma auditoria forense no que foi produzido. Afinal, quando o servidor cair \u00e0s 3 da manh\u00e3 de um s\u00e1bado, o ChatGPT n\u00e3o vai atender o telefone. Quem vai ter que resolver \u00e9 voc\u00ea. <\/p>\n\n\n\n

      Imagine 1 hora para fechar o expediente no antes de um poss\u00edvel recesso de fim de ano, voc\u00ea ja se vendo no transito pra praia feliz da vida e um destes “frankenstein” resolve acordar e come\u00e7a ai suas piores 24 horas da sua vida para fazer voltar sua aplica\u00e7\u00e3o rodar minimamente bem para quando voltar do recesso resolver ela 100%. <\/p>\n\n\n\n

      Aposto que n\u00e3o vai ser divertido como este texto.<\/p>\n\n\n\n

      <\/p>\n\n\n\n

      Para n\u00e3o dizer que sou contra IA algumas recomenda\u00e7\u00f5es (sim os dois primeiros s\u00e3o meus)<\/h4>\n\n\n\n

      IA EXPLICADA: A tecnologia que est\u00e1 redefinindo o mundo<\/a><\/strong>: Um livro que abre a caixa-preta da IA. Ele explica os conceitos de forma profunda, mas simples.<\/p>\n\n\n\n