Anthropic: política diz que “candidatos não devem usar assistentes de IA”
(simonwillison.net)- No formulário de candidatura da Anthropic, há um item em que o candidato concorda com a proibição do uso de assistentes de IA, para que demonstre diretamente seus interesses e capacidades
- A empresa incentiva o uso de sistemas de IA no trabalho após a contratação, mas, no processo seletivo, exige respostas não mediadas por IA
- A política também tem como objetivo avaliar a capacidade de comunicação sem ajuda de IA dos candidatos
- O candidato precisa ler as instruções e marcar Yes para confirmar que concorda antes de prosseguir para as próximas etapas da candidatura
- A resposta para “Por que você quer trabalhar na Anthropic?” é avaliada com importância, e a orientação diz que uma boa resposta costuma ter 200 a 400 palavras
Restrição ao uso de IA no formulário de candidatura
- O formulário online de candidatura da Anthropic inclui a instrução para não usar assistentes de IA durante o processo de candidatura
- A mesma orientação afirma que, após a contratação, a empresa incentiva as pessoas a usar sistemas de IA para trabalhar de forma mais rápida e eficaz em suas funções
- No entanto, na etapa de candidatura, ela busca confirmar o interesse pessoal do candidato sem passar por sistemas de IA
- A capacidade de comunicação sem ajuda de IA do candidato também faz parte da avaliação
Itens que o candidato deve confirmar e responder
- O candidato deve marcar Yes para indicar que leu e concorda com essa política
- Em seguida, deve responder à pergunta “Por que você quer trabalhar na Anthropic?”
- Essa resposta é avaliada com importância, e a orientação informa que uma boa resposta costuma ter 200 a 400 palavras
1 comentários
Opiniões no Hacker News
Olhando pelo lado contrário, não me parece que essa exigência seja particularmente errada, e acho que, como candidato, eu a receberia como informação útil sobre o processo de candidatura
A Anthropic incentiva o uso de IA, mas está pedindo educadamente que o texto da candidatura em si seja escrito pela própria pessoa, e isso me parece razoável o bastante para seguir
Abordagens do tipo “será que não vão me pegar se eu usar IA, isso seria trapaça?” são parecidas com mentir no primeiro encontro. Se você só quer resultado de curto prazo, pode funcionar, mas se quer colaboração de longo prazo e vai ser entrevistado por várias pessoas inteligentes, é muito melhor simplesmente se adequar
Eles ficam empurrando LLMs como uma nova forma de comunicação, incentivando as pessoas a lapidar textos para ficarem mais “amigáveis” ou “profissionais”, mas aí a empresa que cria essas ferramentas pede justamente às pessoas mais interessadas nelas que não as usem exatamente para esse fim
Parece engraçado e hipócrita: para os outros usarem assim tudo bem, mas para falar com eles não gostam. Isso revela um pouco do que essas empresas realmente pensam
Lembra quando Roy Wood Jr foi a um evento sobre armas. Havia uma dissonância cognitiva parecida: defendiam que armas deixam as pessoas mais seguras, mas pediam que ninguém portasse armas no evento por preocupação com a segurança
https://youtube.com/watch?v=m2v9z2S5XzQ&t=190
Já li textos dizendo que as pessoas estão ficando mais egoístas[1], mas ainda me choca ver gente levando individualismo e egoísmo ao extremo com raciocínios do tipo “não é ilegal” ou “não dá para detectar”
Acho difícil sequer imaginar a ideia de não atender a um pedido educado para não usar IA. Se isso me coloca em grande desvantagem no mercado de trabalho, aceito arcar com isso
Vinte anos atrás, meus colegas também faziam escolhas que me pareciam egoístas para sair na frente, e eu estava em paz em seguir outra trajetória, mais baixa. Ainda assim, quero registrar minha frustração com pessoas justificando o egoísmo, ou nem sequer considerando egoísta ignorar esse pedido
[1] https://fortune.com/2024/03/12/age-of-selfishness-sick-singl...
É parecido com uma empresa de tabaco dizer aos funcionários que eles não podem fumar
Respeito precisa ser de mão dupla. Isso não é colaboração; parece mais uma ordem hierárquica unilateral para se protegerem dos danos da ferramenta que eles próprios vendem
A impressão inicial não é boa. Ou apoiem seu produto com convicção, ou aceitem a enxurrada interminável de zombaria e desconfiança
Há duas coisas invertidas na frase “por favor, não use assistentes de IA no processo de candidatura. Queremos entender seu interesse pessoal pela Anthropic sem a mediação de um sistema de IA, e também avaliar sua capacidade de comunicação sem ajuda de IA”
Primeiro, quando é impossível detectar um uso cuidadoso e responsável, não dá para exigir que as pessoas não usem IA. Sem IA podem sair ótimas respostas, com IA também podem sair ótimas respostas, e não será possível distinguir as duas. No fim, o que se consegue filtrar são respostas ruins e dislexia
Segundo, ainda é uma abordagem em que IA é trapaça, e eu esperava que a Anthropic liderasse o pensamento sobre uso responsável de IA
Na vida não existe trapaça; você só está otimizando para o alvo errado. Se a IA fez sua lição de casa, a lição era apenas um indicador indireto de talento, e a IA não criou talento. Se a IA produziu o resultado final e você não entende aquilo, você não foi ajudado; você ficou dependente dela
Os veteranos do setor parecem não perceber, mas LLMs não desenvolvem memória muscular em profissionais jovens. Pelo contrário, acabam deixando a pessoa presa em loops intermináveis de correção de bugs ou tentando desfazer uma bagunça de código
Dá para extrair algum valor para estudo, mas há limites. Quando comecei, aprendi muita coisa lendo livros de algoritmos, implementando por conta própria e quebrando as coisas. Hoje tenho experiência suficiente para reconhecer respostas erradas e consigo usar LLMs, mas mesmo assim sinto que fico um pouco mais preguiçoso
A maioria das pessoas aprende melhor fazendo várias vezes do que lendo alguns capítulos de um livro. Se você aplica um LLM ao problema, no fim está apenas praticando como usar LLMs; isso pode até ser útil por si só, mas pode transformar você em alguém limitado, incapaz de fazer tarefas quando não puder usar um LLM
Vi, literalmente no dia anterior, um adolescente de 14 anos copiando e colando texto ruim do ChatGPT em uma tarefa de Ciência da Computação do GCSE, e aquilo não era aprendizado. Ele nem leu; era só um texto jogado para ver se passava pelo avaliador
Recrutamento também é um jogo de números para candidatos pouco qualificados. Se você usa o mesmo atalho para aumentar o número de candidaturas, eventualmente vai obter “resultado”, mas isso é só uma vantagem de curto prazo; a competência para realmente fazer o trabalho continua faltando
Felizmente, em geral isso fica bem evidente, então elimino quase imediatamente
Supondo que, no fim, o inglês dela seja insuficiente para a função, nessa situação ela desperdiçou tanto o próprio tempo quanto o da empresa
Não me parece que a Anthropic vá sofrer com falta de candidatos
Se quiser avaliar o desempenho de um candidato em uma situação em que ele não pode usar IA, acho que basta sentar na mesma sala e conversar
Se você exige que não usem IA em uma tarefa em que usar IA é vantajoso e difícil de detectar, no fim isso prejudica as pessoas honestas
No processo seletivo, eles querem usar IA. Querem delegar seu trabalho e seus vieses à máquina, mas não querem que outras pessoas façam o mesmo
Há um motivo para a legislação de IA da UE tratar a IA usada em contratações como um dos principais alvos de regulação
Pelo contrário, dar a dica de responder diretamente pode até favorecer as pessoas honestas
Como uma pessoa com autismo e dislexia, esse requisito para a candidatura me incomoda muito
Eu penso visualmente e tenho ideias válidas e perspectivas únicas, mas às vezes tenho dificuldade para transformar pensamentos visuais em fala ou escrita tradicionais. Ferramentas de IA são extremamente valiosas para mim e preenchem a lacuna entre o pensamento visual e a expressão escrita esperada no ambiente de trabalho
LLMs são, essencialmente, ferramentas de tradução. Assim como outras pessoas usam corretores ortográficos ou software de ditado, eu uso LLMs para traduzir pensamentos imagéticos em palavras. Eles não mudam minhas ideias nem meus insights; apenas me ajudam a expressá-los em um formato amigável a pessoas neurotípicas
A Anthropic desenvolve sistemas de IA que dizem beneficiar a humanidade, mas, no processo de candidatura, exclui explicitamente pessoas que usam IA como ferramenta de acessibilidade. É como pedir a alguém que não use, durante a candidatura, a ferramenta assistiva que usa no dia a dia
Dizer que querem avaliar a “capacidade de comunicação sem ajuda de IA” significa avaliar minha capacidade de me comunicar sem minha ferramenta assistiva. Para mim, a comunicação assistida por IA mostra meus pensamentos de forma ainda mais autêntica. Não é para obter uma vantagem injusta; é para nivelar o ponto de partida para que minhas ideias possam ser compreendidas por outras pessoas
Se uma empresa cria sistemas de IA, não deveria querer também a perspectiva de talentos com neurodiversidade, que têm insights únicos sobre como a IA pode de fato ajudar pessoas a pensar e se comunicar de formas diferentes?
No começo, eu estava abordando isso com uma atitude de “IA é ruim” e, para ser sincero, ainda penso isso. Mas ele apresenta um argumento muito convincente sobre por que a IA deveria ser permitida e observada com cuidado
Especialmente a analogia com o corretor ortográfico foi decisiva. Ela também se conecta ao fato de que “IA” não é uma coisa só, mas um espectro muito amplo. Por exemplo, não vejo problema em um candidato usar um editor que destaque erros gramaticais
É difícil decidir onde traçar a linha, mas talvez seja melhor não traçá-la. Faça a entrevista e, se houver programação prática, observe se o candidato usa IA ou não, e avalie de acordo. Se ele agir como um simples proxy, basta não contratá-lo. Fora isso, é preciso julgar o grau de dependência de IA e quão bem a pessoa a usa como ferramenta. Não é fácil, mas provavelmente é melhor do que uma proibição total
Vejo isso como algo parecido com uma pessoa cega usando uma ferramenta de conversão de texto em fala. Que importa de que maneira o trabalho é concluído? O que importa é a qualidade do resultado e se é possível interagir com a pessoa
Outro exemplo: imagine alguém que só consegue trabalhar fazendo programação em par com um colega. Separado, é completamente inútil; junto, é cerca de 150% mais produtivo do que dois programadores em par comuns. Você contrataria? Quanto pagaria aos dois como dupla? Acho que a resposta é contratar, e pagar mais do que simplesmente dividir um salário por dois. Se não fosse a burocracia, eu gostaria de tentar
É um texto excelente, e agradeço pelo insight. Você me mostrou que eu estava errado e me deu a oportunidade de chegar mais perto do lado certo
É um problema bem difícil. Essas empresas de IA estão crescendo com a ideia de que as pessoas não serão substituídas pela IA em breve, mas por pessoas que usam IA de forma eficaz para entregar 10 vezes mais produtividade
Se a IA transforma um desenvolvedor comum em um desenvolvedor 10x, por que não querer ver isso na entrevista? Especialmente porque, nos últimos meses, enganar esse sistema de entrevistas se tornou trivial. O problema não é o candidato, é o modelo de entrevista ultrapassado
A IA provavelmente vai acabar ocultando justamente a capacidade de identificar armadilhas, tomar decisões de design e arquitetura necessárias para uma função real de engenharia. Especialmente no caso de candidatos sênior ou acima, você quer avaliar como a pessoa pensa sobre o problema, e nesse processo devem aparecer a experiência do candidato, seu entendimento técnico e sua capacidade de comunicação
Não estamos tentando trabalhar com uma IA; estamos tentando pagar pelo tempo de uma pessoa. Quando surge um problema difícil, queremos contratar alguém que não desligue metade da cognição
Assim dá para descobrir rapidamente quem realmente entende o próprio trabalho
Como ele reduziu o tempo de escrever código para um décimo usando IA, esse candidato é um programador genial 10x?
Claro, alguém poderia dizer que basta tornar a tarefa complexa demais para a IA resolver, mas os sistemas de IA continuam mudando, coletando prompts de usuários e melhorando. Além disso, às vezes o candidato ainda está no início do processo seletivo, quando não há justificativa para gastar muito tempo em uma tarefa complexa. É simplesmente mais fácil e mais eficaz pedir para não usar IA
Na época, a reação dos elaboradores de provas foi a mesma: “O problema não somos nós; é a máquina. Vamos proibir!”
No longo prazo, a conclusão foi que, se dava para trapacear com uma calculadora, então era simplesmente uma prova ruim
Acho que há aqui uma relutância em admitir que existe um problema de competência de quem elabora a prova. Se o examinador tivesse feito melhor o próprio trabalho, não precisaria proibir o candidato de usar IA. É surpreendente ver esse tipo de reação vindo da Anthropic
Faço muitas entrevistas técnicas em Big Tech e estou aberto a candidatos usarem ferramentas de IA de forma transparente
Não sei por que a maioria das empresas as proíbe. Acho que deveriam aceitar, ou pelo menos testar em um programa-piloto
O resultado provavelmente não mudaria muito. Por exemplo, em programação, a IA não consegue ensinar alguém a programar ou raciocinar ali na hora, e o objetivo da entrevista nunca foi simplesmente acertar a resposta de um puzzle de código
Para mim, a entrevista é um processo para ver como o candidato raciocina, como se comunica e se entende os fundamentos. Coisas como teoria de estruturas de dados e escalabilidade. Se, ao receber um puzzle, ele só cola uma resposta otimizada sem motivo nem explicação, seja de IA, memorização ou Stack Overflow, não passa na entrevista
Então, do que têm medo? De não conseguir diferenciar quem copia e cola saída de IA de alguém realmente competente? Não acho isso realista
Por isso sinto que dizer “IA não é permitida” é mais claro. Como entrevistador, o que quero ver é o raciocínio, a comunicação e a compreensão dos fundamentos do candidato; se ele usa IA, fica difícil saber o que é dele e o que é da IA
Não é que eu ache que IA não seja uma ferramenta útil; é que ela reduz a quantidade de sinal obtida na entrevista. E, de qualquer forma, há a hipótese de que quem performa melhor também usará IA melhor
Uma pessoa que pergunta “resolva este problema”, outra que pergunta “qual é a diferença entre um array e um dicionário?” e outra que pergunta “qual é a complexidade de tempo de uma operação de inserção em um hashmap?” são diferentes
Essas perguntas dão pistas sutis sobre o que o candidato sabe e como ele aborda a tentativa de entender o problema e a solução
A Anthropic fez certo. Hoje há gente demais no setor racionalizando cola com IA
E quem diz que não tem problema escrever uma candidatura de emprego com IA talvez não saiba o seguinte: primeiro, às vezes as perguntas da candidatura têm um propósito real. Segundo, algumas pessoas conseguem ler bastante coisa a partir do que você diz e de como você diz
A citação completa é esta, e parece que a maioria dos comentários aqui está omitindo a primeira parte
“Embora incentivemos o uso de sistemas de IA para trabalhar de forma mais rápida e eficaz no trabalho, pedimos que você não use assistentes de IA durante o processo de candidatura. Queremos entender seu interesse pessoal pela Anthropic sem a mediação de sistemas de IA e também avaliar sua capacidade de comunicação sem ajuda de IA. Se você leu e concorda, marque ‘Yes’”
A ironia é clara, mas o ponto interessante é que, na prática, a Anthropic está pedindo que você não demonstre de forma realista como realmente trabalharia
Parece um pouco como pedir a um desenvolvedor, em um desafio de programação, para usar apenas Vim e não VS Code nem qualquer outra IDE completa
Se eles sabem que os funcionários usam LLMs no trabalho, e até incentivam isso, deveriam querer ver quão bem o candidato se sai na mesma situação
Lembrando da época da faculdade, as provas eram todas de 3 a 4 horas escrevendo código com caneta no papel, ou então trabalhos para fazer em casa que valiam 50% da nota final. Nos trabalhos de casa, não havia expectativa de que os alunos usassem só caneta e papel
Era permitido usar livros ou buscar ajuda na web, mas copiar código encontrado sem citação não era permitido, e colaborar com outras pessoas também era proibido
Recentemente, por volta da metade de uma entrevista, ficou muito claro que o candidato estava usando IA
Isso só ficou evidente em perguntas padrão como “por que você quer trabalhar aqui?”. Quando a pergunta mudou para um formato mais resistente à IA, o candidato desmoronou, e sua proficiência em inglês e capacidade geral de raciocínio caíram drasticamente
Essas perguntas haviam sido introduzidas originalmente para avaliar a capacidade do candidato de pensar de forma abstrata. Por exemplo, perguntas como “qual é a sua filosofia criativa?”