O fim da fronteira
(tanyaverma.sh)- O anúncio do Mythos pela Anthropic marcou o fato de que a internet já não é mais um espaço de criação sem permissão onde qualquer pessoa pode explorar livremente
- À medida que trabalho e inteligência são substituídos por capital, consolida-se uma estrutura em que um pequeno número de empresas conquista uma vantagem permanente na era da IA
- Políticas de modelos fechados e restrições de acesso por API são justificadas em nome da segurança, mas acabam desacelerando ao mesmo tempo a inovação e a pesquisa em segurança
- O princípio básico para o acesso à inteligência deve ser “acesso em primeiro lugar”, e as empresas devem garantir processos transparentes e possibilidade de auditoria
- É preciso estar atento à estrutura colonial de extração de valor em que modelos treinados com dados de toda a humanidade são monopolizados por poucos, e preservar a abertura e a criatividade da internet
O fim da fronteira
- O anúncio do Mythos pela Anthropic simboliza que a internet já não é mais um espaço sem permissão onde qualquer pessoa pode explorar e criar livremente
- No passado, qualquer um podia acessar a mesma infraestrutura tecnológica da internet sem capital ou conexões, mas agora a lacuna entre modelos abertos e fechados está aumentando
- Isso é comparado ao fim das oportunidades representado pelo “desaparecimento da fronteira” no período de expansão para o oeste dos EUA
- A estrutura em que trabalho e inteligência são substituídos por capital está se aprofundando, permitindo que grupos com capital mantenham uma vantagem permanente na era da IA
- Rudolf Laine descreveu isso como “uma era em que o capital se converte em trabalho sobre-humano”, e George Hotz chamou isso de “neofeudalismo”
- Há o alerta de que, se um número ínfimo de empresas monopolizar a própria inteligência, todos os demais podem ser empurrados para uma classe inferior permanente
- A política de fechamento do Mythos pela Anthropic é criticada não como uma simples medida de segurança, mas como uma estrutura em que empresas privadas monopolizam capacidades de nível estatal
- A Anthropic anunciou o Project Glasswing com AWS, Apple e Google, mas concedeu acesso apenas a parceiros corporativos, sem disponibilização pública
- Isso amplia os riscos em caso de incidentes de segurança ou vazamento de informação e cria uma situação antidemocrática em que capacidades de nível estatal se concentram em empresas privadas
- Restrições de acesso por API podem ajudar a evitar abuso, mas também reprimem a inovação e a pesquisa em segurança
- O acesso aberto revela as capacidades potenciais dos modelos e permite “falhar rápido e corrigir” em ambientes reais
- Assim como a adoção passada de fuzzers (American Fuzzy Lop) levou ao fortalecimento da segurança, ampliar o acesso a modelos de fronteira também pode melhorar a capacidade de defesa
- No entanto, hoje pesquisadores de segurança em IA não conseguem acessar modelos grandes e, por isso, usam majoritariamente modelos open source chineses
- O princípio básico do acesso à inteligência deve ser “acesso em primeiro lugar”, e os dispositivos de segurança devem ser construídos sobre essa base
- Empresas com capacidades de nível governamental precisam estabelecer procedimentos justos e critérios transparentes, e qualquer restrição de acesso deve vir acompanhada de justificativas claras
- A retirada do acesso a modelos de fronteira funciona como uma forma de exclusão social semelhante à condição de “unbanked”
- Exige-se um dever de auditoria em nível de FOIA
- Quando modelos treinados com os dados de toda a humanidade são monopolizados por poucas empresas, isso se assemelha a uma estrutura colonial de extração de valor
- A maior parte dos provedores de dados tem valor extraído sem consentimento, enquanto os lucros se concentram em redes internas
- Depois, repete-se o padrão de buscar legitimidade moral por meio de UBI ou doações filantrópicas
- Mesmo que a intenção não seja maliciosa, o problema estrutural da concentração de poder permanece o mesmo
- Também se apresenta uma esperança quanto ao potencial de personalização da IA
- A atual era de IA fechada pode ser apenas a era dos mainframes, e ainda existe a possibilidade de transição para a era da computação pessoal (Apple II)
- Modelos open source já estão alcançando a fronteira com uma defasagem de 3 a 12 meses e, se houver expansão no fornecimento de chips e energia, poderá surgir uma era de “inteligência tão barata que será impossível medi-la”
-
Não devemos perder a liberdade de ‘Wired’
- Assim como cidades cortam árvores antigas em nome da segurança, existe o risco de perder a abertura e a criatividade da internet por causa de uma lógica de segurança excessiva
- A internet continua sendo o último espaço de criação e exploração guiadas pelo indivíduo, e é importante preservá-la
13 comentários
Parece exagero de marketing. Toda vez que sai um modelo novo, dizem que é o maior de todos os tempos, que é o fim da era humana, que a programação acabou e agora todo mundo vai ter que virar encanador, e por aí vai. Não faltaram slogans criativos e exagerados, mas, na prática, havia problemas de uso real. E o mais importante é que a maioria das pessoas ainda fica, na verdade, no nível de usar isso como um mecanismo de busca avançado, então não consegue extrair 100% do potencial de modelos poderosos. O gargalo da era dos LLMs não é código nem infraestrutura, mas, paradoxalmente, a baixa compreensão que o público em geral tem sobre sistemas de informação ao escrever prompts.
Vendo esses modelos de 31B sendo liberados hoje em dia, é impressionante... por enquanto, ainda parece haver um pouco de esperança.
Comentários do Hacker News
Acho cedo demais para esse tipo de discussão surgir quando faz só uma semana desde o anúncio
Dizer que “esse modelo é poderoso demais para o público” soa como frase de marketing
Daqui a alguns meses vão acabar vendendo outro modelo, e depois provavelmente dirão que “o novo modelo é poderoso demais para ser divulgado”
Dizem que o Mythos é lento demais para programação interativa. Se o resultado só sai depois de passar a noite inteira, a maioria dos usuários não tem motivo para usar
Os laboratórios de IA ainda operam no prejuízo, e para disponibilizar o Mythos seria preciso cobrar um preço muito mais alto. Se a maioria dos clientes não percebe essa diferença, isso não faz sentido economicamente
Talvez a Anthropic quisesse aproveitar um acesso a datacenters de treinamento maior do que o da OpenAI. Mas o que precisamos agora não é de modelos mais inteligentes, e sim de modelos pequenos, baratos e bons o suficiente
Não parece que o Mythos vá ser diferente daquela vez
Quem queria desacelerar o desenvolvimento de IA acabou espalhando esse discurso e atraindo atenção, contribuindo no fim para a difusão da IA
Havia até um estudo interessante sobre esse fenômeno por volta de 2011, e lembro do caso da marca sueca Cheap Monday
Parece acreditar que restringir o acesso é o núcleo da segurança
Mas se essa atitude acaba beneficiando só alguns e excluindo a maioria, cabe ao público julgar se isso se justifica
Se esse tipo de função for liberado por API pública, o potencial de abuso é grande
Já há muitos casos de fraude em escala e deepfakes usando IA
Se ao mandar em código open source “encontre todas as vulnerabilidades possíveis” ele gerar muito mais resultados do que os modelos atuais, uma liberação restrita é uma escolha razoável
Dá para entender a Anthropic ter dado acesso só a empresas de segurança como Crowdstrike, Cisco e Microsoft
Se o objetivo do Glasswing é fortalecer a segurança da infraestrutura, seria estranho bloquear o acesso dessas empresas só porque já houve incidentes de segurança
O Mythos pode até ser divulgado algum dia, mas essa liberação limitada agora parece ser um processo preparatório para uma divulgação segura
Na NVIDIA, eles estão desenvolvendo o Nemotron para lidar com esse tipo de preocupação
O Nemotron não divulga só pesos abertos, mas também dados abertos e receita aberta
O objetivo é que várias instituições colaborem para criar uma IA aberta
O Nemotron 3 Super é o mais bem-sucedido até agora, e em breve devem sair o Ultra e o Nemotron 4
É uma estratégia possível porque, quanto mais a IA cresce, maiores ficam as oportunidades da NVIDIA
Link relacionado
A frase “a era em que até um jovem de 16 anos podia criar algo sem capital” hoje está mais próxima da verdade
A razão de a Anthropic não conseguir divulgar o Mythos é falta de recursos computacionais
A OpenAI deve garantir muito mais poder computacional neste ano e no próximo
Concordo com a opinião de que “é cedo demais”, no sentido de que o Mythos não é tão diferente dos outros modelos
Ainda assim, a narrativa dos críticos de IA de que “as big techs saquearam a sociedade” parece vir de um mal-entendido sobre o conceito de propriedade intelectual
Em vez de esconder o Mythos, seria bom se a Anthropic o usasse como serviço corporativo de auditoria de segurança
Se fosse um serviço que ataca a infraestrutura com o modelo para encontrar vulnerabilidades, também teria boa rentabilidade
Por exemplo, se o mantenedor de um pacote npm popular estivesse precisando de dinheiro e pedisse para o Mythos auditar a própria biblioteca, e um mês depois ela fosse hackeada, isso viraria um problemão
A analogia com a rede elétrica foi marcante
Assim como uma pessoa pode gerar energia com painéis solares, mas a maioria paga serviços públicos para usar eletricidade
Da mesma forma, o acesso à inteligência deveria, em princípio, estar aberto a todos
Usos perigosos podem ser limitados com salvaguardas, mas o padrão deveria ser permitir o acesso
A humanidade sempre cai na tentação de transformar “tecnologias monstruosas” em necessidade
Mas não dá para manter esses monstros presos por muito tempo. No fim, eles escapam de qualquer controle
As oportunidades da era da fronteira nos Estados Unidos foram um fenômeno excepcional
Em períodos de expansão rápida, o indivíduo podia crescer, mas quando chega a estagnação, as empresas esmagam o indivíduo
À medida que o avanço tecnológico acelera, estamos chegando a um ponto em que um indivíduo pode destruir o mundo
Como armas nucleares, talvez a IA também tenha chegado ao ponto em que é preciso limitar o acesso individual
Para dar certo, teria de ser um serviço ligado a celebridades
No fim das contas, as concorrentes vão copiar tudo mesmo kkk “Agora vão lá e briguem”
Mas isso não deve ser um conceito novo, né?
No setor financeiro também existe um hub financeiro que vai além das leis de todos os países, e por meio dele todo o sistema financeiro é controlado.
Agora o mesmo estaria acontecendo com TI: um hub de TI é criado, as empresas de TI se coordenam entre si e passam a enfrentar todos os países.
E, vendo o desempenho do Claude, dá para entender isso.
Você está se referindo a um grupo específico, como uma rede judaica, ao falar de hub financeiro, ou a hubs de simples intermediação como Hong Kong e Singapura?
Na prática, estruturas como o SWIFT ou a compensação de pagamentos precisam ser vistas como estando nas mãos das grandes potências.
Em vez de fazer frente a isso, elas tendem a ser usadas como ferramentas do lado mais poderoso.
Olhando por esse ângulo, este texto também me parece, de forma mais natural, acabar se tornando uma ferramenta dos poderosos, em linha com sua intenção original.
Parece que o marketing ainda está um pouco forte.
De fato, se for criado um modelo com capacidades praticamente infinitas ao extremo, talvez nem faça sentido divulgá-lo. Afinal, ele provavelmente conseguiria gerar por conta própria um valor agregado maior do que a própria taxa cobrada pelo seu uso...
Se forem obrigados a divulgar adequadamente, então, paradoxalmente, com o trabalho e a inteligência sendo substituídos, um comunismo que nunca conseguiu existir nem uma única vez na história pode até se tornar realidade.
É um ótimo texto que aponta aspectos em que eu não tinha pensado. Obrigado!
Ao ver coisas como o GLM5.1, fiquei pensando que até os modelos abertos conseguem continuar perseguindo os modelos pagos e fechados de forma consistente, mesmo que haja uma certa diferença entre eles.
Parece algo que já estava previsto.. uma era em que a tecnologia vira magia e um pequeno grupo de magos monopoliza tudo..
Anthropic inventou o B2B?