O direito à inteligência local

• A RTI é um movimento para proteger o direito de executar IA local no próprio dispositivo, sem ficar preso a contas de plataforma ou APIs em nuvem
• Baixar, possuir, executar, estudar, modificar e compartilhar modelos abertos deve ser garantido como uso legal, mas atos que causem dano real devem continuar sendo coibidos
• Fraude, cibercrime, CSAM, assédio, deepfakes íntimos sem consentimento, discriminação e sabotagem devem continuar ilegais e sujeitos a aplicação rigorosa da lei
• A principal barreira à qual a RTI se opõe são leis que exigem licença simplesmente para possuir ou executar ferramentas
• A lei não deve forçar de volta para a nuvem nem mesmo tarefas cotidianas que podem ser realizadas com pequenos modelos abertos em notebooks, desktops e celulares

---

O direito de executar IA local

• IA local significa modelos que o usuário pode executar, inspecionar, ajustar e melhorar no próprio computador, e não uma conta de chatbot ou uma API alugada
• O ponto central enfatizado pela RTI é que isso pode ser usado sem depender do status online da plataforma

• Usos que se busca garantir para modelos abertos

  • baixar
  • possuir
  • executar
  • estudar
  • modificar
  • compartilhar

• Atos danosos que devem continuar ilegais

  • Fraude, cibercrime, CSAM, assédio, deepfakes íntimos sem consentimento, discriminação e sabotagem continuam sujeitos a fiscalização
  • A linha de base é não exigir licença apenas para possuir ou executar uma ferramenta

Princípio local-first e como participar

• Nem toda tarefa de IA precisa de um galpão cheio de GPUs, e muitas tarefas cotidianas já podem ser executadas com pequenos modelos abertos em notebooks, desktops e celulares que as pessoas já possuem
• A IA local não substitui todos os modelos em nuvem nem tarefas de treinamento, mas, se a tarefa se encaixa no dispositivo e é legal, a lei não deve forçá-la para a nuvem
• A RTI orienta começar por ações em nível estadual
  • O usuário pode selecionar seu estado para receber um roteiro de ligação
  • No processo oficial de consulta para encontrar o legislador correto, pode ser solicitado um endereço
  • A RTI não armazena o endereço
• O procedimento inicial exige apenas e-mail e informações do estado, e há um link para usuários que querem ligar imediatamente: Just want to call? →
• Quem quiser ajudar com pesquisa, divulgação, dados ou trabalho no site pode entrar em contato em [e-mail] →

[GN⁺]

Opiniões no Hacker News

• Uma lei que restrinja o uso de IA/LLMs locais parece difícil de se concretizar, por mais que a Anthropic queira isso
  Os principais OEMs já estão apostando na disseminação de LLMs locais. Basta olhar para as empresas que darão suporte à plataforma Nvidia RTX Spark, que será lançada em breve: Asus, Dell, HP, Lenovo, Microsoft e MSI; até o fim deste ano, os principais players do setor lançarão máquinas baseadas em Nvidia dedicadas a LLMs locais

  • Para ter tanta certeza assim, é bom lembrar que o lobby nos EUA é inacreditavelmente poderoso e também produz resultados absurdos
    Basta ver a lei de regulação de impressão 3D que está sendo aprovada em Nova York
  • O capital que está em posição de se beneficiar com a proibição de IA local soma mais de US$ 3 trilhões
    Não se deve subestimar isso
  • Se as grandes empresas quiserem, farão com que só seja possível executar modelos blob assinados, e provavelmente também enviarão telemetria
  • Também há a Adobe. Sempre achei impossível que a Adobe estivesse realmente comprometida com um negócio de plataforma em nuvem que precisa decidir o que as pessoas podem ou não editar
    O mesmo vale para a Blackmagic Design.
    Todas elas estão desesperadas para que o Windows rode bem em chips com VRAM integrada
  • Não se deve duvidar. A situação é fluida, e qualquer coisa pode acontecer

• Não entendo por que as pessoas têm tanta certeza de que modelos no nível Mythos ou superiores serão disponibilizados livremente
  O dinheiro também não é distribuído livremente; como alguém pode afirmar que o poder será?
  Se Xi Jinping achar melhor manter os modelos mais recentes da China restritos para beneficiar apenas a China e disser uma única palavra, a partir desse momento pode ser que nenhum outro modelo saia da China

  • Isso não faz muito sentido estrategicamente. Uma das principais forças da China é sua capacidade de exportação; por que ela cortaria isso?
    A China também está investindo enormemente na infraestrutura elétrica real que sustenta isso. Os EUA parecem incapazes de fazer esse tipo de investimento porque seus líderes são surpreendentemente incompetentes e inadequados. Não basta recolher o sarrafo depois que ele caiu no chão.
    Se a China dominar o mercado, ela exportará para manter esse domínio. Os modelos de exportação ficarão uma ou duas gerações atrás dos modelos mais recentes, mas, a menos que acreditemos que já chegamos ao pico, ainda assim superarão o Mythos. E, embora possam ser “gratuitos”, certamente terão backdoors, do mesmo modo que o governo dos EUA se beneficia do domínio global da Microsoft. É parecido com os EUA distribuindo caças uma geração atrás de seus modelos de ponta para manter os aliados dentro do clube.
    Os EUA correm o risco de inverter a política em 180 graus a cada quatro anos, mas a China tem uma tese e uma direção claras. Quantos presidentes americanos Xi já viu ir e vir? Você acha que ele está ficando cada vez mais impressionado? A China só precisa continuar fazendo o que já faz. Parar de repente seu motor de exportação não combina com essa estratégia; isso seria coisa de um “gênio estável”
  • A música pode parar algum dia, mas por enquanto nem está desacelerando
    Xi não interveio quando laboratórios chineses lançaram modelos no nível de GPT-4, o1 e o3. Por que traçar a linha no estado da arte atual, que daqui a um ano já será notícia velha?

• Não vejo informações sobre quais leis ou medidas concretas estão em andamento. Há material mais detalhado em algum lugar?

  • Só pelo site ou pela conta do Twitter vinculada é difícil saber. A principal demanda para cada estado parece ser mais “apoiem uma isenção de responsabilidade clara para posse legal de IA local, pesquisa, modificação de modelos, publicação open source e execução local” do que impedir ou alterar algum projeto de lei ou lei específica
    Uma lei possivelmente relacionada é o California AI Transparency Act, que não é compatível com licenças open source. Referência: https://github.blog/news-insights/policy-news-and-insights/g...

• Esse é o tipo de coisa que precisa ser impulsionada proativamente, não como reação posterior
  Já “conversei” várias vezes tanto com modelos locais quanto com modelos de AIaaS, e todos repetiram a mesma linha de que apenas AIaaS é a escolha racional, segura e correta do ponto de vista de segurança.
  Isso é bobagem, a menos que a receita das empresas de AIaaS dependa de uma fixação de mercado aprovada pelo Estado e de captura regulatória.
  Quando este ciclo de bolha acabar, é bem provável que voltemos a um novo ciclo de excesso de oferta de memória e queda de custos. Pode ser um boom que rompa o “piso” de 16 GB que ficou preso por mais de uma década na computação de consumo, tornando grandes quantidades de RAM, como 64 GB a 1 TB+, valiosas para consumidores em tarefas de IA local. IA local não é apenas um hobby; pode ser o futuro da IA de consumo, se empresas e formuladores de políticas não puderem restringir seu uso com alarmismo.
  Precisamos agir de forma preventiva para proteger o direito dos consumidores de computar e os modelos de IA. Basta aplicar as leis existentes, não criminalizar usos legítimos para sustentar modelos de negócio insustentáveis

  • Exato. IA local é um futuro positivo, enquanto IA SaaS é uma paisagem infernal
    Aqui a linha entre o bem e o mal é muito clara, e todos os envolvidos sabem exatamente onde ela está. Quem finge não saber está sendo movido por motivações que não são o bem moral

• A opção District of Columbia não aparece em “In the US” na petição

• Há uma frase dizendo que “novas leis estaduais podem trancar a IA local atrás de licenças, fazendo com que modelos abertos passem a exigir autorização para uso”
  Eu queria ler mais sobre isso, mas não há nenhuma base apresentada para sustentar essa afirmação

• Pelo menos nos EUA, revogar uma lei exige o mesmo número de votos que aprovar uma nova lei
  Não entendo bem o objetivo disso, a menos que estejam tentando aprovar algo como uma emenda constitucional. Ou talvez seja só para conseguir cliques no site.
  E eu já tenho o direito de usar inteligência local. Minha GPU é minha propriedade privada, e, se alguém publicar livremente um modelo beerware, eu posso baixá-lo livremente.
  O que estou deixando passar?

  • Talvez o espantalho temido seja tornar a posse de IA local um crime grave
  • Quanto tempo você acha que o hardware vai aguentar?
  • Você também pode baixar livremente material de abuso sexual em um PC que é sua propriedade privada
    Mas eu não recomendaria

• Está escrito que “fraude, cibercrime, CSAM, assédio, deepfakes íntimos não consensuais, discriminação e sabotagem devem continuar ilegais e ser aplicados com rigor”
  A parte de aplicados com rigor é onde estará a armadilha. A tendência pode ser dizer que não haverá proibição total de modelos locais, então não é preciso se preocupar. Em vez disso, modelos que receberem algo como uma “certificação CSAM-free” serão plenamente legais. Ou seja, não poderão ser induzidos por prompt a produzir qualquer forma de pornografia envolvendo menores.
  É claro que modelos executados localmente podem ser facilmente desbloqueados com técnicas como prefill, então na prática isso equivalerá a uma proibição total. Mas será muito difícil se opor politicamente a uma política apresentada explicitamente como medida anti-CSAM ou antiterrorismo e nominalmente limitada a esse escopo

• Depender inteiramente de inteligência hospedada na nuvem parece, a cada ano, mais frágil e invasivo. Por isso quero ver esse rumo avançar