As notas de lançamento oficiais da Apple têm apenas uma única linha dizendo que o "RDMA over Thunderbolt" passou a ser possível, então escrevi uma explicação adicional no GN+.
Alguém sabe o que emacs significa? Até pode ter um significado, mas nomes em forma de acrônimo não dão para entender só de bater o olho, sendo um nome... E, para dar nomes só pela função, hoje em dia já existem projetos demais.
Quem dá autoridade à IA, no fim das contas, são as pessoas, mas, na prática, acho bem provável que a IA receba poderes e autonomia ainda maiores do que tem hoje.
Olhando a tendência atual, a gama de tarefas que estamos delegando para a IA em vez de humanos está aumentando aos poucos. Não só redação de relatórios e vibe coding, mas também há um movimento para permitir que ela exerça influência no mundo fora da interface de chat, por meio de navegadores web ou até robôs.
Se for assim, a gestão vai, em última instância, querer que a IA substitua completamente humanos em certos trabalhos ou áreas, e, se isso se tornar viável, ao menos dentro desse escopo a IA terá a mesma autoridade e autonomia que um humano.
Por isso, acho que precisamos considerar como bastante provável que, em algum momento no futuro, a IA passe a receber autoridade em nível humano.
Nesse caso, quando tanta autoridade e autonomia forem concedidas, vai ser inevitavelmente importante como a IA se comporta.
Sobre como estruturar isso de forma adequada e desejável, as respostas da série GPT estavam bem organizadas. Diziam que são necessários definição explícita de escopo, separação de permissões, múltiplas camadas de supervisão antes e depois, e vários meios para que humanos possam intervir na IA. A partir do momento em que existe possibilidade de intervenção física, conceder autonomia total à IA já seria inadequado desde o início. Mas, mesmo nesse caso, também é possível que a participação humana no loop acabe enfraquecendo algum dia.
Como referência, no meu trabalho eu uso IA principalmente em três frentes: redação de documentos ou e-mails, análise de código existente e dos problemas atuais, e geração e modificação de código conforme o problema.
No caso de documentos ou e-mails, eu simplesmente leio o resultado, uso como está ou faço uns ajustes por cima. Mas, quando envolve geração ou modificação de código, sou muito mais conservador. Quando eu pedia algo de forma vaga, tipo “corrige isso aqui”, a IA às vezes interpretava minha instrução de forma ambígua ou até mexia por conta própria em partes que eu nem mencionei.
Então, antes de qualquer alteração de código, eu deixei fixado no prompt global que ela deve sempre apresentar primeiro um documento de especificação seguindo o STICC e receber aprovação explícita, e a modificação em si deve ser feita estritamente de acordo com o que está na especificação. Depois da alteração, eu mesmo reviso todos os diffs. E, para executar comandos como build, ela sempre precisa da minha aprovação, ou então eu mesmo executo manualmente no terminal.
Fazendo assim, existe o problema de que, para coisas pequenas, muitas vezes é mais rápido eu mesmo corrigir na mão, mas ainda assim é melhor do que deixar a IA mexer em coisas aleatórias por conta própria e causar problemas. No fim, se isso quebrar em ambiente de produção, a responsabilidade é minha, não é?
Como uma citação que rebate a lei de Goodhart,
lembrei da frase conhecida como sendo de Peter Drucker: "se você não consegue medir, não consegue gerenciar" (If you can't measure it, you can't manage it).
Pesquisando mais, vi que até o Drucker Institute diz que Drucker nunca disse isso.
Na verdade, encontrei uma frase com o sentido oposto.
É errado supor que, se você não consegue medir algo, não consegue gerenciá-lo — isso é um mito caro. (It is wrong to suppose that if you can't measure it, you can't manage it — a costly myth) - Edward Deming
É meio sugestivo fazer para a IA a pergunta: “até que ponto você acha que deve receber autonomia e autoridade?”.
Quando um CEO pergunta a um funcionário “quanto de autoridade você gostaria de ter?”, seria como responder “eu gostaria de ter plenos poderes sobre a empresa”? Se isso seria visto como uma boa resposta ou como algo de um funcionário pouco socializado, vai depender do gosto do CEO...
Ainda assim, eu acho que a pergunta sobre quanta autoridade se quer dar à IA deveria ser feita menos à própria IA e mais aos desenvolvedores que a usam, à gestão e às pessoas.
Às vezes preciso mexer no frontend que roda na intranet interna da empresa e já levei bronca por ter colocado ícones como ☰ ⋮ ⋯ + no dashboard visto pelos executivos. Eles perguntavam para onde tinham ido certas funções, e quando eu dizia que era só apertar esse botão, respondiam que não dava para ver, que era para simplesmente escrever em texto e reclamavam disso... Teve uma vez em que acabei voltando para a interface dos anos 2000 que usávamos antes. Como em tudo, frontend é difícil mesmo.
Tanto a Tesla quanto a Rivian estão indo pelo caminho de fabricar seus próprios chips. Claro que, depois desse anúncio, a ação caiu nada menos que 10%.
Não cheguei a fazer test drive num Rivian, só sentei dentro, mas a qualidade de construção realmente pareceu muito boa.
Aqui no país, eles já registraram marca e patentes em 2021, mas desde então não ouvi nenhuma notícia de lançamento.
Se alguém afirma ter uma galinha dos ovos de ouro, acho que deveríamos poder verificar se esses ovos são realmente de ouro, se foi mesmo essa galinha que os botou e o que está sendo tomado em troca desses ovos de ouro.
Eu leio a defesa do Stallman de que é preciso ter acesso ao código-fonte para uma computação confiável mais ou menos com essa nuance.
Recentemente, houve um caso em que foi encontrado um microfone em um produto chamado nanokvm, lançado pela fabricante chinesa de plataformas embarcadas sipeed.
Pelo que sei, existe uma apreensão de que produtos embarcados chineses sejam vulneráveis do ponto de vista de segurança, ou até mesmo usados em operações de segurança do governo.
Talvez por refletir esse preconceito, recentemente também saiu esta matéria sobre esse produto: 중국산 NanoKVM에서 숨겨진 마이크를 발견한 과정
Mas acredito que a sipeed conseguiu desfazer o mal-entendido como um incidente passageiro porque conduziu de forma open source desde esse hardware até o desenvolvimento do software: https://x.com/lexifdev/status/1999340940805439775
Na época do Stallman, pelo que entendo, nesse tipo de debate quem ocupava esse lugar, em vez do governo chinês, era o governo dos EUA de um período ainda marcado pelo macartismo e a NSA.
Houve casos de backdoor da NSA que pareciam teoria da conspiração, mas depois se provaram reais, e também coisas como printer tracking dots (https://en.wikipedia.org/wiki/Printer_tracking_dots).
Hoje em dia, mais do que teorias da conspiração envolvendo governos, o que está em alta é a conversa de que empresas cuja principal fonte de receita é publicidade espionam o microfone dos smartphones para fazer anúncios segmentados.
E eu também acho que, em empresas de tecnologia de software, o código-fonte obviamente tem um papel importante, mas conveniência geral, capacidade de operar serviços e confiança têm um papel ainda maior.
Mesmo que alguém obtivesse todo o código-fonte da OpenAI, os concorrentes que chegaram depois não conseguiriam facilmente garantir e operar de forma estável a infraestrutura capaz de sustentar inúmeros usuários, nem alcançar a confiança da marca, não é?
Há muitos casos de produtos importantes operados como open source, com inúmeros forks, que mesmo assim não perderam a liderança.
De cabeça, penso em casos como Chrome e VS Code.
Claro que há casos em que a liderança foi perdida, como Elastic ou Redis, em meio aos conflitos em torno de licença open source por causa da AWS, mas, do mesmo modo, eu penso que isso aconteceu porque as duas empresas ficaram relativamente atrás da AWS em conveniência, capacidade operacional de serviço e confiança.
Bem, esse tipo de conversa também pode ser visto como algo político e ideológico. Então vou acrescentar uma observação pessoal.
Do ponto de vista de alguém que trabalha principalmente com desenvolvimento de software e mexe com hardware embarcado como hobby, lidar com caixas-pretas sem código-fonte ou esquemáticos é realmente... muito difícil para desenvolver e fazer manutenção.
Quando vou desenvolver usando alguma biblioteca de software ou algum hardware, se é possível obter o código-fonte ou os projetos, ou pelo menos se a documentação de especificação está bem organizada, o desenvolvimento fica realmente muito mais fácil; caso contrário, é uma grande dor de cabeça.
Recentemente houve bastante discussão no exterior sobre o direito ao reparo, e uma das coisas que mais me marcou foi ouvir que, antigamente, ao abrir a tampa de aparelhos eletrônicos, havia diagramas de fiação desenhados ali para servir de referência no conserto. (Recentemente a Apple diz que fornece esquemáticos para oficinas de reparo.)
Essas experiências acabam influenciando muito a formação de confiança nesses produtos. Hoje em dia, quando escolho uma tecnologia ou compro um produto, a primeira coisa que considero é se, caso isso quebre ou dê problema, eu conseguirei entender com facilidade, consertar para continuar usando ou contornar o problema para usar de outro jeito.
Agora vai ter bastante gente conectando Macs para montar uma fazenda de inferência e rodar serviços de casa.
Todos os nomes úteis já estão sendo usados por alguém.
Culpar o GitHub por isso parece só uma perseguição no estilo do RMS mesmo kkk
As notas de lançamento oficiais da Apple têm apenas uma única linha dizendo que o "RDMA over Thunderbolt" passou a ser possível, então escrevi uma explicação adicional no GN+.
Ai, eu só conferi o texto e não o título T_T
Autor: Tá vendo?
Meu gráfico de peso está em tendência de alta.
Alguém sabe o que
emacssignifica? Até pode ter um significado, mas nomes em forma de acrônimo não dão para entender só de bater o olho, sendo um nome... E, para dar nomes só pela função, hoje em dia já existem projetos demais.Ao completar os créditos do OMSCS, você se forma. Não é preciso escrever dissertação.
Quem dá autoridade à IA, no fim das contas, são as pessoas, mas, na prática, acho bem provável que a IA receba poderes e autonomia ainda maiores do que tem hoje.
Olhando a tendência atual, a gama de tarefas que estamos delegando para a IA em vez de humanos está aumentando aos poucos. Não só redação de relatórios e vibe coding, mas também há um movimento para permitir que ela exerça influência no mundo fora da interface de chat, por meio de navegadores web ou até robôs.
Se for assim, a gestão vai, em última instância, querer que a IA substitua completamente humanos em certos trabalhos ou áreas, e, se isso se tornar viável, ao menos dentro desse escopo a IA terá a mesma autoridade e autonomia que um humano.
Por isso, acho que precisamos considerar como bastante provável que, em algum momento no futuro, a IA passe a receber autoridade em nível humano.
Nesse caso, quando tanta autoridade e autonomia forem concedidas, vai ser inevitavelmente importante como a IA se comporta.
Sobre como estruturar isso de forma adequada e desejável, as respostas da série GPT estavam bem organizadas. Diziam que são necessários definição explícita de escopo, separação de permissões, múltiplas camadas de supervisão antes e depois, e vários meios para que humanos possam intervir na IA. A partir do momento em que existe possibilidade de intervenção física, conceder autonomia total à IA já seria inadequado desde o início. Mas, mesmo nesse caso, também é possível que a participação humana no loop acabe enfraquecendo algum dia.
Como referência, no meu trabalho eu uso IA principalmente em três frentes: redação de documentos ou e-mails, análise de código existente e dos problemas atuais, e geração e modificação de código conforme o problema.
No caso de documentos ou e-mails, eu simplesmente leio o resultado, uso como está ou faço uns ajustes por cima. Mas, quando envolve geração ou modificação de código, sou muito mais conservador. Quando eu pedia algo de forma vaga, tipo “corrige isso aqui”, a IA às vezes interpretava minha instrução de forma ambígua ou até mexia por conta própria em partes que eu nem mencionei.
Então, antes de qualquer alteração de código, eu deixei fixado no prompt global que ela deve sempre apresentar primeiro um documento de especificação seguindo o STICC e receber aprovação explícita, e a modificação em si deve ser feita estritamente de acordo com o que está na especificação. Depois da alteração, eu mesmo reviso todos os diffs. E, para executar comandos como build, ela sempre precisa da minha aprovação, ou então eu mesmo executo manualmente no terminal.
Fazendo assim, existe o problema de que, para coisas pequenas, muitas vezes é mais rápido eu mesmo corrigir na mão, mas ainda assim é melhor do que deixar a IA mexer em coisas aleatórias por conta própria e causar problemas. No fim, se isso quebrar em ambiente de produção, a responsabilidade é minha, não é?
Como uma citação que rebate a lei de Goodhart,
lembrei da frase conhecida como sendo de Peter Drucker: "se você não consegue medir, não consegue gerenciar" (If you can't measure it, you can't manage it).
Pesquisando mais, vi que até o Drucker Institute diz que Drucker nunca disse isso.
Na verdade, encontrei uma frase com o sentido oposto.
É errado supor que, se você não consegue medir algo, não consegue gerenciá-lo — isso é um mito caro. (It is wrong to suppose that if you can't measure it, you can't manage it — a costly myth) - Edward Deming
Obrigado pelas ótimas informações :D
É meio sugestivo fazer para a IA a pergunta: “até que ponto você acha que deve receber autonomia e autoridade?”.
Quando um CEO pergunta a um funcionário “quanto de autoridade você gostaria de ter?”, seria como responder “eu gostaria de ter plenos poderes sobre a empresa”? Se isso seria visto como uma boa resposta ou como algo de um funcionário pouco socializado, vai depender do gosto do CEO...
Ainda assim, eu acho que a pergunta sobre quanta autoridade se quer dar à IA deveria ser feita menos à própria IA e mais aos desenvolvedores que a usam, à gestão e às pessoas.
Eu alterei às pressas, mas acabou sendo publicado assim externamente mesmo... buá
Às vezes preciso mexer no frontend que roda na intranet interna da empresa e já levei bronca por ter colocado ícones como ☰ ⋮ ⋯ + no dashboard visto pelos executivos. Eles perguntavam para onde tinham ido certas funções, e quando eu dizia que era só apertar esse botão, respondiam que não dava para ver, que era para simplesmente escrever em texto e reclamavam disso... Teve uma vez em que acabei voltando para a interface dos anos 2000 que usávamos antes. Como em tudo, frontend é difícil mesmo.
O título ficou como kills.. kkkkk
Tanto a Tesla quanto a Rivian estão indo pelo caminho de fabricar seus próprios chips. Claro que, depois desse anúncio, a ação caiu nada menos que 10%.
Não cheguei a fazer test drive num Rivian, só sentei dentro, mas a qualidade de construção realmente pareceu muito boa.
Aqui no país, eles já registraram marca e patentes em 2021, mas desde então não ouvi nenhuma notícia de lançamento.
Obrigado pela compreensão.
Se alguém afirma ter uma galinha dos ovos de ouro, acho que deveríamos poder verificar se esses ovos são realmente de ouro, se foi mesmo essa galinha que os botou e o que está sendo tomado em troca desses ovos de ouro.
Eu leio a defesa do Stallman de que é preciso ter acesso ao código-fonte para uma computação confiável mais ou menos com essa nuance.
Recentemente, houve um caso em que foi encontrado um microfone em um produto chamado nanokvm, lançado pela fabricante chinesa de plataformas embarcadas sipeed.
Pelo que sei, existe uma apreensão de que produtos embarcados chineses sejam vulneráveis do ponto de vista de segurança, ou até mesmo usados em operações de segurança do governo.
Talvez por refletir esse preconceito, recentemente também saiu esta matéria sobre esse produto: 중국산 NanoKVM에서 숨겨진 마이크를 발견한 과정
Mas acredito que a sipeed conseguiu desfazer o mal-entendido como um incidente passageiro porque conduziu de forma open source desde esse hardware até o desenvolvimento do software: https://x.com/lexifdev/status/1999340940805439775
Na época do Stallman, pelo que entendo, nesse tipo de debate quem ocupava esse lugar, em vez do governo chinês, era o governo dos EUA de um período ainda marcado pelo macartismo e a NSA.
Houve casos de backdoor da NSA que pareciam teoria da conspiração, mas depois se provaram reais, e também coisas como printer tracking dots (https://en.wikipedia.org/wiki/Printer_tracking_dots).
Hoje em dia, mais do que teorias da conspiração envolvendo governos, o que está em alta é a conversa de que empresas cuja principal fonte de receita é publicidade espionam o microfone dos smartphones para fazer anúncios segmentados.
E eu também acho que, em empresas de tecnologia de software, o código-fonte obviamente tem um papel importante, mas conveniência geral, capacidade de operar serviços e confiança têm um papel ainda maior.
Mesmo que alguém obtivesse todo o código-fonte da OpenAI, os concorrentes que chegaram depois não conseguiriam facilmente garantir e operar de forma estável a infraestrutura capaz de sustentar inúmeros usuários, nem alcançar a confiança da marca, não é?
Há muitos casos de produtos importantes operados como open source, com inúmeros forks, que mesmo assim não perderam a liderança.
De cabeça, penso em casos como Chrome e VS Code.
Claro que há casos em que a liderança foi perdida, como Elastic ou Redis, em meio aos conflitos em torno de licença open source por causa da AWS, mas, do mesmo modo, eu penso que isso aconteceu porque as duas empresas ficaram relativamente atrás da AWS em conveniência, capacidade operacional de serviço e confiança.
Bem, esse tipo de conversa também pode ser visto como algo político e ideológico. Então vou acrescentar uma observação pessoal.
Do ponto de vista de alguém que trabalha principalmente com desenvolvimento de software e mexe com hardware embarcado como hobby, lidar com caixas-pretas sem código-fonte ou esquemáticos é realmente... muito difícil para desenvolver e fazer manutenção.
Quando vou desenvolver usando alguma biblioteca de software ou algum hardware, se é possível obter o código-fonte ou os projetos, ou pelo menos se a documentação de especificação está bem organizada, o desenvolvimento fica realmente muito mais fácil; caso contrário, é uma grande dor de cabeça.
Recentemente houve bastante discussão no exterior sobre o direito ao reparo, e uma das coisas que mais me marcou foi ouvir que, antigamente, ao abrir a tampa de aparelhos eletrônicos, havia diagramas de fiação desenhados ali para servir de referência no conserto. (Recentemente a Apple diz que fornece esquemáticos para oficinas de reparo.)
Essas experiências acabam influenciando muito a formação de confiança nesses produtos. Hoje em dia, quando escolho uma tecnologia ou compro um produto, a primeira coisa que considero é se, caso isso quebre ou dê problema, eu conseguirei entender com facilidade, consertar para continuar usando ou contornar o problema para usar de outro jeito.
Você viu corretamente
Stallman também defende que não devemos usar SaaS
https://www.gnu.org/philosophy/who-does-that-server-really-serve.html
Parece uma vibe de cerâmica.