Visualizei o microGPT como um site.
(ko-microgpt.vercel.app)Há pouco tempo, Andrej Karpathy, um dos cofundadores da OpenAI, publicou o projeto microGPT, que resume a estrutura do GPT em cerca de 200 linhas. Com base nisso, tentei visualizar todo o pipeline do GPT em um site interativo.
Da tokenização ao embedding, à atenção e à inferência, criei tudo para que o fluxo interno possa ser visto passo a passo, com o estado sendo atualizado em tempo real para que seja possível acompanhar como os dados mudam em cada etapa.
Se, ao verem, encontrarem alguma parte conceitualmente diferente da implementação real, ou tiverem feedback sobre a forma de visualização/explicação, agradeço se puderem me contar!
9 comentários
É meio teoria da conspiração, mas tenho a impressão de que os
Show GNpostados por estudantes costumam receber poucos comentários ou comentários simples e ainda assim ganham muitos pontos rapidamente e vão para a página principal.O design ficou realmente muito bonito, gostei bastante~
Eu também gosto de teorias da conspiração, então, para botar mais lenha na fogueira, assim como há posts que são pegos e acabam sendo marcados com flag, provavelmente também há bastante post abusivo que passa ileso(?) sem ser detectado. Especialmente quando usam VPN com cuidado e distribuem bem o horário dos upvotes. Não estou dizendo que este post seja assim, claro..
Muito obrigado por disponibilizar isso em coreano para que possamos ler.
O conteúdo continua bem difícil, como era de se esperar.
hahaha
Oh, ficou bem legal, hein?
Interessante.
Uau, ficou muito bem feito..
Ficou bonito e bem colorido! O design foi feito por você mesmo? Ou você usou alguma referência?
https://www.designprompts.dev/
Recebi e usei aqui um prompt de neobrutalismo!
Pelo que ouvi, esse design é chamado de neobrutalismo.