Em reuniões em inglês, naturalmente leva vantagem quem se sente mais confortável com o idioma. Especialmente em reuniões, o timing para falar é realmente importante; por mais que eu tenha tudo perfeitamente organizado na cabeça, se o inglês não for minha língua nativa, acabo travando e simplesmente desisto de falar.
Achei que esse problema poderia ser resolvido com LLMs, que são especialmente fortes no uso da linguagem, então comecei a criar um produto.
Este produto é um aplicativo desktop separado que exibe uma janela transparente sobre ferramentas de reunião remota como Zoom, Google Meet e Teams.
Ele oferece os seguintes recursos principais.
- Detecta o que outras pessoas estão dizendo na reunião real e a entrada do meu microfone, transcreve em tempo real o que a outra pessoa fala e traduz rapidamente.
- Se parecer que a outra pessoa fez uma pergunta para mim durante a reunião, ele detecta isso automaticamente e gera uma resposta adequada para mostrar.
- Se, durante a reunião, eu não conseguir pensar em como dizer em inglês uma frase ou palavra que quero expressar, posso digitar e receber uma expressão em inglês em altíssima velocidade.
- Quando a reunião termina, com base no conteúdo da reunião, ele faz um feedback e uma análise mais aprofundados das frases que eu falei e fornece um relatório reescrevendo tudo com expressões que um nativo realmente usaria.
A parte em que mais foquei e me esforcei tecnicamente foi em receber respostas o mais rápido possível. Por melhor que seja o desempenho, em uma reunião que passa em ritmo frenético, depois de apenas 2 segundos a informação já perde o valor.
O desempenho dos LLMs já é suficientemente bom para ajudar no inglês, mas a velocidade de geração de tokens varia enormemente de modelo para modelo, e passei muito tempo tentando equilibrar isso. Testei mais de dezenas de modelos fundacionais e, atualmente, estou encontrando e otimizando combinações adequadas de modelos fundacionais para cada objetivo.
Como resultado, não apenas na tradução, mas também nas sugestões de expressão e em outros pontos, foi possível usar LLMs e ainda assim obter resultados de boa qualidade com uma velocidade de resposta quase em tempo real.
Durante 3 meses, conduzi conversas diárias pelo KakaoTalk e entrevistas em vídeo 1:1 com 150 alfa testers, melhorando o produto aos poucos toda semana, e finalmente fizemos o lançamento oficial.
Depois de anos apenas acompanhando o GeekNews de longe e recebendo notificações pelo Slack, fico até um pouco nervoso por finalmente escrever um post aqui.. Se o produto despertou seu interesse, eu agradeceria muito se você desse uma olhada no link abaixo e deixasse seu feedback nos comentários — isso seria de grande ajuda.
Você pode experimentar gratuitamente sem cadastrar cartão de crédito.
https://trysmooth.ai
Ainda não há comentários.