Alow, Alow! Desde 2023 estou testando os novos modelos de IA como os GPTs da OpenAI em busca de criar novas soluções financeiramente viáveis e funcionais.
Por exemplo, o modelo GPT 3.5 já tinha bons resultados com com custo elevado, seguimos construindo soluções como nosso Workflows e o Caramelo AI Marketing para geração de conteúdos com o máximo de economia de tokens.
Há cerca de 2 meses foram lançadas as variações dos modelos mini e flash: Modelos com custo muito menor mantendo uma boa qualidade de respostas. Com esses modelos criar soluções que usam IA ficou muito mais viável.
Após o lançamento desses modelos começamos os testes e desenvolvimento da Fina, inicialmente usando parte da lógica com botões, elementos e fluxos convencionais de chatbots. O grande problema aqui é que para ser um assistente real teríamos que adicionar muitas funcionalidades programadas especificamente para cada caso de uso, algo inviável para o investimento disponível.
Os usuários estavam fazendo perguntas fora do esperado e "quebrando" a aplicação que não reagia muito bem a isso. Na época coisas como "Saúde financeira da Petrobrás" não funcionavam, mas eram interessantes para o público alvo.
Eu já conhecia agentes de IA, então vi a oportunidade perfeita para aplicar na Fina e deixar ela bem mais inteligente.
A equipe escolheu o LangChain como framework para desenvolver essa versão, após testar algumas libs escolhemos o LangChain em Javascript.
Avançamos com o desenvolvimento usando LangChain em um formato de RAG onde a IA decide qual dado precisa pegar e quanto. Temos conhecimento de dados financeiros e conhecimento de como fazer o acesso a diversos dados oficiais como os da CVM algo que ajudou bastante na qualidade final da solução.
O maior desafio foi garantir que a IA entendesse que um dado pertence obrigatoriamente a uma empresa específica, mas com algumas técnicas de prompt foi possível resolver o problema.
Hoje a Fina tem dados corretos e confiáveis com ótimos insights e bastante autonomia para decidir o que fazer quando recebe alguma mensagem de um usuário.
Sobre as AIs e estado atual:
As AIs ainda cometem erros e precisam de ajuda para resolver coisas complexas mas com alguns ajustes o poder de raciocínio delas, sim, elas tem um certo raciocínio e é impressionante e consegue atender a uma quantidade incrível de casos de usuários simplesmente dandos as ferramentas corretas para elas agirem garantindo as limitações e cuidados.
Eu trabalho a anos desenvolvendo automações, muitas que demoravam horas para fazer e hoje as IAs simplemente fazem como formatar variações de um texto "humanizado", é inevitável que vamos ter IAs para praticamente tudo, algo que a sociedade tem que se preparar ...
Se os modelos de IAs geracionais pensam ou não, não faz diferença real hoje. O importante é testar e entender o que essa ferramenta é capaz de fazer e usar para criar novas possibilidades.