Imagine um Mundo Onde os Livros Respondem às Suas Perguntas

Introdução

Já alguma vez se perguntou como seria fazer perguntas diretamente aos livros? Os Large Language Models (LLMs) como o GPT-4 da OpenAI estão a tornar isto realidade. Neste guia conciso, mergulhamos no fascinante universo dos LLMs e no seu potencial para transformar vários setores. Fique a saber como ligar LLMs a fontes de dados externas pode revelar possibilidades incríveis e enriquecer a nossa interação com o conhecimento escrito. Deixemo-nos inspirar em conjunto!

O que são LLMs?

Os LLMs aproveitam o poder dos algoritmos de aprendizagem profunda e das redes neuronais, em particular os transformer models, para compreender e gerar texto em linguagem natural. Treinados em conjuntos de dados vastos, como livros, artigos e websites, estes modelos são capazes de produzir texto semelhante ao humano. Pegam na notável capacidade de pessoas como o Kim Peek, que conseguia ler livros depressa e reter quase tudo, e levam-na a novos patamares. Alguns exemplos notáveis de LLMs incluem o BERT da Google, o BLOOM da HuggingFace, o LLaMA da Meta e o GPT-4 da OpenAI.

Porquê usar LLMs?

Os LLMs abrem um mundo de possibilidades em vários setores:

• Saúde: apoiar o diagnóstico.
• Educação: desenhar planos de aprendizagem personalizados.
• Desenvolvimento de software: simplificar o processo de escrever código.

Para ilustrar melhor o potencial dos LLMs, exploremos um cenário jurídico. Ao ligar LLMs a bases de dados jurídicas, é possível assentar uma base de conhecimento legal para advogados que gerem vários processos em simultâneo. O LLM aprofunda depois as circunstâncias particulares de cada caso, examinando peças processuais específicas a par de documentos legais gerais, cruzando leis e precedentes pertinentes e gerando respostas rigorosas e à medida para cada situação. Como resultado, os LLMs podem automatizar tarefas como redigir documentos jurídicos e fazer análise de casos, poupando tempo e aumentando a eficiência tanto para advogados como para clientes.

Como usar LLMs?

Para aproveitar o poder dos LLMs, é crucial identificar tarefas ou perguntas que exijam conhecimento de domínio ou informação adicional, para além do conhecimento geral do LLM. Isto implica perceber que informação específica é necessária para gerar respostas precisas. Uma vez identificada, podemos obter a informação necessária ligando os LLMs a fontes de dados externas, como PDFs, APIs e bases de dados. Para gerir a ligação entre os LLMs e os dados externos, ferramentas como o LangChain e o LlamaIndex dão jeito, garantindo uma integração mais fácil.

Projeto de exemplo

Neste projeto de exemplo vamos fazer perguntas e obter respostas a partir de um livro usando o GPT-4 da OpenAI, o LangChain e o Pinecone (leia aqui um exemplo com LlamaIndex). Este projeto é fortemente inspirado no trabalho de Gregory Kamradt. A única diferença é o uso do Novo Testamento (PDF) como material de origem e a colocação de perguntas relacionadas com ele.

Para completar toda a lista de passos localmente em Windows 10, usei um jupyter-lab. Além disso, foram precisas várias bibliotecas de Python, como o langchain, unstructured[local-inference], o pinecone-client e o openai.

Depois foi apenas uma questão de seguir os passos descritos no notebook do Gregory, que consistem em

1. Carregar os dados de um .PDF usando o LangChain.
2. Partir os dados em documentos mais pequenos de 1000 caracteres.
3. Criar embeddings OpenAPI dos documentos e guardá-los no Pinecone.
4. Consultar esses docs para obter a sua resposta

Se encontrar um ReplicationError, certifique-se de que tem um cartão configurado na OpenAI.

Além disso, este é o resultado final no Pinecone, com mais de 3000 vetores.

É isto!