Já vi relatos de pessoas que ficam muito incomodadas com os modelos generativos por conta das respostas. Mas será que o contexto foi bem trabalhado na tarefa?
Você digita um comando esperando um resultado incrível e recebe um texto raso, genérico ou totalmente fora do objetivo. Nessas horas, a primeira reação é culpar a inteligência artificial.
Por isso o letramento em IA generativa é relevante, a fim de entender as limitações de interfaces, ferramentas, conectores, bem como saber criticar a saída e reorganizar nossas ideias.
Assim sendo, o intuito deste texto é explicar como funciona esse tal de contexto e o porquê de ser importante na interação com IAs generativas. Confira!
Afinal, o que é contexto?
De acordo com o dicionário Michaelis, um dos significados de contexto é:
“Conjunto de circunstâncias que envolvem um fato e são imprescindíveis para o entendimento deste.”
Ou seja, quando alguma situação acontece, isso não é algo isolado. Sempre temos que considerar o momento, lugar, pessoas, clima e mais detalhes sobre a situação.
Todas essas circunstâncias juntas formam um contexto. Logo, sem fornecer esse conjunto de dados, podemos não nos comunicar direito com pessoas e IAs generativas.
Por exemplo, se uma pessoa vai à dentista e fala “Dor. Dente”, a profissional sabe o que tá acontecendo, mas vai precisar de mais contexto para analisar da melhor maneira possível.
Isto é, a dentista pode perguntar qual dente dói, como é a alimentação da pessoa, se usa fio dental nas escovações, qual o tipo de escova utilizada etc.
Além disso, ao fornecer um prompt para IAs generativas, precisamos levar em conta a polissemia. Calma, não é uma doença, mas sim um fenômeno linguístico que pode interferir no resultado.
Polissemia é como se chama o fato de uma palavra ter vários significados diferentes. Manga, por exemplo, pode ser a fruta como pode ser a parte do tecido de uma camiseta.
Vamos imaginar que o prompt é “Gere um rascunho de e-mail para informar que a Beltrana está no banco”. Convenhamos que a palavra “banco” pode significar muitas coisas:
- É uma Beltrana que foi ao banco fazer um pagamento, um saque ou outra atividade bancária?
- É uma Beltrana que estava sentada em um banco de praça?
- É uma Beltrana que estava descrita em uma tabela de um banco de dados?
- É uma Beltrana que estava como reserva em um jogo de futebol ou qualquer outro esporte com substituições?
Portanto, ao informarmos o contexto necessário em um prompt, conseguimos nos comunicar melhor com as IAs generativas, afinal, os modelos foram treinados com um vasto volume de dados e não adivinham pensamentos.
Qual é a diferença entre engenharia de prompt e engenharia de contexto?
Para explicar a diferença, vou trazer uma analogia simples. Vamos relembrar da franquia de filmes “Toy Story” e de seus personagens principais: Woody e Buzz Lightyear.
O Buzz é orientado a projetos. Ele quer saber qual é o objetivo, qual ação precisa executar, que tarefa precisa cumprir. Na cabeça dele, tudo gira em torno de “qual é a próxima missão do patrulheiro estelar?”.
Já o Woody é o brinquedo mais antigo do Andy, conhece todos os outros brinquedos, sabe como é a família do Andy, como são os vizinhos, os cômodos da casa etc.
Na minha analogia, o Buzz é como a engenharia de prompt, que vai servir para definir explicitamente a tarefa, o passo a passo e o que vai entregar de maneira eficaz.
Já o Woody é como a engenharia de contexto, que ajuda a compor o conhecimento relevante com exemplos, histórico, preferências, técnicas, arquivos externos e demais detalhes para uma execução eficiente da tarefa.
É que nem quando o Woody explica para o Buzz quem é o Andy, onde estão os perigos, quem são os brinquedos do quarto do Andy, o que já aconteceu antes e assim por diante para elaborarem um plano.
Da mesma maneira que Woody e o Buzz se complementam, engenharia de contexto e engenharia de prompt agem em parceria estratégica, em que um potencializa o outro.
Fornecer um bom contexto é preparar a IA generativa para resolver a tarefa com embasamento e menor grau de alucinação na resposta.
O que é a janela de contexto e a degradação de contexto?
A janela de contexto funciona como a ‘memória de curto prazo’ das IAs generativas. Ela é limitada por uma quantidade de tokens, que são as unidades mínimas de texto que o modelo consegue processar de uma só vez.
Dentro da janela de contexto pode ter nosso prompt, arquivos anexados, o pensamento estendido do modelo, a chamada de ferramentas, a resposta do modelo etc.
Quanto maior a janela de contexto, melhor será a capacidade do modelo generativo lidar com prompts mais complexos. Porém, mais contexto não necessariamente significa mais qualidade.
Sabe quando a gente tá em uma conversa longa com a IA generativa e ela parece esquecer os primeiros prompts e alucina? Pois bem, isso é conhecido como ‘degradação de contexto’ (context rot).
Inclusive, esse fenômeno decorrente de contextos longos já foi documentado em um artigo científico chamado “Lost in the Middle: How Language Models Use Long Contexts”.
Uma boa maneira de lidar com essa degradação em conversas longas é, de tempos em tempos, solicitar um resumo do que está sendo trabalhado e abrir um novo chat.
Como fornecer um bom contexto para IAs generativas?
Não bastando apenas as explicações conceituais, acredito sempre que é importante mostrar o caminho das pedras, que é o que tenho feito no Manifesto Genai.
A ideia das dicas abaixo é explicar o que tem funcionado comigo e como pode te ajudar em tarefas do dia a dia, seja para resolver problemas de trabalho, seja para a vida pessoal.
Forneça um prompt estruturado
Pense no seu prompt como uma estrutura modular, organizada e delimitada. Há vários frameworks espalhados pela internet e você pode arrumar da sua maneira.
Eu utilizo meus prompts complexos com os módulos: persona, contexto, tarefa, formato e regras. Uso dessa maneira por muitos motivos, sendo alguns deles:
- Facilita a revisão e manutenção de prompts, pois posso editar partes específicas sem ter que mexer na instrução completa;
- Permite que eu replique o prompt como instruções em um assistente ou agente inteligente, proporcionando mais consistência no resultado;
- Minimiza bastante as alucinações no resultado, principalmente pelo fato de eu especificar bem o formato de saída.
Descreva detalhes que estão na sua mente
Vamos imaginar que você tem uma planilha de roteiro para uma viagem à Paris, mas quer organizar essa planilha de acordo com o dia, a atração e o período do dia.
Só que a bendita IA generativa criou uma planilha com uma coluna a mais de endereços, que você não pediu, e não respeitou seu direcionamento que uma atração estava como “dia todo”.
Nesse caso, você deveria ter fornecido regras explícitas do que não queria como resultado e definir o intervalo de horário que você entende como “dia todo”, afinal, o óbvio também precisa ser dito.
Mostre exemplos do que quer
Se você está perdendo muito tempo em uma tarefa em cocriação com a IA generativa, vale a pena dar dois passos atrás e pensar em como explicar o que quer.
Fornecer dois ou mais exemplos de como tem que ser o formato de saída facilita demais na interpretação do modelo. Você não deixa a IA no escuro, pois mostra a trilha correta.
Esses exemplos podem vir no próprio prompt ou mesmo como arquivos anexados. No desenvolvimento de skills, por exemplo, esses exemplos podem aparecer na pasta assets.
Solicite perguntas de verificação
Essa é uma técnica que uso muito quando eu acho que estou esquecendo de informar algum detalhe importante. E, na maioria das vezes, descubro que esqueci mesmo.
Antes de resolver o problema, forneça o tema da tarefa e solicite 5 perguntas ou mais de verificação. Isso ajuda o modelo a obter mais contexto do que você quer.
Inclusive, com esse levantamento de requisitos entre IA e humano, você tem a oportunidade de trazer para a tarefa um pouco mais do seu repertório de vida.
Entenda que contexto é a ponte entre intenção e resultado. Ao fornecer as circunstâncias corretas, respeitando as capacidades do modelo e o espaço disponível, você minimiza alucinações e potencializa os resultados das IAs generativas.
Se você gostou deste texto e quer colocar as minhas dicas em prática, acesse o meu Gem “Prompt estruturado” agora mesmo para melhorar os seus prompts.
