{"id":25786,"date":"2023-10-17T22:24:17","date_gmt":"2023-10-17T22:24:17","guid":{"rendered":"https:\/\/building.nubank.com\/modelos-de-linguagem-de-grande-escala-o-que-sao-como-funcionam-e-como-usa-los\/"},"modified":"2024-03-05T15:19:03","modified_gmt":"2024-03-05T15:19:03","slug":"modelos-de-linguagem-de-grande-escala-o-que-sao-como-funcionam-e-como-usa-los","status":"publish","type":"post","link":"https:\/\/building.nubank.com\/pt-br\/modelos-de-linguagem-de-grande-escala-o-que-sao-como-funcionam-e-como-usa-los\/","title":{"rendered":"Modelos de Linguagem de Grande Escala: O que s\u00e3o, como funcionam e como us\u00e1-los?"},"content":{"rendered":"\n

Neste artigo, vamos abordar o cativante mundo dos modelos de linguagem e revelar os conhecimentos valiosos compartilhados por Vitor Rosa, Cientista de Dados do Nubank e Engenheiro de Aprendizagem de M\u00e1quina. Junte-se a n\u00f3s para explorar os principais assuntos discutidos em sua palestra esclarecedora, que aconteceu na 80\u00aa edi\u00e7\u00e3o do Meetup de DS & ML do Nubank.<\/a><\/p>\n\n\n\n

Vitor Rosa explicou as capacidades fascinantes, o funcionamento e os usos pr\u00e1ticos dos Modelos de Linguagem de Grande Escala (LLMs). Em sua apresenta\u00e7\u00e3o envolvente, ele mostrou uma vis\u00e3o abrangente do not\u00e1vel modelo GPT, onde apontou os avan\u00e7os e ilustrou o potencial da ferramenta em v\u00e1rios campos, incluindo a cria\u00e7\u00e3o de textos e processamento de c\u00f3digos.<\/p>\n\n\n\n

Neste artigo, pretendemos resumir e destacar as inova\u00e7\u00f5es compartilhadas por Vitor Rosa durante a palestra, e oferecer uma imers\u00e3o no mundo dos LLMs. Vamos explorar suas marcantes capacidades de conhecimento num\u00e9rico, realizar c\u00e1lculos matem\u00e1ticos e navegar pelas complexidades do c\u00f3digo. Al\u00e9m disso, vamos revelar estrat\u00e9gias para otimizar a intera\u00e7\u00e3o com esses modelos, incluindo a import\u00e2ncia de explica\u00e7\u00f5es passo a passo e dados de treinamento espec\u00edficos do usu\u00e1rio.<\/p>\n\n\n\n

N\u00f3s tamb\u00e9m vamos conferir as considera\u00e7\u00f5es acerca do contexto e instru\u00e7\u00f5es, assim como os desafios e as perspectivas associadas aos modelos de linguagem. Ao longo da nossa explora\u00e7\u00e3o, vamos enfatizar as implica\u00e7\u00f5es pr\u00e1ticas dos ensinamentos de Vitor Rosa, promovendo conhecimentos valiosos para que voc\u00ea fique na vanguarda dessa \u00e1rea em constante crescimento.<\/p>\n\n\n\n

O que s\u00e3o Modelos de Linguagem de Grande Escala (LLMs) e como funcionam<\/h2>\n\n\n\n

Modelos de Linguagem de Grande Escala (LLMs) representam um avan\u00e7o inovador no campo do processamento de linguagem natural (PLN). Esses modelos, como o que foi apresentado por Vitor Rosa, t\u00eam revolucionado a forma com que as m\u00e1quinas entendem e geram textos semelhantes aos escritos por humanos, por exemplo. Vamos imergir no conceito dos LLMs e explorar suas impressionantes capacidades.<\/p>\n\n\n\n

Os LLMs s\u00e3o modelos de aprendizado profundo que t\u00eam sido treinados em grandes quantidades de dados textuais, fazendo com que eles adquiram um vasto conhecimento em padr\u00f5es de idiomas, gram\u00e1tica e sem\u00e2ntica. Esses modelos usam uma arquitetura transformer<\/em>, que lhes permite capturar as depend\u00eancias contextuais de um determinado texto e gerar respostas coerentes e relevantes ao contexto.<\/p>\n\n\n\n

Os LLMs passam por duas etapas principais em seu treinamento: pr\u00e9-treinamento e ajuste fino. No pr\u00e9-treinamento, os modelos s\u00e3o expostos a imensos conjuntos de dados que cont\u00eam trechos retirados da internet, livros, artigos e v\u00e1rias fontes de texto. Essa exposi\u00e7\u00e3o intensa permite que os LLMs aprendam gram\u00e1tica, sintaxe e in\u00fameras caracter\u00edsticas de idiomas.<\/p>\n\n\n\n

Quando treinados, os LLMs s\u00e3o ajustados para tarefas ou dom\u00ednios espec\u00edficos a fim de aprimorar o desempenho e adapt\u00e1-los para determinadas situa\u00e7\u00f5es. O ajuste fino treina o modelo em um conjunto de dados mais espec\u00edfico, com exemplos rotulados, permitindo que se especialize em tarefas como a tradu\u00e7\u00e3o de idiomas, completar textos, an\u00e1lise de sentimentos ou gera\u00e7\u00e3o de c\u00f3digos.<\/p>\n\n\n\n

Uma das capacidades mais not\u00e1veis dos LLMs \u00e9 a habilidade de gerar textos semelhantes aos escritos por humanos. Ao fornecer uma instru\u00e7\u00e3o ou iniciar uma frase, os LLMs podem gerar par\u00e1grafos coerentes, disserta\u00e7\u00f5es, hist\u00f3rias e at\u00e9 fragmentos de c\u00f3digos. Essa gera\u00e7\u00e3o de texto se baseia nos padr\u00f5es e conhecimentos aprendidos no processo de treinamento.<\/p>\n\n\n\n

No entanto, \u00e9 importante perceber que embora os LLMs possam produzir textos bastante convincentes e com contextos adequados, eles tamb\u00e9m podem gerar respostas incorretas ou enviesadas. Isso ocorre porque os LLMs n\u00e3o t\u00eam um entendimento real ou um racioc\u00ednio de senso comum, e dependem apenas dos padr\u00f5es apresentados nos dados de treinamento.<\/p>\n\n\n\n

O uso dos LLMs \u00e9 bastante variado. Eles t\u00eam sido usados em v\u00e1rios setores e \u00e1reas, incluindo cria\u00e7\u00e3o de conte\u00fado, chatbots de atendimento ao cliente, tradu\u00e7\u00e3o de idiomas, sumariza\u00e7\u00e3o e completa\u00e7\u00e3o de c\u00f3digo. Os LLMs tamb\u00e9m est\u00e3o sendo usados na escrita criativa, assistentes virtuais e ajudam em pesquisas, fornecendo informa\u00e7\u00f5es contextuais ou sugerindo artigos relacionados.<\/p>\n\n\n\n

O potencial dos LLMs vai al\u00e9m das tarefas individuais. Eles podem ser ferramentas poderosas para pesquisadores, desenvolvedores e criadores de conte\u00fado, pois oferecem assist\u00eancia, inspira\u00e7\u00e3o e novas possibilidades para inova\u00e7\u00e3o.<\/p>\n\n\n\n

Na pr\u00f3xima se\u00e7\u00e3o, vamos abordar as capacidades espec\u00edficas dos LLMs, focando em suas habilidades de compreender n\u00fameros, realizar c\u00e1lculos matem\u00e1ticos e otimiza\u00e7\u00e3o de processamento de c\u00f3digos.<\/p>\n\n\n\n

\n