mais lidos
Life at Nu
Conheça a sede do Nubank em Pinheiros, São Paulo/Brasil jan 11
Design
A nova aparência do Nubank: conheça nossa nova logo maio 17
Culture & Values
Como os valores e a cultura da Nu moldam os produtos que criamos ago 7
Carreiras
Reunimos grandes mentes de diversas origens que permitem a discussão e o debate e melhoram a resolução de problemas.
Saiba mais sobre nossas carreiras



À medida que as cadeiras cinzentas do colorido auditório da Sede 1 do Nubank em São Paulo eram ocupadas, um belo cenário foi sendo construído: uma presença quase inteiramente formada por mulheres.
E não apenas na plateia, mas também em posições de destaque como palestrantes e organizadoras que fizeram acontecer o evento Mulheres na Inteligência Artificial (MIA) 2023, desta vez em formato híbrido.
MIA é um grupo nascido do encontro de embaixadoras da Women in Data Science (WiDS) no Rio de Janeiro e em São Paulo, que tem como missão desenvolver e fomentar uma comunidade global que empodere mulheres por meio da troca de conhecimento em IA, bem como realizando trabalho de mentoria.
O evento contou com palestras sobre gestão de pessoas, com Diandra Kubo, Gerente de Ciência de Dados do Nubank; evolução de Grandes Large Language Models (LLMs), com Mirelle C. Bueno, Pesquisadora em Processamento de Linguagem Natural do Instituto de Pesquisa Eldorado; e oportunidades e riscos da IA generativa, com Kizzy Terra, Sócio Fundador do grupo Programação Dinâmica.
Quer saber tudo o que rolou no evento e entender as discussões nas três palestras? Leia aqui!
Navegando a transição: A jornada de Diandra Kubo de Cientista de Dados a Gerente de Pessoas no Nubank
Conheça nossas oportunidades
Escolhendo o caminho da Gestão de Pessoas
Diandra Kubo, Gerente de Ciência de Dados do Nubank, abriu sua palestra discutindo uma encruzilhada crítica que muitos profissionais seniores de ciência de dados enfrentam: Eles deveriam permanecer como especialistas técnicos ou fazer a transição para uma função de gestão de pessoas?
A ideia da palestra veio de um texto escrito por Matheus Facure, Cientista de Dados do Nubank, que não se identificava com a carreira de gestão. Já Diandra se concentrou na gestão de pessoas e trouxe outra perspectiva.
Ela confessou suas hesitações iniciais:
Porém, após introspecção, ela percebeu sua capacidade de ser uma profissional multifacetada e que ainda poderia ser profundamente técnica na gestão de pessoas. Ela decidiu aceitar o desafio e abraçar seu papel como Gerente de Ciência de Dados.
Desafios na transição
Diandra compartilhou abertamente os desafios que enfrentou em sua nova função. Ela enfatizou a importância de:
Ferramentas para o sucesso na Gestão de Pessoas
Diandra destacou as principais estratégias e ferramentas que foram fundamentais em sua jornada:
Disparidade de gênero na Ciência de Dados
Perto da conclusão, Diandra abordou uma questão pertinente: a necessidade de mais mulheres em cargos de liderança em Ciência de Dados.
Ela enfatizou o infeliz estereótipo que as mulheres enfrentam e a necessidade de mudança na indústria.
Perguntas e respostas do público
Na sessão interativa de perguntas e respostas, Diandra compartilhou que o equilíbrio entre sua função técnica e suas funções gerenciais foi facilitado pela natureza inerentemente técnica do Nubank.
Ao ser questionada sobre o processo inclusivo de contratação do Nubank, ela enfatizou:
O Nubank não filtra nenhuma faculdade, graduação ou instituição de ensino em seus processos seletivos. Os processos são desenhados para avaliar com base apenas no processo e não na formação acadêmica.
A palestra de Diandra Kubo não só ofereceu informações valiosas para aqueles que estavam à beira de uma transição de carreira, mas também esclareceu questões importantes do setor.
Uma breve história dos Large Language Models (LLMs) com Mirelle C. Bueno
Mirelle Candida Bueno, uma proeminente pesquisadora em PNL, forneceu insights sobre os princípios fundamentais dos Large Language Models (LLMs). Ela enfatizou:
Remontando a mais de 50 anos de história, ela destacou que a tecnologia subjacente, apesar de parecer recente, tem profundas raízes históricas.
A essência dos modelos de linguagem
Os modelos de linguagem natural operam com base na ideia central de prever a próxima palavra em uma frase com base no contexto anterior. Um conceito aparentemente simples, mas que demorou até 2013 para funcionar de forma eficaz. Ela descreve esses modelos como um “jogo de dados” onde as previsões são condicionadas ao contexto e ao conhecimento acumulado.
Os primeiros modelos
O objetivo dos primeiros modelos de linguagem era automatizar a análise probabilística. Sua intenção era avaliar erros e impor penalidades. A evolução dos modelos probabilísticos simples para os sistemas automatizados atuais foi longa e teve marcos significativos.
Mirelle utilizou uma representação 2D para elucidar a arquitetura desses modelos. Essa visualização ressaltou como palavras semelhantes residem no mesmo plano latente, enquanto contextos distintos estão mais distantes.
A era Bi-LSTM e ELMO
Em 2016, vimos o surgimento do deep learning que catalisou o desenvolvimento dos modelos Bi-LSTM e ELMO. Esses modelos se destacaram em discernir contextualmente o conteúdo mais pertinente. No entanto, Mirelle observou que eles “nunca se tornaram extraordinários” devido aos seus problemas de perda de memória e desafios com o acabamento.
A revolução dos Transformadores
O termo “Transformadores”, no mundo do Deep Learning, refere-se a uma arquitetura inovadora introduzida em 2017. Diferentes de seus equivalentes cinematográficos, esses Transformadores mudaram a maneira como pensamos sobre os LLMs.
Composta por duas camadas, uma para codificar texto em vetores e outra para gerar texto, essa arquitetura introduziu o mecanismo de atenção central. Isso garantiu que mesmo comandos longos mantivessem o contexto, resolvendo o problema de perda de memória presente em modelos anteriores.
Ascensão dos modelos GPT e BERT
O GPT (Transformador Generativo Pré-treinado) estreou em 2017. Apesar de seu começo humilde, o princípio do seu design persiste em seus sucessores como GPT-3.5 e GPT-4.
Em 2018, o BERT foi introduzido, um modelo conhecido por prever partes escondidas de frases. Mirelle destacou sua eficiência, afirmando que ele não requer muitos dados para treinamento, ao contrário de seus equivalentes GPT.
LLMs modernos e suas implicações
Mirelle expressou preocupação com o fato de modelos contemporâneos como GPT-3 e GPT-4 se tornarem cada vez mais proprietários.
No entanto, ela também destacou outros LLMs dignos de menção:
Considerações finais
Mirelle concluiu ressaltando a importância da abertura na pesquisa de LLM. Para aqueles interessados em se aprofundar no domínio dos LLMs, ela recomendou cursos abrangentes em instituições como Stanford e plataformas como Coursera.
Oportunidades e riscos da IA generativa: insights de Kizzy Terra
A palestra de Kizzy Terra no MIA 2023 mergulhou na ética, nos riscos e nas oportunidades que cercam o campo emergente da IA generativa. Traçando paralelos com inovações históricas e levantando questões críticas, Terra explorou o potencial impacto transformador desta tecnologia na sociedade.
O lugar da IA na história
Baseando-se no passado, Terra comparou a ascensão da inteligência artificial à prensa de Gutenberg de 1430. Esta comparação sublinhou o potencial da IA para ser tão perturbadora como a imprensa que tornou os livros e documentos amplamente acessíveis.
Oportunidades de IA generativa
1. Consumindo novas aplicações
A IA generativa deu origem a uma infinidade de aplicativos como ChatGPT e Midjourney. Terra destacou as discussões acadêmicas em andamento sobre o uso da IA na produção de trabalhos acadêmicos.
2. Criando novas aplicações
Com a disponibilidade de APIs públicas de modelos de linguagem grande, há uma abertura para inovadores criarem ferramentas que aumentem a acessibilidade, como modelos avançados de visão computacional.
3. Construindo o futuro
Incentivando o público a contribuir ativamente para a narrativa da IA, Terra pediu:
4. Futuro do trabalho
Habilidades interpessoais como criatividade, originalidade e pensamento crítico dominarão o futuro, fazendo ecoar os sentimentos do Fórum Econômico Mundial.
Para Terra, muitas pessoas parecem não perceber que a decisão de substituir humanos por máquinas não será tomada por máquinas, mas por outras pessoas. Porém, diferenciar-se desenvolvendo habilidades interpessoais é uma forma de evitar ser substituído como profissional.
Riscos da IA generativa
1. Opacidade e vieses discriminatórios
Ecoando as preocupações levantadas por Mirelle C. Bueno, Terra discutiu os perigos da opacidade nos modelos de IA, destacando o potencial para vieses e práticas discriminatórias.
2. Impacto ambiental, custos e violações de direitos
A IA generativa carrega uma forte pegada ecológica. Usando o exemplo do GPT-5, Terra questionou as motivações por trás dos investimentos maciços em IA:
Ela também enfatizou os dilemas éticos ao apontar que nossa sociedade atual gasta 700 mil dólares por dia em uma máquina e apenas 2 em seres humanos, referindo-se ao custo diário das GPUs do GPT e ao pagamento de apenas 2 dólares por dia para os trabalhadores quenianos que participaram no treinamento LLM.
3. Modulação de interesses e gostos
A influência das IAs generativas nas nossas preferências e interesses não pode ser ignorada. Estas ferramentas, com as suas agendas ocultas, apresentam riscos.
Mais perguntas do que respostas
A palestra de Terra foi concluída com um segmento instigante questionando a proliferação desenfreada da IA em nossas vidas:
Apoiando as preocupações levantadas por líderes tecnológicos como Elon Musk, ela desafiou a autoridade desenfreada de magnatas tecnológicos não eleitos:
Para ela, estas decisões não podem ser delegadas a líderes não eleitos do sector tecnológico, cuja autoridade provém exclusivamente do seu poder de compra.
A adoção da inteligência artificial é realmente inevitável neste momento? E representa necessariamente um progresso para a nossa sociedade? Alguma coisa realmente vale a pena em nome da produtividade?
Talvez ainda não tenhamos as respostas para todas essas perguntas. Mas sem dúvida, mentes como a de Kizzy Terra podem nos ajudar a encontrá-las num futuro próximo.
Conclusão
O MIA Meetup 2023 foi uma iniciativa apoiada pelo Nubank. Aqui, a presença das mulheres é indispensável se quisermos colocar as grandes questões, não apenas na IA generativa, mas em todas as questões relacionadas com os ecossistemas tecnológicos e financeiros.
Se você quiser contribuir com essa discussão, junte-se a nós. O Nubank está com vagas para mulheres em Ciência de Dados!
Conheça nossas oportunidades