Contribuições: Henrique Lopes, Rohan Ramanath, Vitor Olivier, Hiroto Udagawa, Ariel Fontes, Arissa Yoshida, Cinthia Tanaka, Felipe Almeida, Pamela Perez

Em um evento interno recente para a equipe de ciência de dados do Nubank, Henrique Lopes, Rohan Ramanath e Vitor Olivier compartilharam suas perspectivas sobre como a inteligência artificial (IA) está remodelando a maneira como construímos produtos, organizamos equipes e tomamos decisões em escala.

A conversa abordou uma ampla gama de tópicos, desde os desafios práticos de migrar de protótipos para sistemas de produção até a crescente importância de plataformização e a evolução do papel dos cientistas de dados e engenheiros de ML nesse novo contexto.

Lopes lidera a função de Ciência de Dados e a área de negócios de Produtos de Dados do Nubank. Ramanath lidera AI Core, a equipe resultante da aquisição da Hyperplane, focada na interseção entre IA, infraestrutura e modelagem. Olivier, CTO do Nubank, traz mais de uma década de experiência na condução da estratégia tecnológica da empresa e na construção de sistemas escaláveis.

Este artigo faz parte do Purple MinDS, uma série que explora como nossas equipes de dados agem para fazer o melhor no cenário desafiador e de alta oportunidade da inteligência artificial.

Como você usa IA na sua rotina?

Lopes: Eu uso ferramentas de IA generativa para perguntas variadas, muitas vezes substituindo mecanismos de busca comumente usados. No trabalho, a IA tem sido poderosa para ajudar a escrever código entre uma reunião e outra, especialmente com o recente lançamento de ferramentas e IDEs baseadas em agentes, o que me ajudou a fazer mais testes e provas de conceitos.

Ramanath: Eu uso IA principalmente para planejar tarefas e resumir textos. Utilizo ferramentas e IDEs (ambientes de desenvolvimento integrado) baseadas em agentes para entender bases de código escritas por outros, como se eu pedisse a um colega de equipe para me guiar pelo código. Também utilizo IA para planejamento de viagens e ideação, para ajudar a refinar ideias vagas, articulá-las e encontrar termos técnicos para pesquisar literatura relacionada.

Olivier: Meu uso diário de IA é semelhante ao que Lopes e Ramanath descreveram; eu uso principalmente para pesquisa, para interagir com bases de código e fazer provas de conceitos.

Que tarefa humana você quer que seja completamente substituída pela IA em alguns anos?

Lopes: Embora o uso atual da IA seja impressionante, ele rapidamente se torna insuficiente. Para tarefas como interagir com código, muitas vezes as ferramentas e IDEs ficam presas em “rabbit holes” conforme o contexto aumenta, às vezes exigindo uma reinicialização. Tentei compilar algo, e a ferramenta tentou alterar a configuração Java do meu computador sem resolver o problema, enrolando-se cada vez mais, sem sucesso. Isso está melhorando, mas ainda requer intervenção humana significativa para retirar as ferramentas de “loops” sem fim. Acredito que esse problema de confiabilidade precisa de mais desenvolvimento para uso em produção em larga escala.

Ramanath: Quero ver uma mudança na cobrança por uso (licença ou chamadas de API) por parte dos provedores de IA para uma cobrança por resultado. Gostaria de ver um mundo em que as empresas cobrassem com base no sucesso final, como pagar uma ferramenta para cada biblioteca migrada com sucesso. Atualmente, as ferramentas de IA ainda exigem um engajamento mental significativo. Há ganhos iniciais de produtividade, mas a satisfação com sugestões vai caindo com o tempo; torna-se apenas mais uma ferramenta.

Gostaria de ver a IA atingir um estágio em que, para tarefas simples como solicitar um visto, eu possa perguntar quais documentos são necessários, obter uma resposta instantânea e não precisar verificar o resultado. Hoje, as recomendações são rápidas, mas ainda gasto um tempo considerável verificando as informações.

Olivier: Estou mais animado em criar sistemas que saibam como usar IA de forma eficaz para alcançar resultados, em vez de simplesmente esperar que a IA se torne mais inteligente por si só. Por exemplo, a reforma de uma casa envolve centenas de pagamentos para diferentes lugares, de diversas maneiras. Eu gostaria de poder enviar todas as solicitações de pagamento para um único local e tê-las pagas automaticamente. Não acho que haja nenhuma barreira técnica para isso; trata-se de processar dados não estruturados em escala e transformá-los em um processo reprodutível por meio de “plumbing” e integrações entre componentes. Mesmo que o desenvolvimento de IA parasse agora, ainda haveria uma década de produtos que poderiam ser desenvolvidos com base na IA existente, com foco em gerenciamento de produtos e bom “plumbing“.

Ramanath (complementando Olivier): Embora a IA possa facilmente listar encanadores e  eletricistas, o ser humano ainda precisaria ligar para cada um, descobrir a disponibilidade, os preços e comparar as ofertas. As empresas de IA afirmam que o processo de “tool calling” (chamada de ferramentas) e integração externa está resolvido, então não sei por que ainda não temos a experiência necessária para ligar para todas essas pessoas, obter feedback, fazer uma comparação e facilitar a tomada de decisão. Orquestrar isso de forma confiável para chegar a uma decisão final é uma “experiência mágica de produto” que ainda não foi construída.

Qual será o papel da IA no futuro das Fintech?

Olivier: Vejo a IA como apenas mais uma ferramenta para a promessa central das fintechs e da internet: mais acesso, melhor qualidade e preço mais baixo para tudo. A IA se soma ao conjunto de ferramentas para alcançar isso. Isso inclui alcançar tempos de resposta muito rápidos e de alta qualidade no atendimento ao cliente, permitindo uma verdadeira “hiper personalização” além de segmentações discretas e, no espaço de investimentos, ajudando a identificar padrões de usuários e perfis de risco para ter confiança na tomada de decisões. Acredito que a IA permeará tudo nas fintechs, assim como os dispositivos móveis, se tornando algo onipresente e que melhorará fundamentalmente a experiência do usuário, trazendo maior qualidade, menor custo e mais acessibilidade.

Ramanath: Estou entusiasmado com as novas interfaces possibilitadas pela IA. Com boas abstrações de engenharia para conceitos bancários (como contas, cartões, transações), a IA pode permitir que usuários não especialistas criem aplicativos. Vejo um futuro em que “o software pessoal é gratuito”, permitindo que os consumidores personalizem a interface de seus aplicativos bancários. Em vez de as empresas criarem muitas interfaces, os consumidores poderiam escolher como seu aplicativo bancário interage com eles, se preferem detalhamentos detalhados de despesas, visões gerais de alto nível ou interação por comando de voz. Isso resolveria o problema da descoberta de funcionalidades, permitindo que cada cliente crie sua interface ideal sem que a empresa precise lançar versões diferentes. Acredito que a tecnologia impulsionará a evolução dessas novas experiências e interfaces.

Com a IA evoluindo tão rapidamente, como os cientistas de dados e engenheiros de ML podem se manter à frente e relevantes?

Lopes: Eu aconselho não tentar acompanhar tudo o que está acontecendo devido ao medo de perder alguma coisa, pois há muita informação. Embora ser um “early adopter” demonstre inovação, você também vê muitas coisas que não funcionam. Minha recomendação é focar em áreas relevantes para seus interesses e trabalho, como a engenharia de dados, MLOps e aplicações que se alinhem com seu background. Haverá muitas subáreas de IA, e ninguém entenderá todas elas profundamente. O segredo é focar e evitar a armadilha de tentar ser especialista em tudo.

Ramanath: Ciência de dados é uma área ampla. Sugiro escolher um nicho (como explicabilidade de modelos, avaliação, MLOps, infraestrutura de serviços, modelos causais) para ter uma chance maior de se manter próximo da vanguarda. A especialização leva anos para se consolidar na literatura. Os indivíduos precisam decidir se serão generalistas ou especialistas; a especialização aumenta a chance de acompanhar as tendências e prever a direção do setor. O objetivo não é apenas usar a coisa mais bacana, mas desenvolver a intuição para prever direções futuras, permitindo que sistemas sejam construídos de forma que a adoção de novas tecnologias tenha custo quase zero. 

Também é importante ouvir as pessoas certas. No cenário turbulento da IA, identificar alguns especialistas que tenham opinião e histórico de previsão do futuro em um nicho específico ajuda a ignorar o ruído. Esses especialistas podem escrever sobre os desafios da produtização e a lacuna entre “provas de conceito feitas com IA” e “sistemas de IA”. Por fim, nada supera a experiência prática de testar coisas novas no tempo livre.

Quais desafios o Nubank enfrenta na implementação de IA em suas operações?

Lopes: Um grande desafio é a transição de uma “prova de conceito feita com IA” (ou seja, algo promissor mas sem grandes usos práticos) para um “sistema de IA” (algo que realmente funciona em escala). Tudo no Nubank é em escala. A dificuldade está em equilibrar a tomada de riscos e a dedicação de tempo para fazer com que os novos sistemas de IA funcionem de forma confiável, mantendo, ao mesmo tempo, os sistemas tradicionais. 

Estamos em uma curva de aprendizado: o que funciona para o modelo atual não necessariamente funcionará para o próximo. Por exemplo, “Prompt Engineering” foi um tema em alta há seis meses, mas isso não significa que permanecerá relevante à medida que os modelos evoluem. Encontrar a diferença entre o que é fundamental e o que é específico para um momento é particularmente desafiador ao colocar as coisas em produção com IA.

Como você vê a função de Data Science interagindo com outras funções (engenheiros, gerentes de produto etc.) que também estão introduzindo ferramentas e fluxos de trabalho baseados em IA?

Lopes: Embora a IA generativa tenha uma nova forma, em termos de como ela gera texto, imagens e vídeos, os conceitos subjacentes de como ela é construída e as armadilhas (como “data leakage” e problemas de qualidade de dados) são semelhantes aos que enfrentamos ao usar ML. Essas armadilhas ainda estão presentes na IA, mas muitas vezes estão escondidas atrás de uma interface amigável. A função de ciência de dados tem um papel fundamental em ajudar uma organização a navegar por essas armadilhas, tanto ao construir modelos quanto nos momentos em que outras funções usam ferramentas de IA. Para pessoas menos técnicas, a IA pode parecer mágica, e a equipe de ciência de dados tem a responsabilidade de mostrar as complexidades envolvidas. Eles podem ajudar a garantir que o uso da IA seja feito rapidamente e traga inovação, mas de forma responsável.

Como pessoas que trabalham em um campo que não existia em sua forma atual recentemente, cientistas de dados e engenheiros de ML estão na linha de frente dos testes e da compreensão de onde a IA funciona e onde não, desempenhando um papel de liderança em orientar outros sobre as direções a serem exploradas com a IA.

Existem pouquíssimas instituições financeiras de grande porte que priorizam a IA (se é que existem). Por que o Nubank está bem posicionado para se tornar uma delas?

Olivier: O Nubank está bem posicionado porque, desde o início, reconhecemos a ciência de dados como uma vantagem competitiva fundamental. Investimos intencionalmente em tecnologia, nos tornamos “cloud native” e construímos ferramentas para extração de dados, análise, modelagem e assim por diante. Também investimos na contratação de pessoas qualificadas para a empresa. Essa aposta de 11-12 anos nos posicionou bem para continuar jogando o “jogo infinito”, no qual o que conquistamos é o direito de continuar jogando, e nós o conquistamos. 

Construir uma instituição financeira com foco em IA é difícil para todos. As empresas tradicionais enfrentam dificuldades para migrar, enquanto os novos ingressantes enfrentam dificuldades com regulamentações, fornecimento de crédito, distribuição de produtos e volume de dados. Ainda assim, precisamos redobrar a aposta em IA, pois, caso contrário, outra empresa poderá descobrir um ângulo para obter uma vantagem competitiva. Embora existam desvantagens em ser um “early adopter”, acredito que adaptabilidade e “antifragilidade” são o que nos faz vencer. Estamos agora em uma mudança de plataforma, então teremos que navegar por essa mudança e estar bem posicionados para capturá-la.

Qual é a sua visão para o futuro da área de Ciência de Dados? Cargos como Cientistas de Dados e Engenheiros de ML começarão a treinar outras equipes sobre como usar a IA de forma eficaz?

Lopes: Há muitos nomes novos para coisas que cientistas de dados fazem há muito tempo, mas o trabalho também está mudando. Temos novas funções como engenheiros de IA em muitas empresas, mas isso não é o mais importante. Acredito que veremos uma mudança de engenheiros de software, engenheiros de ML e cientistas de dados se concentrando na integração de sistemas e agentes de IA em suas atividades. Isso é mais uma adaptação na forma como o software é construído do que uma mudança fundamental na função em si.

Os dados se tornarão mais presentes em todos os sistemas, fluindo por ambientes transacionais, sem a separação histórica entre ambientes analíticos e transacionais. A capacidade de usar esses dados em escala para decisões em tempo real se tornará mais importante, o que pode mudar um pouco as funções de engenheiros de dados, engenheiros de software, cientistas de dados e engenheiros de ML.

Ramanath: Vejo uma oportunidade para os cientistas de dados influenciarem o “como“. Embora as conversas em toda a empresa possam se concentrar em quais novas ferramentas ou fornecedores de IA devemos usar, a função de ciência de dados entende como esses modelos são treinados, suas premissas e o impacto da violação dessas premissas. 

Há uma oportunidade de educar outras pessoas na empresa sobre como usar ferramentas de IA, escrever código usando IDEs baseadas em agentes, treinar modelos e implementar sistemas como RAG, com foco em quais perguntas podem quebrar as premissas desses sistemas. Isso pode ser feito por meio de exemplos, protótipos e colaborações.

Quais partes do fluxo de trabalho de DS/MLE a IA mudará substancialmente e o que será mais difícil de substituir?

Lopes está animado com a IA melhorando as partes de “trabalho pesado” da codificação e dos fluxos de trabalho.

Lopes: Pense nisso: tarefas como obter certificados da AWS, atualizar tokens ou executar testes no ambiente de staging para verificar custos e desempenho. A IA deve ser capaz de orientar esses fluxos de trabalho, automatizando as tarefas repetitivas que atualmente exigem que nos lembremos de comandos específicos.

Isso significa que os cientistas de dados podem finalmente se concentrar mais no problema central do negócio. Isso não significa apenas que a IA escreva código ou queries de forma simplificada, mas que também automatize validações, execute testes unitários e até mesmo valide alterações como parte do fluxo de trabalho geral. A expectativa é grande por mudanças na plataforma que aprimorarão a experiência do usuário ao automatizar esse tipo de tarefa.

Ramanath complementou a discussão compartilhando suas crenças sobre os aspectos do trabalho que serão mais desafiadores para a IA substituir.

Ramanath: A parte do trabalho que provavelmente será mais difícil para a IA substituir substancialmente é formular o problema que precisa ser resolvido. Mapear um problema de negócios em algo que um modelo de IA possa abordar requer julgamento, intuição e compreensão das interações entre os sistemas existentes e os humanos.

Embora os cientistas de dados tradicionalmente dediquem um tempo significativo à implementação da solução após definir o problema, espera-se que a produtividade da IA reduza drasticamente esse tempo de implementação, potencialmente de meses para semanas.

Não apenas mais inteligente, mas mais útil

O futuro da IA no Nubank será definido pela forma como integramos tecnologias de IA em sistemas escaláveis e confiáveis que entregam valor real aos nossos clientes. Como Lopes, Ramanath e Olivier deixaram claro, essa mudança exige mais do que inovação técnica: exige novas formas de pensar sobre infraestrutura e colaboração entre funções.

Da automatização de fluxos de trabalho repetitivos à redefinição da forma como projetamos produtos, a IA está se tornando uma camada fundamental em tudo o que construímos. E embora as ferramentas continuem evoluindo, uma coisa permanece constante: o papel dos Cientistas de Dados e Engenheiros de ML como parceiros essenciais na construção do Futuro Roxo.

Para saber mais sobre como o Nubank está avançando no campo da inteligência artificial, explore nossa seção de AI Research, onde compartilhamos ideias, experimentos e insights das equipes que constroem hoje os sistemas do amanhã.

Conheça nossas oportunidades