Con aportes (en orden alfabético): Arissa Yoshida, Arthur Scardua, Cinthia Tanaka, Edesio Alcobaça, Felipe Almeida, Hiroto Udagawa, Isabela Piccinini,  Matheus Fagundes y Victor Goraieb.

En Nubank, la innovación, la colaboración y desafiar constantemente el status quo están en el centro de todo lo que hacemos. Purple MinDS destaca los desafíos únicos y experiencias vividas por nuestros científicos de datos e ingenieros de machine learning, reflejando nuestro ambiente de trabajo dinámico y creativo. Recientemente organizamos nuestro primer hackathon interno enfocado en Modelos de Lenguaje Extensos (LLMs).

Durante dos días intensos, equipos compuestos por analistas de negocio, ingenieros y gerentes de producto identificaron problemas concretos, propusieron soluciones innovadoras con inteligencia artificial generativa y presentaron sus ideas para competir por el premio mayor. Para Nubank, la Inteligencia Artificial es una de las bases fundamentales del negocio; siempre estamos trabajando con tecnología punta.

Notablemente, de los 114 participantes, los ingenieros superaron a los científicos de datos, lo que resalta el entusiasmo generalizado por la IA generativa y refuerza nuestro compromiso de construir equipos fuertes y diversos. Los organizadores, que provienen de diferentes Unidades de Negocio e incluyen Científicos de Datos e Ingenieros en Machine Learning (Arthur Scardua, Edesio Alcobaça, Isabela Piccinini y Matheus Fagundes), compartieron con nosotros una visión interna sobre lo que aprendieron al organizar este emocionante evento y cómo está moldeando nuestro enfoque AI-first.

P: ¿Cuál fue el objetivo principal del hackathon?

R: En primer lugar, ¡para divertirnos! Pero también queríamos democratizar el uso de la IA generativa entre varios equipos. Desde nuestro punto de vista, el hackathon fue una forma de plantar una ″semilla de conocimiento″ que perduraría incluso una vez finalizado el hackathon. Esperábamos que los equipos empezaran a identificar cuándo utilizar y cómo adoptar soluciones de IA generativa dentro de sus dominios. La IA generativa es una nueva tecnología que puede hacer muchas cosas: completar textos, imágenes y reconocimiento de voz, ¡y también hay agentes! Todo el mundo sentía curiosidad al respecto y estaba esperando una oportunidad para construir un proyecto utilizando esta tecnología.

También queríamos democratizar el uso de la IA generativa en varios equipos. A nuestro modo de ver, el hackathon fue una forma de plantar una ″semilla de conocimiento″ que perduraría incluso después de que terminara el hackathon. Esperábamos que los equipos empezaran a identificar cuándo utilizar y cómo adoptar soluciones LLM dentro de sus dominios.

Esta es una de las razones por las que ofrecimos clases magistrales sobre LLM antes del hackathon. Las clases magistrales tenían como objetivo difundir conocimientos a través de demostraciones y otros medios, proporcionando una visión general de la plataforma, mientras que el hackathon fue una excelente actividad práctica. Creemos que ambas se complementaron bien. Las clases magistrales introdujeron conceptos junto con casos prácticos de uso y generaron expectación por el hackathon, lo que ayudó a aumentar el alcance del evento, especialmente con nombres destacados como OpenAI, que reforzaron su atractivo. La clase magistral atrajo a un público más numeroso porque exigía menos compromiso que la participación en el hackathon. Incluso para aquellos que sólo asistieron a las clases magistrales, los conocimientos adquiridos probablemente seguirán creciendo e influyendo en su comprensión de los LLM.

Es impresionante porque, aunque parezca que la IA generativa existe desde siempre, sigue siendo bastante nueva. No todo el mundo tiene el privilegio de un doctorado o de estudios especializados en IA generativa. Aunque muchos de nosotros sabemos utilizar herramientas como ChatGPT, comprender realmente los procesos subyacentes es complejo. La clase magistral fue esencial para educar a la gente en el poder de la IA generativa, y refleja nuestro compromiso con la transparencia y la importancia que damos al respeto por nuestra gente, dotándoles de los conocimientos y recursos adecuados. Al ser OpenAI la empresa líder en este campo, añadió un valor significativo y atrajo más atención al hackathon. Gracias a ello, más personas del capítulo se interesaron por participar en el hackathon.

Descubre las oportunidades

P: ¿Cómo surgió la idea del hackathon?

R: Anteriormente, tuvimos iniciativas internas más pequeñas con mini-hackathons que fueron exitosas y muy bien recibidas. Decidimos extender esta experiencia a toda la empresa, creando un gran hackathon sobre LLMs para potenciar nuestra estrategia AI-First.

Esto se alinea fuertemente con nuestro valor de inspirar propósito, reforzando nuestra ambición por reinventarnos constantemente e innovar. El hackathon fue pensado como una oportunidad para que las personas generen valor mediante prototipos rápidos para resolver problemas reales.

Elegimos LLMs por ser un tema actual y relevante, y porque contamos con infraestructura interna sólida que soporta plenamente esta tecnología, sin restricciones en cantidad de tokens o solicitudes.

P: ¿Cómo fue la organización del evento?

R: Los patrocinadores desempeñaron un papel esencial, proporcionando apoyo crucial y asistencia técnica, en particular de la Plataforma LLM y personas como Bruno Simioni [Director de la Plataforma LLM] y Henrique Lopes [Jefe de la Función de Ciencia de Datos], cuyas contribuciones fueron indispensables para el éxito del hackathon. Originalmente planeado como un evento pequeño, el hackathon evolucionó hasta convertirse en una iniciativa para toda la empresa, gracias a las sugerencias de Henrique Lopes, para que todos los miembros de la empresa pudieran beneficiarse de él.

La ampliación exigió una planificación cuidadosa para mitigar cualquier interrupción de las operaciones de la empresa. Cuando invitas a toda la empresa, debes tener en cuenta cosas como el impacto en la eficiencia, porque vas a quitar tiempo a ingenieros de software, científicos de datos, etc., así que parte de la empresa deja de trabajar para hacer el hackathon. Sin el patrocinio de M-Team, por ejemplo, no habría sido posible. Así que uno de los retos que tuvimos fue que inicialmente pensamos que un hackathon de tres días sería lo ideal, pero la dirección presionó para que fuera más corto para evitar detener las operaciones de la empresa. Contar con el apoyo de alguien de la junta directiva fue crucial para el éxito del hackathon.

P: ¿Cuáles fueron los desafíos principales?

R: Enfrentamos diversos retos, pero pudimos aprender mucho de ellos. Para empezar, programar un acto en una fecha que convenga a todos los implicados es imposible. Hay muchos problemas, como los días festivos, la disponibilidad de ponentes externos, las vacaciones, los permisos, la proximidad de otros eventos importantes, etc.

Durante el propio hackathon, aprendimos que es difícil gestionar un gran número de personas en un evento en línea. Necesitamos un gran equipo de organización para solucionar problemas de herramientas, acceso a archivos y activos, etc. El tiempo que reservamos para el hackathon fue bastante corto y, por desgracia, tuvimos que saltarnos algunas partes que habíamos planeado previamente.

En la fase final, cuando los asistentes presentaron los resultados a un grupo de expertos, también tuvimos algunos retos y aprendizajes adicionales: fue difícil comparar los proyectos de los participantes entre sí, ya que los proyectos tenían alcances, niveles de complejidad y grado de compleción muy diferentes: algunos eran trabajos de investigación en bruto y otros eran prototipos totalmente operativos.

P: ¿Qué harían diferente en otra ocasión?

R: Aunque el evento fue un éxito según el feedback recibido, consideraríamos algunos cambios:

  • Más personas en la organización: aumentar el equipo ayudaría a resolver simultáneamente múltiples desafíos.
  • Días adicionales: creemos que al menos dos días completos serían ideales para experimentar y crear prototipos más robustos.
  • Permitir inscripciones individuales: esto facilitaría la participación de quienes no encuentran compañeros de equipo.
  • Reglas más claras y justas: establecer desde el inicio criterios claros sobre qué es un ″prototipo funcional″.

P: ¿Cuál fue la solución ganadora?

R: En la presentación final, los equipos dispusieron de 5 minutos para exponer sus soluciones y fueron evaluados en 3 dimensiones: impacto empresarial, innovación y viabilidad. La solución ganadora destacó en estas 3 dimensiones al proponer un agente de IA para escalar las negociaciones de productos como préstamos, morosidad o seguros, por ejemplo.

El equipo ganador, formado por 5 personas, construyó una prueba de concepto rápida que aprovecha la IA para mejorar el servicio al cliente utilizando un Jupyter Notebook, LangGraph y el framework React. Mediante el uso de estas herramientas, su agente estaba facultado para consultar la información del cliente y actuar de forma independiente para proporcionar una experiencia similar a la humana y personalizada. Lo más destacado de la solución fue cómo podía mejorar nuestro servicio de atención al cliente de forma fluida, escalable y personalizada″.

Otras soluciones interesantes:

  • Identificación precoz de las crisis de fraude
  • Sugerencia de métricas para ECA y pruebas A/B en nuestra plataforma de experimentación
  • Analizador sintáctico basado en IA para documentos jurídicos en PDF
  • Respuestas de IA en el Centro de Ayuda de la aplicación

Conclusión

El hackathon fue una forma estupenda de difundir el conocimiento sobre los LLM, reforzando el compromiso de Nubank con el aprendizaje y la innovación continuos. 

Vemos cómo muchos equipos convierten sus proyectos en productos tangibles diseñados para influir positivamente en la vida de nuestros clientes. Incluso los equipos que no participaron directamente están aprovechando los materiales del hackathon, encarnando nuestros valores EVP como desafiar el status quo, actuar como propietarios y esforzarse por lograr una eficiencia inteligente. 

Este espíritu de colaboración y el propósito compartido no sólo impulsan la innovación, sino que también fomentan un entorno en el que diversos equipos pueden hacer realidad lo extraordinario.

Descubre las oportunidades