Principais pormenores
Solução de dados de investimento de ponta a ponta para proporcionar valor à gestão de dados de investimento.
-
DesafioSolução de gestão de dados de investimento utilizando dados não estruturados e desenvolvimento de aplicações Web de raiz
-
SoluçãoModelos de entrada de dados e pipeline no ambiente AWS Cloud para integração com uma aplicação Web
-
Tecnologias e ferramentasAmbiente de nuvem AWS, AWS S3, AWS RDS, AWS Lambda Functions, AWS Serverless Application Model, AWS ECS, AWS ESR, Amazon Aurora PostgreSQL, Python, Flask, Github Actions
Cliente
O cliente é um grupo de especialistas em investimentos que abordou a ESSID Solutions com um pedido de solução de dados para a sua plataforma de investimento imobiliário.
O desenvolvimento de um pipeline de dados completo na nuvem exigiu uma integração de ponta a ponta com a aplicação Web para processar as entradas dos utilizadores e permitir todas as funcionalidades de gestão do investimento que permitiriam aos parceiros gerais aproveitar as oportunidades de investimento frutuosas através da elaboração de uma estratégia de investimento bem sucedida.
Desafio: solução de gestão de dados de investimento utilizando dados não estruturados e desenvolvimento de aplicações Web de raiz
Desenvolver uma solução de raiz é sempre uma tarefa desafiante, pois exige um alinhamento e equilíbrio constantes entre os requisitos técnicos e a visão de sucesso do cliente.
Fomos desafiados a desenvolver um solução de dados a partir do zeroA aplicação web foi desenvolvida em paralelo com a aplicação web, considerando diferentes formatos de entrada de dados, como ficheiros Excel e PDF, e o seu correto processamento, enriquecimento e integração para permitir todas as funcionalidades planeadas na aplicação web que estava a ser desenvolvida em paralelo.
O nosso principal objetivo foi desenvolver duas plataformas separadamente e em conjunto simultaneamente, garantindo que, no final, a nossa equipa dispusesse de uma solução completa e integrada que permitisse funcionalidades, para proporcionar aos utilizadores uma experiência agradável e uma visão de avaliação abrangente do desempenho e das estratégias de negócio.
Solução: modelos de introdução de dados e pipeline no ambiente de nuvem AWS para integração com uma aplicação Web
A equipa da ESSID Solutions começou por analisar o negócio do cliente para obter uma compreensão completa das suas necessidades e requisitos. O projeto foi faseado para entregar um produto mínimo viável e permitir ao cliente testar o seu produto em cenários reais.
- Os dados e relatórios de desempenho de um grupo de potenciais utilizadores foram recolhidos e analisados em detalhe para mapear e compreender os dados a tratar, os formatos de entrada e os indicadores utilizados, entre outras particularidades.
- Foram criados modelos de entrada para permitir uma forma padronizada e eficiente de alimentar a aplicação com dados e relatórios de desempenho do investimento. Foi utilizado o Microsoft Excel para facilitar o processo aos utilizadores que estão habituados a este formato.
- Foram recolhidos exemplos de formatos de ficheiros de entrada estruturados e não estruturados e processadas para extração de dados e integração com a nuvem ambiente utilizando Python, funções Lambda e outros Processamento de grandes volumes de dados do AWS recursos.
- Os dados integrados foram enriquecidos e modelados de forma estruturada para fornecer KPIs calculados, indicadores de desempenho e informações estratégicas. Visualização de dados também foi desenvolvido utilizando uma aplicação Flask para fornecer acesso instantâneo às métricas dos investimentos.
- A solução de dados foi integrada na aplicação Web utilizando a API para receber entradas e alimentar a aplicação com dados e métricas de investimento de uma forma segura.
- A CI/CD foi implementada utilizando o Github Actions para permitir uma infraestrutura totalmente integrada.
Concluímos o desenvolvimento de um MVP em 6 meses com uma equipa de 5 profissionais: um gestor de projectos, um AWS Engenheiro de dados, um analista de dados, um consultor comercial e um supervisor técnico.
Arquitetura de soluções
Resultado: processos optimizados e gestão de investimentos simplificada
A nossa equipa construiu um infraestrutura de nuvem fiável baseada em AWS que permite extrair e processar os dados de investimento dos utilizadores para simplificar e acrescentar valor à gestão do investimento.
Como resultado, fornecemos ao cliente uma solução de serviços de dados geridos para a gestão de investimentos que satisfaz as necessidades comerciais do cliente através de optimizações como a diminuição do tempo de processamento de dados, a redução de erros e de riscos de segurança, acesso instantâneo a métricas de investimentonormalização e facilidade de processos para os gestores de fundos.
A equipa da ESSID Solutions ligou a solução de dados à aplicação web do cliente através da API e forneceu a visualização de dados através de uma aplicação Flask. O cliente pode agora ingerir e consumir dados de uma forma segura, prática e eficiente, para elaborar uma estratégia de investimento de sucesso.