Interessante analisar a colocação de um dos entrevistados, participantes da etapa de análise da autora. Esse menciona que "linguagem de programação é algo absoluto e determinístico, e modelos generativos não são.". Cabem reflexões...

Domínios e Decisões de Design:

• Sistemas de Recomendação, onde o tempo é um fator crítico. Portanto, arquiteturas com caches in-memory e modelos adaptativos atualizados online são relevantes. Arquiteturas com cache in-memory armazenam dados frequentemente acessados diretamente na memória RAM, permitindo reduzir a necessidade de consultar discos rígidos ou bancos de dados relacionais, o que contribui para diminuir a latência. Ferramentas populares nesse sentido: Redis e Memcached em arquiteturas de microsserviços. Há dois tipos mais conhecidos: (i) Cache Embutido (In-Process Caching), onde o cache reside na mesma memória do serviço que consome os dados. Latência muito baixa, mas alto consumo de memória e dificuldade e manter consistência dos dados, caso o serviço escale horizontalmente. (ii) Cache Distribuído In-Memory (Out-of-Process Caching), onde os dados são armazenados em um cluster de servidores de cache dedicado, externo ao serviço. Compartilhamento de dados centralizado, mesmo considerando o uso de múltiplas instâncias, além de alta escalabilidade e resiliência; mas há maior latência em comparação ao cache embutido.

• Processamento de Linguagem Natural (PLN) (ex. chatbots, análise de sentimentos e geração de texto (LLMs)), onde o poder computacional é um fator relevante. Portanto, arquiteturas distribuídas com GPUs de alta capacidade, balanceamento de carga, bem como técnicas avançadas de paralelismo são relevantes. Nesse sentido, há necessidade de múltiplos processadores gráficos para trabalhar em conjunto, interligados via redes de altíssima velocidade, visando processamento paralelo massivo de grandes volumes de dados, sendo arquiteturas muito utilizadas no treinamento de modelos de Inteligência Artificial.

• Visão Computacional com detecção de objetos, reconhecimento facial, dentre outros recursos, onde é necessário o processamento de grandes volumes dados (imagens e vídeos). Portanto, arquiteturas de Redes Neurais Convolucionais (CNN), preparadas para armazenamento otimizado, são relevantes. Como funcionam? Basicamente, empilham-se camadas como convolução (Conv2d), ativações (ReLU) e camadas totalmente conectadas. O processo de otimização envolve  a exportação do modelo base (treinado em ferramentas como: PyTorch ou TensorFlow) para o formato ONNX (Open Neural Network Exchange), executando-o e compilando-o, por exemplo, no NVIDIA TensorRT. Isso tende a garantir latência bem baixa e alto throughput em GPUs (placas de vídeo ou aceleradores). Sendo assim, pode-se processar uma quantidade massiva de dados, cálculos ou quadros por segundo simultaneamente. Existem várias técnicas de Otimização do TensorRT para CNNs, dentre elas: Fusão de Camadas (Layer/Operator Fusion) para eliminar overheads de leitura e escrita na memória, bem como chamadas de API, combinando múltiplas operações matemáticas e camadas consecutivas em único kernel de execução na GPU; Seleção de Kernel (Auto-tuning) para selecionar o algoritmo matemático de convolução mais rápido, considerando GPU usada, e Computação de Precisão Mista para diminuir o consumo de memória, alterando o tipo de dado da rede.

• Análise Preditiva em Larga Escala, onde há demanda de batch processing eficiente, com escalabilidade horizontal. Alguns exemplos desse tipo de análise são Previsão de Churn, manutenção preditiva ou previsão de demanda. Só para contextualizar... A Previsão de Churn compreende uma análise que identifica clientes com maior probabilidade de deixar de usar um produto ou serviço. Na sequência, são tomadas ações preventivas para retenção. Portanto, arquiteturas baseadas em DAGs (Grafo Acíclico Direcionado), organizando o trabalho em estágios e tarefas paralelas, compreendendo um pipeline escalável e uso de algoritmos clássicos (regressão, classificação, clusterização e recomendação). É comum o uso de Batch Transform, sendo essa uma ferramenta da Amazon usada para rodar em grande escala, realizar inferências e transformações em conjuntos de dados numerosos/massivos. 

  • • Nesse contexto, e orientando-se pela fonte (https://ogcruz.github.io/Bookdown/introdu%C3%A7%C3%A3o-%C3%A0s-s%C3%A9ries-temporais.html) conceitos como séries temporais, regressão e classificação tornam-se relevantes:

      • Séries temporais são conjuntos de observações ordenadas em um intervalo de tempo (dia, mês, trimestre, ano, dentre outros), ou seja, ordenadas cronologicamente. Isso permite obter uma visão geral sobre o andamento ou comportamento da variável em análise. Existem as séries regulares e as séries irregulares. Nas séries regulares, têm-se que as observações ocorrem em intervalos de tempo fixos. Já nas séries irregulares, têm-se que as observações ocorrem em intervalos de tempo variados. 

      • A classificação dos tipos de séries temporais compreende:

        • séries temporais contínuas: obtém-se a informação com observações em qualquer intervalo de tempo. Exemplo: Temperatura.

        • séries temporais discretas: obtém-se a informação com observações em intervalos de tempo discreto e equidistantes (ano, mês, dias e outros). Exemplo: Mortalidade Infantil.

        • séries temporais multivariadas: obtém-se a informação considerando várias coleções de observações para a mesma sequência de períodos de tempo, envolvendo uma análise histórica. Exemplo: Número de Homicídios e Acidentes na Região Sudeste.

        • séries temporais multidimensionais: obtém-se a informação considerando várias coleções de observações para a mesma sequência de períodos de tempo, mas em diferentes contextos. Exemplo: Número de AVCs em Diferentes Unidades Federativas.

      • Regressão é uma técnica usada para prever valores futuros de séries temporais, permitindo compreender tendências e padrões. Predição...

Alguns Desafios Inerentes à Integração de IA com Sistemas Legados:

Interoperabilidade - é relevante a criação de APIs ou middlewares intermediários, adequando os dados dos sistemas legados ao formato necessário à IA (ex: JSON, Parquet, Avro). ETLs (em português: Extrair, Transformar, Carregar) ajudam nesse processo, e são comumente utilizados para extrair e converter dados de BDs Relacionais mais antigos (ex: Oracle, DB2). Leia mais em: https://www.ibm.com/br-pt/think/topics/etl 

Desacoplamento - utilizar filas de mensagens (Kafka, RabbitMQ, Pub/Sub) e microsserviços permite desacoplar os sistemas legados das novas aplicações de IA. Com essa separação clara, torna-se possível atualizar ou escalar os componentes de IA sem gerar impactos no que está em operação. Filas de mensagens são componentes de middleware que permitem a comunicação assíncrona entre aplicações, armazenando mensagens até que possam ser processadas por terceiros. O Apache Kafka, por exemplo, é uma plataforma de streaming de eventos que permite publicar, subscrever e processar fluxos de dados em tempo real, oferecendo vantagens como alta escalabilidade, baixa latência e durabilidade.

Governança e Segurança - regular e assegurar que os modelos de IA operem em conformidade com políticas corporativas, Lei Geral de Proteção de Dados Pessoais (LGPD), General Data Protection Regulation (GDPR), Marco Legal (ainda em tramitação) e demais regulações. Aplicam-se técnicas como data masking, logging e ferramentas de rastreabilidade para ajudar nesse processo. Data masking é uma técnica de preservação da privacidade, sendo usada para proteger a identificação de informações pessoais, ou seja, dados sensíveis. Como isso é feito? Substituindo essas informações por outras realistas, mas anonimizadas. A ideia é manter a usabilidade do dado para desenvolvimento, teste, análise ou treino, mas não permitir o acesso não autorizado ou indevido ao mesmo. Ler sobre Privacidade Diferencial...