Skip to main content

CAPL_4.07

· 6 min read
TOTVS Inteligência de Dados

🚀 Melhorias

CAROL_APP CAPL-6353 Atualizar chave de autenticação do git na Tenant Unificada e resolver problema de conexão com git

Permitir que o usuário atualize a chave de autenticação com o git na Tenant Unificada. Através do serviço PUT, é possível gerar uma nova versão draft ao alterar a chave, permitindo assim chamar o publish e restaurar o acesso ao git. Deve ser possível informar o token/password pelo fluxo da UI, salvar e publicar as alterações. Além disso, na tenant unificada, exibir que há um problema de conexão com o git e permitir a alteração da chave de autenticação sem a necessidade de uma nova liberação/instalação do Carol App.

PLATFORM CAPL-6412 Evitando perda de eventos na fila Pub/Sub observability_event_queue Atualizando retenção para evitar perda de dados e aumentar confiabilidade Implementando DLQ para armazenar eventos não processados Configurando consumer para a DLQ e monitorando alertas

Evitando perda de eventos na fila Pub/Sub observability_event_queue. Atualização da retenção para evitar perda de dados e aumentar confiabilidade. Implementação de DLQ para armazenar eventos não processados. Configuração de consumer para a DLQ e monitoramento de alertas. Melhoria na escalabilidade e gestão de demanda da plataforma.

🐛 Correções

APP CAPL-6537 Corrigindo erro de instalação do Clock In BackOffice no ambiente brasterapicahml

Erro de instalação do Clock In BackOffice no ambiente brasterapicahml está impedindo a migração do cliente. Múltiplas tentativas de atualização sem sucesso desde 22/07/2024. Aparece o erro: "Error: Something went wrong while trying to update golden mappings for entityTemplate: employeeGolden".

CAROL_APP CAPL-6399 Corrigindo NullPointerException na conversão de manifesto V2 para V1 no endpoint de busca de manifestos

Corrigido o NullPointerException ao converter manifesto V2 para V1 no endpoint de busca de manifestos. Foram identificados e corrigidos os cenários que levavam a esse erro, conforme alerta recebido nos logs do GCP Error Reporting. Realizada análise das chamadas no endpoint /api/v1/carolApps/{id}/pipelines e implementadas correções necessárias para evitar o erro. A query genérica para os erros foi ajustada e os logs para um traceId específico foram verificados.

CONNECTOR CAPL-6400 Corrigir exceção de conversão de datas inválidas nos jobs streaming CDS

Exceção de conversão de datas inválidas nos jobs streaming CDS está causando problemas no processamento dos dados recebidos. A exceção ocorre ao tentar analisar o formato de datas inválidas, como 2024-07-24T13:41:18.459000Z. É necessário investigar se as requisições de intake receberam response 200 para evitar perda de dados. O risco é que um dado inválido pode invalidar todo o lote em processamento, impedindo a visualização na tabela de Staging schema. Os erros estão ligados aos campos mdmCreated e mdmLastUpdated das stagings.

CONNECTOR CAPL-6404 Evitar lançamento de exceção de violação de PK ao persistir dados na tabela staging_schema.

Erro de violação de PK ao inserir dados na tabela staging_schema do database mdmconfig do Postgres. Identificado o identificador da PK que originou o erro: Key (id)=(65a650cd-2d85-bb62-58da-f5b4c498af3f) já existe. Não permitir que a exceção de violação de PK seja lançada pelo core da plataforma durante a persistência de dados. Validar se o registro já existe na tabela staging_schema antes de realizar a tentativa de upsert do record no banco.

CONNECTOR CAPL-6405 Erro de parse JSON impede persistência na tabela staging_schema do PG ao persistir registro com valor JSON na coluna schema_mapping. Problema pode afetar rollout na migração de tenants para ler da tabela staging_schema do Postgres em vez do Elasticsearch

Erro de parse JSON está impedindo a persistência do record na tabela staging_schema do PG. Exception java.lang.IllegalArgumentException sendo lançada ao persistir um registro de staging_schema com valor JSON na coluna schema_mapping. Problema pode afetar o processo rollout na migração das tenants para ler da tabela staging_schema do banco Postgres em vez do Elasticsearch. Fluxo de persistência da entidade Staging Schema no Postgres não deve ser afetado por nenhum tipo de dados específico nas colunas do tipo jsonb.

DATA_MODEL CAPL-6429 Corrigir filtro de data no relatório Top 5 motivos de nAck na Dashboard de Assinaturas

O relatório Top 5 motivos de nAck na Dashboard de Assinaturas não está considerando o filtro de data. Mesmo com dados de assinatura preenchidos, o relatório mostra "Sem Dados". Após investigação, foi identificado que a query enviada para o Big Query não está considerando o filtro de data (10/05/2023). A consulta deveria usar o mesmo filtro de data das outras consultas na dashboard.

PLATFORM CAPL-6378 Ajuste de Payload e Limite de Tamanho para Observabilidade na Integração com Smart Link

Realizada alteração no payload enviado pela Carol para a API do Smart Link, a fim de evitar erros de observabilidade devido a requisições com payload muito grande. O time do Smart Link aumentou o tamanho do pub/sub, reduzindo a incidência de erros. Será implementado um limite de até 5MB, visando garantir a segurança e evitar problemas. A comunicação com o time do Smart Link sobre o maior payload enviado é essencial para o início da implementação. Garantia de envio ilimitado de mensagens de observabilidade da Carol para o Observabilidade, sem restrição na quantidade de dados durante a integração. Definição do limite para paginação no envio de mensagens pela Carol, em caso de acúmulo de dados a serem enviados para a Observabilidade.

PLATFORM CAPL-6409 Corrigir propagação do evento CarolPipelinesExecutionSummary

A propagação do evento CarolPipelinesExecutionSummary não considera todos os eventos de CarolPipelineExecuted. O batchID teve uma série de propagação dos eventos de CarolPipelineExecuted, mas o evento CarolPipelinesExecutionSummary não possui registros em seu pacote. É necessário que o evento CarolPipelinesExecutionSummary considere todos os registros gerados por todos os eventos até o momento. Recomenda-se mapear o job do BQ que gerou o evento de CarolPipelinesExecutionSummary.

PLATFORM CAPL-6410 Corrigido loop ao gerar evento de Summary para batchid de app com pipelines pausadas

Identificou-se um loop ao tentar gerar evento de Summary para batchid de app com pipelines pausadas. O app gesplanprotheuslink estava com pipelines pausadas, causando consultas em loop eterno. Isso pode gerar consumo adicional de recursos de máquina. Para evitar isso, não devemos aguardar a conclusão de tasks com processamento pausado e não enviar eventos para pipelines nessa situação. É necessário eliminar as pendências de processamento relacionadas às pipelines pausadas.

PLATFORM CAPL-6424 Correcao no PG relacionado ao limite de tamanho da query no stackdriver Aumenta parâmetro de configuração max_stack_depth para evitar erro de limite de profundidade na execução da query Realiza ajustes para evitar divergências na Carol

Corrigido erro no PG relacionado ao limite de tamanho da query no stackdriver. Aumentado o parâmetro de configuração "max_stack_depth" para evitar o erro de limite de profundidade na execução da query. Ajustes realizados para evitar divergências entre Carol e Observabilidade ao lidar com as queries mencionadas.