🚀 Melhorias​

ACTIVITY_MANAGEMENT CAPL-5895 Atualiza campo lastUpdated em logs de task para tipo SQL Processing para monitoramento preciso

Atualiza o campo lastUpdated a cada novo log de task para o tipo SQL Processing, permitindo um monitoramento mais preciso pelo StaleBigQueryTaskCheckJob. Essa atualização reduz a lista de tasks a serem verificadas, garantindo que apenas as tasks que não receberam atualizações nos últimos 4 minutos sejam listadas. A solução avalia a necessidade de atualizar o lastUpdated para todas as tasks ou apenas para casos específicos como SQL Processing, melhorando a eficiência do sistema de monitoramento.

ACTIVITY_MANAGEMENT CAPL-5910 Otimiza a validação de jobs na task de processamento SQL na GCP

Otimiza a validação de jobs em execução na task de processamento SQL, ajustando a ordem de verificação dos jobs na GCP. A nova lógica verifica primeiro o DATAFLOW_JOB_ID, seguido do PROCESS_JOB_ID, e assim por diante, apenas se o status RUNNING for falso. A consulta ao Dataflow é realizada somente quando a flag useDataflow está ativa, evitando verificações desnecessárias. A implementação reduz o tempo de execução do método BigQueryProcessTaskProcessor, shouldDeallocateStale(), melhorando a eficiência do processamento.

ACTIVITY_MANAGEMENT CAPL-6655 Ajusta campo Duration da UI para corrigir inconsistências no registro de duração das tasks

Ajustes no campo Duration da UI são realizados para corrigir inconsistências no registro de duração das tasks. O cálculo atual, baseado em mdmUpdated - mdmCreated, gera confusão ao usuário sobre o tempo real de execução. Propostas incluem registrar a data e hora de criação no primeiro log, contabilizar apenas o processamento da task ou remover o campo Duration da UI. Essas mudanças visam garantir maior precisão e clareza nas informações apresentadas aos usuários.

DATA_MODEL CAPL-6644 Implementa descrição de data models para integração com Mandalore

Implementa a funcionalidade que permite informar a descrição de data models, facilitando a integração com Mandalore. Essa melhoria otimiza o processo de documentação e entendimento dos modelos de dados utilizados no sistema.

PLATFORM CAPL-6667 Recriar view ao editar staging table ou publicar data model para atualizar schema

Ao editar uma staging table ou publicar um data model, a view é recriada para forçar a atualização do schema, garantindo que a descrição do data model e os atributos estejam sempre atualizados. Essa mudança melhora a consistência dos dados e a integridade do sistema, refletindo corretamente as alterações realizadas nas tabelas e modelos. A documentação sobre atributos metadata está disponível para consulta.

SQL_PIPELINES CAPL-6711 Migra o Orchestrator para a implementação v4 dos endpoints de SQL Processing

O Orchestrator é migrado para a implementação v4 dos endpoints relacionados ao SQL Processing. Os endpoints processQuery e Get Pipelines agora utilizam as APIs /api/v4/bigQuery/processQuery e /api/v4/tenantApps/{id}/pipelines, respectivamente. Com essa migração, o Orchestrator se torna compatível com a v2 do manifest, conforme especificado na issue CAPL-6069. Essa atualização garante que o processamento de dados ocorra de forma eficiente e alinhada às novas versões das APIs.

🐛 Correções​

CONNECTOR CAPL-6653 Valida parâmetros condicionais na escrita de parquets no GCS e corrige erros de escrita

Valida os parâmetros condicionais na escrita de parquets no GCS, corrigindo erros de escrita que ocorrem devido a pré-condições não atendidas. A implementação permite o uso de opções de parametrização mais resilientes, como o overwrite de arquivos utilizando ifGenerationMatch=0 e if_metageneration_match=0, evitando mensagens de erro que indicam que as condições não foram atendidas. A documentação relevante é atualizada para refletir essas melhorias e garantir uma operação mais estável.

CONNECTOR CAPL-6684 Correção NullPointerException ao tratar exceções do BigQuery ao adicionar AuditId

Corrige um NullPointerException que ocorre ao tratar exceções do BigQuery ao adicionar o AuditId. O problema é identificado na classe BigQueryExtendedErrorHandler, especificamente nos métodos reportStats e processElement. A implementação atualiza o tratamento de erros para garantir que não haja exceções de ponteiro nulo durante o processo.

CONNECTOR CAPL-6748 Corrige o valor de ingestionDatetime nas stagings para refletir a data/hora correta de aterrizagem do registro

O valor de _ingestionDatetime nas stagings não reflete a real data/hora de aterrizagem do registro, apresentando uma diferença de minutos em relação ao _CHANGE_TIMESTAMP do BigQuery. Essa discrepância impacta o processamento. Uma solução paliativa já foi implementada, mas o tema continua em análise. Um documento detalhado sobre o caso está disponível para consulta.

EXPLORE CAPL-6660 Corrige exibição da senha no painel lateral do registro Golden Record de mdmUser para o storage Type RT

O problema de exibição da senha no painel lateral do registro Golden Record de mdmUser para o storage Type RT foi identificado e corrigido. Agora, a senha não aparece mais, garantindo a segurança das informações. O comportamento para BQ permanece inalterado e continua funcionando corretamente.

🚀 Melhorias​

BILLING CAPL-6636 Aprimora monitoramento do repasse de valores no Billing

Adiciona recursos ao Billing para aprimorar o monitoramento do repasse de valores. Na tela inicial, exibe o CC, item code, class value e o responsável. Inclui o código do workflow gerado no fluig apenas para batches consolidados, associando-o ao billing account. Mostra o código do WF do fluig e destaca billing accounts sem CC, adicionando mensagens que alertam sobre a falta de informações de cobrança e a necessidade de revisão das tenants. Um link para o Fluig é incluído no header para o Account Manager.

CAROL_APP, CONNECTOR, ORGANIZATION_ADMIN CAPL-6068 Propagar eliminação de dados na Tenant Unificada de forma segura e eficiente

Como tenant admin, é possível propagar a eliminação de dados na tenant unificada. Isso inclui a remoção de registros de staging tables, desinstalação de Carol Apps, eliminação de tenants clientes e atualização de Carol Apps na tenant unificada. O processo é realizado de forma síncrona e assíncrona, garantindo a integridade dos dados e a correta execução das tarefas.

CAROL_APP, SQL_PIPELINES CAPL-6623 Padroniza a funcionalidade de múltipla seleção em tabelas na Carol

A funcionalidade de múltipla seleção em tabelas na Carol é padronizada, garantindo um comportamento uniforme em todas as abas. Agora, quando nenhum item estiver selecionado, os botões de ação permanecem desabilitados, apresentando mensagens informativas que orientam o usuário. Para a listagem de Tenants, a mensagem "Select a valid Tenant to run Copy data" é exibida, enquanto na listagem de Pipelines, a mensagem "Select pipelines to process and manage schedules" é apresentada. Essa mudança melhora a usabilidade e a clareza nas interações.

DATA_MODEL CAPL-6644 Implementa descrição de data models para integração com Mandalore

Implementa a funcionalidade que permite informar a descrição de data models, facilitando a integração com Mandalore. Essa melhoria otimiza o processo de documentação e entendimento dos modelos de dados utilizados no sistema.

TENANT_ADMIN CAPL-6612 Exibe campo mdmdescription na interface de edição de tenants

O campo mdmdescription é agora exibido na interface de edição de tenants. Os usuários do Carol Admin, Org Admin e Tenant Admin conseguem visualizar e editar a descrição da tenant ao acessar suas respectivas interfaces. Essa atualização melhora a usabilidade e a gestão das informações dos tenants, permitindo um acesso mais fácil e direto às descrições necessárias.

🐛 Correções​

CONNECTOR CAPL-6583 Falha na task de notify schema changes ao incluir campo sem field type em ambientes Postgres

Ocorre uma falha na task de notify schema changes ao incluir um campo sem o field type, tanto em ambientes não migrados quanto migrados para o Postgres, incluindo a master. Após criar uma staging table e adicionar um campo sem o field type, erros são gerados ao enviar dados. No entanto, ao editar e salvar novamente a staging table, os erros deixam de acontecer.

PLATFORM CAPL-6401 Correção de erros de ElasticSearch relacionados ao tenant parenteandrade e evita falhas na eliminação do índice durante o snapshot

Corrige os erros de ElasticSearch relacionados ao tenant parenteandrade, evitando falhas na eliminação do índice durante o processo de snapshot. A implementação garante que a tarefa de fechamento dos índices não seja interrompida quando o ElasticSearch estiver realizando um snapshot, prevenindo assim o erro de "Bad Request" que ocorre ao tentar deletar índices em uso. A solução proporciona maior estabilidade e confiabilidade nas operações do sistema.

🚀 Melhorias​

CAROL_APP CAPL-6353 Atualizar chave de autenticação do git na Tenant Unificada e resolver problema de conexão com git

Permitir que o usuário atualize a chave de autenticação com o git na Tenant Unificada. Através do serviço PUT, é possível gerar uma nova versão draft ao alterar a chave, permitindo assim chamar o publish e restaurar o acesso ao git. Deve ser possível informar o token/password pelo fluxo da UI, salvar e publicar as alterações. Além disso, na tenant unificada, exibir que há um problema de conexão com o git e permitir a alteração da chave de autenticação sem a necessidade de uma nova liberação/instalação do Carol App.

PLATFORM CAPL-6412 Evitando perda de eventos na fila Pub/Sub observability_event_queue Atualizando retenção para evitar perda de dados e aumentar confiabilidade Implementando DLQ para armazenar eventos não processados Configurando consumer para a DLQ e monitorando alertas

Evitando perda de eventos na fila Pub/Sub observability_event_queue. Atualização da retenção para evitar perda de dados e aumentar confiabilidade. Implementação de DLQ para armazenar eventos não processados. Configuração de consumer para a DLQ e monitoramento de alertas. Melhoria na escalabilidade e gestão de demanda da plataforma.

🐛 Correções​

APP CAPL-6537 Corrigindo erro de instalação do Clock In BackOffice no ambiente brasterapicahml

Erro de instalação do Clock In BackOffice no ambiente brasterapicahml está impedindo a migração do cliente. Múltiplas tentativas de atualização sem sucesso desde 22/07/2024. Aparece o erro: "Error: Something went wrong while trying to update golden mappings for entityTemplate: employeeGolden".

CAROL_APP CAPL-6399 Corrigindo NullPointerException na conversão de manifesto V2 para V1 no endpoint de busca de manifestos

Corrigido o NullPointerException ao converter manifesto V2 para V1 no endpoint de busca de manifestos. Foram identificados e corrigidos os cenários que levavam a esse erro, conforme alerta recebido nos logs do GCP Error Reporting. Realizada análise das chamadas no endpoint /api/v1/carolApps/{id}/pipelines e implementadas correções necessárias para evitar o erro. A query genérica para os erros foi ajustada e os logs para um traceId específico foram verificados.

CONNECTOR CAPL-6400 Corrigir exceção de conversão de datas inválidas nos jobs streaming CDS

Exceção de conversão de datas inválidas nos jobs streaming CDS está causando problemas no processamento dos dados recebidos. A exceção ocorre ao tentar analisar o formato de datas inválidas, como 2024-07-24T13:41:18.459000Z. É necessário investigar se as requisições de intake receberam response 200 para evitar perda de dados. O risco é que um dado inválido pode invalidar todo o lote em processamento, impedindo a visualização na tabela de Staging schema. Os erros estão ligados aos campos mdmCreated e mdmLastUpdated das stagings.

CONNECTOR CAPL-6404 Evitar lançamento de exceção de violação de PK ao persistir dados na tabela staging_schema.

Erro de violação de PK ao inserir dados na tabela staging_schema do database mdmconfig do Postgres. Identificado o identificador da PK que originou o erro: Key (id)=(65a650cd-2d85-bb62-58da-f5b4c498af3f) já existe. Não permitir que a exceção de violação de PK seja lançada pelo core da plataforma durante a persistência de dados. Validar se o registro já existe na tabela staging_schema antes de realizar a tentativa de upsert do record no banco.

CONNECTOR CAPL-6405 Erro de parse JSON impede persistência na tabela staging_schema do PG ao persistir registro com valor JSON na coluna schema_mapping. Problema pode afetar rollout na migração de tenants para ler da tabela staging_schema do Postgres em vez do Elasticsearch

Erro de parse JSON está impedindo a persistência do record na tabela staging_schema do PG. Exception java.lang.IllegalArgumentException sendo lançada ao persistir um registro de staging_schema com valor JSON na coluna schema_mapping. Problema pode afetar o processo rollout na migração das tenants para ler da tabela staging_schema do banco Postgres em vez do Elasticsearch. Fluxo de persistência da entidade Staging Schema no Postgres não deve ser afetado por nenhum tipo de dados específico nas colunas do tipo jsonb.

DATA_MODEL CAPL-6429 Corrigir filtro de data no relatório Top 5 motivos de nAck na Dashboard de Assinaturas

O relatório Top 5 motivos de nAck na Dashboard de Assinaturas não está considerando o filtro de data. Mesmo com dados de assinatura preenchidos, o relatório mostra "Sem Dados". Após investigação, foi identificado que a query enviada para o Big Query não está considerando o filtro de data (10/05/2023). A consulta deveria usar o mesmo filtro de data das outras consultas na dashboard.

PLATFORM CAPL-6378 Ajuste de Payload e Limite de Tamanho para Observabilidade na Integração com Smart Link

Realizada alteração no payload enviado pela Carol para a API do Smart Link, a fim de evitar erros de observabilidade devido a requisições com payload muito grande. O time do Smart Link aumentou o tamanho do pub/sub, reduzindo a incidência de erros. Será implementado um limite de até 5MB, visando garantir a segurança e evitar problemas. A comunicação com o time do Smart Link sobre o maior payload enviado é essencial para o início da implementação. Garantia de envio ilimitado de mensagens de observabilidade da Carol para o Observabilidade, sem restrição na quantidade de dados durante a integração. Definição do limite para paginação no envio de mensagens pela Carol, em caso de acúmulo de dados a serem enviados para a Observabilidade.

PLATFORM CAPL-6409 Corrigir propagação do evento CarolPipelinesExecutionSummary

A propagação do evento CarolPipelinesExecutionSummary não considera todos os eventos de CarolPipelineExecuted. O batchID teve uma série de propagação dos eventos de CarolPipelineExecuted, mas o evento CarolPipelinesExecutionSummary não possui registros em seu pacote. É necessário que o evento CarolPipelinesExecutionSummary considere todos os registros gerados por todos os eventos até o momento. Recomenda-se mapear o job do BQ que gerou o evento de CarolPipelinesExecutionSummary.

PLATFORM CAPL-6410 Corrigido loop ao gerar evento de Summary para batchid de app com pipelines pausadas

Identificou-se um loop ao tentar gerar evento de Summary para batchid de app com pipelines pausadas. O app gesplanprotheuslink estava com pipelines pausadas, causando consultas em loop eterno. Isso pode gerar consumo adicional de recursos de máquina. Para evitar isso, não devemos aguardar a conclusão de tasks com processamento pausado e não enviar eventos para pipelines nessa situação. É necessário eliminar as pendências de processamento relacionadas às pipelines pausadas.

PLATFORM CAPL-6424 Correcao no PG relacionado ao limite de tamanho da query no stackdriver Aumenta parâmetro de configuração max_stack_depth para evitar erro de limite de profundidade na execução da query Realiza ajustes para evitar divergências na Carol

Corrigido erro no PG relacionado ao limite de tamanho da query no stackdriver. Aumentado o parâmetro de configuração "max_stack_depth" para evitar o erro de limite de profundidade na execução da query. Ajustes realizados para evitar divergências entre Carol e Observabilidade ao lidar com as queries mencionadas.

🚀 Melhorias​

BIG_QUERY CAPL-6257 Otimizando processo de consolidação física e preservando integridade dos dados

Realizada otimizações no processo de consolidação física para garantir consistência de dados e atender às necessidades dos clientes. Ajustes feitos para evitar exclusões incorretas de registros no Data Model, mantendo o último registro mesmo com mdmDeleted=true. Novas regras implementadas para minimizar impactos e preservar a integridade dos dados. Melhorias aplicadas visando manter registros relevantes e reduzir processamentos desnecessários.

BILLING CAPL-6306 Adiciona shortcut para visualizar MRR com filtro de últimos 6 meses, destaca MRR no primeiro card e adiciona botão para ver MRR junto com custos no gráfico

Adiciona um shortcut para visualizar MRR aplicando o filtro dos últimos 6 meses. Destaca MRR no primeiro card e adiciona botão "See MRR over costs" no chart para visualizar MRR junto com os custos.

BILLING CAPL-6428 Permitir filtro por centro de custo

Permitir filtrar por centro de custo através de input text. Aplicar filtro específico para centro de custo. Mostrar dados selecionados na visualização do site panel ao escolher uma conta de faturamento. Incluir novos campos como centro de custo, item contábil e classe valor. Exibir informações adicionais na tabela de contas de faturamento, como proprietário da conta.

CONNECTOR CAPL-6248 Marcar entidades e data models para não traduzir por tradutores

Marcar nome de entidades e data models para não serem traduzidos por tradutores. Avaliar e aplicar método para garantir essa especificidade. Ação visa evitar traduções inadequadas em tabelas e modelos de dados. Impacto direto na qualidade da tradução e compreensão dos dados. Ajuste necessário para melhorar a experiência do usuário.

CONNECTOR CAPL-6280 Gravando BatchID e Sequence na tabela de landing

Gravando os dados de BatchID e Sequence na tabela de landing para manter a integridade dos dados durante processos de validação e re-importação. Os valores são salvos como atributos key/value na tabela landing.

DATA_MODEL CAPL-6246 Adiciona validação para limitar length de campos em DataModel

Adicionada validação para limitar length de campos tipo string em DataModel. O sistema agora impede valores acima de 2048 caracteres.

PLATFORM CAPL-6265 Registros do pacote não escritos no BigQuery e registros não ingeridos pela plataforma

Registros do pacote não escritos no BigQuery e registros não ingeridos pela plataforma

SQL_PIPELINES CAPL-6069 Atualizando endpoint processQuery para manifesto de pipelines em tenant unificada

Atualizando endpoint processQuery para manifesto de pipelines em tenant unificada

TENANT_ADMIN CAPL-6384 Permite cópia do datasetId do BQ pelo Tenant Admin

Permite cópia do datasetId do BQ pelo Tenant Admin

VSCODE CAPL-6262 Permite migração de manifesto de pipeline da v1 para v2 no VSCode com valores padrão para novos atributos

Permite a migração do manifesto de pipeline da v1 para v2 no VSCode, assumindo valores padrão para novos atributos. Referência das mudanças disponíveis em slack e github.

VSCODE CAPL-6263 Criar manifestos de pipeline no VSCode utilizando o padrão v2

Criar manifesto de pipelines apenas usando o formato v2 no VSCode. Novos manifestos de pipeline devem seguir o padrão v2. Referências das mudanças disponíveis no Slack e GitHub. Os usuários devem criar manifestos de pipeline no VSCode usando o formato v2.

VSCODE CAPL-6361 Ajustando a ação de processar query no VSCode para utilizar o novo endpoint /api/v4/bigQuery/processQuery

Ajustando a ação de processar query no VSCode para utilizar o novo endpoint /api/v4/bigQuery/processQuery

🐛 Correções​

ACTIVITY_MANAGEMENT CAPL-6308 Corrigido problema de acesso aos logs de org user sem tenant vinculada

Um org user sem tenant vinculada não consegue acessar os logs devido a uma quebra no endpoint do API-UI. O problema ocorre quando a função tenta criar um filtro pelas tenants do usuário, causando a falha na execução.

BIG_QUERY CAPL-6260 Alocar a fila de carol-sql-job para o worker-provision para evitar atrasos

Alocar a fila de carol-sql-job para o worker-provision para evitar atrasos

BILLING CAPL-6252 Adequar funcionalidade de teste de pipeline para suportar pipelines de Receita

Adequação da funcionalidade de teste de pipeline para suportar pipelines do tipo "Revenue". Garantindo que o teste seja bem-sucedido mesmo nesse cenário específico.

CONNECTOR CAPL-6251 Não mantém atualização do esquema flexível ao percorrer menus de opções avançadas de staging

Não mantém atualização do esquema flexível ao percorrer menus de opções avançadas de staging

CONNECTOR CAPL-6258 Copia de dados para unificado desconsiderando campos (case sensitive) e campo não populado devido ao fator case sensitive.

Copia de dados para unificado desconsiderando campos (case sensitive). Um novo campo em caixa baixa é adicionado no ambiente customer e posteriormente em caixa alta no unificado. Apesar da alteração de schema, a cópia de dados não considera o campo, resultando em valores faltantes no unificado. A task de cópia de dados é manualmente criada, porém o campo não é populado devido ao fator case sensitive. Recomenda-se incluir o campo no SELECT da cópia de dados sem considerar a diferença de caixa.

CONNECTOR CAPL-6269 Correção de problemas de landing e steps com dados faltantes e divergentes

Corrigidos os problemas de landing e steps com faltas e divergências de dados. As tenants agora seguem o fluxo esperado de acordo com a documentação fornecida. Registros corrigidos para refletir o comportamento esperado após a resolução dos bugs.

DATA_PROCESSING CAPL-6266 Corrigir processamento incorreto de task em ambiente sem dados

Processo de task sendo processada incorretamente em ambiente sem dados, corrigir para garantir processamento eficiente. Ajuste realizado no backend para que apenas a tenant correta processe os dados, evitando processamento indevido por outras tenants.

EXPLORE CAPL-6255 Adicionando totalizador por grupo de entidades no tree view do explore

Implementado totalizador por grupo de entidades no tree view do explore. Anteriormente, a quantidade de entidades por categoria nao era exibida, o que podia gerar confusao. Agora, o usuario pode facilmente visualizar a quantidade de registros em cada grupo, mesmo em listas com mais de 50 itens.

EXPLORE CAPL-6287 Corrige erro no Editor UNIF para execução de querys simples no Explorer-Editor da página inicial

Corrigido o erro no Editor UNIF que impedia a execução de querys simples. O problema ocorria ao tentar analisar as querys no Explorer-Editor da página inicial. A correção resolveu os erros apresentados no console.

EXPLORE CAPL-6349 Corrige problema de visualização de Named Queries para Tenants com o novo Explorer

Corrige problema de visualização de Named Queries para Tenants com o novo Explorer

PLATFORM CAPL-6311 Corrigindo bug na Observabilidade do Smartlink relacionado à diferença entre contagens de Summary e Subscriptions

Corrigindo bug na Observabilidade do Smartlink relacionado à diferença entre contagens de Summary e Subscriptions

PLATFORM CAPL-6419 Corrigir falta de nome de pipeline em eventos de observabilidade

Os eventos de observabilidade não estão funcionando devido à falta de nome de pipeline nas mensagens propagadas. Identificamos que as tasks relacionadas aos eventos possuem o nome da pipeline no novo padrão adotado. É necessário propagar o nome da pipeline para a observabilidade.

SQL_PIPELINES CAPL-6267 Corrigir erro de reconhecimento de app para Tenants de Cliente do app totvspricing

Corrigir erro de reconhecimento de app para Tenants de Cliente do app totvspricing

SQL_PIPELINES CAPL-6268 Corrigir processamento de pipelines com eficiência Batch ativa.

Corrigir processamento de pipelines com eficiência Batch ativa.

SQL_PIPELINES CAPL-6420 Cancela tasks presas devido a deploy recente e investiga causas - 19 casos identificados.

Detectamos tasks presas em execução devido a um deploy recente. Realizamos cancelamentos pontuais para evitar impactos. Avaliamos e cancelamos tasks específicas. Foram identificados 19 casos hoje. O objetivo é cancelar tasks presas e investigar as causas.

TENANT_ADMIN CAPL-6250 Corrigir redirecionamento de usuário sem acesso para tela de login

Corrigir redirecionamento de usuário sem acesso para tela de login

🚀 Melhorias​

ACTIVITY_MANAGEMENT CAPL-6081 Adiciona treeview no editor Explore para facilitar a navegação dos Tenants Admin.

Adiciona treeview no editor Explore para facilitar a navegação dos Tenants Admin.

BIG_QUERY CAPL-6079 Permitir que o Tenant Admin inicie o processo de cópia de dados na Unified Tenant

Permitir que o Tenant Admin na Unified Tenant inicie o processo de cópia de dados. Selecionar Tenants para iniciar o processo de cópia de dados. Abrir a seleção de Tenants e permitir a seleção das staging tables no manifest de pipelines. Iniciar as tarefas de cópia dos dados.

BILLING CAPL-6077 Exibindo dados de ARR na tela de Billing e filtrando MRR por CD_PROD e CD_CNTA.

Adição do checkbox "Show recurring revenue" ao gráfico. Filtragem do MRR considerando CD_PROD e CD_CNTA.

CONNECTOR CAPL-6074 Atualiza o mdmIdOrigin baseado no mdmId da tenant cliente no processo de Copy Data.

No processo de Copy Data, o mdmIdOrigin é agora escrito com base no mdmId da tenant cliente. Isso elimina a condição de validação mdmId = mdmIdOrigin no código. O mdmIdOrigin agora reflete o mdmId da tenant cliente, conforme solicitado.

EXPLORE CAPL-6076 Adiciona treeview no editor Explore para facilitar a navegação dos Tenants Admin.

Adiciona treeview no editor Explore para facilitar a navegação dos Tenants Admin.

PLATFORM CAPL-6067 Adiciona campo sendToSubscriptions no evento CarolPipelineExecuted para rastrear valor 0 com subscriptions ativas no data model.

Adiciona campo sendToSubscriptions no evento CarolPipelineExecuted para rastrear valor 0 com subscriptions ativas no data model.

🐛 Correções​

ACTIVITY_MANAGEMENT CAPL-5886 Corrigido Listagem de Tarefas em Loop e Resolução de Tela

Corrigido Listagem de Tarefas em Loop e Resolução de Tela

EXPLORE CAPL-6073 Corrigindo exibição de tenants na visualização de dados compartilhados de entrada e saída

Corrigindo exibição de tenants na visualização de dados compartilhados de entrada e saída

ORGANIZATION/TENANT CAPL-5287 Corrigido problema de loop no login para o serviço IDP Identity

Correção realizada no login do serviço IDP Identity

PLATFORM CAPL-6101 Ajuste de contagens entre CarolPipelinesExecutionSummary e CarolDataModelSubscriptionSent

Ajuste de contagens entre CarolPipelinesExecutionSummary e CarolDataModelSubscriptionSent

PLATFORM CAPL-6147 Adicionar campo de nome da subscription no payload de envio de mensagens a pubsub

Adicionar campo de nome da subscription no payload de envio de mensagens a pubsub

SHARED_DATA CAPL-6078 Corrigindo exibição de tenants na visualização de dados compartilhados de entrada e saída

Corrigido o erro que exibia o tenant errado na visualização de Incoming Shared Data. Agora, a coluna Shared with tenant mostra o nome e tenantID da tenant de origem. Na aba Outgoing Shared Data, exibe corretamente o nome e tenantID da tenant destino.

🚀 Melhorias​

BILLING CAPL-5814 Novo filtro por recursos na interface de Account Admin

Permitir que o usuário aplique um filtro por recursos na interface de Account Admin. Este filtro permitirá entender como o componente é dividido entre as tenants.

CAROL_APP CAPL-5661 Implementação da Propagação da Remoção de Dados ao Desinstalar Aplicativo Carol na Tenant Cliente

Como administrador na tenant cliente, está sendo implementada a propagação da remoção de dados ao desinstalar um aplicativo Carol. O objetivo é excluir os dados associados deste aplicativo da tenant unificada. O processo inclui a detecção e remoção assíncrona de tabelas staging e modelos de dados relacionados ao aplicativo. Após a conclusão da remoção, o app será bloqueado para instalação até que todo o processo seja finalizado. Além disso, será disponibilizado um botão para reprocessamento da desinstalação e eliminação de dados.

CAROL_APP CAPL-5710 Permitir a criação de novos Apps como "SQL Only" e tornar a tenant unificada opcional

Como usuário DEV, agora é possível criar um novo App ou uma nova versão do App como "SQL Only". Evita-se assim o aumento do período de migração, permitindo apenas a criação de novos Apps como "SQL Only". Ao clicar para criar um novo App, a opção padrão será definida como SQL Only. A definição da tenant unificada torna-se opcional. A edição do APP permitirá a vinculação de tenant unificada, gerando uma exceção se já houver uma associada. A opção de informar se o app é SQL Only ou Hybrid foi removida, sendo sempre SQL Only. A obrigatoriedade do campo Unified Tenant também foi removida, podendo ser informado a qualquer momento, mas obrigatório antes de liberar o app.

CAROL_APP CAPL-5711 Funcionalidade para criar novos Apps ou novas versões apenas como "SQL Only"

Como usuário DEV, agora é possível criar novos Apps ou versões como "SQL Only", evitando migrações prolongadas. O comportamento padrão é SQL Only, sem opções adicionais na interface. A definição da tenant unificada agora é opcional, listando apenas as unificadas sem apps instalados. Removida a opção de escolher entre SQL Only e Hybrid, sendo sempre SQL Only. O campo Unified Tenant agora é opcional, mas deve ser preenchido antes da liberação do App.

PLATFORM CAPL-5870 Correção de exibição de Locale na lista de usuários da Tenant

Realizando ajustes nos dados enviados no evento CarolPipelinesExecutionSummary. Inclusão de novos atributos originalGoldenRecordCount e originalRejectedRecordCount. Envio de informações adicionais para auxiliar o time do Smartlink. Os atributos representam a quantidade de Goldens e Rejected processados. Clientes do Smartlink com eficiência batch habilitada podem usufruir das melhorias.

PLATFORM CAPL-5880 Ajustando dados enviados no evento CarolPipelineExecuted para incluir número de subscriptions entregadas

Realizando ajustes nos dados enviados no evento CarolPipelineExecuted para incluir informações adicionais que auxiliam no cruzamento de dados. As informações adicionais incluem o número de subscriptions que a pipeline entregará. Essa melhoria beneficia o time do Smartlink ao comparar dados da Plataforma Carol com os TotvsApps. Todos os clientes do Smartlink com eficiência batch habilitada podem usufruir dessas melhorias. Os dados enviados serão utilizados para otimizar a análise de dados processados e enviados aos clientes.

PLATFORM CAPL-5967 Ajustando dados do evento CarolPipelinesExecutionSummary para melhorar observabilidade. Aprimorando informações para clientes Smartlink com eficiência batch.

Realizando ajustes nos dados enviados no evento CarolPipelinesExecutionSummary. Atualizando atributos para melhorar a observabilidade dos dados processados. Os clientes do Smartlink com eficiência batch habilitada poderão usufruir dessas melhorias. Adicionando informações essenciais nos eventos e no tasklog da task de summary.

SQL_PIPELINES CAPL-5707 Corrige bug de duplicação de pipelines no Postgres durante o checkout. Garante consistência e unicidade nas chaves da pipeline. Prioriza manutenção de pipelines com source staging compatível com o manifesto. Permite campo sourceEntities vazio.

Corrigido o bug que permitia pipelines duplicadas no Postgres. Agora, validamos se o campo sourceStagings está preenchido durante o checkout da pipeline. Isso evita duplicidades na base de dados e garante consistência na identificação das pipelines. As chaves da pipeline foram ajustadas para garantir unicidade: carol_app_name, tenant_id e pipeline_name. Também foi priorizada a manutenção de pipelines com source staging compatível com o manifesto. O campo sourceEntities agora pode ser vazio, conforme esperado.

SQL_PIPELINES CAPL-5760 Implementar validação via ORCHESTRATOR para connectorGruop

Implementando validação via ORCHESTRATOR para connectorGruop.

SQL_PIPELINES CAPL-5778 Permitir gerenciamento do Orquestrador pelo Carol Admin

Permitir que o Carol Admin gerencie o Orquestrador, reiniciando-o e visualizando instâncias em execução. Possibilitar a pré-visualização da última tarefa e das expressões cron de cada instância do orquestrador. Exibir propriedades das tarefas, como nome do aplicativo Carol, cron, grupos de tenants, nome do pipeline e detalhes adicionais.

🐛 Correções​

ACTIVITY_MANAGEMENT, SQL_PIPELINES CAPL-4877 Correção de Problema na Limpeza do BigQuery do Data Model

Foi corrigido um problema onde as tasks agendadas não limpavam o BigQuery do Data Model, pois estavam referenciando jobs da task original, que já foram concluídos, fazendo com que um novo não fosse criado. Agora, as tasks agendadas terão o mesmo comportamento que a task original, apagando a tabela do BigQuery antes de processar. Além disso, será criado outro job id de limpeza mesmo em tasks agendadas.

ACTIVITY_MANAGEMENT, CAROL_APP, SQL_PIPELINES CAPL-5804 Token expirado nas Conexões GIT: Problemas ao acessar pipelines e instalar Carol App no tenant unificado

Correção realizada nas Conexões GIT ao clonar um aplicativo com token GIT expirado, durante a instalação unificada do App, se o token estiver expirado, uma mensagem de erro será retornada e a task de instalação do Carol App não será criada; o Tenant do Cliente não deve ser impactado ao instalar o Carol App se o token expirar.

ACTIVITY_MANAGEMENT CAPL-5817 Problema de Tasks da Carol de SQL Processing trancadas em Produção corrigido

Registros estão chegando em staging tables, porém as tasks estão apresentando mensagem de "Data to process was not found or not ready". Algumas tasks ficam trancadas por 30 minutos após conclusão do job no BQ. As tasks voltam a processar sem mensagem adicional.

ACTIVITY_MANAGEMENT CAPL-5830 Corrige lentidão ao filtrar por tasks internas no Activity Management

Corrigido o bug que causava lentidão ao filtrar por tasks do tipo internal no Activity Management. A query agora retorna resultados em poucos segundos.

CAROL_APP CAPL-5839 Atualização de Carol App: Correção de erro com token revogado e orientação para criação de nova versão

Quando um usuário, com token revogado, tenta criar uma nova versão de Carol app, uma mensagem de erro é exibida. O comportamento ocorre apenas com repositórios Github. Ao pressionar F5, o usuário consegue prosseguir.

CAROL_APP CAPL-5840 Correção do botão Finish na instalação do Carol App na Tenant unificada com token revogado

Ao tentar instalar uma versão de Carol App na Tenant unificada com token revogado, o botão Finish não conclui a operação. A correção no FE/UI é feita com F5, que retorna à tela de Carol Apps.

CAROL_APP CAPL-5915 Falha na Instalação da Task de Carol App nos Customers ao Atualizar de Hybrid para SQL Only

Task de Carol App Install está falhando nos customers quando o app possui update the Hybrid para SQL Only. O problema ocorre com customers que instalam o app pela primeira vez ou realizam update. O cenário é quando o customer tem um HYBRID instalado e recebe uma nova versão como SQL_ONLY.

CONNECTOR CAPL-5813 Ajuste de limite máximo de caracteres para Staging Tables e Data Model na plataforma

Ajustado limite máximo de 30 caracteres no nome da Staging Table e Data Model. Os ERPs Consinco e RMS permitem até 26 caracteres. Limite aumentado para 30 caracteres. Compatível com Oracle, PostgreSQL, MySQL, SQL Server e OpenEdge.

CONNECTOR CAPL-5863 Atualização do Schema da Staging Table com Crosswalk Funcionando Corretamente

Atualização do Schema da Staging Table com Crosswalk Funcionando Corretamente

DATA_PROCESSING CAPL-5775 Permite processamento automático de dados copiados ao instalar novo APP no tenant existente

Permite que dados copiados sejam processados automaticamente ao instalar novo APP em tenant existente, redefinindo ingestionDateTime para "now()". Isso garante processamento imediato dos dados.

ORGANIZATION/TENANT CAPL-5936 Corrigir bug na API do FE Carol Swagger para permitir {{mdmValue}} com valor string.

A API do FE Carol Swagger exibe mensagem de erro ao tentar buscar staging schemas com JSON válido. A busca retorna um erro no Swagger, mas no Postman os resultados são retornados corretamente. Ao criar uma staging table e utilizar o endpoint /api/v2/queries/filter para buscar staging schema, o erro é observado no Swagger. O comportamento esperado após a correção do Bug é permitir {{mdmValue}} com valor string, pois atualmente é obrigatório um valor Json.

PLATFORM, SQL_PIPELINES CAPL-6000 Corrigindo erros ao salvar no BigQuery para evitar perda de dados.

Erros ao salvar no BigQuery estão causando perda de dados com frequência. O problema ocorre durante o processo de salvamento de dados no BigQuery.

SHARED_DATA CAPL-5812 Corrigir geração de falsos positivos na API de Dados Compartilhados

A API de Dados Compartilhados não suporta o uso de CTE e inner queries. Falsos positivos são gerados ao usar aliases para deduplicar tabelas, causando erros na validação da consulta SQL. A necessidade de deduplicação em consultas complexas é crucial para otimização de recursos.

SQL_PIPELINES CAPL-4583 O Tenant está de alguma forma vinculado a uma tabela de aplicativos não instalada e não encontrada no fanout

Correção realizada para que o Tenant não vincule a uma tabela de aplicativos não instalada e não encontrada no fanout

SQL_PIPELINES CAPL-5931 Botão Pause/Resume Schedule indisponível para pipelines de mesmo nome

No Menu Pipelines, o botão de Pause/Resume Schedule fica indisponível para pipelines de mesmo nome, mas para apps diferentes. É possível reproduzir o problema criando dois apps e vinculando duas pipelines diferentes com o mesmo pipelineName. Ao acessar o menu pipelines, verifique que o botão Pause/Resume Schedules está indisponível. O comportamento esperado é que o botão de Pause Schedules esteja disponível para todas as pipelines visíveis na plataforma.

SQL_PIPELINES CAPL-5956 Corrigir erro de escrita no Dataflow - Verificar vínculo com Carol App e ajustar pipeline.

Correção no Dataflow - quando o App não está instalado na tenant do cliente - Registros não estão sendo gravados no datamodel.

TENANT_ADMIN CAPL-5842 Correção de exibição de Locale na lista de usuários da Tenant

Correção de exibição de Locale na lista de usuários da Tenant

TENANT_ADMIN CAPL-5963 Corrige problema de SORT na tela de gestão de usuários

Corrigido o problema na tela de gestão de usuários que não aplicava o SORT ao clicar no header da tabela. A informação de SORT da coluna agora é devidamente considerada na request.

TENANT_ADMIN CAPL-5998 Corrigir endpoint de api-ui para trazer tasks de nível organization

Correção no endpoint de api-ui que não estava trazendo tasks de nível organization. Ao criar uma nova tenant, o activity management não notifica no ícone da plataforma, assim como na lista de tasks. O problema ocorre em produção, onde a consulta no PG mostra ter tasks para a org totvstechfin.

🚀 Melhorias​

ACTIVITY_MANAGEMENT CAPL-5784 Funcionalidade de Filtro por Usuário de Criação e Atualização da Task

Adicionada a funcionalidade de filtro por usuário de criação e atualização da task. Os usuários agora podem aplicar filtros utilizando o tipo "string". Os filtros podem ser aplicados considerando o nome do usuário de criação ou de atualização da task.

BIG_QUERY CAPL-5087 Novas Funcionalidades de Cópia de Dados para o Unified Tenant

Nesta versão, foi adicionada a capacidade de o administrador da Tenant do Unified Tenant iniciar o processo de cópia de dados para as tabelas de staging/conectores listados no arquivo de manifesto. O administrador da Tenant pode executar uma cópia de dados completa (para todas as tabelas de staging/conectores especificados no arquivo de manifesto) ou especificando uma lista de conectores e tabelas de staging. Se já houver uma tarefa em fila (pronta) ou em execução para a tenant especificada e para a tabela escolhida (locatário_id + conector_id + staging_id), irá retornar um erro, mesmo que apenas 1 tenant/staging tenha esse cenário. Em outras palavras, não é permitido enfileirar/executar duas tarefas de cópia de dados para a mesma tenant para a mesma tabela.

BILLING CAPL-5779 Funcionalidade de configuração de chaves e valores para Billing Admin

Adicionada a funcionalidade de configuração de chaves e valores para o Billing Admin. Agora é possível utilizar chaves e valores como strings nas pipelines de billing. Exemplos de chaves incluem: basicfee_resources, basicfee_fixed_value. Os valores podem ser definidos pelo usuário. A funcionalidade está disponível para todos os usuários com permissão de Billing Admin. A interface de usuário foi atualizada para incluir um botão "Keys and values" e permitir a visualização, edição e filtragem por chaves e valores. Esta atualização visa facilitar a configuração e utilização de pipelines de billing.

CAROL_APP CAPL-5468 Revisão do Fluxo da Interface do Usuário do Carol App

Revisão do fluxo da interface do usuário do Carol App: remoção de tarefas de instalação, o problema ocorria quando a Organização ou Tenant era apenas SQL, pois era necessário remover as tarefas de instalação, também conhecidas como Reprocess DataModels.

CONNECTOR CAPL-5737 Desativação gradual da geração de documentos cdsFile e verificação do processo de paralização do Dataflow Streaming

Levantamento de esforço para inutilização de cdsFile para tenants não techfin. Desativação gradual da geração de documentos cdsFile do ES. Identificação de problema no processo de paralização do Dataflow Streaming devido à escrita de documentos no ES. Objetivo de verificar se o processo de parar o serviço do Dataflow Streaming consegue fazer o drain corretamente.

DATA_SUBSCRIPTION CAPL-5793 Observabilidade - Adição de novo campo no contrato do evento de Data Subscription

Implementamos um novo campo no contrato do evento (mdmEntityType) que permitirá ao time Smartlink comparar os eventos: CarolDataModelSubscriptionSent (Carol) e AppDataModelSubscriptionReceived (TotvsAPPs)

EXPLORE CAPL-5656 Novidades sobre a visualização e acesso de informações do modelo de dados

Permite visualizar informações do modelo de dados de forma unificada, incluindo tabela intermediária, consulta nomeada e atendimento. Permitir acessar informações do modelo de dados por meio do módulo Alert Management. Permitir visualizar informações do modelo de dados para todas as Tenants. Permitir filtrar e pesquisar informações específicas do modelo de dados. Permite exportar informações do modelo de dados em diferentes formatos.

ORGANIZATION/TENANT CAPL-5780 Remoção do número de registros do RT da página inicial do Tenant

Revisão da página inicial da Tenant e remoção do número de registros do RT.

PLATFORM CAPL-5838 Melhorias de performance na integração de usuários

Realizamos a remoção da contagem de usuários pertencentes ao grupo ao qual ele está sendo vinculado, durante a rotina de integração de usuários sem impactos a mesma, e melhorando assim seu desempenho.

SQL_PIPELINES CAPL-5221 Melhoria na Notificação de Erros de Processamento SQL no BigQuery

A solução proposta é garantir que, se o BigQuery tiver problemas para inserir registros durante o processamento SQL, o usuário será avisado de que a tarefa teve erros para ser concluída. A tarefa de SQL deve falhar.

SQL_PIPELINES CAPL-5826 Compatibilidade com o Orchestrator para desativar a eficiência do SmartLink em tenants específicos

Adicionada compatibilidade no orchestrator para enviar o parâmetro useBatchNotification no endpoint processQuery. Possibilidade de customizar o useBatchNotification para uma lista de tenants na configuração dos apps. Incluída query para detectar tenants que terão a eficiência do SmartLink (batchID) desativado.

🐛 Correções​

ACTIVITY_MANAGEMENT CAPL-5741 Correção de Tasks Duplicadas na Aba de Notificações

Tasks duplicadas estavam sendo exibidas na aba de notificações. Este problema foi identificado e foi corrigido.

CAROL_APP CAPL-5776 Problemas de listagem e edição de agendamentos de processos batch

Os itens a seguir foram corrigidos: - Ao listar os agendamentos, o nome do usuário não é exibido corretamente, mesmo com o processo sendo executado normalmente. Ao editar o agendamento, o campo "Starts after" é mostrado como "Invalid Date" e o widget de calendário apresenta erro ao tentar inserir uma data válida. O campo "Run as" mostra o ID do usuário ao invés do login, e não permite realizar modificações.

CAROL_APP CAPL-5815 Correção de bug na atualização de informações ao desinstalar Carol App SQL_ONLY

Corrigido o problema de atualização da informação na Tenant ao desinstalar um Carol App SQL_ONLY de um customer. O problema ocorria apenas quando a desinstalação era feita pelo endpoint que recebe o nome do app como parâmetro. Ao usar a desinstalação por id do app, a lista de unified tenants é atualizada corretamente. Verificado o id da unified tenant do Carol App no map mdmUnifiedTenantsMapping através de consultas no PostgreSQL ou verificação do documento tenant.json no Cloud Storage. O id da unified tenant do Carol App não deve mais estar presente na mdmUnifiedTenantsMapping após a desinstalação do app por qualquer um dos dois endpoints disponíveis.

DATA_MODEL CAPL-5740 Problema com campo Start date & time em Data Subscriptions

Campo Start date & time não estava respondendo quando o usuário clicava para preenchimento. Isso ocorria ao criar e editar uma Data Subscription.

EXPLORE CAPL-5808 Erro 400 de Bad Request impede acesso aos dados de staging no Editor de Query

Ao tentar clicar no link do editor de query para visualizar os dados de staging, o erro 400 de bad request é exibido na tela do Editor. Isso impede o acesso aos dados e pode causar problemas no processo de Fullfilment. Após a correção é possível acessar os dados de staging através do link do editor de query sem a exibição do erro 400.

ORGANIZATION/TENANT CAPL-5636 Correção de erro na exibição de mensagem de falta de acesso à interface gráfica

Este bug ocorre quando o usuário não tem acesso à interface gráfica da plataforma Carol. Ao invés de uma mensagem orientativa, é exibido um erro no console. Espera-se que seja exibida uma mensagem amigável informando sobre a falta de acesso. Correção realizada para a exibição da mensagem.

SHARED_DATA CAPL-5739 O botão Salvar deve permanecer funcional após um erro na API SQL e permitir o reenvio da consulta sem a necessidade de atualizar a página

Correção para que se a API SQL retornar erros, o botão deverá ser recuperado para que o usuário possa corrigir a consulta e reenviá-la sem atualizar totalmente a página.

SQL_PIPELINES CAPL-5635 Correção de lacunas de execução no Orquestrador

Correção realizada para que o Orquestrador não tenha lacunas de execução.

🚀 Melhorias​

ACTIVITY_MANAGEMENT CAPL-5783 Problema de ordenação não está funcionando

Corrigida a ordenação na tela de Tarefas/Tasks.

BIG_QUERY CAPL-5554 Atualização de Data/Hora de Consolidação das Tabelas do BigQuery

Esta atualização irá mostrar a data/hora de consolidação das tabelas provenientes do BigQuery, em vez da data/hora do CDS. Isso permitirá que os usuários tenham uma visão mais precisa e atualizada dos dados.

BIG_QUERY CAPL-5557 Consolidação: Definir Prioridade para Consolidar Primeiro os Tenants Mais Antigos

Adicionada a característica de sempre consolidar primeiro os tenants mais antigos. Ao iniciar um novo cronograma de consolidação, não adicionar novamente os tenants que já estão na fila.

BILLING CAPL-5574 Atualização de Faturamento: Compartilhamento de Custos e Informações de Contas de Faturamento

Adicionada a funcionalidade de mostrar quais custos estão sendo compartilhados com outras contas de faturamento. Foram realizadas atualizações no sistema de faturamento para permitir o compartilhamento de custos de aplicativos e contas de tenants entre duas ou mais contas de faturamento. Agora é possível visualizar nas informações de custos que um custo específico faz parte do total e está sendo compartilhado entre contas de faturamento.

BILLING CAPL-5657 Adição de Gráfico de Custos ao Longo do Tempo na Visualização do Administrador no Faturamento

Adicionado um gráfico de custos ao longo do tempo à visualização do administrador no módulo de faturamento. Agora, os administradores podem visualizar um gráfico que mostra a evolução dos custos ao longo do tempo, proporcionando uma visão mais detalhada e informativa das despesas.

DATA_SUBSCRIPTION CAPL-5473 Implementação de Observabilidade para Subscriptions em Chamadas de Webhook

Implementação de observabilidade para os resultados de envio de mensagens para a API do cliente (Webhook) por meio de subscriptions. Os registros processados serão produzidos no tópico PubSub, agrupados por batchIds no Fluxo de Dados. Todas as mensagens de Subscription enviadas para a API do cliente serão encaminhadas para o Smartlink, desde que a organização esteja habilitada para Observabilidade e os dados processados estejam anexados ao batchId.

ORGANIZATION_ADMIN CAPL-5565 Correções realizadas de acordo com o Pentest 2023

Realizado correções e ajustes de acordo com o relatório gerado pelo Pentest 2023.

SQL_PIPELINES CAPL-5572 Revisão da Arquitetura do Orchestrator para Melhor Distribuição de Carga

Divisão do Orchestrator em duas aplicações: um "controlador" para agendar consultas e um "worker" para processar os dados, permitindo escalabilidade conforme necessário.

🐛 Correções​

ACTIVITY_MANAGEMENT CAPL-4620 Correção de Problema de Esquema de Staging Preso no Status CHANGE_IN_PROGRESS

Corrigido um problema em que o esquema de staging ficava preso no status CHANGE_IN_PROGRESS após as alterações implementadas o erro foi corrigido. Os esquemas e modelos de dados afetados foram verificados e retornaram ao estado normal.

ACTIVITY_MANAGEMENT CAPL-5693 Problema de Funcionamento na UI de Agendamentos

O problema na interface do usuário, onde nem todos os agendamentos estavam sendo exibidos corretamente, foi corrigido. O footer da página de agendamentos agora mostra e lista todos os 28 itens conforme esperado. Isso foi ajustado para os pipelines sup_aptitulos, sup_aptransactions e sup_datainfo.

CAROL_APP CAPL-5389 Cancelamento do Processo Online do Aplicativo Carol

Identificado e corrigido o cancelamento do processo online do aplicativo Carol pelo operador após 30 dias de inatividade. Após uma solicitação do MDM, o operador excluiu o aplicativo, resultando na indisponibilidade da tarefa.

CONNECTOR CAPL-5630 Atualização da Exibição de Atributos na Área de Staging

A área de staging agora exibe os atributos do stagingMapping em vez do schemaMapping. Corrigido o problema onde mais atributos eram exibidos na interface do que os disponíveis internamente, devido à base no "schemaMapping". A interface agora mostra corretamente as colunas provenientes do stagingMapping, alinhando-se com a estrutura no BigQuery.

DATA_MODEL CAPL-5698 Problema Resolvido em Mensagens PUB/SUB com Formatação JSON Inválida

Corrigido erro de formatação JSON em mensagens PUB/SUB. O problema ocorria em várias tenants e DMs, resultando em JSON inválido.

ORGANIZATION_ADMIN CAPL-5731 Problema de Visualização de Quantidade de Tenants Vinculadas ao Usuário

Corrigido problema que impedia a exibição correta da quantidade de tenants vinculadas ao usuário. Agora, ao clicar para visualizar as tenants, elas são exibidas corretamente, e a quantidade de tenants vinculadas é mostrada conforme o esperado.

SQL_PIPELINES CAPL-4849 Correção de Problemas de Processamento de Dados por Meio de SQL e Melhorias na Concorrência Interna

Corrigido problema de campos vazios em tarefas de processamento de dados SQL. Melhorada a concorrência interna para permitir múltiplas atualizações em registros de tabela. Tarefas BIGQUERY_PROCESS_DATA agora terão temporaryTableName e data->>createdRecords quando criadas com Golden Records.

SQL_PIPELINES CAPL-5388 Problema de Sincronização do Pipeline do Tenant do Cliente

Corrigido o problema que causava a falta de sincronização do pipeline do tenant do cliente quando o tenant unificado fazia um checkout. Anteriormente, a eficiência genérica do SQL salvava o pipeline para cada tenant no banco de dados (Postgres) para evitar obter o pipeline unificado no Elasticsearch toda vez através do Tenant App instalado no tenant unificado. Agora, a entidade do pipeline é atualizada para os tenants do cliente após checkouts no pipeline em tenants unificados, garantindo que as listas de tabelas de preparação estejam sempre atualizadas no banco de dados Postgres.

SQL_PIPELINES CAPL-5463 Atualização de Resiliência para Tasks de Processamento SQL

Erro intermitente em tasks de processamento SQL, resultando em falhas e impactando a amostragem da frequência de ocorrência em um único tenant. Foi implementada a adição de resiliência para entidades utilizadas na task de processamento SQL. Melhorando na estabilidade e redução de falhas nas tasks de processamento SQL, minimizando o impacto na amostragem da frequência de ocorrência em um único tenant.

SQL_PIPELINES CAPL-5764 Remoção de Pipelines Duplicadas para Tenants do Tipo Customer

A remoção de pipelines duplicadas para tenants do tipo Customer foi realizada para corrigir o problema de duplicação causado pelo card CAPL-5388. Essa ação visa resolver a materialização incorreta e limpar os dados inconsistentes, garantindo consistência e precisão nos dados dos tenants.

TENANT_ADMIN CAPL-5696 Correção de falha na habilitação da integração com o Google

A falha na habilitação da integração com o Google foi corrigida. Agora, ao tentar ativar a integração, não será mais exibida a mensagem de erro "User xxxxx is not a tenant admin". A correção garante que a funcionalidade esteja disponível para todos os tenant admins e org admins dos tenants testados.

🚀 Melhorias​

ACTIVITY_MANAGEMENT CAPL-5315 Consultas SQL para filtrar tarefas agendadas na UI

Foi implementado novo endpoint para filtrar tarefas agendadas na plataforma por meio da interface. Apenas os campos pré-definidos na lista podem ser usados para filtrar as tarefas.

ACTIVITY_MANAGEMENT CAPL-5321 Exibição do nome da tabela no cabeçalho da tarefa

Alteração realizada para mostrar o nome da tabela de staging e o nome do modelo de dados na linha da tarefa ao listar as tarefas.

BILLING CAPL-5413 Billing: Cálculo de Faturamento com Divisão de Custos da tenant por Conta de Billing

Aprimoramos o cálculo de faturamento para possibilitar a divisão do custo de uma tenant por meio de contas de faturamento.

CONNECTOR CAPL-5591 Melhorias na Comunicação e Observabilidade do Processamento de Dados

Foi realizado um aprimoramento na comunicação e observabilidade do processamento de dados, tendo uma redução significativa do tempo de integração, a solução foi implementada para agilizar a comunicação e resolver atrasos identificados.

CONNECTOR CAPL-5634 Melhorias na Busca de Dados da Área de Staging e Otimização de Consultas

Implementada uma solução para otimizar a busca de dados na área de staging. Adicionado filtro da meta-informação "__IngestionDatetime: datetime" para melhorar a precisão das consultas. Incluída a opção de seleção da coluna "_ingestionDateTime" para adicionar ou remover a coluna na tabela de visualização.

DATA_INGESTION CAPL-5419 Correção de Timeout ao Ativar Autenticação de short URL em Tenants com muitas URLs

Corrigido problema em que a API retornava timeout ao tentar ativar a autenticação de short URL.

EXPLORE CAPL-5466 Atualização do Painel Lateral para Mostrar Metafields

Implementada atualização no painel lateral para exibir metafields, com o objetivo facilitar a visualização e o acesso aos metafields diretamente no painel lateral, proporcionando uma experiência mais eficiente para os administradores da Tenant.

ORGANIZATION/TENANT CAPL-5546 Pentest 2023: Revisão da Estratégia de Convite para Evitar Vulnerabilidades de Injeção de HTML

Realizada revisão da estratégia de convite para evitar vulnerabilidades de injeção de HTML, bloqueando a personalização de HTML pelos chamadores do endpoint.

SQL_PIPELINES CAPL-5556 Orchestrator: Associação de Agendamentos com CommitID para Revogar e Atualizar Facilmente

Implementada associação interna entre agendamentos e CommitID para facilitar a revogação de agendamentos antigos durante o processo de checkout. Ao fazer o checkout de uma nova versão do manifesto com uma nova expressão cron, todos os agendamentos agora são automaticamente atualizados. Essa atualização proporciona uma maneira mais eficiente de gerenciar agendamentos no Orchestrator, garantindo que os agendamentos estejam sempre alinhados com as versões mais recentes do manifesto, sem a necessidade de intervenção manual.

TENANT_ADMIN CAPL-5316 Disponibilizado Endpoint para Consulta de Usuários da Tenant

Implementado endpoint para consulta de usuários da Tenant, o objetivo é facilitar a consulta e filtragem de usuários da Tenant diretamente pela plataforma.

🐛 Correções​

ACTIVITY_MANAGEMENT CAPL-5633 Correção de Problema na Paginação da Lista de Tasks

Problema resolvido na lista de tasks, onde a paginação não estava funcionando corretamente. Ao avançar para visualizar tasks mais antigas, o rodapé da página atualizava, mas a lista de tasks permanecia sempre as últimas. O problema foi corrigido e a paginação agora funciona corretamente.

BILLING CAPL-5601 Correção de Bug de Duplicação de Tenants no Dashboard de Billing

Corrigido o bug que causava a duplicação do número de tenants no dashboard de billing. O problema ocorria quando uma tenant fazia parte de um rateio de custos. Agora, os dashboards da tela principal do billing consideram apenas tenants únicas.

CONNECTOR CAPL-5577 Problema de Carregamento de Registros do BigQuery na plataforma

Essa atualização visa garantir a correta exibição e funcionalidade dos registros do BigQuery na plataforma, proporcionando uma experiência de usuário consistente e sem interrupções.

CONNECTOR CAPL-5660 Erro 404 ao acessar Query Editor na página de staging table

Corrigido o problema em que ocorria um erro 404 ao tentar acessar o Query Editor dentro da página de staging table. O problema foi resolvido e agora os usuários podem acessar o Query Editor sem encontrar erros.

DATA_MODEL CAPL-5576 Correção de Erro ao Atualizar Rótulo/Descrição de Campo Nested/Objeto em Modelos de Dados

Resolvido o erro que ocorria ao tentar atualizar o rótulo/descrição de um campo nested/objeto em modelos de dados.

ORGANIZATION/TENANT CAPL-5418 Problema de Resposta Inconsistente do Filtro SQL

O problema foi resolvido, garantindo que o código de status correto seja retornado em caso de falha (400) e que a resposta seja um objeto JSON conforme esperado.

ORGANIZATION/TENANT CAPL-5518 Correção para resposta inconsistente da API

Após uma investigação mais aprofundada, descobriu-se que o problema foi causado por um bug no código em que o ID do aplicativo não estava sendo recuperado corretamente dos parâmetros de solicitação, fazendo com que o ID do aplicativo errado fosse usado para pesquisar as configurações do aplicativo. Isso foi corrigido e o endpoint agora retorna consistentemente o código de resposta e os dados corretos.

PLATFORM CAPL-5383 Problema de Mesclar Tarefas em Execução Após Implantação do Usuário do Tenant Integrado com o PubSub

Identificado e corrigido o problema relacionado à Mesclar Tarefas que ainda estavam em execução após a implantação do usuário do Tenant integrado com o PubSub.

SQL_PIPELINES CAPL-4693 Correção de Bug no Processo de SQL Processing

Resolvido um problema identificado durante alguns processos de SQL Processing, onde erros indicavam que o Template de Entidade não foi encontrado.

SQL_PIPELINES CAPL-5604 Problema com a última execução do pipeline: Erros no console e carregamento infinito

Identificado e resolvido o problema com a última execução do pipeline, que estava apresentando carregamento infinito e exibindo erros no console. A correção implementada resolveu o problema, garantindo que a execução do pipeline ocorra conforme esperado, sem apresentar carregamento infinito ou erros no console.

🚀 Melhorias​

ACTIVITY_MANAGEMENT CAPL-5314 Novo endpoint de consulta SQL para filtrar tarefas na plataforma

Fornecer um endpoint que permita ao usuário consultar tarefas usando SQL em vez de ES. Filtrar ou ocultar tarefas internas. Abrir filtro por ID de tarefa e usuário. O ID da Tenant deve ser fornecido na consulta a ser realizada por (/admin/query/sqlfilter).

ACTIVITY_MANAGEMENT CAPL-5322 Atualização de Gerenciamento de Atividades: Opção "Mostrar Data/Hora" Selecionada por Padrão

Atualização de gerenciamento de atividades: agora, por padrão, a opção "mostrar data/hora" estará selecionada ao abrir os detalhes de uma tarefa.

BIG_QUERY CAPL-4428 Correção de Provisionamento Parcial

Agora, quando uma tarefa de provisionamento parcial aciona a cópia de dados, ela copia dados somente para as tabelas de staging mencionadas no corpo da solicitação.

BIG_QUERY CAPL-5484 Seleção de Múltiplas Tabelas de Staging no Reprovisionamento

Agora é possível selecionar automaticamente todas as tabelas de staging com problemas ou selecionar uma por uma para reprovisionar.

CAROL_APP CAPL-5469 Remoção Bem-Sucedida do Cartão "Reprocessar DataModels"

O cartão "Reprocessar DataModels" foi removido com sucesso da guia "Instalação" para Tenants SQL Only. Isso otimiza a interface do usuário e aprimora a experiência para esses usuários.

EXPLORE CAPL-5496 Remoção da opção de reprocessar dados da exploração para Tenant ou ORG SQLOnly

No Explorer, a opção de reprocessar dados foi removida para Tenants ou ORGs exclusivos do SQL. Agora, as funcionalidades de copiar e mover dados foram otimizadas para Tenants ou ORGs SQLOnly.

ORGANIZATION/TENANT CAPL-4880 Melhorias na Exibição de Versões BE e FE

Foi realizada uma melhoria na forma como exibimos as versões para BE e FE. Se o BE não tiver uma versão específica, podemos exibir quando foi implantado (timestamp no formato ISO). Foi definida a arquitetura do modelo de serviços para ser compatível com essa abordagem de compartilhar a versão, o nome do componente e a data/hora de implantação. Está disponível a informação relacionada à implantação para os componentes Front-end e Back-end.

ORGANIZATION/TENANT CAPL-5467 Atualização do ícone obrigatório para vermelho em formulários.

Ícones de campos obrigatórios foram atualizados para a cor vermelha. Anteriormente não destacados, agora todos os campos de formulário exibirão o ícone obrigatório em vermelho, proporcionando uma identificação visual clara. Essa atualização beneficia todos os usuários, melhorando a usabilidade e garantindo consistência nos componentes de formulário.

ORGANIZATION/TENANT CAPL-5482 Correção de Exibição da Mensagem "SQL Only" apenas se a tenant e a org forem SQL Only

A mensagem "SQL only" agora só é exibida se o tenant e a organização não forem Somente SQL. Essa atualização proporciona uma comunicação mais precisa e relevante aos usuários.

ORGANIZATION/TENANT CAPL-5483 Permitir Configuração de URL Confiável na Organização para Autenticação TOTVS Identity ou SAML

Adicionamos o domínio totvscloud.com.br e subdomínios à lista de permissões para redirecionamento de autenticação (URL confiáveis). Essa atualização evita falhas no redirecionamento quando um IDP é ativado na Carol (Identity ou SAML)

SQL_PIPELINES CAPL-5195 Melhoria no Orchestrator para Performance de Carol Apps

Foi realizada uma melhoria no Orchestrator para melhorar a performance para Carol Apps com um grande número de tenants com a aplicação instalada. O Orchestrator agora recebe o número de grupos para agrupar os tenants. O cron expression é usado para executar cada grupo de tenants. Além disso, para pipelines com o grupo de conectores especificado, só será executado quando o grupo de conectores do tenant corresponder ao grupo de conectores definido no pipeline. Por fim, ao invés de definir o cron no Orchestrator, o mesmo é obtido do manifesto do pipeline. Esta melhoria está disponível para o usuário Carol Admin.

SQL_PIPELINES CAPL-5401 Funcionalidade Avançada de Healthcheck no Orchestrator

Adicionada funcionalidade avançada para healthcheck no Orchestrator. Agora a plataforma retorna o status de não saudável se nenhuma tarefa for criada nos últimos 30 minutos.

SQL_PIPELINES CAPL-5405 Novas funcionalidades para expressões cron no Orchestrator

Adicionada a funcionalidade de especificar o intervalo entre grupos personalizado para expressões cron no Orchestrator. Agora é possível controlar melhor o intervalo durante os finais de semana, permitindo a especificação do parâmetro waitBetweenGroups para cada expressão cron. Caso não haja uma configuração específica para a expressão cron, o valor padrão será utilizado.

SQL_PIPELINES CAPL-5503 Funcionalidade de Lista Negra de Tenants

Adicionada a funcionalidade de lista negra de inquilinos. Agora é possível adicionar o ID de tenants ao arquivo schedule.ts para bloqueá-los.

SQL_PIPELINES CAPL-5504 Atualizações de correção de processamento SQL e fluxo de criação de campos

A tarefa de processamento SQL deve remover qualquer campo que não esteja disponível no modelo de dados de saída ao ser executada em um tenant com RT habilitado.

SQL_PIPELINES CAPL-5507 Correção de processamento SQL e remoção automática de campos no Elasticsearch

Correção de processamento SQL: não deve criar o campo no "mapeamento do Elasticsearch" quando o processamento SQL retornar um campo que não existe na tenant - tenant unificado.

SQL_PIPELINES CAPL-5531 Orchestrator: Atualização de leitura de propriedade checkExistsDataToProcess

Orchestrator agora lê a propriedade checkExistsDataToProcess do manifesto do pipeline. Se a instância do aplicativo Carol no orquestrador tiver o checkExistsDataToProcess habilitado, ele deve ler do manifesto o valor para checkExistsDataToProcess de cada pipeline que será processado.

TENANT_ADMIN CAPL-5217 Atualização de Segurança para Bloqueio de Personalização de HTML

Nesta atualização, revisamos a estratégia de envio de e-mails para bloquear a capacidade de personalização de HTML por parte dos chamadores de endpoint. Para evitar a injeção de HTML através de nossos endpoints, usamos um parâmetro em vez de um link e ignoramos o parâmetro relacionado ao HTML, considerando o modelo padrão internamente definido.

🐛 Correções​

CAROL_APP CAPL-5226 Correção de Erro na Lista de Tenants do Aplicativo Carol App

Nesta atualização, foi corrigido um problema que ocorria na lista de tenants onde o aplicativo Carol App foi implantado. Agora, a tenant deletada foi removida da lista de tenants implantadas do aplicativo e foi verificado se não havia outros IDs incorretos (caso haja, eles também serão deletados).

CONNECTOR CAPL-4936 Correção de Perda de Dados no Fluxo de Provisionamento

Foi corrigido o problema de perda de dados quando um tenant executava o fluxo de provisionamento e os dados eram enviados para esse tenant. Foi criada uma query para recuperar os registros ausentes e foi detectado que a tabela resultante estava INATIVA, mas aceitando a ingestão de novos dados. Foi enviado para o carol novamente (bqInsertFlow) e foram criados tópicos para controlar o status da tarefa e do tenant.

DATA_INGESTION CAPL-5506 Problema de autenticação de cookies no Carol App com mdmCdsShortURLAuthentication ativado

Problema de autenticação de cookies na tela de autenticação do Carol App quando mdmCdsShortURLAuthentication está ativado resolvido. Os cookies não são configurados corretamente, o que impede a exibição de imagens quando a autenticação do shorturl está ativada.

DATA_INGESTION CAPL-5509 Fluxo de autenticação no Carol App Clockin com problemas

Resolvido um problema quando a configuração mdmCdsShortURLAuthentication está ativada. O problema ocorre quando o usuário tenta acessar o Carol App Clockin diretamente através da URL, em um navegador incógnito. Ao invés de ser redirecionado para o fluxo de autenticação normal, o usuário é redirecionado para o fluxo de login da Carol, resultando em falha ao tentar acessar as imagens. Isso ocorre porque os cookies de autenticação não são configurados corretamente na tela de autenticação da Carol.

DATA_SUBSCRIPTION CAPL-5464 Problema de filtragem de IDs de registro excluídos no Data Subscription

Corrigido um problema para filtrar registros deletados no Data Subscription.

PLATFORM CAPL-5561 Atualização do endpoint de SMS para o provedor TWW

Atualização da implementação do endpoint de SMS para o provedor TWW.

SQL_PIPELINES CAPL-5458 Eficiência SQL não funcionando para tenants com orquestrador na unificada

Corrigimos um problema que impedia a execução da eficiência SQL em tenants clientes com orquestrador, mesmo com ela ativada na unificada

SQL_PIPELINES CAPL-5521 Problema de dados no Data Model estão sendo levados como nulos.

Problema de dados no data Model integrados como nulos resolvido.