Skip to main content

CAPL_28

· 8 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

CAROL_APP CAPL-9993 Torna o campo de descrição obrigatório na criação de um novo Carol App

O campo de descrição se torna obrigatório na criação de um novo Carol App, alinhando-se ao fluxo da plataforma IDeIA e evitando quebras na integração. Agora, ao criar um app na Carol, o preenchimento desse campo é garantido, assegurando que todos os dados necessários sejam consistentes entre as plataformas. Essa alteração melhora a experiência do usuário e mantém a integridade do Data Model.

CONNECTOR CAPL-10449 Modelo padrão smartlink para Batch Ingestion funciona corretamente no Frontend

O modelo padrão smartlink para Batch Ingestion está funcionando corretamente no Frontend. O fluxo de transferência de dados via Storage Transfer Service, processamento de dados através do Cloud Run e execução por agendamento estão garantidos. Fluxos antigos como Iceberg, Event Driven, File Ingestion e Intake Batch foram removidos, e a configuração via tenant/staging table do Batch Ingestion está em operação. As melhorias contemplam a escalabilidade para Carol Apps, conforme indicado nas issues complementares.

ORGANIZATION/TENANT CAPL-8610 Revisa integração oAuth com Azure no projeto carol-ui e adiciona orientações de testes para QA

Foi realizada a revisão da integração oAuth com Azure devido à depreciação do modelo atual.

SHARED_DATA CAPL-9142 Implementa dashboard acessível para transparência no envio de dados via 2C / SmartLink

Implementa a transparência no envio de dados via 2C / SmartLink para os times de negócio, criando um dashboard acessível que exibe informações sobre os dados enviados, incluindo lista de tabelas, data e horário do último envio, e origem dos dados. Essa solução permite que os times identifiquem facilmente o status e a origem dos dados consumidos, garantindo acesso às informações sem expor a tenant de ingestão corporativa. O fluxo UI é ajustado para mostrar shared data de forma clara e organizada.

TENANT_ADMIN CAPL-10216 Melhora a experiência do usuário ao utilizar refresh_token para evitar logouts frequentes

A interface do usuário agora utiliza o refresh_token quando o authorization expira, reduzindo os logouts frequentes e a necessidade de inserir o 2FA repetidamente. Ao detectar a expiração do token, o frontend gera um novo Authorization e um novo refresh_token através do endpoint especificado. Essa melhoria proporciona uma experiência mais fluida para os usuários em geral, garantindo acesso contínuo sem interrupções.

🐛 Correções

2C-CAROL_CONNECT CAPL-10562 Erro ao habilitar tabela para sincronização via 2C no ambiente de Produção

Ocorre um erro ao tentar habilitar uma tabela para sincronização via 2C no ambiente de Produção, pois estavam sendo listadas tabelas com campos distintos mas com o mesmo nome, porém de schemas diferentes, foi realizado um filtro para apenas listar tabelas do schema corrente do usuário. Versões do 2C disponíveis em CAROL CONNECT Versions

CAROL_APP CAPL-9911 Atualiza lista de apps na tenant DEV após eliminar versão de app

Ao eliminar uma versão de um app, a lista de apps na tenant DEV não é atualizada corretamente, resultando na impressão de que o app foi eliminado. O comportamento esperado é que, ao retornar para a lista de apps, a versão anterior apareça sem a necessidade de atualizar a página. A correção garante que a lista de apps seja atualizada automaticamente após a remoção da versão, permitindo que o Tenant Admin visualize corretamente as versões disponíveis. O ajuste também inclui a chamada do botão de Remove App Version dentro do app.

CAROL_APP CAPL-10549 Melhoria na Gestão e Exclusão de Aplicativos

Nesta atualização, corrigimos uma instabilidade que gerava registros duplicados e impedia a exclusão correta de aplicativos na plataforma. Identificamos que uma falha de sincronismo no processamento de dados causava a repetição de registros. Para resolver isso, implementamos travas de segurança automáticas que organizam a entrada de informações e realizamos uma limpeza técnica nos ambientes afetados.

CONNECTOR CAPL-9768 Corrige o comportamento intermitente do toggle de Baixa Latência na STG

Ao ativar a Baixa Latência em uma STG, o toggle volta para o estado de desativado, gerando confusão para o usuário. Esse comportamento ocorre de forma intermitente, e o toggle só se atualiza corretamente após fechar e reabrir a tela ou realizar um refresh. Situação corrigida para garantir que a toggle Enable Low latency permaneça no estado correto, melhorando assim a experiência do usuário e evitando induções ao erro. A funcionalidade deve operar de forma consistente, sem a necessidade de ações adicionais.

CONNECTOR CAPL-10219 Corrige bug na criação de campos do tipo Vector na Staging Table e reabilita botão de confirmação ao trocar tipo para string ou long

Corrige um bug ao criar campos do tipo Vector na Staging Table, onde a opção de confirmação é desabilitada. Além disso, ao trocar o tipo para string ou long, o botão de confirmação não é reabilitado, exigindo que o usuário saia e retorne à tela para resolver o problema. Essa atualização melhora a usabilidade e a experiência do usuário ao manipular tipos de campo na Staging Table.

DATA_MODEL CAPL-10218 Botão de publicar do Datamodel permanece visível após a publicação com notificação

O botão de publicar do Datamodel continua visível mesmo após a publicação, conforme indicado pela notificação. Além disso, observa-se que, após a publicação, o sistema realiza uma busca do working e quatro buscas pelo published datamodel na aba network. Essa inconsistência é corrigida para melhorar a experiência do usuário.

EXPLORE CAPL-8722 Melhora a visualização de queries no explorer da Carol com quebras de linha nas cláusulas SELECT, FROM e WHERE

A visualização de queries montadas automaticamente no explorer da Carol recebe melhorias significativas. Agora, a formatação inclui quebras de linha nas cláusulas SELECT, FROM e WHERE, facilitando a leitura. Cada campo após o SELECT e antes do FROM também apresenta quebras de linha, assim como cada filtro do WHERE. Essas alterações promovem uma visualização mais simples e direta para o usuário.

ORGANIZATION_ADMIN CAPL-9521 Corrige bug que mantém destaque na tabela de Tenants após fechar o drawer

Corrige um bug onde a tabela de Tenants continua com destaque após fechar o drawer, impedindo o detalhamento do mesmo Tenant. O problema está provavelmente relacionado à migração de akita para ngrx/signal-store.

PLATFORM CAPL-10351 Atualiza validação de nomes de usuários no Tenant NOME para aceitar apenas letras e espaços

A manutenção do grupo de usuários no Tenant NOME agora aceita apenas letras e espaços nos nomes dos usuários. Anteriormente, ao tentar salvar um nome que contivesse números, o sistema apresentava a mensagem de erro "Name can only contain letters and spaces". Essa atualização visa garantir a integridade dos dados e melhorar a experiência do usuário na Plataforma Carol. A mudança já está em produção e impacta diretamente o funcionamento da aplicação.

SQL_PIPELINES CAPL-10476 Corrige disparos duplicados de tasks filhas em pipelines encadeadas

Em pipelines encadeadas, as tasks pai estavam disparando suas tasks filhas em duplicidade. Com a correção aplicada essa duplicidade não ocorre mais e cada task filha é disparada uma única vez.

TENANT_ADMIN CAPL-10349 O botão "Adicionar Usuário" não é mais apresentado no grupo de acesso da Plataforma Carol para o Tenant alfacem.carol.ai.

O botão "Adicionar Usuário" não é mais apresentado no grupo de acesso da Plataforma Carol. Essa mudança ocorre no nível de acesso aos dados, impactando a interface de gerenciamento de usuários.

VSCODE CAPL-9767 Corrige erro no upload de dados para criação de novas Staging Tables

O upload de dados para criar novas Staging Tables apresenta um erro que impede a carga dos dados. Atualmente, os dados não são populados na tabela recém-criada, o que prejudica a jornada do cliente na Carol e força o uso de métodos alternativos para a carga de dados. O comportamento esperado é que os registros sejam importados com sucesso na nova Staging Table, acompanhados de uma notificação positiva no plugin. A correção deste problema foi realizada.

CAPL_27

· 9 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

ACTIVITY_MANAGEMENT CAPL-8836 Implementa criação de índices BQ para badges de storage type baixa latência

Implementa a capacidade de criar índices BQ, garantindo que os badges de storage type baixa latência linkem corretamente para a plataforma ideal em seus diferentes contextos.

CAROL_APP CAPL-9660 Adapta a UI da Carol para criação e publicação de aplicações com integração à Plataforma IDeIA

A UI da Carol é adaptada para a criação, nova versão, publicação e aprovação de aplicações, integrando-se com a Plataforma IDeIA. As operações passam a ser assíncronas, utilizando novos endpoints no path /dataApps, em vez dos anteriores no path /carolApps. Isso permite a criação simultânea de CarolApp e IdeiaApp, com o retorno da task criada na Carol. TenantAdmins podem continuar utilizando as mesmas telas para essas operações, que agora informam o andamento e não permitem novas requisições do mesmo tipo enquanto uma operação está em andamento.

CAROL_APP CAPL-9988 Torna campo de descrição obrigatório na criação de novo Carol App

O campo de descrição é tornado obrigatório na criação de um novo Carol App, garantindo que todos os apps criados na Carol estejam em conformidade com a plataforma IDeIA. Essa alteração previne a quebra do fluxo de integração, assegurando que o campo de descrição seja preenchido automaticamente durante o processo de criação. Assim, a integração entre as plataformas se torna mais eficiente e coesa.

EXPLORE CAPL-9772 Endpoints filter e named query agora suportam Accept-Encoding: gzip

Os endpoints {{filter}} e {{named query}} passaram a suportar respostas compactadas via {{Accept-Encoding: gzip}} (feature flag). Sem header ou sem flag, o retorno segue em JSON. Reduz tráfego e custo de rede para os tenants.

ORGANIZATION_ADMIN CAPL-9771 Impedir Org Admin de eliminar tenant DEV com app em desenvolvimento ou tenants associados

Adiciona uma validação que impede o Org Admin de eliminar um tenant DEV que possui um app em desenvolvimento e tenants com o app instalado. Quando essa tentativa ocorre, é exibida a mensagem informativa sobre a impossibilidade da ação até que o app seja removido de todos os tenants associados. O Org Admin ainda pode eliminar um tenant DEV se ele não tiver tenants com o app instalado. Essa mudança garante a integridade dos dados e a continuidade dos serviços para os tenants.

SQL_PIPELINES CAPL-9776 Implementa habilitação e desabilitação de AI para tenants com gerenciamento pelo ORG ADMIN

O recurso de habilitação e desabilitação de AI para tenants está implementado, permitindo que ORG ADMIN gerencie o uso do BQ ML nas pipelines Carol para geração de embeddings. A conexão com o Vertex é criada para tenants que têm a feature habilitada. A flag {{allowedUsageAI}} é adicionada na tenant, integrando a ativação e inativação com os endpoints de Integration. Uma nova task é criada para tratar o processo de habilitação/inativação, que só pode ser ativado após o provisionamento bem-sucedido do BQ.

🐛 Correções

2C-CAROL_CONNECT CAPL-10071 Atualiza script cloud para instalação do 2C dos clientes permitindo acesso a versões superiores à 3.7.0

A atualização do script cloud para a instalação do 2C dos clientes é realizada, permitindo que o time de cloud acesse versões superiores à 3.7.0. A versão 3.7.0 apresenta problemas que foram corrigidos a partir da versão 3.7.1. Esta atualização é crítica, pois impacta diretamente a continuidade das atividades produtivas e as implantações nos ambientes dos clientes. O processo já está em produção e a atualização é necessária para garantir a estabilidade e eficiência do serviço. Versões do 2C disponíveis em CAROL CONNECT Versions

ACTIVITY_MANAGEMENT CAPL-10179 Amplia funcionalidade de criação de índices de baixa latência para incluir índices BQ

A funcionalidade de criação de índices de baixa latência é ampliada para permitir também a criação de índices BQ, assim como já é possível no modal de opções avançadas de ST/DM. Isso melhora a eficiência na migração para signals, oferecendo mais flexibilidade na gestão de dados. As alterações são refletidas nas interfaces do usuário conforme os designs apresentados.

ACTIVITY_MANAGEMENT CAPL-10201 Identificam-se regressões na plataforma após migração para componentes autônomos e signals
Editor de queries SQL não permite escrita
Filtro Date Updated no Activity Management exibe valores incorretos em vermelho
Task Logs não aparecem e necessitam

Identificam-se regressões na plataforma após a migração para componentes autônomos e signals. O Editor de queries SQL não permite a escrita, e o filtro Date Updated no Activity Management exibe valores incorretos em vermelho. Os task Logs não aparecem, mas parecem ter retornado, necessitando de investigação adicional. Além disso, o código SQL não é exibido na drawer de detalhamento da pipeline. Esses pontos foram corrigidos.

CONNECTOR CAPL-9751 Validação na gravação de atributos de meta informação (Carol)

Foram realizados ajustes nas rotinas internas de validação de escrita de dados para garantir consistência em variações de formato (como atributos do tipo TIMESTAMP), assegurando a correta gravação dos atributos de meta informação.

DATA_PROCESSING CAPL-9622 Permite o update da tenant com a atualização do campo MDM_UNIFIED_TENANTS_MAPPING pelo carolAdmin

Permite o update da tenant com a atualização do campo MDM_UNIFIED_TENANTS_MAPPING quando realizado por carolAdmin, possibilitando corrigir problemas referente a connector não encontrado na tenant customer.

DATA_PROCESSING CAPL-10091 Os dados não estão sendo removidos da tabela unificada após a execução da task de remoção de dados.

Os dados não estão sendo removidos da tabela unificada após a execução da task de remoção de dados. Durante a execução da task PROVISION_BIGQUERY_UPDATE_DATA_MODEL_AND_STAGING, foi identificado que a ausência de um connector declarado em unified_tenants_mapping gera uma exceção, impedindo a continuidade da task. A solução proposta permite que, caso o conector não exista, a execução prossiga normalmente, indicando a falta do conector, sem bloquear a task. Além disso, o update da tenant deve permitir a atualização do campo MDM_UNIFIED_TENANTS_MAPPING.

DATA_PROCESSING CAPL-10100 Identifica falha na task de copy data após desinstalação de app de customer

A falha na task de copy data é identificada, onde, após a desinstalação de um app de um customer, a task de remove tenant data in unified é disparada e executada corretamente, mas alguns dados permanecem na staging da unificada. Além disso, as tasks de copy data também falham quando o CDSV2 está ativo, conforme observado nos testes realizados com o cdsv2 e storageapi ativos. A situação foi corrigida.

PLATFORM CAPL-7516 Adiciona resiliência para quando ocorre erro de gateway timeout no elasticsearch

O erro de execução de busca ocorre devido a um timeout de 504 Gateway, resultando em uma resposta inválida do Elasticsearch. Isso pode ser causado por um overload no Elasticsearch, problemas de configuração da aplicação, ou falhas na rede do GKE. A solução adiciona resiliência ao processo com retry nesses cenários, para garantir que esses records sejam publicados no NATS.

PLATFORM CAPL-7666 Resolve problema de ingestão de dados que interrompe subscrição antes de conclusão

O problema de ingestão de dados é resolvido, onde a subscrição é interrompida antes de ser concluída, resultando em um erro ao publicar registros no NATS. A situação ocorre devido a uma interrupção da thread durante uma operação de leitura no couchbase, possivelmente causada por um evento externo, como um shutdown da aplicação ou timeout. A correção garante que a operação de publicação funcione corretamente sem interrupções indesejadas, melhorando a estabilidade do sistema.

PLATFORM CAPL-9762 Validação e sanitização no formulário de cadastro de usuários

Identificou-se uma falha de validação no formulário de cadastro de usuários, onde caracteres especiais eram aceitos no campo de nome do usuário. Foi feita a implementação de validação e sanitização dos campos de entrada, permitindo apenas caracteres válidos

PLATFORM CAPL-9900 Aprimora validação e sanitização dos campos de entrada no formulário de cadastro de usuários

A validação e sanitização dos campos de entrada no formulário de cadastro de usuários são aprimoradas. O sistema agora restringe a inserção de caracteres especiais no campo de nome de usuário, permitindo apenas letras e espaços. Essa mudança resolve a vulnerabilidade identificada durante os testes de PENTEST, garantindo maior segurança contra entradas maliciosas. Além disso, são implementados testes automatizados para assegurar a robustez do sistema em relação a novas vulnerabilidades.

SQL_PIPELINES CAPL-9798 Corrige problema de dispatch duplicado na Pipeline Hashes que causa latência e erros intermitentes

O problema de dispatch duplicado da Pipeline Hashes resulta na indisponibilidade de recursos, causando latência e erros intermitentes durante a persistência dos dados. Essa situação gera tentativas automáticas que aumentam a duração das tasks, atrasando a disponibilização das informações aos clientes. Além disso, a validação redundante após a conclusão do job provoca um estado ambíguo de processamento, o que pode levar à desatualização de dados críticos no ambiente de produção, comprometendo a integridade das informações.

SQL_PIPELINES CAPL-9799 Detecta falha intermitente na execução da Pipeline Hashes no ambiente unificado após migração

Detecta-se uma falha intermitente na execução da Pipeline Hashes no ambiente unificado (clockinunif) após a migração bem-sucedida. Apesar da configuração correta, instabilidades na infraestrutura da Plataforma Carol causam interrupções no processamento, resultando em erros durante a montagem da pipeline. Os logs indicam uma exceção do Elasticsearch por índice não encontrado, afetando todos os clientes no ambiente unificado, ao contrário do modelo anterior que isolava as falhas por tenant. A situação gera um impacto operacional crítico.

CAPL_26

· 16 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

2C-CAROL_CONNECT CAPL-9030 Realiza migração do Heartbeat para Postgres e soluciona problemas de indexação e mapeamento

A migração do mdmHeartbeat para Postgres é realizada, solucionando problemas de indexação e mapeamento. O erro de tipo ausente no Elasticsearch é tratado, garantindo que a aplicação funcione corretamente com a nova configuração. A integração com o Alert Manager é aprimorada, permitindo um melhor gerenciamento de alertas. O desempenho do sistema é otimizado, resultando em respostas mais rápidas e eficientes. A nova estrutura de dados no Data Model é implementada, assegurando maior robustez e escalabilidade. Versões do 2C disponíveis em CAROL CONNECT Versions

BIG_QUERY CAPL-9039 A etapa wait_until_provision_changes_processed considera apenas tabelas especificadas durante o provisionamento parcial

A etapa wait_until_provision_changes_processed agora considera exclusivamente as tabelas especificadas durante o provisionamento parcial. Durante a integração entre a Carol e a plataforma IDeIA, a comparação do schema das tabelas no BigQuery é feita apenas com as tabelas listadas na requisição de provisionamento parcial em execução, ignorando quaisquer outras tabelas fora desse escopo. Isso garante que o processo de reprovisionamento ocorra de forma mais precisa e controlada.

BIG_QUERY CAPL-9130 Melhora a visualização de logs de erro do BigQuery ao criar um Index

A melhoria do log de erro proveniente do BigQuery ao tentar criar um Index reduz o texto truncado e implícito, permitindo que a mensagem completa seja visualizada sem necessidade de ação adicional. Essa alteração facilita a identificação e resolução de problemas, aprimorando a experiência do usuário ao trabalhar com logs de erro.

BILLING CAPL-9054 Salva detalhes do Billing no GCS e retorna link para download

O sistema agora salva detalhes do Billing no GCS e retorna um link para o usuário baixar essas informações. Essa funcionalidade facilita o acesso aos dados de cobrança, permitindo que os usuários tenham um controle mais eficiente sobre suas faturas.

CONNECTOR CAPL-6871 Melhora a resiliência do sistema com reescrita do pipeline dataflow streaming

A documentação e reescrita do pipeline dataflow streaming aumentam a resiliência do sistema. O novo fluxo elimina a necessidade de agregação no início da pipeline, garantindo que o ACK dos dados ocorra ao final. As regras de negócio incluem um novo parâmetro para gravação de dados no GCS/CDS Staging, que será desativado gradativamente, além da gravação de dados na tenant unificada, quando aplicável, e na tenant cliente, na staging area. Essa abordagem otimiza o processamento e a gestão dos dados.

CONNECTOR, DATA_MODEL CAPL-8403 Suporte na criação de índices para otimização de buscas do Tipo Vector

O Tipo Vector agora suporta a criação de índices para otimização de buscas. É possível criar índices para atributos do tipo vector, mapeando os índices suportados nos bancos BigQuery, PG e AlloyDB. Além disso, são elencados os tipos de índices e a orientação de cada um para diferentes casos de uso, considerando velocidade, precisão e tipo de dados.

CONNECTOR, DATA_MODEL CAPL-8431 Permite a criação de índices para atributos do tipo vector no PG e BigQuery

O sistema agora permite a criação de índices para atributos do tipo vector, abrangendo tanto o banco PG quanto o BigQuery. Para o PG, são implementados os índices IVFFLAT e HNSW, otimizando a busca KNN e a qualidade em consultas. No BigQuery, são disponibilizados os índices IVF e Brute Force, que melhoram significativamente o desempenho em bases grandes e consultas aproximadas, respeitando as características de busca exata e eficiência em conjuntos menores. O fluxo é adaptado para atender as especificidades de Carol e Refinaria.

CONNECTOR CAPL-9507 Perda silenciosa de registros durante o processamento de mensagens em Tenants sem provisionamento para BQ

Registros podem ser perdidos de forma silenciosa durante o processamento de mensagens. A falta de provisionamento do tenant para BQ resulta no descarte de mensagens inteiras, enquanto falhas no parse e ausência de schema cache levam ao descarte de batches. Além disso, exceções no parse de registros individuais e a desabilitação do tenant unificado causam perda de registros sem auditoria. A implementação de logs e auditorias é necessária para mitigar essas falhas.

PLATFORM CAPL-8457 Incluida flag samesite em todos os cookies da plataforma Carol com atributo LAX e secure YES

Incluida a flag samesite em todos os cookies da plataforma Carol, garantindo que os cookies de terceiros sejam enviados com o atributo samesite definido como LAX e secure como YES. A implementação permite a parametrização da flag por tenant, considerando a utilização de flagsmith ou parâmetros no nível de org. A revisão assegura que todos os cookies utilizem a flag secure, evitando riscos de segurança associados ao uso da flag samesite com valor NONE, especialmente em contextos de iframes.

SQL_PIPELINES CAPL-8708 Ajustadas as permissões do BQ ML para pipelines Carol visando a geração de embeddings

Foram revisdas as permissões necessárias para o uso do BQ ML integrado às pipelines Carol, visando a geração de embeddings. Essa revisão garante que os usuários tenham acesso adequado e seguro às funcionalidades do BQ ML, otimizando o fluxo de trabalho nas operações de Machine Learning. As permissões ajustadas promovem uma melhor integração e eficiência nas análises de dados.

🐛 Correções

2C-CAROL_CONNECT CAPL-9061 Corrige deleção de triggers em schemas alternativos no Oracle com ignoreTriggers como false

O conector agora corrige o problema de deleção de triggers em schemas alternativos no Oracle quando a configuração ignoreTriggers está definida como false. Anteriormente, o conector não qualificava corretamente o schema no comando DROP TRIGGER, resultando em falhas na operação. Com a atualização, o conector gera os comandos no formato correto, respeitando o schema real da tabela, evitando que as triggers fiquem “órfãs” ou duplicadas após reprocessamentos ou full load. Essa melhoria beneficia todos os clientes Oracle que utilizam schemas diferentes do owner da conexão. Versões do 2C disponíveis em CAROL CONNECT Versions

APP CAPL-8850 Corrige problema de sobreposição de BASE64 de imagens no CLOCK IN

O problema com o BASE64 de imagens no CLOCK IN, onde as imagens são sobrepostas e não podem ser reutilizadas, mesmo mantendo a short URL original, é identificado e reproduzido. Quando um BASE64 é atualizado, ele gera uma nova URL com um novo ID, mas sobrepõe o BASE64 do ID anterior, resultando em confusão para o cliente. A solução realizada busca garantir que o BASE64 do short URL anterior não seja sobreposto, permitindo que cada imagem tenha sua própria short URL.

BIG_QUERY CAPL-8624 Cancela automaticamente task do BigQuery em caso de falha

A migração do BigQuery agora cancela a task automaticamente em caso de falha, evitando que a task permaneça em execução. Anteriormente, uma task falhada mantinha-se ativa, o que gerava confusão e necessidade de cancelamento manual. A solução implementada melhora a eficiência do processo e garante que as tarefas sejam gerenciadas corretamente em situações de erro.

BILLING CAPL-9020 Corrigido problema no Billing onde filtro por recurso não reflete corretamente no gráfico de 6 meses

Corrigido o problema no Billing onde a aplicação de um filtro por recurso não reflete corretamente no gráfico de 6 meses. Agora, ao aplicar o filtro, o gráfico de 6 meses considera as seleções feitas na interface.

CAROL_APP CAPL-8685 Erro ao atualizar tenants via tenant unificada no processo de expedição do Carol App

Identificamos um erro ao atualizar tenants via tenant unificada durante o processo de expedição do Carol App. A atualização funciona corretamente no ambiente próprio, mas falha ao utilizar a tenant unificada, apresentando um erro.

CAROL_APP CAPL-8919 Desinstala o CarolApp quando CarolAppSubscribed não é encontrado

A plataforma agora segue com a desinstalação do CarolApp quando não encontra o CarolAppSubscribed, mesmo que o TenantApp permaneça. Essa melhoria garante que a exclusão do aplicativo ocorra sem interrupções, evitando erros relacionados à falta de registros. A implementação resolve o problema identificado e melhora a experiência do usuário ao gerenciar aplicativos no sistema. O log de erro relacionado foi analisado e a correção foi aplicada para garantir um funcionamento adequado.

CONNECTOR CAPL-8680 Ajusta o status da task e da tabela durante a criação no provisionamento BigQuery

Os Tenants na versão 4 do provisionamento BigQuery apresentam erro na consulta de tabelas durante a criação, enquanto o Notify Schema Changes está em execução. A falta de atualização do status da tabela no FrontEnd faz com que consultas sejam realizadas mesmo antes da tabela existir. É necessário ajustar o status da task e o status da tabela durante o processo de criação para garantir uma interpretação correta no FrontEnd.

CONNECTOR CAPL-8860 Corrigida a data incorreta do último registro na interface da Plataforma Carol

Realizada correção para que a interface apresentasse a data correta para o último registro recebido na staging.

CONNECTOR CAPL-9554 Elimina envio de eventos duplicados para a Plataforma IDeIA durante modificação de schema

Eventos duplicados não são mais enviados para a Plataforma IDeIA durante o processo de modificação de schema. Agora, quando ocorrem múltiplas alterações, como a alteração e deleção de colunas, é emitido apenas um único evento que reflete o estado final consolidado do schema. Isso elimina erros no processamento da IDeIA, garantindo que não existam eventos intermediários durante esse fluxo.

DATA_MODEL CAPL-8687 Permite que o Tenant Admin remova atributos globais de uma tenant e melhora a flexibilidade na gestão de campos

O Carol App agora permite que o Tenant Admin remova atributos globais de uma tenant, resolvendo o erro de instalação causado pela definição conflitante do campo month em diferentes data models. A remoção respeita condições específicas, como a ausência de MAPPING no ES e a não utilização do atributo por nenhum Data Model ou Staging Table. Essa atualização elimina limitações anteriores e melhora a flexibilidade na gestão de campos em ambientes que não utilizam o storage type RT.

DATA_MODEL CAPL-9133 Corrigido problema de exibição de valores de Storages/Records com RT ativado no Data Model

Corrigido o problema em que os valores de Storages/Records não são exibidos quando o RT está ativado no Data Model. Agora, ao abrir qualquer Data Model na parte de campos e opções, as informações abaixo de Storages/Records são corretamente mostradas, mesmo com o RT ativado. Isso melhora a visualização e acesso aos dados provenientes do BigQuery, garantindo que os usuários tenham acesso completo às informações necessárias.

DATA_MODEL CAPL-9238 Remove regra em Fields to Generate ID ao modificar Data Model após inserção e deleção de colunas

A regra em Fields to Generate ID é removida automaticamente ao modificar o datamodel, especificamente após a inserção e deleção de colunas e a republicação do modelo. Esse comportamento intermitente resulta na perda das configurações previamente salvas, sem qualquer aviso ao usuário. O problema se manifesta a partir da deleção da segunda coluna, enquanto a deleção da primeira não causa a remoção da regra. O comportamento foi evidenciado e corrigido.

DATA_MODEL CAPL-9608 Remove automaticamente a regra Fields to Generate ID ao modificar um datamodel

A regra "Fields to Generate ID" é removida automaticamente ao modificar um datamodel, especificamente após a inserção e deleção de colunas e a republicação do modelo. O comportamento intermitente ocorre quando, ao deletar a segunda coluna do datamodel, todas as configurações previamente salvas na opção "Fields to Generate ID" desaparecem sem aviso ao usuário. O problema não se manifesta ao deletar apenas a primeira coluna.

EXPLORE CAPL-9281 Corrigido erro 500 na execução da consulta RT devido a problemas na estrutura da consulta

Corrigido erro 500 ao rodar a consulta RT que estava relacionado a um problema na estrutura da consulta. A consulta utilizava diversos filtros, incluindo TYPE_FILTER, TERMS_FILTER e RANGE_FILTER, mas apresentava falhas que impediam sua execução correta.

ORGANIZATION_ADMIN CAPL-9143 Corrigido erro ao atualizar usuário relacionado a tenants excluídas

Corrigido erro ao atualizar um usuário relacionado a tenants excluídas, especificamente ao tentar acessar a tenant "betechfin", que não existe mais. O problema se manifestava quando um usuário vinculado a uma tenant eliminada tenta ser atualizado. A solução implementa a remoção de referências entre usuários e tenants excluídas, garantindo que um Global Admin ou Global User possa eliminar uma tenant sem que isso afete a atualização de usuários associados.

ORGANIZATION_ADMIN CAPL-9662 Corrige falha na criação de Tenant com opção Dev Tenant ativa para gerar mappings de desenvolvimento

A criação de uma Tenant com a opção 'Dev Tenant' ativa apresenta falha, resultando na não geração dos mappings específicos para desenvolvimento. O sistema não habilita corretamente as configurações de desenvolvimento no momento da criação, exigindo uma edição posterior da Tenant para ativá-las. Isso gera um bloqueio no desenvolvimento do cliente, pois os mappings necessários não são gerados adequadamente. A ação realizada garante que as configurações de desenvolvimento sejam aplicadas corretamente durante a criação da Tenant registrada como Dev.

ORGANIZATION/TENANT CAPL-7904 Corrige a aceitação do parâmetro overridenOrgId nos endpoints de OrgUser durante operações com o método PUT

Os endpoints de OrgUser não aceitam o parâmetro overridenOrgId durante operações com o método PUT, resultando na ausência de modificações nos dados, mesmo sem gerar erros. Ao tentar alterar o papel do usuário para "orgAdmin", o endpoint retorna o objeto, mas sem a atualização esperada. Essa limitação impacta a manipulação do OrgUser e dificulta a execução de ações relacionadas às issues. A correção dessa funcionalidade foi realizada para melhorar a experiência na plataforma.

ORGANIZATION/TENANT CAPL-9715 Previne tela branca ao logar com SAML e redireciona para página de erro

O sistema corrige um cenário em que, devido a erros na validação do SAML, o usuário podia ficar preso em uma tela branca ao tentar logar. Com a correção, falhas na autenticação com SAML agora redirecionam o usuário para uma página de erro que explica o problema, evitando a tela em branco e tornando a experiência de login mais clara e informativa.

PLATFORM CAPL-8459 Removido o cabeçalho Server das respostas HTTP para aumentar a segurança da aplicação

Removido o cabeçalho Server das respostas HTTP, que anteriormente expunha o uso do Nginx. Essa alteração visa proteger a infraestrutura da aplicação, evitando que informações sensíveis sejam reveladas e reduzindo a superfície de ataque. Com essa atualização, a segurança da aplicação é aprimorada, minimizando o risco de exploração de vulnerabilidades conhecidas por atacantes.

SQL_PIPELINES CAPL-9714 Ajusta a lógica das pipelines encadeadas para respeitar contexto de ScheduledTaskId e mdmLastTaskTime

As pipelines encadeadas estão reprocessando todos os dados devido à ausência do contexto de ScheduledTaskId e mdmLastTaskTime durante a execução. Quando uma pipeline é executada após a agendada, não é possível definir corretamente a query com o -timestamp-. Essa situação resulta na repetição de processamento desnecessário, impactando a eficiência do sistema. Foi ajustada a lógica para garantir que as pipelines encadeadas respeitem o contexto correto e evitem reprocessamento.

TENANT_ADMIN CAPL-8918 Corrigida validação de múltiplos grupos de DAL associados ao mesmo funcionário

Corrigida a inconsistência que ocorria anteriormente na validação de múltiplos grupos de DAL associados ao mesmo funcionário. O problema identificava apenas o primeiro grupo na Plataforma, enquanto no Backoffice funcionava corretamente. Essa atualização atende à necessidade de usuários que requerem acesso a vários grupos sem a necessidade de criar múltiplos usuários.

TENANT_ADMIN CAPL-8921 Resolvido problema de visualização de registros RT com condições na regra de acesso DAL

Resolvido o problema na visualização de registros RT ao utilizar condições na regra de acesso DAL. Um novo grupo DAL é criado para permitir que usuários visualizem registros com o campo User Roles vazio, conforme exibido na camada BQ. A solução foi permitir a visualização de registros com valores vazios ou nulos nas regras DAL.

TENANT_ADMIN CAPL-9149 Corrigido vulnerabilidade de HTML Injection na funcionalidade de convites

Corrigida vulnerabilidade de HTML Injection na funcionalidade de convites, onde o campo de edição de conta não validava corretamente os parâmetros de entrada. Ao inserir um payload em HTML no campo "nome", o conteúdo injetado era refletido nos e-mails enviados aos destinatários. Para resolver esse problema, foram implementadas validação e sanitização adequadas dos campos de entrada, bloqueando a injeção de tags HTML ou scripts no cadastro de usuários, além de aplicar técnicas de codificação de saída antes de renderizar conteúdo controlado por usuários.

TENANT_ADMIN CAPL-9377 Corrigido envio de emails de boas-vindas para usuários inativos na pipeline de usuários

Corrigido o problema na pipeline de usuários onde emails eram enviados para usuários "criados" com o status "inativo", mesmo com o parâmetro "send welcome email" configurado como true. Essa atualização garante que apenas usuários ativos recebam as comunicações de boas-vindas, melhorando a gestão de usuários e a experiência geral.

CAPL_25

· 11 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

ACTIVITY_MANAGEMENT CAPL-9035 Corrigido falha na exclusão do data model quando tenant está com realtimeDisabled igual a true

Corrigido problema no qual a task de delete do data model falhava quando o tenant estava com realtimeDisabled = true, impedindo a exclusão correta dos dados conforme esperado.

CAROL_APP CAPL-8928 Materializa entidades em tenants CLIENTE para apps com connectors RESTRICTED

Na instalação de apps com connectors "RESTRICTED", não ocorre a materialização das entidades em tenants CLIENTE. O Smartlink cria as entidades, incluindo a PK, em tenants clientes. Se o connector é RESTRICTED, apenas o connector é criado, sem materialização das staging tables, aplicando-se a tenants não unificadas (clientes e DEV). O parâmetro forceMaterialzieStagingSchemaFromConnectorProtheusCarol mantém seu comportamento.

CONNECTOR CAPL-8913 Atualização na tabela INFORMATION_SCHEMA para consumir estatísticas do BigQuery e melhora consultas com nova tabela de armazenamento

A tabela INFORMATION_SCHEMA foi atualizada para consumir estatísticas do BigQuery, trocando de TABLE_STORAGE_USAGE_TIMELINE_BY_ORGANIZATION para TABLE_STORAGE_BY_ORGANIZATION. A nova tabela proporciona consultas mais rápidas ao refletir apenas o estado atual de armazenamento. O campo storage_last_modified_time é utilizado para indicar a última modificação no armazenamento. O atributo lastIngestionTime é renomeado para lastModifiedTime para manter a coerência com storage_last_modified_time nos endpoints relacionados.

CONNECTOR, DATA_MODEL CAPL-8932 Atualizada descrições das colunas de metadados no Big Query para inglês

As descrições das colunas de metadados no Big Query agora estão em inglês. Essa atualização é aplicada às colunas ingestionDateTime, extraAttributes e mdmCounterForEntityDATETIME. A mudança garante a consistência e a clareza das informações apresentadas.

DATA_MODEL CAPL-8686 Inclusão de metadados na coluna descrição do BigQuery para automação do provisionamento das tabelas na plataforma Carol

A inclusão de metadados na coluna descrição do BigQuery automatiza o provisionamento das tabelas na plataforma Carol. As descrições dos campos de metadados agora são aplicadas automaticamente, garantindo que o schema já nasça documentado e que as informações fiquem visíveis no BigQuery e na Carol. Essa atualização elimina a necessidade de consulta externa para entender os campos, melhorando a acessibilidade e a clareza dos dados. O processo abrange tanto as Staging Tables quanto os Data Models, respeitando a estrutura das tabelas de ingestion.

DATA_MODEL, IDEIA_ENTIDADES CAPL-8927 Revisam texto orientativo sobre criação de índice para BigQuery com restrições de registros e tamanho de tabela

Revisam o texto orientativo de criação de índice para BigQuery, esclarecendo que a criação de índices é permitida apenas em tabelas com mais de 5 mil registros e que a indexação é restrita a tabelas acima de 10 MB. Incluem a referência ao link do BigQuery onde essas informações estão disponíveis.

DOCUMENTATION CAPL-8979 Adicionado assistente de consulta da documentação da Carol na página principal

Adicionado o assistente de consulta da documentação da Carol na página principal, facilitando o acesso à informação e melhorando a experiência do usuário. Agora, os usuários podem consultar a documentação diretamente na tela inicial, tornando o processo mais eficiente e intuitivo.

EXPLORE CAPL-8254 Implementado timeout padrão de 30 minutos para execução de queries via Explorer UI

Implementado um timeout padrão de 30 minutos para execução de queries via Explorer UI, evitando que jobs pesados continuem em execução após o fechamento do navegador. O backend passa a enviar o parâmetro --job_timeout_ms na submissão de jobs para o BigQuery, garantindo que eles sejam cancelados automaticamente após o tempo limite. Essa mudança melhora o uso de recursos, reduz a necessidade de monitoramento manual e aprimora a experiência do usuário, que não ficará mais preso em queries intermináveis. Logs agora indicam claramente quando um job é finalizado por timeout.

ORGANIZATION_ADMIN CAPL-9034 Atualizado o processo de criação de Tenant e Organization para incluir o atributo mdmRealtimeDisabled como true

O processo de criação de Tenant e Organization agora adota o atributo mdmRealtimeDisabled = true, alterando o comportamento anterior que utilizava false. Essa mudança impacta diretamente as criações de Tenants e Organizations no Clockin, pois, se o atributo não for informado, essas entidades não terão acesso ao Realtime.

ORGANIZATION/TENANT CAPL-8493 Resolvido problema de redirecionamento contínuo para o login e melhora a utilização da Carol em múltiplas abas

Resolvido o problema de redirecionamento contínuo para o login, evitando que o usuário fique preso em um loop de logins gerados por falhas no front-end. Agora, o sistema armazena a quantidade de logins que ocorrem em um intervalo de 1 minuto. Se o número de logins ultrapassar cinco, o usuário é redirecionado para a tela de login, permitindo uma melhor utilização da Carol em múltiplas abas.

ORGANIZATION/TENANT CAPL-8930 Revisada a identidade visual do fluxo de login da Carol para aparência moderna e alinhada com a marca

A identidade visual do fluxo de login da Carol foi revisada, garantindo uma aparência mais moderna e alinhada com a marca. As alterações visam melhorar a experiência do usuário e a eficiência do acesso ao sistema.

PLATAFORMA_IDEIA CAPL-8117 Automatizado o processo de exclusão e inativação de tenants com baixa latência na Carol

O processo de exclusão e inativação de tenants com baixa latência na Carol é automatizado, garantindo que a eliminação seja propagada para a Plataforma Ideia. Ao solicitar a exclusão, a tenant entra em quarentena por 30 dias, desativando usuários e revogando acessos. Após o período, a task de desprovisionamento é executada, excluindo a tenant da Carol e da Plataforma Ideia. Novas APIs são criadas para gerenciar a inativação de baixa latência, assegurando que os fluxos entre as plataformas sejam síncronos e independentes.

TENANT_ADMIN CAPL-8925 Atualização na nomenclatura do arquivo de download da service account da Google

O download de uma service account da Google agora mantém o padrão de nomenclatura do arquivo, que é "carol_" seguido do nome da organização, nome do tenant, usuário e a extensão ".json".

🐛 Correções

2C-CAROL_CONNECT CAPL-8397 Resolvido o problema de refresh constante na tela do conector 2C relacionado a erro 401

Foi resolvido um problema de refresh constante na tela do conector 2C, que estava relacionado a um erro 401 (Não Autorizado) em um endpoint, possivelmente devido à perda de token. Versões do 2C disponíveis em CAROL CONNECT Versions

2C-CAROL_CONNECT CAPL-8608 Atualiza dados da conexão com a Carol para permanecerem fixos por usuário logado Implementa mecanismo de retry automático no 2C para reconexão em caso de perda de conexão Melhora eficiência e confiabilidade no envio de dados via 2C

Os dados da conexão com a Carol são alterados de acordo com o usuário logado, mas agora permanecem fixos. Implementa-se um mecanismo de retry automático no 2C, permitindo a reconexão em caso de perda de conexão, sem a necessidade de intervenção manual. Com essa atualização, o envio dos dados via 2C se torna mais eficiente e confiável. Versões do 2C disponíveis em CAROL CONNECT Versions

2C-CAROL_CONNECT CAPL-8904 Inclui arquivo de template para sistema de notificação de administradores da Carol no 2C

O arquivo de template (.flt) necessário para o sistema de notificação de administradores da Carol está faltando, o que gera erro no 2C. O arquivo é recuperado e incluído na distribuição do 2C, resolvendo assim a intercorrência e permitindo o funcionamento adequado das notificações. Versões do 2C disponíveis em CAROL CONNECT Versions

2C-CAROL_CONNECT CAPL-9058 Corrigido erro de conexão segura com SQL Server na versão 2C - 3.7.0

Corrigido erro ao tentar conectar a nova versão do 2C - 3.7.0 ao SQL Server, que resultava na falha de estabelecimento de uma conexão segura usando SSL. O driver apresentava a exceção "SQLServerException", indicando que não consegue encontrar um caminho de certificação válido para o alvo solicitado. Versões do 2C disponíveis em CAROL CONNECT Versions

ACTIVITY_MANAGEMENT CAPL-8922 Corrige duplicação de filtro de task em situações específicas

O filtro de task está duplicando em algumas situações, embora não seja possível reproduzir o problema de forma consistente. A equipe investiga a causa para garantir que as duplicações não ocorram mais, melhorando assim a experiência do usuário ao utilizar o sistema. A solução será implementada assim que a raiz do problema for identificada.

BILLING CAPL-9102 Limpeza do atributo mdmApplicationIdMasterRecordId e corrigido o filtro na UI para gráfico de 6 meses

Realizada a limpeza do atributo mdmApplicationIdMasterRecordId. O problema identificado ocorre quando se aplica um filtro na UI por recurso e se muda para exibir o gráfico de 6 meses, onde o filtro não é considerado.

DATA_PROCESSING CAPL-9037 Integração das marcações com o ERP apresenta falhas em alguns dias

Corrigida a integração das marcações com o ERP que não estavam ocorrendo em alguns dias, afetando principalmente o Protheus e, em alguns casos, o RM.

DOCUMENTATION CAPL-8929 Corrição do erro de redirecionamento de URL ao inserir nome de organização inexistente

Corrigido o erro de redirecionamento de URL ao inserir um nome de organização inexistente. Agora, ao tentar acessar uma organização que não existe, o usuário recebe uma mensagem informando que a organização não é válida, em vez de ser redirecionado para uma página inexistente. Esse ajuste melhora a experiência do usuário ao fornecer feedback claro sobre a validade da organização.

DOCUMENTATION CAPL-8977 Corrige o bug de autenticação na Carol que impede login em orgs locais

Corrigido problema no qual login na Carol não funciona para nenhuma org em ambientes de desenvolvimento local, gerando um bug que impede a autenticação. Ao tentar usar uma org existente, era exibida a mensagem de organização inválida.

EXPLORE CAPL-8594 Correção no tratamento de entidades com caracteres especiais no Staging Area

O Staging Area deve tratar entidades com caracteres especiais, convertendo "/" para "_" ao compor as queries. Além disso, a leitura do atributo que contém "##" não está sendo realizada corretamente quando convertido para "__". Essas correções garantem que as operações no Staging Area e no Explorer funcionem adequadamente.

ORGANIZATION/TENANT CAPL-8635 Evita a exposição de endereços de e-mail nos cabeçalhos de respostas de requisições

A aplicação agora evita a exposição de endereços de e-mail nos cabeçalhos de respostas de requisições, garantindo que informações sensíveis não sejam retornadas de forma desnecessária. Essa melhoria é implementada para proteger os dados dos usuários, limitando o retorno de informações apenas quando estritamente necessário. Além disso, a comunicação é adequadamente protegida utilizando TLS seguro, e os dados sensíveis são criptografados ou mascarados. Revisões de segurança são adotadas no ciclo de desenvolvimento para aumentar a proteção contra vulnerabilidades.

ORGANIZATION/TENANT CAPL-9015 Ajustado fluxo de "Esqueci minha senha" para exibir atributos da nova senha após clique no link do email

Ajustado o fluxo de "Esqueci minha senha" que não exibia os atributos da nova senha após o usuário clicar no link do e-mail. A funcionalidade é ajustada para garantir que todas as informações necessárias para a redefinição da senha sejam apresentadas corretamente.

TENANT_ADMIN CAPL-8637 Corrigida vulnerabilidade na recuperação de senha ao alterar fluxo de envio para método POST

Corrigida a vulnerabilidade identificada na funcionalidade de recuperação de senha através da alteração do fluxo de envio, que agora utiliza o método POST para transmitir dados sensíveis, como o e-mail do usuário, no corpo da requisição. Essa mudança evita a exposição de informações na URL e reduz o risco de registro em logs e caches. Além disso, são implementados mecanismos de monitoramento para detectar possíveis exposições acidentais de dados, garantindo maior segurança para os usuários durante o processo de reset de senha.

CAPL_24

· 10 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

ACTIVITY_MANAGEMENT CAPL-8714 Preenche automaticamente o campo de tenant admin ao criar um Tenant

Ao criar um Tenant, o campo de tenant admin já traz preenchido o usuário logado, facilitando o processo. Para cancelar um pipeline na Carol, é necessário clicar no pipeline desejado e em Cancel Task. No entanto, ao clicar em outro pipeline, o botão Cancel Task torna-se indisponível, permanecendo em estado de loading até que o pipeline anterior seja cancelado. A melhoria proposta permite mudar entre pipelines sem fechar a tela de detalhes e possibilita o cancelamento da task de forma mais eficiente.

BIG_QUERY CAPL-8684 Exibe log detalhado ao criar ou editar tabela com mais de 10000 colunas

A modificação de schema agora exibe um log detalhado quando um usuário tenta criar ou editar uma tabela com mais de 10000 colunas, esclarecendo que a falha ocorre devido à limitação do BigQuery. Isso melhora a visibilidade do erro, permitindo que os usuários entendam claramente o motivo da falha durante o processo de modificação de schema. Essa atualização visa proporcionar uma melhor experiência ao usuário, evitando confusões relacionadas à criação de tabelas.

BILLING CAPL-8678 Refatoração no Download de Raw do Billing para enviar arquivos zipados por e-mail quando fatura contém muitos itens

Refatoramos o Download de Raw do Billing para enviar arquivos zipados por e-mail quando a fatura contém muitos itens. Alteramos os três endpoints utilizados para baixar dados raws: Admin, View e Invoice. Ao chamar o endpoint, realizamos uma query com COUNT() e, se o resultado tiver mais de 100 mil linhas, executamos a query diretamente no psql, salvando o resultado em disco. Após salvar, zipamos o arquivo e enviamos para o e-mail do usuário, além de notificar na UI que os detalhes da fatura estão sendo processados e enviados.

CAROL_APP CAPL-8619 Materialização automatica dos Connector Groups na instalação de Carol Apps na Tenant Unificada

A instalação de Carol Apps na Tenant Unificada agora materializa automaticamente todos os Connector Groups disponíveis, eliminando a necessidade de seleção única durante o processo. Essa mudança resolve o problema de sincronismo entre tabelas, permitindo que o Tenant Admin não precise solicitar múltiplas versões do mesmo App. Com essa atualização, a instalação se torna mais eficiente e atende melhor às necessidades dos Tenants Unificados, garantindo que todas as tabelas sejam materializadas corretamente.

CAROL_APP CAPL-8623 Listar na Tenant Customer apenas apps instalados na Tenant Unificada

A Tenant Customer agora lista apenas os apps instalados na Tenant Unificada. Isso resolve o problema de sincronização de entidades mapeadas, evitando falhas nos processos de cópia de dados. Quando a Tenant Unificada não tem o Carol App instalado, ele não aparece como Available App na Tenant Customer. Se a versão instalada na Unificada for anterior à liberada pela Tenant Dev, a nova versão também não é listada como Available App na Tenant Customer. Essa mudança melhora a gestão das versões dos apps.

CAROL_APP CAPL-8731 Materializa automaticamente todos os Connector Groups na instalação do Carol App na Tenant Unificada

A instalação do Carol App na Tenant Unificada agora materializa todos os Connector Groups de forma automática, sem exigir que o usuário escolha um único grupo durante o processo. Essa mudança elimina a necessidade de múltiplas instalações do mesmo App para cada versão de Connector Group, garantindo a sincronização adequada entre as tabelas e melhorando a experiência do Tenant Admin. Com essa atualização, todos os Connector Groups são devidamente materializados após uma única instalação do Carol App.

DATA_MODEL CAPL-8854 Automatiza inclusão de metadados na coluna descrição do BigQuery durante provisionamento das tabelas da Carol

Automatiza a inclusão de metadados na coluna descrição do BigQuery durante o provisionamento das tabelas da Carol, garantindo que as informações documentadas sejam refletidas diretamente no schema. As tabelas de Staging e Data Models recebem automaticamente as descrições oficiais, facilitando o entendimento dos usuários e eliminando a necessidade de consultar documentação externa. O processo respeita a estrutura das tabelas de ingestion, assegurando que todas as descrições sejam aplicadas conforme o padrão estabelecido.

MCP_SERVER CAPL-8618 Suporte à validação da autenticidade de JWT com usúario do Identity no MCP Server

O MCP Server agora suporta a validação da autenticidade de um JWT quando o usuário é oriundo do Identity. Ao receber um JWT com issuer = Identity, o sistema valida sua autenticidade com o Identity. Usuários autenticados têm suas roles verificadas no Severus, permitindo a interação com as Tools, onde o usuário do JWT é passado como parâmetro. Em caso de JWT inválido, o servidor retorna um erro 401.

PLATAFORMA_IDEIA CAPL-8149 Desprovisiona automaticamente conta na Plataforma Ideia ao excluir uma tenant ou organização com baixa latência na Carol

Ao excluir uma tenant ou organização com baixa latência na Carol, o processo agora desprovisiona automaticamente a conta na Plataforma Ideia. A eliminação de uma organização promove a inativação de todos os usuários e remove configurações de DNS, agendando a exclusão completa após 30 dias. Além disso, a comunicação é enviada aos administradores da tenant, informando sobre a inativação e os passos subsequentes. As tasks para desprovisionamento e exclusão são sincronizadas, garantindo que ambas as plataformas mantenham a integridade dos dados durante o processo.

PLATAFORMA_IDEIA CAPL-8174 Desprovisiona automaticamente conta da Plataforma IDeIA ao excluir tenant na Carol

Ao excluir uma tenant na Carol, a conta da Plataforma IDeIA é desprovisionada automaticamente, garantindo que a eliminação de tenants com baixa latência seja sincronizada entre as plataformas. O processo de inativação inclui a desativação imediata de usuários, remoção de DNS e alteração do status da organização e da tenant para "inactive" ou "deleted". Além disso, um e-mail é enviado para os usuários informando sobre a inativação e o prazo de 30 dias para exclusão permanente dos dados. Todos os passos do processo são registrados na task da Carol.

PLATFORM CAPL-8707 Revisão dos endpoints não autenticados para retornar apenas dados necessários

Os endpoints não autenticados estão sendo revisados para garantir que retornem apenas os dados necessários. O novo endpoint “/api/v5/tenants/domain/TENANT_NAME” sem autenticação agora fornece apenas os atributos mdmId, tenantName, orgName e mdmAllowSmsLogin. Da mesma forma, o endpoint “/api/v5/organizations/domain/ORG_NAME” também foi criado para retornar apenas os atributos mdmId, orgName e mdmAllowSmsLogin sem autenticação, enquanto os endpoints autenticados continuam a retornar todos os atributos da entidade.

TENANT_ADMIN CAPL-8071 Adiciona role viewer aos usuários da Carol com integração do Google Ativa

Adiciona a role viewer aos usuários da Carol com a integração do Google Ativa, permitindo que visualizem e listem recursos nos projetos em que têm acesso. Essa mudança proporciona maior flexibilidade e prepara o ambiente para futuros casos em que novos recursos GCP possam ser liberados para observação.

🐛 Correções

IDEIA_MCP_SERVER CAPL-8846 Parâmetro de usuário logado é preenchido pelo BE do MCP Server

O parâmetro de usuário logado é preenchido pelo BE do MCP Server e não é mais exposto para o LLM. Essa mudança melhora a segurança e a integridade dos dados, garantindo que informações sensíveis não sejam acessíveis indevidamente. A implementação dessa atualização já está em vigor, aprimorando a proteção das informações dos usuários.

ORGANIZATION/TENANT CAPL-8461 Evitar exposição de endereços de e-mail nos cabeçalhos das respostas após autenticação

A aplicação agora evita a exposição de endereços de e-mail de usuários nos cabeçalhos das respostas após a autenticação. Durante os testes de segurança, foi identificado que essa informação estava acessível ao inspecionar a resposta HTTP. Com a implementação das recomendações, todos os dados sensíveis são protegidos adequadamente durante o tráfego e, quando armazenados, estão criptografados ou mascarados. Essa melhoria garante que informações sensíveis não sejam retornadas de forma desnecessária, aumentando a segurança da aplicação.

ORGANIZATION/TENANT, TENANT_ADMIN CAPL-8774 Usuários Business User e App Admin não acessam Backoffice na produção do tenant Dallo Participações Ltda

Os usuários Business User e App Admin estão sem acesso ao Backoffice na produção do tenant Dallo Participações Ltda.

ORGANIZATION/TENANT, TENANT_ADMIN CAPL-8856 Corrigido problema no qual Access Token não respeitava o parâmetro expires_in e causava expiração antecipada

Corrigido problema no qual o Access Token não estava respeitando o parâmetro expires_in, resultando em expiração antecipada em cerca de 5 minutos, quando o esperado é aproximadamente 1 hora.

PLATFORM CAPL-8473 Restringe o acesso à documentação da API com autenticação adequada

Identificamos uma vulnerabilidade na documentação da API que está acessível publicamente sem autenticação, permitindo que usuários não autenticados visualizem todos os endpoints e parâmetros. A exposição indevida de informações sensíveis é confirmada ao acessar a documentação em uma aba anônima.

SQL_PIPELINES CAPL-8720 Implementado suporte à execução de pipelines SQL com Linguagem Procedural no projeto Clock In

O projeto Clock In avança na implementação do suporte à execução de pipelines SQL com Linguagem Procedural, visando otimizar a performance no Google BigQuery. A introdução do pruning através do campo ingestionDatetime permite uma comparação eficiente em jobs sequenciais. Essa mudança é crucial para a migração para o Ambiente Unificado, garantindo escalabilidade e performance. As pipelines agora especificam no manifesto se são "Pipelines Procedurais" e devem seguir convenções para a criação de tabelas temporárias, assegurando uma execução adequada e melhorias significativas em performance.

TENANT_ADMIN CAPL-8458 Corrige vulnerabilidade na área de login ao alterar fluxo de recuperação de senha para método POST

A vulnerabilidade identificada na área de login, onde o e-mail do usuário é exposto como parâmetro GET durante a solicitação de reset de senha, é corrigida. O fluxo de recuperação de senha é alterado para utilizar o método POST, garantindo que dados sensíveis sejam enviados no corpo da requisição. Essa mudança evita a exposição de informações em logs, histórico do navegador ou caches intermediários, além de implementar mecanismos de monitoramento para detectar possíveis exposições acidentais de dados.

TENANT_ADMIN CAPL-8629 Aprimora funcionalidade de envio de convites a usuários para prevenir manipulação de URL

A funcionalidade de envio de convites para usuários na área autenticada é aprimorada para prevenir manipulação de URL. A validação rigorosa dos parâmetros transmitidos na requisição é implementada, garantindo que apenas URLs autorizadas sejam enviadas. Técnicas de sanitização e encoding são aplicadas ao conteúdo exibido ao usuário final, evitando a injeção de mensagens maliciosas. Além disso, a utilização de templates fixos para convites reduz a possibilidade de injeção de conteúdo não autorizado, aumentando a segurança do sistema.

CAPL_23

· 2 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

EXPLORE CAPL-8243 Implementa timeout padrão de 30 minutos para execução de queries via Explorer UI

Implementa um timeout padrão de 30 minutos para a execução de queries via Explorer UI. Agora, quando um usuário lança uma query pesada e fecha a janela do navegador, o job é automaticamente cancelado após o tempo limite, evitando o consumo excessivo de slots no BigQuery. Essa mudança melhora a performance da plataforma e a experiência do usuário, que não fica mais preso em queries intermináveis.

ORGANIZATION/TENANT CAPL-8492 UI utiliza refresh_token ao expirar o authorization para melhorar a experiência do usuário

A UI agora utiliza o refresh_token quando o authorization expira, resolvendo o problema de logouts frequentes que geravam a necessidade de informar o 2FA com frequência pelos usuários. Ao detectar a expiração do token, o Frontend gera um novo Authorization e um novo refresh_token utilizando o endpoint apropriado. Essa melhoria garante uma experiência de uso mais fluida e reduz a interrupção causada pelo reautenticação constante.

🐛 Correções

2C-CAROL_CONNECT CAPL-8606 Implementa mecanismo de retry automático no 2C para reconexão em caso de perda de conexão

Implementa um mecanismo de retry automático no 2C, permitindo a reconexão em caso de perda de conexão após um leak no banco de dados. Essa melhoria elimina a necessidade de reinicialização manual da conexão 2C, garantindo que o envio dos dados de receita recorrente seja retomado de forma eficiente e autônoma. O sistema agora detecta automaticamente a perda de conexão e realiza as tentativas de reconexão, aumentando a robustez e a confiabilidade do processo de ingestão de dados. Versões do 2C disponíveis em CAROL CONNECT Versions

BIG_QUERY, PLATFORM CAPL-7497 Corrigido erro de ingestão relacionado à exceção TaskResource - updateProgress

Identificamos e solucionamos um erro de ingestão relacionado à exceção 'TaskResource - updateProgress', que se manifestou como uma java.util.NoSuchElementException. A correção garante a resiliência do processo de consolidação durante o intake de dados na Carol.

CAPL_22

· 10 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

BIG_QUERY CAPL-8144 Criada feature flag na Carol para autorização de tenants na funcionalidade de baixa latência

Criada uma feature flag na Carol para definir quais tenants estão autorizadas a usar a funcionalidade de baixa latência (BL). A interface da Carol agora verifica se a tenant está na lista de autorização antes de habilitar a BL na plataforma IDeIA.

BILLING CAPL-8577 Resolve problema de exportação de dados que adiciona coluna em branco no arquivo CSV

Resolvido o problema do export de dados adicionando uma coluna em branco no arquivo CSV. A exportação agora funciona corretamente, garantindo que nenhum espaço em branco indesejado apareça nos arquivos gerados. Isso melhora a qualidade dos dados exportados e facilita o uso posterior das informações.

CAROL_APP CAPL-8201 Gerencia o Carol App em tenants de clientes no Tenant Admin

O Tenant Admin agora pode gerenciar o Carol App em tenants de clientes quando atua em tenants UNIF ou DEV. As operações permitidas incluem atualizar, remover e rodar processos do Carol App, além de atualizar as configurações do aplicativo e instalar o Carol App na tenant cliente, desde que sejam apps da tenant unificada ou desenvolvidos na tenant DEV. Essas ações garantem maior flexibilidade e controle na gestão do aplicativo.

CONNECTOR, DATA_MODEL CAPL-8467 Implementa criação de índices para atributos do tipo vector em PostgreSQL e BigQuery

Implementa a criação de índices para atributos do tipo vector, otimizando buscas nos bancos PostgreSQL (Baixa Latência) e BigQuery. Adiciona mensagens orientativas e links discretos para a documentação em todas as UIs. Os parâmetros essenciais para os índices vetoriais, como "Distance type", "Leaf_node_embedding_count" e "Normalization type" são implementados no BigQuery. No PostgreSQL, são implementados índices como B-tree, Hash, GIN, GiST, SP-GiST e BRIN, além dos parâmetros para IVFFlat e HNSW, garantindo flexibilidade e baixo acoplamento para futuras evoluções.

ORGANIZATION/TENANT CAPL-8195 Atribui automaticamente Org Admin como Tenant Admin durante a criação de Tenants na Carol

O processo de criação de Tenants na Carol agora atribui automaticamente o Org Admin como Tenant Admin, garantindo que a integração com a Refinaria funcione corretamente. Assim, ao criar um Tenant, o e-mail do Org Admin é automaticamente vinculado como Tenant Admin, eliminando a necessidade de intervenção do usuário. Essa melhoria resolve o problema de vinculação de owner na Conta da Refinaria.

ORGANIZATION/TENANT CAPL-8196 Atribui automaticamente o Org Admin como Tenant Admin na criação de Tenants na Carol

A funcionalidade de criação de Tenants na Carol agora atribui automaticamente o Org Admin como Tenant Admin durante o processo. Um novo campo de e-mail para o Org Admin é adicionado, tornando-o obrigatório na criação de uma Org. Essa mudança garante que cada Tenant criada na Carol tenha um Tenant Admin vinculado, atendendo à necessidade da Refinaria de que toda Conta possua um owner. Essa integração melhora a eficiência e a conformidade no gerenciamento de Tenants e Contas.

ORGANIZATION/TENANT CAPL-8542 Implementa fluxos de baixa latência para o front-end na Carol

Implementados os fluxos de baixa latência para o front-end na Carol. Agora, ao solicitar o provisionamento ou inativação de uma tenant, a interface apresenta opções para ativar ou desativar a baixa latência. Além disso, são adicionadas mensagens de bloqueio quando existem entidades com baixa latência ativa. O fluxo de exclusão também é aprimorado, garantindo que a exclusão de tenants e entidades respeitem as regras de baixa latência, comunicando os usuários quando necessário.

PLATAFORMA_IDEIA CAPL-8048 Atualiza funcionalidade de provisionamento de entidades com baixa latência para integrar com a Plataforma IDeIA

A funcionalidade de provisionamento de entidades com baixa latência na plataforma Carol é atualizada para integrar-se com a Plataforma IDeIA. Agora, ao criar ou atualizar entidades, é possível habilitar a flag lowLatency, permitindo que dados críticos sejam processados em tempo real no AlloyDB. A interface do usuário é aprimorada com opções para gerenciar o armazenamento em baixa latência, incluindo limites de 100 GB e mensagens informativas. Além disso, as tarefas de provisionamento ocorrem de forma síncrona, garantindo a integridade dos dados entre Carol e IDeIA.

PLATAFORMA_IDEIA CAPL-8123 Inativação de Baixa Latência de entidade na Carol garante exclusão na Plataforma Ideia

Ao inativar Baixa Latência de uma entidade na Carol, a plataforma garante que a exclusão da BL também ocorra na Plataforma Ideia. O processo de eliminação de entidades com baixa latência é integrado, permitindo que ao eliminar (DROP) entidades, o usuário seja notificado para desativar a baixa latência antes da exclusão.

SQL_PIPELINES CAPL-8191 Fluxos de baixa latência no front-end para otimização do processo

Implementada opção na UI para ativar e desativar a baixa latência no nível da tenant, além de bloqueios e mensagens informativas para ações que envolvem entidades ativas. Adiciona funcionalidades para a criação, habilitação, desabilitação e exclusão de entidades com baixa latência, garantindo que as operações sejam realizadas com segurança. Também permite a navegação entre a Carol e a Refinaria para entidades de baixa latência.

SQL_PIPELINES CAPL-8373 Adiciona mensagem sobre limpeza de dados de Low Latency no clean reprocess

Adiciona uma mensagem informando que o clean reprocess não limpa dados de Low Latency. Essa atualização visa esclarecer o funcionamento do sistema e evitar confusões entre os usuários sobre o tratamento dos dados. A nova mensagem é exibida durante o processo de limpeza, garantindo que os usuários estejam cientes dessa limitação.

🐛 Correções

ACTIVITY_MANAGEMENT CAPL-7663 Documenta problema no AI Process onde execução continua após cancelamento da task

O problema identificado no AI Process, onde a execução continua mesmo após a task ser cancelada, foi documentado. Ao utilizar as opções de cancelamento na interface e nas APIs, o container associado à task permanece ativo, gerando logs desnecessários e custos adicionais. Testes realizados com diferentes métodos de cancelamento confirmam que o comportamento não é o esperado, pois o container finaliza somente após aproximadamente 10 minutos. O comportamento correto seria a finalização imediata do container após a chamada dos endpoints.

ACTIVITY_MANAGEMENT CAPL-7915 Ajuste em tasks de DELETE_TENANT para evitar execuções em loop com reinício de worker

As tasks de DELETE_TENANT foram ajustadas para evitar execuções em loop quando um worker reinicia. Anteriormente, erros de GCS faziam com que a task fosse reexecutada, mesmo após a exclusão bem-sucedida do bucket. Agora, se a task tentar excluir um bucket que já foi removido, ela conclui sem lançar exceções, garantindo um fluxo mais eficiente e evitando falhas desnecessárias.

BILLING CAPL-8256 Criação de novas pipelines para captura de dados GCP visando aprimorar o sistema de billing

A nova funcionalidade suporta a criação de novas pipelines para captura de dados GCP, visando aprimorar o sistema de billing. As novas pipelines permitem a integração de dados essenciais, garantindo uma melhor análise e gestão das informações.

CONNECTOR CAPL-8242 Modal de criação de connector não congela mais e lista novo connector corretamente

Ao criar um connector, o modal não congela mais, permitindo que o usuário finalize a criação sem necessidade de refresh da tela. O novo connector criado é listado corretamente, proporcionando uma experiência mais fluida e eficiente.

CONNECTOR CAPL-8367 Corrige preenchimento automático do Field name e desabilitação do Field type na criação de campos em Staging

Na criação manual de campos em uma Staging, após adicionar o primeiro field, o segundo field name estava sendo preenchido automaticamente com o valor do primeiro, e o Field type aparece desabilitado. Ao salvar nesse estado, o Field type não era preenchido no resumo da tela. Além disso, ao editar o campo, ocorria uma validação que informa que o Field name já existe, causando confusão ao usuário.

DATA_MODEL CAPL-8198 Implementada validação para impedir cadastro de URLs inválidas no Data Subscription

Implementada uma validação que impeça o cadastro de URLs inválidas no Data Subscription. Essa melhoria visa aumentar a robustez do sistema e facilitar a identificação de problemas relacionados a URLs inválidas.

DATA_MODEL CAPL-8390 O botão de edição de registros no Data Model retorna à tela e permite edição de registros

O botão de edição de registros no Data Model, que havia sido descontinuado, volta a aparecer na tela. A funcionalidade permite editar registros e, ao ser utilizado, o registro fica com o connector "Carol Explore", aguardando processamento da Pipeline.

ORGANIZATION/TENANT CAPL-8432 Corrige o problema de looping entre Carol e Azure durante login e logout no Clockin Web

O problema no Clockin Web foi identificado e corrigido, onde os usuários enfrentam um looping entre Carol e Azure durante o login e logout, impedindo o acesso ao aplicativo.

SHARED_DATA CAPL-8476 Corrigido erro ao referenciar campos com espaços nos nomes ao criar novas views pela interface/API da Carol

Corrigido erro ao referenciar campos com espaços nos nomes ao criar novas views pela interface/API da Carol. O erro ocorria quando o nome do alias não era passado entre crases, mesmo que o BigQuery aceite a query como válida.

SQL_PIPELINES CAPL-8497 Plataforma não interpreta manifesto V2 em certas posições

Corrigido problema onde a plataforma não reconhecia o manifesto como V2 caso "version": "V2" estivesse em certas posições. Existiam diferenças nas tags entre as tasks geradas com "version": "V2" no início e no final do manifesto.

TENANT_ADMIN CAPL-7944 Integração de grupos de usuários do Google Groups no BigQuery via Google Integration

A Carol agora suporta a integração de grupos de usuários (Google Groups) no BigQuery via Google Integration. A API foi ajustada para aceitar grupos no formato exigido pelo GCP, permitindo habilitar permissões de acesso e melhorar a escalabilidade no gerenciamento de acessos. O acesso ao BigQuery é concedido ao grupo, mas as consultas são filtradas por políticas de acesso, garantindo maior rastreabilidade e governança de dados. Essa atualização facilita a criação de dashboards baseados em grupos de usuários, otimizando iniciativas de dados.

CAPL_21

· 6 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

CONNECTOR CAPL-8249 Reescreve a pipeline do CDSv2 para aumentar a resiliência e documenta os passos necessários

A pipeline do CDSv2 é reescrita para aumentar a resiliência, documentando os passos necessários. A agregação no início da pipeline do Dataflow Streaming é eliminada, permitindo que o ACK dos dados ocorra ao final da execução. O uso da storage write API é implementado, com a definição de regras de negócio que sensibilizam o processamento de pipelines SQL. A tabela RECORD_STEPS é alimentada para auditoria, e novos parâmetros são introduzidos para gravação de dados no GCS/CDS Staging e nas tenants unificadas, conforme a configuração dos apps.

PLATAFORMA_IDEIA CAPL-8156 Implementa funcionalidade de provisionamento de entidades com baixa latência na Carol
Integra nova API na Plataforma IDeIA para pedidos de mudança de esquema
Estabelece limites de armazenamento de 100 GB
Garante visualização de falhas de sincronism

A funcionalidade de provisionamento de entidades com baixa latência na Carol é implementada, permitindo a criação e atualização de staging tables e data models no AlloyDB. A nova API na Plataforma IDeIA é integrada para receber pedidos de mudança de esquema, com a opção de ativar ou desativar a baixa latência. Limites de armazenamento de 100 GB são estabelecidos, e a visualização de falhas de sincronismo é garantida na UI. A sincronização entre as plataformas ocorre de forma síncrona, assegurando a integridade dos dados.

DATA_SUBSCRIPTION CAPL-8229 Recuperação automática do NoSQL Intake ao criar nova Pubsub subscription

O NoSQL Intake agora se recupera automaticamente quando uma Pubsub subscription que não existia é criada, melhorando a resiliência do sistema. Essa atualização garante que o serviço se inscreva corretamente nas novas subscriptions, facilitando o pull de mensagens. A funcionalidade se aplica tanto em ambiente de sandbox quanto em produção, assegurando um desempenho consistente em todas as situações.

🐛 Correções

ACTIVITY_MANAGEMENT CAPL-8110 Corrige exibição de opções para cancelar tasks na tela

A tela exibe duas opções para cancelar tasks, quando deveria apresentar Cancel Task para tasks em QUEUE e Interrupt Tasks para tasks em execução. A equipe confere commits recentes, pois anteriormente o sistema tratava corretamente os status da task.

ACTIVITY_MANAGEMENT CAPL-8129 Remove tags HTML das mensagens toast e exibe opções de cancelamento corretamente

O sistema verifica e remove as tags HTML das mensagens toast. A tela exibe corretamente as opções de cancelamento: "Cancel Task" para tasks em QUEUE e "Interrupt Tasks" para tasks em execução. A conferência dos commits recentes garante que o tratamento dos status das tasks está adequado.

CONNECTOR CAPL-8324 Remoção do campo mdmpassword da staging users e do Data Model User após alteração no schema

O campo mdmpassword é removido da staging users e do Data Model User após qualquer alteração no schema, impactando os ambientes de Desenvolvimento e Produção. Essa remoção ocorre devido à execução da task de Notify Schema Changes on BigQuery, que é disparada ao modificar as tabelas no connector Clock In Mobile. Essa situação gera interrupções no funcionamento da aplicação, impedindo a liberação de novas funcionalidades na Plataforma Carol.

ORGANIZATION/TENANT CAPL-8311 Corrige o fluxo de autenticação com SSO no aplicativo TOTVS Clock In para retornar o Status Code 302

O fluxo de autenticação com SSO no aplicativo TOTVS Clock In não retorna o Status Code 302, impedindo o login via Chrome Custom Tabs. Atualmente, o aplicativo utiliza um WebView que não compartilha cookies, dificultando a autenticação com sessões já ativas. A correção envolve a migração para Chrome Custom Tabs no Android e ASWebAuthenticationSession no iOS, que necessitam de uma resposta HTTP 302 para redirecionar corretamente ao aplicativo. A implementação desse comportamento melhora a segurança e a experiência do usuário.

PLATFORM CAPL-7865 Cria comunicado na Plataforma Carol para informar clientes sobre instabilidades

Avalia-se a criação de um comunicado na Plataforma Carol para informar os clientes sobre instabilidades. A proposta visa uma comunicação mais proativa, melhorando a satisfação com o produto Clockin. Sugere-se que a mensagem seja exibida na plataforma e que uma API seja disponibilizada para o Backoffice/Clockin Web, além de considerar o envio de e-mails para os usuários tenant_admin. O atual sistema de comunicação via TOTVS Informa se mostra ineficaz em situações críticas, onde a agilidade na informação é essencial.

PLATFORM CAPL-8119 Corrige exibição de popups de confirmação da plataforma Carol com formatação adequada

As popups de confirmação da plataforma Carol exibem o texto sem formatação HTML, mostrando o código em vez do formato adequado. Isso afeta a apresentação visual e a experiência do usuário. A correção garante que as popups sejam exibidas corretamente com a formatação esperada.

SHARED_DATA CAPL-7685 Sharing groups ficam indisponíveis na UI em caso de falha no reprovisionamento de tenant

Os sharing groups ficam indisponíveis na UI quando ocorre uma falha no reprovisionamento de uma tenant. Durante o processo, todas as views de sharing groups são recriadas e seu status é alterado para RUNNING. Se houver uma falha na recriação de alguma shared view, o provisionamento falha, mas os sharing groups ainda não recriados mantêm o status RUNNING. Como resultado, esses sharing groups não aparecem na UI, já que o endpoint exibe apenas aqueles com status DONE.

SHARED_DATA CAPL-7914 Atualiza o status dos sharing groups para FAILED em caso de falha na criação de shared view

O problema identificado na UI ocorre quando a criação de uma shared view falha devido a um caminho de tabela inválido, resultando na indisponibilidade dos sharing groups. Quando a task falha, ela permanece em RUNNING, fazendo com que os grupos não apareçam para o usuário, que acredita que eles desapareceram. A solução proposta garante que, em caso de falha, o status dos sharing groups seja alterado para FAILED, permitindo a visualização e correção do erro, além de manter a versão anterior da view e do grupo de compartilhamento.

CAPL_20

· 6 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

BIG_QUERY CAPL-7848 Retarda início de tarefas de reprovisionamento e alteração de schema para aguardar ingestão de dados in flight

O início das tarefas de reprovisionamento e alteração de schema agora é retardado para aguardar a ingestão dos dados in flight da pipeline de staging. Essa mudança é necessária para o uso da nova pipeline CDSv2 com a Storage Write API. O sistema observa se o atraso da pipeline (watermark) está mais recente que o início do bloqueio da ingestão de dados, garantindo que todos os dados anteriores ao bloqueio já foram escritos. Além disso, uma verificação adicional assegura que a última atualização dos staging entity stats é maior que a watermark, indicando que ainda há dados in flight.

BIG_QUERY CAPL-8047 Integra provisionamento de tenants na Carol com a Plataforma IDeIA para criação de workspaces com baixa latência

O provisionamento de tenants na Carol agora integra com a Plataforma IDeIA, permitindo a criação de workspaces com suporte a baixa latência. Foi adicionada uma flag lowLatency na UI, que pode ser habilitada durante a criação do tenant. Essa funcionalidade permite que a criação de contas na Plataforma IDeIA ocorra de forma síncrona, registrando todos os passos do fluxo. Além disso, a nova API na Carol facilita a habilitação da baixa latência, garantindo que as tasks de provisionamento sejam gerenciadas corretamente entre as plataformas.

CAROL_APP CAPL-7892 Carrega ícone do Carol App dinamicamente na lista de aplicativos

Agora é possível carregar o ícone do Carol App dinamicamente na lista de aplicativos. O sistema verifica primeiramente se o ícone está disponível no pacote do web app. Caso contrário, valida o atributo mdmAppIconUrl definido pelo backend e, se ainda não for atendido, utiliza uma URL de fallback. A formação da URL considera variáveis como o nome da organização, nome do tenant, nome do app e a versão do app, garantindo flexibilidade no carregamento dos ícones.

CONNECTOR CAPL-8037 Reescreve pipeline dataflow streaming para aumentar resiliência e eliminar agregação inicial

Documenta e reescreve o pipeline dataflow streaming para aumentar a resiliência. Elimina a necessidade de agregação no início da pipeline, garantindo que o ACK dos dados ocorra ao final. Utiliza a storage write API e considera regras de negócio como o mecanismo para sensibilizar processamento de pipelines SQL e atributos específicos para tenants unificadas. Alimenta a tabela RECORD_STEPS para auditoria e implementa novos parâmetros para gravação de dados no GCS/CDS Staging, além de dados na tenant unificada e na staging area.

ORGANIZATION/TENANT CAPL-7956 Implementa novo endpoint de estatísticas de tabelas na lista de data models

Implementa um novo endpoint de estatísticas de tabelas na tela de lista de data models, substituindo as chamadas anteriores. O novo endpoint é {{sql/v1/api/v1/tenant/{TENANT_ID}/statistics/tables}}, mantendo os mesmos parâmetros do antigo {{sql/v1/api/v1/tenant/{TENANT_ID}/statistics/bigquery/tables}}. A resposta do novo endpoint fornece informações detalhadas sobre as estatísticas das tabelas, incluindo eventos do BigQuery, registros em tempo real e detalhes de consolidação.

ORGANIZATION/TENANT CAPL-8076 Implementa endpoint para obter nome do secret da service account ao provisionar workspace na plataforma IDeIA

Implementa um endpoint para obter o nome do secret da service account (SA) ao provisionar um workspace na plataforma IDeIA. A SA, com as permissões necessárias, permite que a plataforma consulte dados e schemas dos projetos gerenciados pela Carol.

PLATAFORMA_IDEIA CAPL-7934 Permite gravação de dados intake na staging de baixa latência para tenant admin

Como tenant admin, ao enviar dados intake para a Carol, é permitido que esses dados sejam gravados na staging de baixa latência. Essa mudança visa melhorar a eficiência no processamento de dados e garantir que as informações estejam disponíveis de forma rápida e confiável. O sistema agora atende melhor às necessidades dos usuários, proporcionando uma experiência otimizada na gestão de dados.

🐛 Correções

BIG_QUERY CAPL-7958 Atualiza opção de recreateAvroSchemas para task de provisionamento ao solicitar provisionamento de Tenant

A opção de recreateAvroSchemas é agora enviada corretamente para a task de provisionamento ao solicitar o provisionamento de uma Tenant via endpoint. Essa atualização resolve o problema de avros órfãos para tenants que estão migrando da V2 para a V3, garantindo que o provisionamento não falhe devido a inconsistências.

DATA_MODEL CAPL-7912 Identifica e analisa falhas em Subscriber desde 16/07 para restaurar funcionalidade adequada

As falhas em Subscriber desde 16/07 são identificadas e analisadas. O problema afeta a experiência do usuário, gerando dificuldades na validação e esclarecimento das informações. A solução proposta visa restaurar a funcionalidade adequada do sistema. Todos os perfis de usuários que dependem do Subscriber podem utilizar a nova implementação.

DATA_PROCESSING CAPL-8193 Avalia lentidão e erros em requisições goldenRecords durante cadastro

Identificamos um problema com requisições goldenRecords, onde o cliente reporta lentidão durante o cadastro, resultando na não aparição do registro. A análise dos logs revela uma requisição bem-sucedida com retorno 200 em 576 ms, mas também três requisições com erro 500 que levam até 420 segundos.

PLATFORM CAPL-8055 Corrige erro de table not found na pipeline de streaming que causa reprocessamento em loop

A pipeline de streaming apresenta um erro de "table not found" durante o processamento, resultando em registros sendo reprocessados em loop. Isso causa o consumo desnecessário de recursos pelos workers, que processam dados inválidos, e impede a conclusão do draining das pipelines, exigindo cancelamento manual.

PLATFORM CAPL-8093 Corrige status RUNNING em reprocesso de AI Process após falha no processamento

A task de AI Process apresenta um problema em que, após receber a resposta de falha no processamento, ao tentar reprocessá-la, ela permanece no status RUNNING, mesmo já tendo sido finalizada no operator. Para resolver essa questão, ao realizar o reprocesso de AI Process, a tag mdmResourceCleanUp deve ser alterada para false.

CAPL_4.21

· 3 min read
TOTVS Inteligência de Dados
Product & Support Team

🚀 Melhorias

EXPLORE CAPL-7732 Exibe quantidade de Bytes Processed e Billed Bytes no plano de execução

O plano de execução agora exibe a quantidade de Bytes Processed e Billed Bytes na interface, proporcionando uma visão clara e detalhada do desempenho e dos custos associados ao processamento de dados. Essa melhoria facilita o acompanhamento e a análise das métricas de uso diretamente na interface, otimizando a experiência do usuário.

ORGANIZATION/TENANT CAPL-7918 Oculta botão de acesso direto ao Swagger para usuários App Admin e Business User sem permissões de tenant Admin

O botão de acesso direto ao Swagger na interface é ocultado para usuários App Admin e Business User que não são tenant Admin no tenant logado. Essa alteração garante que apenas usuários com permissões adequadas visualizem o botão.

🐛 Correções

2C-CAROL_CONNECT CAPL-7837 Login no Carol 2C falha ao habilitar autenticação de 2 Fatores

O login no Carol 2C não funciona ao habilitar a autenticação de 2 Fatores. Ao desativar a autenticação, o login é restabelecido. A situação foi implementada no login do 2c e adequada conforme a necessidade. Versões do 2C disponíveis em CAROL CONNECT Versions

BIG_QUERY CAPL-7910 Erro ao reprovisionar tenant com status mdmBigQueryStatusType FAILED

Ocorre um erro na task ao tentar reprovisionar uma tenant que está em mdmBigQueryStatusType: FAILED. Quando o usuário tenta reprovisionar, a task falha com uma mensagem de erro, tanto ao reprocessar a mesma task quanto ao iniciar uma nova instalação. O problema se manifesta após a criação de uma tenant unificada e a atualização do status para FAILED. A situação é reproduzível seguindo os passos descritos, resultando na falha da instalação do app, e assim foi corrigda.

ORGANIZATION/TENANT CAPL-7899 Implementa mudança no gerenciamento do refresh token no OAuth2 para uso único

O aplicativo Mobile Clock In agora implementa uma mudança no gerenciamento do refresh token no OAuth2, adotando o padrão "Single Use Refresh Token". Essa alteração garante que cada refresh token possa ser utilizado apenas uma vez, evitando o logoff automático após 72 horas offline. Essa melhoria visa manter a sessão do usuário ativa indefinidamente. As novas diretrizes para utilização dos endpoints relacionados ao OAuth2 estão sendo definidas para garantir essa funcionalidade.

PLATFORM CAPL-7916 Aceita registros inválidos no intake para a plataforma Carol causando perda de dados

Registros inválidos para a plataforma Carol estão sendo aceitos no intake, resultando em um Data Loss. Apesar do retorno 200, esses registros não são escritos no BigQuery e não geram o erro BIGQUERY_CUSTOMER_WRITER_ERROR, causando a ausência de informações no report de problemas de ingestão. O report permanece vazio, mesmo com o envio contínuo de dados inválidos pela tenant. É necessário tratar os tipos inválidos conhecidos para tipos válidos, garantindo a correta escrita no BigQuery. As requests não podem ser bloqueadas por impeditivos do ERP.