Breadcrumbs

IA: Mecanismos de Segurança no GlobalSuite

QUESTÕES RELATIVAS AOS MECANISMOS DE SEGURANÇA IMPLEMENTADOS NA IA DO GlobalSuite®

  1. Quais são os mecanismos de segurança que o GlobalSuite® implementou na sua Inteligência Artificial para proteger a informação e garantir a integridade dos dados?

Atualmente, os dados utilizados pelo sistema são os que são introduzidos manualmente no sistema no momento da consulta, ou previamente selecionados a partir do GlobalSuite. O uso dos dados limita-se exclusivamente àqueles que são fornecidos pelos próprios clientes no uso dos assistentes.

Com o objetivo de proporcionar maior clareza, é importante destacar que utilizamos Azure OpenAI como serviço, onde essas implementações estão implantadas dentro da região europeia. A seguir, reitera-se a seguinte informação fornecida por esse serviço:

Importante

As instruções (entradas) e finalizações (saídas), as inserções e os dados de treinamento:

  • NÃO estão disponíveis para outros clientes.

  • NÃO estão disponíveis para a OpenAI.

  • NÃO são usados para melhorar os modelos da OpenAI.

  • NÃO são usados para treinar, re-treinar ou melhorar os modelos base do Azure OpenAI Service.

  • NÃO são usados para melhorar qualquer produto ou serviço da Microsoft ou de terceiros sem a sua permissão ou instrução.

  • Os modelos ajustados do Azure OpenAI estão disponíveis exclusivamente para o seu uso.

O serviço Azure OpenAI é operado pela Microsoft como serviço do Azure; a Microsoft hospeda os modelos da OpenAI no ambiente Azure da Microsoft e o serviço não interage com nenhum serviço operado pela OpenAI (por exemplo, ChatGPT ou a API da OpenAI).

No caso do Assistente conversacional, são utilizadas técnicas de Recuperação e Geração Automática de Respostas (RAG), baseadas em documentação interna desenvolvida pela área de produto, sem incluir em nenhum momento informações ou dados pessoais relacionados aos clientes.

  1. Como funciona exatamente a IA dentro da plataforma e em quais processos é aplicada?

Atualmente, está disponível o Recomendador de Riscos e Controlos, que é aplicado à análise de riscos. Esta funcionalidade é completada com os dados introduzidos pelo cliente de forma anonimizada para obter os riscos e controlos que lhe são aplicáveis.

Adicionalmente, conta-se com um assistente conversacional transversal do GlobalSuite para responder dúvidas sobre o uso da solução e dúvidas sobre questões normativas. Esta funcionalidade é alimentada unicamente por documentação interna do produto.

Outro assistente específico centrado na funcionalidade de Gestor Documental permite selecionar um arquivo do Sistema de Gestão para poder realizar consultas sobre o mesmo, como solicitar um resumo do conteúdo, sugestões de melhoria, comparativa frente a uma normativa, entre outros.

O último assistente atual é o de Compliance, centrado em realizar consultas e melhorias sobre uma normativa previamente carregada no GlobalSuite®, permitindo automatizar a identificação de aplicabilidade de certos requisitos, detetar lacunas de conformidade ou propor ações de melhoria para aumentar o nível de adequação.

  1. De onde a IA do GlobalSuite® obtém a informação ou os dados que utiliza para o seu funcionamento e análise?

É necessário diferenciar o caso de uso de cada uma das funcionalidades disponíveis:

Para o Assistente conversacional, são utilizadas técnicas de Recuperação e Geração Automática de Respostas (RAG) baseadas em documentação interna elaborada pela equipa de produto.

Relativamente ao Recomendador de Riscos e Controlos, a informação ou os dados de contexto são introduzidos manualmente e enviados pelo utilizador de forma controlada. O sistema sugere uma lista de riscos ou controlos que podem ser adicionados à análise sob decisão do utilizador. No entanto, é importante destacar que esses riscos são incorporados à Análise de Riscos e não aos catálogos preexistentes. Desta forma, garante-se uma separação entre ambos os modos de propor riscos e a sua respetiva gestão.

Além disso, o motor para esse Recomendador de Riscos não armazena nem aprende com as interações com os utilizadores. Cada solicitação realizada é processada de forma independente. Desta forma, não existe retroalimentação ou aprendizagem dos dados inseridos pelos utilizadores, e as respostas fornecidas não são influenciadas por consultas anteriores.

Para o assistente do Gestor Documental, a informação de entrada é o documento selecionado pelo utilizador, além das consultas realizadas de forma textual. Esta informação é utilizada para a consulta realizada naquele momento, não sendo armazenada no sistema nem podendo ser explorada no futuro.

No caso do assistente de Compliance, a informação utilizada é a avaliação normativa sobre a qual realizar consultas. De forma concreta, obtêm-se os requisitos, a sua aplicabilidade, nível de conformidade, justificação, controlos associados e não conformidades. A informação é processada e enviada ao aceder ao assistente, e não é utilizada para o seu aprendizado.

  1. Quanto à funcionalidade da IA para a proposta de controlos e riscos, existe algum tipo de limitação na quantidade de consultas que podem ser realizadas ou nos cenários que podem ser avaliados?

Neste momento, foi implementada uma limitação para esta funcionalidade, estabelecendo um máximo de 60 gerações de consultas por empresa por mês.

  1. Quanto à funcionalidade da IA para os assistentes IA conversacionais, existe algum tipo de limitação na quantidade de consultas que podem ser realizadas ou nos cenários que podem ser avaliados?

O serviço está limitado a 1,5M de tokens (quantidade de informação que o motor de IA mede em cada processamento). Esses tokens vão sendo consumidos com base em perguntas e respostas, onde aproximadamente se pode contar com 450 perguntas e respostas. Este método de tokens por pergunta não é um procedimento exato, pelo que dependerá do tamanho das perguntas e do tamanho das respostas.

Para o assistente do Gestor Documental, existe a mesma limitação do serviço de consumo de 1,5M de tokens mensais, que de forma aproximada permite a análise e consulta de entre 100 e 150 documentos de 20 páginas.

E no caso do assistente de Compliance, a limitação mensal de 1,5M de tokens, aplicados tanto nas entradas (perguntas e informação de contexto) quanto nas saídas (resposta do assistente), computam da mesma forma.

  1. O utilizador é informado de forma clara sobre o uso da Inteligência Artificial no GlobalSuite®?

Em virtude do princípio de transparência, comunica-se ao utilizador que toda funcionalidade do GlobalSuite® que faça uso da Inteligência Artificial será informada mediante um aviso específico de uso de IA.
Além disso, esse uso já está regulado nas condições de contratação, onde se estabelece de forma clara e detalhada o alcance e a natureza da sua utilização.