Saltar para o conteúdo

A IA da Mena Não Sai da Europa: Onde Corre e o Que Faz com os Dados das Sessões

  • IA em terapia
  • RGPD
  • proteção de dados
  • EU AI Act
  • documentação clínica
A IA da Mena Não Sai da Europa: Onde Corre e o Que Faz com os Dados das Sessões

Onde corre a IA da Mena, porque é que o áudio das sessões não vai para fornecedores externos de IA e sete perguntas a fazer a qualquer ferramenta de IA clínica.

Em quase todas as demonstrações da Mena, a primeira pergunta sobre IA não é sobre o que ela faz. É sobre para onde vão os dados: "Se eu gravar uma sessão, o áudio vai para a OpenAI?", "Os dados dos meus pacientes ficam nos Estados Unidos?", "Vocês treinam modelos com o que os meus pacientes dizem?".

São as perguntas certas. Um psicólogo é o responsável pelo tratamento dos dados dos seus pacientes, e os dados de saúde mental estão entre os mais sensíveis que existem. Este artigo responde a essas perguntas com o detalhe de como a Mena funciona hoje.

A resposta curta

  • Os modelos de IA correm na nossa infraestrutura, na região Spain Central da Microsoft Azure, na União Europeia. São modelos abertos, alojados por nós.
  • O áudio, as transcrições e as notas não são enviados a fornecedores externos de IA. Não usamos serviços de IA de terceiros para transcrever nem para redigir.
  • Não usamos os dados clínicos para treinar nem afinar modelos.
  • Tudo o que a IA prepara é um rascunho, marcado como tal, que o terapeuta revê, corrige ou apaga.
  • Nada disto acontece sem o consentimento do paciente, que o pode retirar quando quiser.

Porque é que o sítio onde a IA corre importa

A maior parte das ferramentas de IA para profissionais de saúde é construída sobre um modelo de outra empresa. A aplicação envia o áudio ou o texto da sessão para o fornecedor do modelo, recebe o resultado e mostra-o ao utilizador. É uma arquitetura legítima, mas tem consequências para quem é responsável pelos dados:

  • Mais um subcontratante. O fornecedor do modelo passa a tratar dados de saúde dos seus pacientes, e tem de constar do acordo de tratamento de dados.
  • Transferências internacionais. Se esse fornecedor processa os dados fora do Espaço Económico Europeu, há uma transferência internacional que precisa de um fundamento válido ao abrigo do RGPD.
  • Regras de outra empresa. O que acontece aos dados depois do pedido, quanto tempo ficam guardados e quem os pode ver passa a depender também dos termos desse fornecedor.

Explicamos este enquadramento em mais detalhe no guia sobre RGPD e inteligência artificial na prática clínica.

Onde corre a IA da Mena

A Mena funciona na Microsoft Azure, na região Spain Central. A aplicação, a base de dados, o armazenamento de ficheiros e os modelos de IA estão todos nessa região.

A transcrição das sessões, o resumo e o rascunho das notas são feitos por modelos abertos que alojamos e executamos nós próprios, em servidores com placas gráficas dedicadas na mesma região. O áudio de uma sessão não sai da nossa infraestrutura para ser transcrito, e a transcrição não sai para ser resumida.

Até as ferramentas que usamos para medir a qualidade dos rascunhos da IA correm na nossa infraestrutura, em vez de num serviço externo.

Escolhemos este caminho por ser o mais simples de explicar a um psicólogo e o mais fácil de auditar. Também nos obriga a fazer mais trabalho: manter modelos próprios exige mais engenharia do que chamar o modelo de outra empresa.

Como os dados são protegidos

  • Uma chave para cada clínica. Os campos pessoais e clínicos sensíveis são encriptados pela aplicação com AES-256-GCM, com uma chave que pertence a uma única clínica. O texto que a IA prepara sobre uma sessão também é encriptado assim.
  • Encriptação em repouso e em trânsito. A base de dados e o armazenamento, incluindo as gravações, são encriptados em repouso. Todas as ligações usam HTTPS.
  • Sem acesso público. A base de dados e o armazenamento de ficheiros não estão expostos à internet. Só a aplicação lhes chega, por ligações privadas.
  • Acessos registados. As visualizações e exportações de fichas de pacientes ficam num registo de atividade.
  • Autenticação de dois fatores. Qualquer utilizador a pode ativar, e a clínica pode exigi-la a toda a equipa.

Os pormenores estão na nossa página de segurança.

O que a IA faz, e o que fica sempre nas mãos do terapeuta

Com o consentimento do paciente, a IA da Mena transcreve a sessão, prepara um resumo e escreve um rascunho de notas clínicas segundo o modelo de nota do terapeuta. No plano Inteligente, o rascunho pode incluir sugestões de emoções e de distorções cognitivas, cada uma com a frase da conversa em que se baseia. São um vocabulário de apoio à escrita da nota, não uma conclusão clínica.

O terapeuta revê tudo:

  • O conteúdo preparado pela IA aparece marcado como gerado por IA, com um aviso de que pode conter erros ou omissões.
  • A sessão fica com revisão clínica pendente até o terapeuta terminar a revisão.
  • As notas podem ser editadas ou apagadas, e a transcrição pode ser corrigida ouvindo o áudio.
  • Cada sugestão pode ser confirmada ou corrigida, com o motivo. O que o terapeuta corrige sai do registo do paciente e a correção fica registada.

A IA não decide nada. A decisão clínica é sempre do terapeuta.

O Assistente da Receção, que ajuda o secretariado a marcar consultas, não tem acesso a registos clínicos. Trabalha só com a agenda, e nada fica marcado sem aprovação.

Pensámos a plataforma para os deveres de transparência e de supervisão humana do Regulamento Europeu da IA: o conteúdo gerado por IA está sempre identificado e é pensado para ser revisto por um profissional. Escrevemos sobre o que o regulamento significa para a prática clínica em EU AI Act: o que significa para psicólogos em Portugal.

O consentimento do paciente

A Mena separa o que o paciente autoriza em consentimentos distintos, e cada um é dado a um terapeuta em concreto:

ConsentimentoO que permite
Gravação de sessõesGravar a sessão, em áudio ou vídeo, presencial ou online.
Assistência administrativa por IATranscrição, resumo e o assistente da Mena sobre o paciente.
Apoio clínico por IATranscrição, rascunho das notas clínicas e as sugestões de emoções e distorções.

Sem consentimento de gravação, a Mena não deixa gravar. Sem consentimento de IA, a gravação fica guardada mas não é transcrita.

O paciente vê os pedidos na aplicação e pode aceitar, recusar ou, mais tarde, retirar cada consentimento. Recusar não afeta a terapia: só desliga as funcionalidades que dependem desse consentimento.

E gravar é opcional. Muitos terapeutas usam a Mena sem gravar nenhuma sessão, escrevendo as notas à mão ou no teclado.

Treino de modelos e investigação

Os dados clínicos dos seus pacientes não são usados para treinar nem afinar modelos de IA. Os modelos não guardam o que processam.

A investigação é um caso à parte e funciona de forma diferente. Só pode usar dados de um paciente se ele der um consentimento de investigação próprio, separado de todos os outros e totalmente voluntário. Nesse caso:

  • a transcrição é pseudonimizada antes de sair do circuito clínico: os nomes e outros dados que identificam pessoas e lugares são substituídos;
  • os dados de menores ficam de fora;
  • se o paciente retirar o consentimento, os seus dados usados em investigação são apagados.

O que ainda não temos

A Mena não tem, hoje, nenhuma certificação de segurança como a ISO 27001 ou a SOC 2. Preferimos dizê-lo claramente. A nossa página de segurança descreve os controlos que estão em vigor, e o nosso acordo de tratamento de dados, ao abrigo do artigo 28.º do RGPD, define os nossos compromissos. Está disponível para clientes e para clínicas que estejam a avaliar a Mena.


Sete perguntas a fazer a qualquer ferramenta de IA clínica

Use esta lista com a Mena ou com qualquer outro fornecedor:

  1. Onde corre o modelo de IA? Em que país e em que infraestrutura?
  2. Os dados das sessões são enviados a outra empresa de IA? Se sim, a qual, e ela consta da lista de subcontratantes?
  3. Os meus dados são usados para treinar ou melhorar modelos? A resposta está no contrato ou só numa página do site?
  4. O conteúdo gerado por IA fica identificado como tal?
  5. Posso rever, corrigir e apagar tudo o que a IA prepara?
  6. O paciente dá consentimentos separados para a gravação e para a IA, e pode retirá-los?
  7. Existe um acordo de tratamento de dados ao abrigo do artigo 28.º do RGPD?

Se alguma resposta for vaga, peça-a por escrito.

Se quiser ver como a Mena responde a cada uma na prática, marque uma demonstração.

Veja a Mena no seu próprio consultório

Marque uma demonstração breve e mostramos como a Mena se adapta à forma como já trabalha.