Como o Muse lida com sua privacidade e segurança

Atualização:há 8 semanas

Criamos o Muse para que ele tenha diversas camadas de privacidade e proteções de segurança. Nenhum sistema automatizado é perfeito. Por isso, analise a atividade do Muse e conceda apenas o acesso que você considera seguro.

Seus dados no Muse

O Muse é executado em um ambiente na nuvem chamado máquina virtual (“VM”). Esse é o ambiente central onde o Muse mantém as informações que você compartilha e as coisas que cria juntos. A Muse também mantém backups para ajudar a proteger o histórico do seu agente contra a perda de dados. A VM de cada usuário do Muse é isolada para que nenhum outro agente possa acessá-la.

No futuro, os usuários do Muse também terão a opção de usar uma VM confidencial do Muse: um ambiente que estamos desenvolvendo para manter as informações privadas das pessoas, mesmo da Meta.

Muse e anúncios da Meta

O Muse não compartilha suas conversas ou os dados na sua máquina virtual com os sistemas de anúncios da Meta. Isso se aplica mesmo que sua Central de Contas inclua outros Produtos da Meta.

Como a Muse mantém os logins seguros

Quando você conecta um app ou serviço, as credenciais como nomes de usuário e senhas são armazenadas em um armazenamento de credenciais seguro. O Muse pode usar o armazenamento de credenciais seguro para concluir uma ação autorizada sem que o modelo de IA veja sua senha. Antes de a Muse usar suas credenciais, a solicitação passa por verificações para confirmar que:

  • O Muse está se conectando ao serviço pretendido
  • Você conectou ou autorizou o serviço
  • Você concedeu permissão ao Muse para executar esse tipo de ação

Proteção contra instruções maliciosas

Sites, emails, arquivos e serviços conectados podem conter instruções para manipular um agente de IA. Às vezes, isso é chamado de ataque de injeção de prompt. O Muse usa várias proteções para ajudar a detectar e resistir a essas tentativas. Eles incluem treinamento de modelos, sistemas de detecção automatizados e limites nas informações e serviços que o Muse pode acessar durante uma tarefa. As verificações importantes de permissão e segurança operam separadamente do modelo de IA. Isso significa que elas não dependem apenas do reconhecimento da Muse de que uma instrução pode ser maliciosa.

Aprimoramento de nossos modelos de IA

Você decide se podemos usar suas interações com o Muse para desenvolver e melhorar nossos modelos de IA. Essa configuração é ativada quando você usa o Muse pela primeira vez. Você pode alterá-la quando quiser usando o botão Configurações, na opção Controles de dados. Quando a configuração estiver desativada, suas interações com o Muse não serão usadas para desenvolver e melhorar a IA na Meta. As alterações nesta configuração também se aplicam a interações anteriores.

Ao permitir o uso das suas interações no treinamento, você nos ajuda a criar modelos mais inteligentes e capazes. Se você permitir isso, removeremos determinadas categorias de informações de identificação pessoal, como nomes, endereços de email, telefones e Números de Seguridade Social. Também desassociamos as interações da sua conta.

Você controla os apps e serviços conectados

Você pode conectar o Muse a apps e serviços fornecidos pela Meta ou por terceiros. Nós os chamamos de conectores. Quando você configura um conector, o Muse recebe novas habilidades, como a capacidade de ver o seu calendário ou escrever um email.

Desenvolvemos o Muse para trocar com os Conectores apenas os dados necessários para que eles trabalhem para você. Por exemplo, conectar seu email permite que o Muse pesquise seu email, mas não baixará sua caixa de entrada inteira (a menos que você deseje). Alguns conectores também podem compartilhar informações proativamente com a Muse. Por exemplo, os conectores de calendário podem atualizar o Muse automaticamente quando há mudanças na sua agenda. Identificamos os conectores que fazem isso antes de você os conectar.

Saiba mais sobre os conectores e como gerenciá-los.

Permissões para ações importantes

O Muse foi criado para solicitar sua confirmação antes de realizar determinadas ações importantes, como enviar um email ou fazer uma compra. Quando o Muse solicitar permissão, você poderá analisar a ação proposta antes de permiti-la ou recusá-la. Os requisitos de permissão podem variar dependendo da ação, do conector e das permissões padrão selecionadas.

Muitas dessas verificações de aprovação são aplicadas fora do modelo de IA. Por isso, elas não dependem apenas do Muse decidir se deve fazer uma pergunta. Você também pode analisar a atividade do Muse a qualquer momento. Saiba mais sobre como o Muse trabalha com sua orientação e aprovação.

Padrões de segurança

O Muse foi criado de acordo com um conjunto de padrões de segurança que regem o que ele diz e o que ele faz. Por exemplo, esses padrões foram criados para impedir que o Muse:

  • Produzir conteúdo prejudicial ou ilegal
  • Ajudar em atividades ilegais, como fraudes, golpes ou obtenção de produtos ilícitos
  • Tomar medidas que possam causar danos a você ou a outras pessoas
  • Sexualizar menores ou facilitar danos a eles

Como excluir e esquecer os dados do Muse

Você pode excluir qualquer mensagem enviada para a Muse, bate-papos paralelos com a Muse e arquivos na sua máquina virtual. Se quiser começar do zero, é possível redefinir o Muse, o que exclui todos os seus dados do Muse.

Depois de excluir algo do Muse, ele ainda poderá se lembrar das informações que aprendeu com o que você excluiu. Você também pode usar a habilidade de esquecer. Basta pedir à Muse para esquecer um tópico ou conjunto de interações. O esquecimento funciona pedindo à Muse que procure informações sobre uma pessoa, tópico ou assunto específico nas suas memórias e arquivos de suporte e as remova da melhor forma possível. Você pode descobrir o que o Muse lembra sobre você a qualquer momento perguntando diretamente ou visualizando arquivos como seu MEMORY.md.

Relatar um problema

Se o seu Muse fizer algo inesperado ou preocupante, você poderá denunciar para que nossa equipe investigue e aumente a segurança. Para relatar um bug:

  • Na web:
    • Clique em Configurações no canto inferior esquerdo e selecione Relatar um problema.
  • No app:
    • Agite o telefone para abrir a folha de denúncia, selecione Enviar uma denúncia e preencha o formulário. Depois, selecione Enviar.
    • Você também pode abrir a aba Conversa e tocar no ícone de menu no canto superior esquerdo. Em seguida, toque em Configurações e selecione Relatar um problema.

As denúncias nos ajudam a identificar e resolver bugs e comportamentos preocupantes.

Compartilhar

Este artigo foi útil?

Sim
Não