OpenAI apenas anunciado Modo de bloqueio. Lembra do bloqueio? É assim, mas com um chatbot de IA.
Na verdade, é apresentado como uma forma de protegê-lo contra ataques de injeção imediata – um novo tipo insidioso de atividade de spammer centrada em IA que às vezes se qualifica como hacking whole. Ao incorporar instruções maliciosas em conteúdo despejado em um immediate ou encontrado por um agente de IA, os invasores podem ter a capacidade não apenas de roubar dados, mas de usá-los para tentar e assumir o controle da vida de um usuário.
O Modo Lockdown, então, é uma experiência simplificada, como o nome sugere. Não é um bloqueio acionado automaticamente pelo perigo, mas uma espécie de sala de pânico em que você entra quando usa o ChatGPT se o que você está fazendo é tão delicado que um ataque de injeção imediato pode ser especialmente prejudicial.
Essencialmente, sempre que o LLM rompe a contenção da pequena janela do chatbot em seu navegador ou aplicativo de smartphone e sai para navegar na Web em busca de informações, ou recupera uma imagem, ou – provavelmente nem é preciso dizer – tenta comprar uma passagem aérea em seu nome, isso expõe você ao perigo de um ataque de injeção imediato, então o modo de bloqueio desativa esses recursos.
O modo de bloqueio significa que o ChatGPT não pode:
- navegar na net
- exibir imagens nas respostas (mas pode gerar imagens e você pode fazer add de imagens)
- faça “pesquisa profunda”
- funcionar como agente
- rede com o gerador de código Canvas
- baixar arquivos
Como diz a OpenAI:
“O modo de bloqueio é não destinado a todos. Ele foi projetado para pessoas e organizações que lidam com dados confidenciais e desejam proteção mais rigorosa contra riscos de exfiltração de dados relacionados à injeção imediata.”
Ainda é o começo dos chatbots de IA e o ChatGPT está criando um modo destinado a evitar o roubo de dados. Isso é razoável, suponho. Ainda assim, é enervante imaginar, digamos, advogados despejando informações confidenciais de clientes no ChatGPT, ou médicos carregando dados de saúde de seus pacientes em seu LLM favorito. Existe um “modo de bloqueio” alternativo ainda mais seguro para manter dados confidenciais protegidos contra ataques de injeção imediata: não deixe dados confidenciais perto de um chatbot.
