Numa época em que o conservadorismo do Vale do Silício é expresso abertamente e se torna mais intenso a cada dia, é estranho pensar que a tecnologia já foi vista como uma colmeia de liberalismo. A natureza direitista da indústria tecnológica atual significa que os seus produtos também tendem a ser vistos como servindo os interesses da direita, quer no seu funcionamento actual (como o chatbot de direita aberta e impenitente de X, Grok) ou pelo simples facto de a sua existência servir para enriquecer um pequeno grupo de pessoas muito poderosas e muito conservadoras.
Mas tem que ser assim? Os LLMs e os agentes de IA podem encontrar um lugar no package de ferramentas de grupos ativistas progressistas? A convicção de que podem é a ideia por trás de um novo aplicativo chamado Clamorque fornece um chatbot projetado especificamente como um “mentor privado de IA no dispositivo para ativistas, organizadores e criadores de movimentos”. (Há também um versão webembora obviamente não tenha os benefícios de privacidade de estar totalmente offline.) É ideia do co-criador do Occupy Wall Road, Micah White, que recentemente escreveu um postagem no blog sobre o pensamento por trás do projeto.
Na verdade, esta é uma ideia fascinante. Certamente não é a única maneira pela qual os grupos ativistas estão alavancando os próprios produtos da Massive Tech contra ela. Reportámos no mês passado sobre as formas como os habitantes locais estão a utilizar LLMs para ajudar nas suas campanhas contra a construção de centros de dados. Mas é o primeiro exemplo que conheço em que um LLM foi concebido especificamente para uso de activistas de esquerda. Além disso, é também um exemplo de uso cada vez mais comum para LLMs – como consultores especializados.
Em última análise, LLMs são bancos de dados: eles são uma maneira sofisticada e em linguagem pure de consultar grandes conjuntos de dados em busca das informações que você deseja. Chatbots generalistas como o ChatGPT são treinados em praticamente tudo e qualquer coisa. Em teoria, isso significa que você pode perguntar a eles sobre cromodinâmica quântica com a mesma facilidade com que pode pedir conselhos sobre como assar um frango. Na prática, cria um enorme problema em distinguir informação fiável de absurda, porque, caso contrário, não há nada que possa distinguir um estudo revisto por pares sobre a eficácia das vacinas mRNA de um grupo de cozinheiros num grupo do Fb que torcem as mãos sobre como a vacina contra a Covid lhes causou a doença de Morgellon, ou algo assim.
No entanto, se você restringir os dados de treinamento a um determinado assunto e a fontes escolhidas especificamente por sua confiabilidade e relevância, poderá criar algo como o Outcry: um chatbot especializado que você sabe que foi treinado com dados de alta qualidade. Isso não quer dizer que o aplicativo não possa cometer erros – a natureza dos LLMs é que eles tentarão agrupar vários dados em um resultado coerente e de linguagem pure e, como em última análise, dependem de seus parâmetros de ponderação internos e algoritmos de reconhecimento de padrões, às vezes o resultado que eles apresentam será impreciso. (Isso é diferente do problema dos LLMs gerarem espontaneamente informações falsas, comumente referidas – inexplicavelmente e irritantemente – como “alucinantes”.)
Esta certamente não é a primeira aplicação desta ideia. Period relatado no início deste mês, cerca de dois terços dos médicos pedem conselhos a um LLM médico especializado chamado OpenEvidence para fazer diagnósticos. Isso não é necessariamente uma coisa ruim; os médicos certamente pesquisaram coisas no Google antes do advento dos LLMs. Na verdade, depende apenas de onde eles estão perguntando e se estão verificando as respostas que recebem para ter certeza de que estão factualmente corretas. (Dito isto, se você consultar seu médico perguntando ao ChatGPT sobre seus sintomas, provavelmente deverá procurar um novo médico.)
A outra característica distintiva do Outcry é que seu conjunto de dados é totalmente offline – está incluído no obtain. De acordo com o leia-me, todo o conjunto de dados é baixado para o seu dispositivo na primeira inicialização e armazenado no diretório Software Assist da sua biblioteca. Achei que seria interessante dar uma olhada nos dados, mas apesar de todo tipo de pesquisa e pesquisa na biblioteca do usuário e na biblioteca principal do computador, não consegui encontrar o arquivo em questão. Também não parece estar no pacote de obtain, apesar do pesado obtain de 3 GB. (Perguntar ao chatbot onde seus dados estavam armazenados também não me levou a lugar nenhum.)
Está claramente em algum lugar, porque o próprio aplicativo é claro sobre sua natureza offline.
Então, com tudo isso dito, como o Outcry se sai em seu papel de mentor organizador? Eu diria que suas informações são de alto nível e gerais, até porque sua natureza offline o impede de acessar detalhes específicos não contidos em seu banco de dados. Veja, por exemplo, a resposta sobre grupos locais anti-ICE em Nova York:
Dito isso, com um pouco de estímulo ele irá sugerir ações concretas que você pode realizar e, às vezes, fazê-lo imediatamente:
De acordo com White, o aplicativo Outcry é “imperfeito” e ele está pedindo aos ativistas que o testem e informem o que funciona para que possam melhorá-lo.
Então o clamor é bom? No geral, eu diria “sim”. Este aplicativo tem potencial para ser um recurso realmente valioso, especialmente para pessoas que estão apenas começando a se envolver com o ativismo e realmente não sabem por onde começar – e superar esse primeiro passo pode ser difícil.
