Três visionários da tecnologia sobre como construir confiança e responsabilidade com IA

Siga ZDNET: Adicione-nos como fonte preferencial no Google.

Principais conclusões da ZDNET

• Projetar relacionamentos saudáveis ​​entre humanos e IA exigirá a formalização de práticas comerciais.
• O futuro do trabalho são os humanos e as IAs como colegas, co-criando valor.
• A governação da IA ​​agente deve clarificar a responsabilidade e a responsabilização partilhadas.

Primeiro, Dr.um dos cocriadores da Web, observa que, com a IA, “parece que encontramos uma nova forma de vida e estamos tentando descobrir como ela pensa”. É importante notar que nossas relações profissionais e comerciais com IA podem ser diferentes das relações humanas.

Segundo, Dr.um líder tecnológico com sucesso em ambientes desafiadores, incluindo a resposta ao 11 de setembro, o Anthrax em 2001 e a modernização da FCC, recomenda que “Talvez em vez de chamá-lo de inteligência synthetic, devêssemos chamá-lo de interações alienígenas. Porque dessa forma não tentaremos antropomorfizar a máquina.”

Além disso: passar de pilotos de IA para valor em todo o negócio requer uma superestrada – como acelerar

Estas duas observações, tomadas em conjunto, sugerem que a forma como abordamos a IA determinará quais as empresas que terão sucesso no futuro.

E terceiro, Cheryl Strauss Einhornjornalista investigativo premiado, fundador e CEO da Decisive, uma empresa de ciências da decisão, enfatiza que “Quando o martelo cai, ele cai sobre nós. A IA não se importa. Seremos todos nós que teremos que explicar e teremos que arcar com as consequências.” É um apelo claro e convincente para reconhecer que a forma como abordamos as relações com a IA é essencial para determinar o sucesso dos negócios,

Cumulativamente, estes três especialistas enfatizam que a natureza da forma como trabalhamos com IA e o trabalho em que envolvemos a IA determinarão o sucesso particular person e empresarial na próxima década. Para CEOs, conselhos de administração e decisores políticos seniores, é essencial um bom discernimento humano para decidir se e quando confiar ou não nos resultados de uma IA.

Recentemente, R “Ray” Wang da Constellation Analysis e tive a oportunidade de apresentar Vint, David e Cheryl em nosso podcast semanal, DisrupTV. As conversas rápidas, mas extremamente matizadas, centraram-se na razão pela qual precisamos de evitar confusão entre as instruções dadas pelos humanos a uma IA (bem como a IA a outra IA), como discernimos se devemos confiar nos resultados de uma IA, e quem responsabilizar se uma IA fizer algo incorrecto ou prejudicial.

Evitar confusão nas instruções da IA ​​é essencial

Vint forneceu a salva inicial de por que precisamos pensar proativamente sobre como evitar confusão nas instruções dadas por um humano ou IA a outra IA, observando: “O grande problema que me preocupa são os agentes conversando entre si usando linguagem pure. Não precisamos que os agentes se entendam mal e executem na velocidade da luz em comparação com a velocidade humana.”

Tendo vivido a origem da Web desde a ARPANet unique até à nossa rede world moderna, Vint sublinhou o risco de que tanto os programas de computador determinísticos como a IA mais generativa possam fazer coisas não pretendidas, especificamente: “Os programas, pelo menos os determinísticos, fazem o que lhes dizemos para fazer. O problema é que, por vezes, o que lhes dizemos para fazer não é o que queríamos que fizessem. É chamado de bug.”

Além disso: o negócio autônomo está chegando. Veja por que essa mudança é uma boa notícia para os profissionais

Com base nos comentários de Vint, David observou: “Eu defino governança como a forma como evitamos a anarquia. Precisamos ter proteção contra a anarquia, não apenas para os humanos, mas para os agentes”. Tendo anteriormente liderado mudanças positivas em ambientes turbulentos e muitas vezes caóticos, incluindo trabalho com a comunidade de inteligência dos EUA, David também forneceu uma imagem visible adequada da situação. “É uma espécie de repetição de 1910. Ainda não havíamos inventado os semáforos. Nem tínhamos descoberto sinais de parada, prioridade de passagem ou calçadas.” Na década de 1910, tanto Nova Iorque como Chicago tinham ruas com bondes circulando ao lado de automóveis pessoais, pedestres humanos e cavalos, semelhantes às empresas modernas com diferentes modelos de IA baseados em nuvem, modelos locais de IA, usuários humanos e outras ferramentas de software program analítico, todos presentes juntos.

Cheryl nos lembrou da importância de conhecer a forma padrão de compreender o mundo. “Cada um de nós tem um molho especial. É a forma como tomamos decisões. E a maioria de nós não tem consciência do que é isso.” Para evitar mal-entendidos ao solicitar uma IA, é essential compreender o nosso próprio “molho especial”. Como o autor de “The Human Edge: decisões mais inteligentes na era da IA” Cheryl elaborou: “Se você vai liderar a máquina, o que você realmente precisa fazer é gastar mais tempo investigando seu molho especial… para que, em vez de lhe dar as respostas de outra pessoa… ele possa realmente funcionar especificamente para você.”

Como podemos discernir se devemos confiar nos resultados da IA?

Elaborando sua observação de que “estamos tentando descobrir como ele pensa”, Vint observou: “Vejo estes como um novo conjunto de trabalhadores com os quais podemos nos relacionar. Parece-me muito um agente de pesquisa muito inteligente.” Para Vint, que presidiu a coligação Folks Centered Web entre 2017 e 2020, esta declaração demonstra o seu reconhecimento de que a IA pode ser considerada mais do que uma ferramenta, potencialmente um colega digital capaz de aumentar as capacidades de investigação de um projecto. Esta observação importante destaca que, para o futuro do trabalho, é importante incentivar e orientar os trabalhadores (incluindo os agentes de IA que trabalham com trabalhadores humanos).

Além disso: trate seus agentes de IA como estagiários humanos ansiosos, mas equivocados – antes de perder o controle

David inspirou-se no seu tempo de trabalho com a comunidade de inteligência e com a FCC, observando que quando se trata de discernir se devemos confiar nos resultados de uma IA: “Uma resposta saudável para as sociedades nestes tempos é cada vez mais não confiar na primeira coisa que vê, a menos que a triangule… É isso que a CIA faz.” Para David, esta mensagem está próxima de sua própria carreira profissional, já que certa vez ele suportou um grande número de comentários gerados por bots inundando um sistema de comentários públicos com a exigência de registrar todos os 23 milhões de comentários enviados, independentemente de quem, bot humano ou digitalestava postando. Para as empresas que enfrentam o futuro dos agentes de IA, saber quando os agentes agregam valor às interações com clientes será essential. A experiência de David liderando uma equipe de TI que manteve o sistema funcionando para comentários humanos em meio à inundação é um bom lembrete de que os agentes de IA podem amplificar e potencialmente interromper e obscurecer as vozes humanas.

Cheryl também enfatizou a importância de entrar na varanda metafórica e reconhecer que a IA é muito mais do que uma capacidade digital. “Este não é apenas um software program novo. Na verdade, é uma mudança cultural… sobre resolução de problemas.” Os comentários de Cheryl basearam-se no que Vint e David partilharam sobre a importância do discernimento e julgamento humanos sólidos na decisão de confiar nos resultados da IA ​​para a resolução de problemas em negócios, comunidades e empresas. Cada uma das suas observações especializadas sublinha a importância do bom discernimento humano e da boa química entre os humanos e a IA para distinguir as relações produtivas da IA ​​daquelas que são inúteis.

Quem responsabilizamos se uma IA fizer algo incorreto?

Para a tríade ultimate de relacionamentos bem-sucedidos entre humanos e IA, Vint, David e Cheryl abordaram a questão-chave da responsabilidade no caso de algo dar errado.

Cheryl compartilhou um contraste visible nos estilos de uso da IA: “Existem realmente duas maneiras diferentes pelas quais as pessoas usam a IA – o cirurgião e o motorista da Lamborghini. Quando vamos para a IA, queremos uma resposta específica… estamos usando-a como o cirurgião.” Existem riscos de um cirurgião cometer um erro, e também existem riscos de um cirurgião fazer tudo certo e ainda assim ter resultados adversos para seu paciente.

Para o outro uso da IA, Cheryl continuou: “Há outros momentos… você tem uma decisão realmente arriscada e deseja passar por um processo. Nesse ponto, você é o piloto da Lamborghini.” Neste segundo caso de uso de IA semelhante à condução de um carro de corrida de alto desempenho, a habilidade em navegar em curvas apertadas e conhecer as capacidades, bem como os limites do motor de IA, são essenciais para evitar o equivalente a acidentes de carro de IA.

Além disso: Construindo uma estratégia de IA agente que compensa – sem correr o risco de fracasso nos negócios

Além disso, David compartilhou uma lição aprendida com embarcações marítimas sinalizadas: “De quem é a bandeira que este agente de IA está hasteando quando está fazendo algo? De quem é a organização que ele está hasteando a bandeira?” Neste exemplo, a organização, se empregar um agente de IA, também assume a responsabilidade pelo agente, desde que sejam fornecidas boas instruções. Ele também observou que discernir os dados produzidos de forma não sintética se tornará cada vez mais desafiador no futuro próximo. “Até 2030, mais de 40% da informação no planeta terá sido produzida sinteticamente por uma IA… isso irá criar enormes questões para CEOs e conselhos de administração.”

E, finalmente, Vint observou que indivíduos e organizações precisam de recursos se algo der errado. “Estabelecer um modo de recurso em diversas circunstâncias pode ser um benefício muito grande e talvez até uma necessidade.” Como principal evangelista do Google, Vint tem incentivado tais abordagens à IA, e tanto Vint quanto David reconheceram que empresas como Salesforce, Google e outras estavam adotando abordagens benevolentes semelhantes à IA no native de trabalho e nos ambientes dos clientes.

Vint também se baseou na preocupação que ele e David compartilharam sobre o desafio crescente no que deveria ser rotulado como informação gerada por IA versus informação de um ser humano actual ou de fontes com curadoria humana, observando que “perder o acesso à informação digital é um problema sério”. Para Vint, isso inclui o risco de perder software program para interpretar os dados, bem como a origem dos dados.

Principais conclusões para CEOs e conselhos

A advertência de Vint de que “não precisamos que os agentes se entendam mal e executem na velocidade da luz em comparação com a velocidade humana” destaca que as relações que nós, como humanos, temos ao envolver a IA, bem como as relações que a IA envolve entre si, determinarão resultados bem-sucedidos. Juntos, Vint, David e Cheryl destacaram três pontos principais:

1. Há necessidades claras de garantir que as instruções dadas à IA generativa sejam claras, precisas e não tenham consequências indesejadas. A imagem visible das ruas de Nova Iorque e Chicago na década de 1910, com bondes na mesma estrada que automóveis pessoais, pedestres humanos e cavalos, sem sinais de parada, um direito de passagem claro ou calçadas, aplica-se à nossa period atual.
2. O bom julgamento humano é cada vez mais essencial para discernir se devemos confiar nos resultados de uma IA, e está cada vez mais difícil distinguir entre conteúdo gerado por humanos e conteúdo gerado por IA. Uma boa química entre humanos e IA ajuda a distinguir relações produtivas de IA daquelas que são inúteis.
3. Trabalhar para desenvolver clareza, bem como recursos individuais e organizacionais, caso uma IA faça algo incorretamente, será importante para melhorar as relações entre humanos e IA dentro e entre empresas. Haverá diferentes contextos onde os humanos interagirão com a IA; alguns estarão mais focados em buscar uma resposta específica, enquanto outros estarão vinculados a dirigir um carro de corrida de alto desempenho em curvas fechadas em alta velocidade.

Além disso: por que os tokens de IA enviarão sua conta de nuvem corporativa às alturas novamente

Os três especialistas também enfatizaram que as empresas, comunidades e países bem-sucedidos empregariam a “IA no grupo”, reconhecendo a interação em rede entre os seres humanos e a IA para incluir relações baseadas na intenção e na responsabilização. Tanto Vint quanto David também enfatizaram que precisávamos ir além do Turning Take a look at, focando na IA que amplifica as habilidades humanas individuais e coletivas e nos ajuda a melhorar nossos pontos fortes.

Este artigo foi coautorado por Dr.diretor e CEO da LeadDoAdapt (LDA) Ventures, presidente do Accelerator e bolsista ilustre do Stimson Middle.