blog

Mar 17, 2024

Nervoso com o ChatGPT? Experimente ChatGPT com um martelo

Bruce Schneier Nathan Sanders Em março passado, apenas duas semanas após o lançamento do GPT-4, pesquisadores da Microsoft anunciaram discretamente um plano para compilar milhões de APIs – ferramentas que podem fazer tudo, desde

Bruce Schneier Nathan Sanders

Em março passado, apenas duas semanas após o lançamento do GPT-4, pesquisadores da Microsoft anunciaram discretamente um plano para compilar milhões de APIs – ferramentas que podem fazer tudo, desde pedir uma pizza até resolver equações físicas e controlar a TV na sua sala de estar – em um compêndio que seria tornado acessível a grandes modelos de linguagem (LLMs). Este foi apenas um marco na corrida entre a indústria e a academia para encontrar as melhores maneiras de ensinar aos LLMs como manipular ferramentas, o que aumentaria o potencial da IA ​​mais do que qualquer um dos avanços impressionantes que vimos até agora.

O projeto da Microsoft visa ensinar à IA como usar toda e qualquer ferramenta digital de uma só vez, uma abordagem inteligente e eficiente. Hoje, os LLMs podem fazer um bom trabalho recomendando coberturas de pizza para você se você descrever suas preferências alimentares e puderem redigir um diálogo que você pode usar quando ligar para o restaurante. Mas a maioria das ferramentas de IA não consegue fazer o pedido, nem mesmo online. Em contraste, a ferramenta Assistente do Google, criada há sete anos, pode sintetizar uma voz ao telefone e preencher um formulário de pedido on-line, mas não pode escolher um restaurante ou adivinhar seu pedido. Ao combinar esses recursos, porém, uma IA que usa ferramentas poderia fazer tudo. Um LLM com acesso às suas conversas anteriores e ferramentas como calculadoras de calorias, um banco de dados de cardápio de restaurante e sua carteira de pagamento digital poderia julgar de forma viável que você está tentando perder peso e deseja uma opção de baixa caloria, encontre o restaurante mais próximo com coberturas que você gosta e faça o pedido de entrega. Se ele tiver acesso ao seu histórico de pagamentos, poderá até adivinhar o quanto você costuma dar gorjetas generosas. Se tiver acesso aos sensores do seu smartwatch ou monitor de fitness, poderá detectar quando o açúcar no sangue está baixo e pedir a torta antes mesmo de você perceber que está com fome.

Nathan Sanders é um cientista de dados afiliado ao Berkman Klein Center da Universidade de Harvard. Ele escreve extensivamente sobre os efeitos da IA ​​na democracia.

Bruce Schneier é um tecnólogo de segurança. Ele escreveu mais de uma dúzia de livros, incluindo “A mente de um hacker: como os ricos e poderosos dobram as regras da sociedade e como dobrá-las”. Ele leciona na Harvard Kennedy School e mora em Massachusetts.

Talvez as aplicações potenciais mais atraentes do uso de ferramentas sejam aquelas que dão às IAs a capacidade de se aprimorarem. Suponha, por exemplo, que você pediu ajuda a um chatbot para interpretar alguma faceta da antiga lei romana que ninguém havia pensado em incluir exemplos no treinamento original do modelo. Um LLM com poderes para pesquisar bases de dados académicas e desencadear o seu próprio processo de formação poderia afinar a sua compreensão do direito romano antes de responder. O acesso a ferramentas especializadas poderia até ajudar um modelo como este a explicar-se melhor. Embora LLMs como o GPT-4 já façam um bom trabalho ao explicar seu raciocínio quando questionados, essas explicações emergem de uma “caixa preta” e são vulneráveis ​​a erros e alucinações. Mas um LLM que utilize ferramentas poderia dissecar os seus próprios aspectos internos, oferecendo avaliações empíricas do seu próprio raciocínio e explicações determinísticas sobre a razão pela qual produziu a resposta que produziu.

Se tiver acesso a ferramentas para solicitar feedback humano, um LLM que utilize ferramentas poderá até gerar conhecimento especializado que ainda não foi capturado na web. Poderia postar uma pergunta no Reddit ou Quora ou delegar uma tarefa a um humano no Mechanical Turk da Amazon. Poderia até procurar dados sobre as preferências humanas através de inquéritos, quer para fornecer uma resposta diretamente a si, quer para aperfeiçoar a sua própria formação para poder responder melhor a perguntas no futuro. Com o tempo, as IAs que usam ferramentas podem começar a se parecer muito com humanos que usam ferramentas. Um LLM pode gerar código muito mais rápido do que qualquer programador humano, podendo manipular os sistemas e serviços do seu computador com facilidade. Ele também pode usar o teclado e o cursor do seu computador da mesma forma que uma pessoa faria, permitindo usar qualquer programa que você fizer. E poderia melhorar as suas próprias capacidades, utilizando ferramentas para fazer perguntas, realizar pesquisas e escrever código para incorporar em si mesmo.