Dando continuidade a entrevista sobre IA com o Professor Marcos Telles, aqui abordo o tema Palantir, uma das mais poderosas plataformas de IA, que teve sua notoriedade estabelecida por ter sido contratada pelo Governo Americano para conciliar os dados das suas diversas agências de segurança e evitar um novo 11/09 que ceifou a vida de mais de três mil pessoas.
Entrevisto desta vez o Leandro Monteiro, notável especialista em Ontologia e Palantir, VP da ADVB, CEO da Clubbrain, Chairman da Virtual Fans e Head of Sales América da Volis, empresa especializada em Palantir.
Inicialmente, gostaria de apresentar algumas dúvidas remanescentes sobre IA que tenho acumulado depois da entrevista realizada com o Professor Marcos Telles.
Quando a IA se igualar à inteligência humana, vai se igualar também aos sentimentos? Uma IA poderá achar graça e rir?
Não devemos cometer o equívoco de atribuir características humanas às IAs por mais competentes que sejam
Não necessariamente. Existe uma diferença importante entre simular um comportamento humano e experimentar aquilo que um ser humano experimenta.
Uma inteligência artificial pode aprender perfeitamente os padrões associados ao humor. Pode compreender a estrutura de uma piada, identificar ironia, produzir algo genuinamente engraçado e até responder dizendo que achou graça. Mas isso não significa que ela tenha experimentado o sentimento que nós chamamos de humor.
Esse talvez seja um dos maiores equívocos que teremos de enfrentar nos próximos anos: quanto mais competente a IA se torna na linguagem, mais somos levados a atribuir características humanas a ela.
As plataformas de Inteligência Artificial que consolam pessoas, são solidárias em momentos difíceis ou dão conselhos, são apenas máquinas programadas para isso. Não têm nenhum sentimento de solidariedade ou compaixão.
Inteligência e consciência não são necessariamente a mesma coisa. Podemos construir máquinas extraordinariamente inteligentes sem que exista qualquer evidência de que elas tenham uma experiência subjetiva do mundo. Portanto, uma IA pode contar uma piada melhor do que nós e outra IA pode responder perfeitamente a ela. A questão filosófica permanece: houve realmente alguém ali achando graça?
Existe algo parecido com as três leis de Asimov para impedir que a IA prejudique seres humanos?
A evolução da IA exigirá sistemas de governança cada vez mais sofisticados
Não existe uma versão real e universal das três leis de Asimov. O que existe é uma combinação muito mais complexa de mecanismos de segurança.
Os modelos são treinados para reconhecer determinados riscos, possuem políticas que restringem certos comportamentos e podem operar dentro de sistemas com controles de acesso, supervisão humana, auditoria e limites sobre quais ações estão autorizados a executar.
Mas segurança em IA não pode depender apenas de ensinar ao modelo o que ele deve ou não fazer. Quanto mais a IA deixa de apenas responder perguntas e passa a executar ações, mais importante se torna a arquitetura ao redor dela.
Em uma empresa, por exemplo, não quero apenas uma IA que tenha aprendido que não deve transferir R$ 10 milhões indevidamente. Quero um sistema no qual ela simplesmente não tenha autoridade para fazer isso sem cumprir regras, permissões e aprovações previamente estabelecidas.
A evolução da IA exigirá não apenas modelos mais inteligentes, mas sistemas de governança cada vez mais sofisticados.
O que mudou para sairmos dos softwares programados para sistemas capazes de aprender padrões?
Evoluímos para máquinas capazes de aprender padrões a partir de exemplos
Durante décadas nós ensinamos computadores dizendo exatamente o que deveriam fazer.
Era basicamente: se acontecer A, faça B.
Com machine learning, mudamos essa lógica. Em vez de programarmos todas as regras, passamos a fornecer grandes quantidades de dados para que algoritmos encontrassem padrões estatísticos.
Depois tivemos outro salto importante com redes neurais profundas, arquiteturas como Transformers, enorme capacidade computacional e volumes gigantescos de dados.
Hoje, em muitos casos, nós não programamos explicitamente o conhecimento que aparece na resposta. O modelo aprende representações matemáticas dos padrões existentes nos dados.
É uma mudança profunda: saímos de máquinas que executavam predominantemente regras escritas por humanos para máquinas capazes de aprender padrões a partir de exemplos.
Como uma IA transforma palavras e documentos em números e encontra contexto?
A linguagem, significado e contexto são processados pela máquina como relações matemáticas de enorme complexidade
Uma forma simples de explicar é imaginar que a IA constrói uma espécie de geografia matemática da linguagem.
Palavras, frases, documentos e outros elementos são transformados em representações numéricas, frequentemente chamadas de vetores. Nessas representações, conceitos relacionados tendem a ocupar posições matematicamente relacionadas.
Mas os modelos modernos vão além de simplesmente transformar palavras isoladas em números. Eles analisam relações entre os elementos de uma sequência e conseguem atribuir importância diferente a cada elemento dependendo do contexto.
Por isso a mesma palavra pode assumir significados diferentes dependendo da frase.
No fundo, aquilo que para nós é linguagem, significado e contexto são processados pela máquina como relações matemáticas de enorme complexidade.
E talvez essa seja uma das coisas mais fascinantes da IA: matemática produzindo comportamentos que, vistos de fora, parecem compreensão.
Se a IA é tão poderosa, por que ainda alucina?
Fluência não pode ser confundida com confiabilidade
Porque um modelo de linguagem não funciona como uma enciclopédia que procura uma resposta verdadeira em uma gaveta.
Simplificando bastante, ele calcula quais sequências são mais plausíveis considerando o contexto recebido.
Normalmente isso produz respostas extraordinárias. O problema é que plausibilidade linguística não é sinônimo de verdade factual.
Por isso uma IA pode produzir uma informação falsa com a mesma segurança linguística com que apresenta uma informação verdadeira.
Existem várias maneiras de reduzir esse problema: conectar o modelo a fontes confiáveis, utilizar sistemas de recuperação de informação, ferramentas externas, validações e estabelecer contexto adequado.
Mas existe uma lição empresarial importante aqui: fluência não pode ser confundida com confiabilidade.
Por que não basta conectar um ChatGPT aos dados de uma empresa?
Para uma IA empresarial realmente produzir valor, precisamos conectar dados, contexto e capacidade de ação
Porque dados não são a empresa.
Imagine que eu entregue a uma IA milhões de registros de clientes, pedidos, produtos, fornecedores, estoques e contratos. Ela terá muitos dados, mas ainda precisará compreender como aquelas coisas se relacionam no mundo real da organização.
Quem é cliente? Qual contrato pertence a ele? Qual produto comprou? Qual unidade é responsável? Quem pode conceder determinado desconto? Qual estoque está disponível? Quais regras precisam ser respeitadas? Quem possui autoridade para tomar determinada decisão?
Além disso, empresas possuem permissões, processos, regras de negócio, sistemas legados e responsabilidades.
Conectar um modelo aos dados resolve apenas parte do problema.
Para uma IA empresarial realmente produzir valor, precisamos conectar dados, contexto e capacidade de ação.
Então o desafio da IA empresarial está menos no modelo e mais em organizar contexto, dados, processos, regras, permissões e decisões?
Uma IA sem contexto empresarial pode ser extremamente inteligente e, ainda assim, profundamente ignorante sobre a empresa onde está operando
Eu diria que esse é um dos principais desafios.
Estamos vivendo uma fase em que existe enorme atenção sobre qual modelo é melhor. E evidentemente os modelos são fundamentais. Mas, dentro de uma grande organização, a diferença entre dois excelentes modelos pode ser menos relevante do que a diferença entre uma empresa organizada e outra fragmentada.
Uma empresa pode ter um modelo extraordinário e continuar tendo informações espalhadas por dezenas de sistemas, definições diferentes para a mesma coisa, processos desconectados e decisões que não conversam entre si.
Por isso costumo dizer que IA sem contexto empresarial pode ser extremamente inteligente e, ainda assim, profundamente ignorante sobre a empresa onde está operando.
É aqui que entra a ontologia empresarial?
A ontologia cria uma espécie de linguagem comum e harmônica da organização
Exatamente.
Uma ontologia empresarial é uma representação estruturada de como a empresa existe e funciona no mundo real.
Em vez de a tecnologia enxergar apenas tabelas e campos de bancos de dados, ela passa a enxergar objetos de negócio: cliente, produto, contrato, máquina, funcionário, fornecedor, pedido, ativo.
E, principalmente, as relações entre esses objetos.
Imagine uma indústria. Não basta saber que existe uma máquina. É preciso compreender qual linha utiliza aquela máquina, quais produtos dependem dela, quais ordens de produção estão associadas, quais fornecedores fornecem componentes, quais clientes serão afetados por uma eventual parada e quais decisões podem ser tomadas.
A ontologia cria uma espécie de linguagem comum da organização.
É justamente por isso que tenho defendido que a próxima grande discussão sobre IA empresarial não será apenas sobre modelos. Será sobre contexto.
Onde a Palantir entra nessa arquitetura?
É determinante a diferença entre uma IA que fala sobre a empresa e uma IA que está conectada à forma como a empresa realmente funciona
É aqui que a Palantir se torna particularmente interessante.
A Palantir não deve ser entendida simplesmente como mais uma ferramenta de inteligência artificial. Ela desenvolveu uma arquitetura que permite conectar dados provenientes de diferentes sistemas, organizá-los por meio de uma ontologia e transformar essa representação em uma camada operacional sobre a qual pessoas, aplicações e inteligência artificial podem trabalhar.
Isso muda bastante a discussão.
Em vez de perguntar apenas para uma IA “o que está acontecendo?”, começamos a construir sistemas capazes de compreender o contexto operacional, apoiar a decisão e, dentro das permissões e regras estabelecidas, participar da execução.
É a diferença entre uma IA que fala sobre a empresa e uma IA que está conectada à forma como a empresa realmente funciona.
Para mim, esse é um dos conceitos centrais da próxima geração da inteligência artificial empresarial.
Como a Palantir saiu da segurança do Governo americano para atender empresas de diferentes setores?
O domínio muda, os objetos mudam e as regras mudam, mas permanece a necessidade de conectar dados, contexto e decisão
Porque o problema original era muito mais universal do que parecia.
Quando diferentes órgãos governamentais possuíam informações importantes em sistemas separados, o desafio era conectar esses dados, compreender relações, preservar permissões e permitir melhores decisões.
Agora pense em um banco, uma indústria, uma companhia aérea, uma mineradora ou uma rede de varejo.
O problema estrutural é surpreendentemente parecido: enormes quantidades de informação distribuídas por sistemas diferentes e uma organização tentando transformar tudo aquilo em decisões melhores.
O domínio muda. Os objetos mudam. As regras mudam. Mas permanece a necessidade de conectar dados, contexto e decisão.
Foi justamente essa capacidade que permitiu que a tecnologia evoluísse de aplicações governamentais para aplicações empresariais nos mais diversos setores.
O futuro está em construir uma empresa capaz de fazer com que a IA a transforme em um organismo harmonioso e coerente?
Sua empresa está preparada para ser compreendida pela IA?
Eu responderia que a grande vantagem competitiva provavelmente não estará simplesmente em possuir a melhor IA.
Os melhores modelos estarão cada vez mais disponíveis para muitas organizações.
A diferença estará na capacidade de cada empresa de fazer com que essa inteligência compreenda seu contexto, respeite suas regras, tenha acesso correto aos seus dados e participe dos seus processos de decisão.
Durante décadas digitalizamos empresas. Depois conectamos empresas. Agora estamos começando a construir empresas capazes de compreender digitalmente a si mesmas.
É aí que entram dados, ontologia, inteligência artificial e aquilo que podemos chamar de um gêmeo digital operacional da organização.
Portanto, se estivesse diante de um CEO, minha mensagem seria simples:
Não pergunte apenas qual IA sua empresa vai usar. Pergunte se sua empresa está preparada para ser compreendida pela IA.
Porque talvez a grande transformação que esteja começando não seja apenas termos máquinas cada vez mais inteligentes.
É termos organizações que finalmente consigam transformar toda essa inteligência em decisões melhores.
Leandro Monteiro é executivo com mais de 25 anos de experiência em estratégia, tecnologia, marketing, inteligência artificial e transformação empresarial. É Head of Sales Americas da Volis, empresa especializada em soluções com Palantir, CEO da ClubBrain.ai, Chairman da Virtual Fans e Vice-Presidente da ADVB. É autor do livro Ontologia da Decisão Empresarial, dedicado à aplicação de IA, ontologias empresariais e Decision Intelligence nas organizações. Ao longo de sua carreira, liderou projetos de crescimento, inovação e transformação no Brasil, América Latina e Estados Unidos, atuando na convergência entre estratégia, dados, tecnologia e inteligência artificial.
Nily Geller é engenheiro eletrônico formado pela PUC RJ com larga experiência no setor de telecomunicações, atualmente VP da FBM – Fundação Brasileira de Marketing, Conselheiro da ADVB – Associação dos Dirigentes de Vendas e Marketing do Brasil, Diretor da Área de Telecom da FIESP e Sócio-Diretor da Janar Engenharia.
* As ideias e opiniões expressas nos artigos são de exclusiva responsabilidade dos autores, não refletindo, necessariamente, as opiniões da ADVB. Para publicar um artigo ou matéria neste Portal ADVB, envie para redacao@advb.org para aprovação da publicação.
