A importância dos 'chatbots' privados para a Gestão de Riscos e como aprimorá-los

Nos últimos tempos, o debate envolvendo as aplicações e impactos da Inteligência Artificial (IA) em diversos setores tem ganhado força e motivado as organizações a compreender melhor como utilizá-la para aprimorar a gestão de riscos.

Nesse contexto, os chatbots privados, desenvolvidos de acordo com as características e necessidades de cada empresa, desempenham um papel importante para melhorar a eficácia da gestão de riscos nos processos cotidianos, fornecendo informações relevantes para a tomada de decisões. 

Como então esses chatbots podem contribuir com a Gestão de Riscos? Vejamos a seguir...

Aplicações dos chatbots privados na Gestão de Riscos

Entre as diversas aplicações dos chatbots privados para a gestão de riscos nas organizações, destacam-se:

Coleta e análise de dados: Os chatbots podem ser programados para coletar informações relevantes sobre riscos e eventos em tempo real e podem interagir com funcionários, clientes e outros stakeholders para obter dados essenciais às organizações. 

Com base nesses dados, é possível realizar análises avançadas e identificar tendências, padrões e eventuais gargalos que podem levar a riscos. Essa análise de dados em tempo real permite que as organizações tomem decisões mais informadas e proativas em relação à gestão de riscos.

Monitoramento contínuo: Os chatbots podem monitorar continuamente diferentes canais e fontes de dados, como mídias sociais, notícias, relatórios de incidentes e sistemas internos. Isso permite uma detecção rápida de quaisquer ameaças potenciais, eventos adversos ou mudanças nas condições que possam representar riscos para a organização. Ao receber alertas em tempo real, a equipe de gestão de riscos pode tomar medidas rápidas para mitigar ou responder aos riscos de forma eficaz.

Resposta rápida a incidentes: Quando ocorre um incidente ou evento de risco, os chatbots podem ser usados para fornecer informações rápidas e precisas sobre o que aconteceu, como o risco está sendo tratado e quais ações estão sendo tomadas para mitigar seus impactos. Eles podem fornecer atualizações em tempo real aos interessados ​​e responder a perguntas frequentes, reduzindo a necessidade de envolvimento direto da equipe de gestão de riscos. Assim, as equipes podem se concentrar em questões críticas e voltar seus esforços a decisões estratégicas.

Redução de riscos cibernéticos: Outra aplicação dos chatbots é auxiliar as organizações a monitorar e analisar riscos cibernéticos, promovendo a coleta de dados sobre potenciais ameaças, a verificação de vulnerabilidades e a geração de respostas automatizadas a incidentes. Isso ajuda as empresas a se anteciparem à evolução dos riscos cibernéticos e a reduzir possíveis danos à sua infraestrutura digital.

Educação e conscientização: Os chatbots também podem desempenhar um papel importante na educação e conscientização dos funcionários sobre questões ligadas a riscos. Eles fornecem informações e recursos relevantes sobre políticas, procedimentos, práticas recomendadas e regulamentos relacionados à gestão de riscos. Além disso, podem realizar treinamentos interativos e simulações para ajudar os funcionários a entender melhor os riscos, a como identificá-los e tratá-los adequadamente. Isso contribui para fortalecer a mentalidade de riscos em toda a organização.

Análise preditiva e modelagem de cenários: Com base em grandes conjuntos de dados históricos, os chatbots podem usar técnicas de análise preditiva para identificar possíveis cenários de riscos futuros e suas probabilidades. Eles podem ajudar as organizações a antecipar e se preparar melhor para riscos potenciais, permitindo que estas tomem medidas preventivas e implementem planos de contingência eficazes. Isso ajuda a reduzir a probabilidade de incidentes e a minimizar os impactos negativos na organização.

Aprimorando os chatbots - A importância da Engenharia de Prompt 

Uma forma de tornar as interações com os chatbots mais eficazes e gerar modelos de IA mais confiáveis para as organizações, é por meio da Engenharia de Prompt (em inglês, Prompt Engineering).

A engenharia de prompt  é uma técnica que pode ser usada para melhorar a assertividade e eficácia dos chatbots privados das organizações. Ela desempenha um papel crucial na capacidade dos chatbots de fornecer respostas relevantes e precisas, especialmente em cenários complexos, como os ligados à gestão de riscos.

A importância da engenharia de prompt reside no fato de que os chatbots dependem de instruções e exemplos (também chamados de prompts) para gerar respostas adequadas. Ao projetar e ajustar os prompts, é possível orientar o modelo de IA a fornecer respostas específicas e desejadas para perguntas relacionadas à gestão de riscos.

Ao aplicar a engenharia de prompt, os chatbots podem auxiliar a tomada de decisões relacionadas à gestão de riscos de várias maneiras:

Respostas consistentes: Os chatbots podem ser treinados com prompts específicos que garantem que as respostas sejam consistentes em diferentes contextos. Isso é particularmente importante na gestão de riscos, onde a precisão e consistência das informações são cruciais para avaliar e mitigar os riscos de forma adequada. Os prompts bem projetados ajudam a garantir que os chatbots forneçam informações corretas e alinhadas com as políticas e regulamentos da organização.

Análise de cenários: Os prompts podem ser projetados para orientar os chatbots a realizar análises de riscos em cenários específicos. Por exemplo, os chatbots podem ser treinados para avaliar o impacto potencial de uma determinada ação ou evento em relação aos riscos existentes. Isso permite que as organizações obtenham insights rápidos e confiáveis ​​sobre os possíveis resultados de decisões relacionadas à gestão de riscos.

Recomendações e melhores práticas: Os chatbots podem ser programados para fornecer recomendações e melhores práticas para lidar com diferentes tipos de riscos. Os prompts podem orientar os chatbots a oferecer orientações específicas sobre como identificar, avaliar e responder a riscos específicos. Isso ajuda a equipe de gestão de riscos a tomar decisões mais informadas e a adotar abordagens eficazes para lidar com os riscos identificados.

Atualizações em tempo real: Ao usar prompts adequados, os chatbots podem ser treinados para fornecer atualizações em tempo real sobre eventos e incidentes relacionados à gestão de riscos. Os prompts podem ajudar os chatbots a capturar informações críticas, avaliar rapidamente a gravidade do evento e fornecer informações relevantes sobre as ações em andamento para mitigar os riscos. Isso permite uma resposta rápida e eficiente aos riscos em evolução.

Com a crescente demanda por modelos de Inteligência Artificial, aumenta-se também a procura por engenheiros de prompt, profissionais especializados no treinamento e otimização dos chatbots.

O papel do Engenheiro de Prompt

O engenheiro de prompt é responsável por desenvolver e refinar modelos de IA usando técnicas de engenharia de prompt. Porém, o que isso significa exatamente?

De forma geral, eles ensinam modelos de IA a realizar tarefas específicas, fornecendo-lhes instruções detalhadas e trabalham principalmente com modelos de linguagem sofisticados, como o ChatGPT-3.5 e, mais recentemente, com o GPT-4.

O objetivo do engenheiro de prompt é projetar comandos que extraiam respostas mais desejáveis e precisas dos grandes modelos de linguagem de IA. Para tanto, esses profissionais são responsáveis por:

- Otimizar modelos de linguagem, usando técnicas e ferramentas estabelecidas.

- Elaborar comandos para testar sistemas de IA em busca de peculiaridades, identificando erros e recursos ocultos.

- Rever e analisar conjuntos de dados, para identificar padrões e tendências de linguagem, com o intuito de desenvolver novos prompts.

- Criar e manter a documentação para modelos de linguagem, incluindo exemplos, instruções e práticas recomendadas.

- Desenvolver modelos de linguagem de treinamento em novos conjuntos de dados e monitorar seu desempenho, visando à melhoria contínua.

- Colaborar com cientistas de dados e engenheiros de software para integrar modelos de linguagem em vários aplicativos e sistemas de informação.

Dessa forma, os engenheiros de prompt não apenas possuem um pouco de conhecimento de programação, mas também um forte domínio da linguagem utilizada pelos modelos de IA, com uma percepção aguçada para os detalhes.

Competências de um Engenheiro de Prompt

Aprender engenharia de prompt não requer necessariamente experiência anterior em codificação. No entanto, para que o engenheiro de prompt obtenha sucesso na profissão, é recomendável que siga algumas etapas:

1-) Aprender os fundamentos de programação

Embora os engenheiros de prompt não necessitem passar o tempo todo codificando, é importante que tenham um conhecimento sólido em programação. Python é uma linguagem popular que pode servir como um excelente ponto de partida.

2-) Familiarizar-se com os conceitos de PLN e Aprendizado de Máquina

Para se destacar na engenharia de prompt, é importante compreender os conceitos de processamento de linguagem natural (PLN) e aprendizado de máquina. As principais áreas a serem desenvolvidas incluem pré-processamento de textos, engenharia de atributos, treinamento de modelos e otimização de dados.

3-) Praticar o desenvolvimento de prompts e o ajuste fino dos modelos de linguagem

É importante o profissional ganhar experiência prática utilizando técnicas de engenharia de prompt para gerar saídas de texto a partir de modelos de linguagem. Para tanto, deve experimentar diferentes tipos de prompt e ajustar os modelos de linguagem, de modo a melhorar seu desempenho.

4-) Criar um Portfólio de Projetos de Engenharia de Prompt

Isso é fundamental para que o engenheiro de prompt demonstre suas habilidades a potenciais empregadores e se sobressaia entre outros candidatos.

Portanto, ao desenvolver as competências descritas acima, o engenheiro de prompt pode melhor contribuir com a assertividade dos chatbots privados (de gestão de riscos, no nosso caso), reforçando seu papel de destaque para aprimorar a tomada de decisões nas organizações. 

É importante ressaltar que, com a rápida evolução das tecnologias e modelos de IA, novas habilidades e profissões voltadas a esse segmento devem surgir, fazendo com que outras competências devam também ser consideradas.

Avalie suas Matrizes de Riscos (e descubra os problemas que elas têm!)

A matriz de riscos é uma das ferramentas qualitativas descritas na norma NBR IEC 31010:2021 mais utilizadas pelas organizações para avaliar riscos e auxiliar a tomada de decisões.

No entanto, apesar de sua aplicação em inúmeras áreas e setores, ela apresenta importantes problemas, que limitam seu potencial de avaliação, quando comparada a algumas técnicas quantitativas.

No vídeo a seguir, mostramos como é possível avaliar a qualidade das matrizes de riscos e indicamos algumas recomendações para que a análise e avaliação dos riscos tornem-se mais eficazes.

Se você for Associado ou Cliente elegível do QSP, poderá nos solicitar a PLANILHA GRATUITA, em Português, apresentada no vídeo!

A planilha em Excel para Avaliação de Matrizes de Riscos está disponível gratuitamente para os seguintes Associados e Clientes do QSP:

1) Associados ao QSP nas categorias Empresas e Individual.

2) Profissionais Certificados na ISO 31000 de Gestão de Riscos.

3) Organizações listadas nesta página de Clientes do QSP.

4) Participantes do QSP Summit - Curso a Distância de Atualização Profissional.

5) Clientes que adquirirem o Manual de Diretrizes para a Implementação da ISO 31000:2018 em conjunto com o Manual sobre Auditoria Baseada em Riscos.

Se você ou sua organização for elegível, fale conosco por aqui.

Mais artigos sobre Matrizes de Riscos

Leia também ou reveja os seguintes artigos (e vídeo) que publicamos sobre o assunto:

- Matriz de Riscos: conheça as boas práticas internacionais para sua construção e uso (junho, 2022)

- Matrizes de Riscos: como superar suas limitações nas avaliações de riscos (janeiro, 2021)

- Matrizes de Riscos (ou de Probabilidade / Consequência): CUIDADO ao utilizá-las!! (setembro, 2018)

Moneyball e Análise Quantitativa de Riscos

Uma das etapas mais importantes do Processo de Gestão de Riscos, descritas na norma ISO 31000:2018, diz respeito à Análise de Riscos. Nessa fase, os riscos são caracterizados para diferentes cenários, de acordo com a probabilidade de ocorrência de um evento - ou, mais especificamente, da probabilidade de ocorrência de determinada consequência - e da magnitude das possíveis consequências desse evento.

Dessa forma, multiplicando-se a probabilidade de uma consequência pela sua magnitude, chega-se ao nível de risco de um processo, área ou projeto. Este valor será usado durante a etapa de Avaliação de Riscos, para a tomada de decisão sobre os riscos, ao se comparar o resultado da análise de riscos com os critérios de risco previamente definidos.

Considerando a relevância da análise de riscos para a gestão de riscos eficaz nas organizações, como então ela pode contribuir, de forma prática, para aprimorar o desempenho dos negócios?

Moneyball e Análise de Riscos

Um exemplo de aplicação bem sucedida da análise de riscos é retratado no filme Moneyball - O homem que mudou o jogo, de 2011, adaptação do livro Moneyball: the Art of Winning An Unfair Game, de Michael Lewis (2003). O filme conta a história do time de baseball Oakland Athletics e dos desafios enfrentados pelo seu gerente geral, Billy Beane, para montar um time competitivo na temporada de 2002.

Beane e seu assistente, Paul DePodesta (que, no filme, chama-se Peter Brand), um gênio da matemática, recém-saído da Universidade de Yale, receberam um dos orçamentos mais baixos da liga, mas conseguiram construir uma equipe vencedora, formada por talentos subvalorizados, adotando uma abordagem sofisticada de análise dos jogadores. 

Tal abordagem contrariava o método tradicional, que utilizava olheiros com o intuito de prever o sucesso dos jogadores, simplesmente observando o quão bem eles poderiam acertar uma bola, arremessar ou roubar uma base.

Limitações da Análise Qualitativa de Riscos

No baseball, uma das formas tradicionais para classificar os níveis de risco é adotar escalas qualitativas como, por exemplo, alto/ médio/ baixo, ou atribuindo notas de 1 a 5, a abordagem típica para classificar rebatidas, arremessos ou roubadas de bases. No entanto, quando o nível de risco deveria ser descrito como baixo? E muito baixo? 

Em geral, nesse tipo de análise, os termos qualitativos que caracterizam os riscos são muito ambíguos, difíceis de contestar, fazem mau uso dos dados disponíveis e não permitem elaborar a estratégia de gestão de riscos mais eficaz.

Essa abordagem era utilizada pelos olheiros de baseball, que classificavam os rebatedores como “superiores” ou “médios”. Porém, tanto as formas de classificação dos riscos como dos rebatedores são inerentemente tendenciosas.

Embora sejam úteis em algumas circunstâncias, essas medidas não informam sobre os possíveis impactos financeiros no desempenho de uma equipe ou negócio; termos sobre os quais os tomadores de decisão podem agir. 

Assim, Billy disse aos olheiros da velha guarda que eles deveriam fazer algo diferente se quisessem vencer com as restrições orçamentárias de que dispunham.

Análise Quantitativa de Riscos

Billy e Peter elaboraram uma abordagem quantitativa diferente para aumentar a probabilidade de vitórias do Oakland A's, utilizando jogadores subvalorizados, com base em variáveis ​​estatísticas que haviam sido amplamente ignoradas anteriormente. 

O objetivo era criar uma equipe que aumentasse a probabilidade de o Oakland A's chegar aos playoffs. Partindo da premissa de que a probabilidade de qualquer time chegar aos playoffs dependia do número de jogos ganhos durante a temporada regular, desenvolveram um método para descobrir não apenas quantos jogos a equipe precisaria vencer para chegar a esse ponto, mas também a estrutura de equipe ideal que daria ao A's vitórias suficientes para tanto.

Com base nessa lógica, calcularam as metas intermediárias que levariam o time a tal objetivo, como médias de corridas necessárias por jogo, percentual de chegadas à base (on- base percentage), etc. Em seguida, selecionaram os jogadores menos caros ou mais subvalorizados, tendo em vista as métricas de desempenho que atendiam a esses critérios e se encaixavam no orçamento da equipe.

Filme Moneyball - 2011 (clique na imagem para ampliar)

Em termos estatísticos, foram desenvolvidos modelos de regressão linear ​​para prever quantos jogos uma equipe venceria em futuras temporadas regulares, por meio da diferença entre corridas que resultavam em pontos (com base em variáveis ​​de rebatidas certas) e corridas permitidas (de acordo com o histórico de arremessos corretos). Assim, utilizando dados anteriores a 2002, Billy e Peter concluíram que o A's necessitaria de pelo menos 95 vitórias para chegar aos playoffs.

É importante ressaltar que esses cálculos foram limitados às previsões para os jogos da temporada regular. Uma vez que a equipe chega aos playoffs, torna-se muito mais difícil elaborar modelos preditivos, porque a quantidade de dados disponíveis para análise passa a ser muito menor. 

Após Beane selecionar os jogadores que melhor se enquadravam nesse perfil, o Oakland A's renasceu, se classificando para os playoffs e vencendo a AL West Division com um recorde de 103 vitórias e 59 derrotas na temporada regular de 2002 - logo atrás dos Yankees, pelo melhor recorde em toda a Major League Baseball (MLB).

Ao reavaliar sua estratégia, o A's de 2002, que gastou aproximadamente U$ 44 milhões em salários, pôde competir em condições de igualdade com as maiores equipes da liga, como o New York Yankees, que investiu mais de U$ 125 milhões em sua folha de pagamentos naquela temporada.

        

               Salários dos times da MLB - 2002 (clique na figura para ampliar) 

                   Fonte: Wikipedia

Assim, a abordagem de análise de riscos adotada pelo Oakland Athletics levou o time aos playoffs em 2002 e 2003, e, devido à sua eficácia, passou a ser empregada com sucesso por outros times da MLB nos anos seguintes!!

Importância da Análise Quantitativa 

Embora a história de Moneyball tenha mostrado ao mundo dos esportes diversas lições valiosas, a mais importante foi identificar as variáveis certas ao fazer previsões.

Relacionando esse exemplo ao mundo dos negócios, vemos que, todos os dias, gestores tomam decisões sobre estratégias de crescimento, movimentos competitivos ou mudanças organizacionais. Para que eles possam decidir a melhor maneira de empregar os recursos da organização, seja selecionando projetos mais rentáveis, investindo em novos negócios ou reduzindo exposições desnecessárias, devem considerar o custo-benefício de suas alternativas. 

A análise quantitativa de riscos possibilita compreender melhor o impacto financeiro dos riscos sobre os objetivos e estratégias da organização. Dessa maneira, além de estabelecer a mesma linguagem dos negócios para a gestão de riscos eficaz, ela permite explorar novas oportunidades e fornece uma base para a tomada de decisões informadas, nos diversos níveis organizacionais.

Voltaremos ao assunto em um próximo artigo...

Fontes: "Moneyball and Risk Analytics" - Archer Solutions - e "The Moneyball Science" - Samford University.

___________________________________________________________________

Para saber mais sobre Análise de Riscos e compreender melhor como ela pode aprimorar a gestão de riscos, a continuidade e o desempenho dos negócios:

• Baixe a versão completa do Software BowTieXP (trial gratuito por 30 dias).

• Conheça o Repositório BowTie do QSP de Conhecimentos e Informações. 
  
  
• Participe do nosso Curso Análise de Riscos e Controles com a Metodologia BowTie.
  
  
• Participe no nosso Curso de Capacitação em Gestão de Riscos - ISO 31000 (preparatório para a Certificação Profissional Internacional C31000).