Gestão de Oportunidades com a Implementação da IA e Análise BowTie

A Inteligência Artificial (IA) tem se mostrado uma das tecnologias mais transformadoras da era digital, oferecendo possibilidades inovadoras para organizações que buscam aumentar sua eficiência operacional, reduzir custos e melhorar seus processos de negócio. 

Nos último anos, o lançamento de diversos modelos de IA e suas inúmeras aplicações nas áreas de saúde, finanças, agronegócio, gestão de riscos, entre outras, têm chamado a atenção de organizações, investidores e startups em todo o mundo, que visam extrair ao máximo os benefícios dessa tecnologia. 

Da mesma forma, o surgimento contínuo de inovações ligadas a essas ferramentas dá origem a diversas ameaças e oportunidades. Ao integrar a IA em suas operações, as organizações ganham não apenas em automação, mas também em visão analítica, capacidade de previsão e agilidade de respostas. 

Como então a IA pode ser utilizada para aprimorar os processos organizacionais e por que investir nessa tecnologia é crucial para as empresas se manterem competitivas?

Implementando a IA com auxílio da Análise BowTie

Nesse cenário de crescente inovação, a introdução de tecnologias de IA nas organizações, ao mesmo tempo em que abre espaço para o surgimento de diversas ameaças ('riscos negativos'), gera também inúmeras oportunidades ('riscos positivos').

Por meio da Análise BowTie, é possível compreender melhor como mapear essas oportunidades, identificando suas potenciais causas, consequências e respectivos fatores impulsionadores (equivalentes aos controles preventivos e reativos para riscos negativos).

Aplicando a Abordagem da ISO 31000 na Gestão de Riscos Climáticos

Nos últimos tempos, o aumento da frequência e intensidade de eventos climáticos extremos, como tempestades, secas e inundações, têm feito com que a gestão de riscos climáticos torne-se uma prioridade em diversos setores, desde o agrícola até o financeiro. 

Em fevereiro de 2024, o IAF (International Accreditation Forum) emitiu um comunicado, em conjunto com a ISO, anunciando novos requisitos para a inclusão de considerações sobre mudanças climáticas em todas as normas ISO de sistemas de gestão. Espera-se que essas inclusões contribuam para que as mudanças climáticas sejam reconhecidas como um fator crítico, que pode impactar a eficácia de qualquer sistema de gestão.

Nesse contexto, é importante que as organizações adotem uma abordagem sistemática e estruturada para identificar, analisar, avaliar e tratar os riscos climáticos. A norma ISO 31000:2018 fornece diretrizes valiosas para a gestão de riscos em geral, incluindo os riscos climáticos, permitindo que as organizações criem e protejam valor de forma sustentável.

Como então utilizar a abordagem proposta na norma para aprimorar a gestão dos riscos climáticos, considerando o Processo de Gestão de Riscos da ISO 31000?

Aprimorando o Processo de Gestão de Riscos com a IA Generativa

 A Inteligência Artificial (IA) Generativa tem revolucionado diversos negócios e setores, impactando sobretudo as iniciativas e práticas voltadas à gestão de riscos. Essa poderosa tecnologia tem o potencial de transformar a forma como as organizações gerenciam seus riscos, aumentando a eficácia dos processos e possibilitando uma tomada de decisões mais informada.

A capacidade da IA Generativa em criar dados, simular cenários e prever eventos com base em padrões complexos oferece novas oportunidades para identificar, analisar, avaliar e tratar riscos, gerando inúmeras possibilidades para aprimorar a produtividade e os processos dentro das organizações.

Exploraremos a seguir algumas aplicações e exemplos da IA Generativa ao longo das etapas do Processo de Gestão de Riscos, abordando desde usos simples até os mais complexos, alinhados às diretrizes das normas NBR ISO 31000:2018 e NBR IEC 31010:2021.

Análise de Riscos Qualitativa ou Quantitativa: qual devo utilizar?

Durante o Processo de Gestão de Riscos, particularmente na etapa de Análise de Riscos, uma das principais discussões diz respeito ao tipo de técnica (qualitativa ou quantitativa) a ser utilizada para determinar o nível de risco, levando em conta os objetivos e o contexto da organização.

Recentemente, esse debate tem evoluído, com diversos especialistas e gestores adeptos ao uso de técnicas qualitativas, enquanto outros mantêm-se favoráveis a modelos quantitativos. 

A preferência por determinado tipo de técnica está diretamente relacionada à qualidade das informações sobre riscos. Em outra postagem do blog, discutimos a importância da qualidade dos dados para a tomada de decisões baseadas em riscos e fornecemos alguns exemplos das consequências do mau uso desses dados para as organizações.

A norma NBR IEC 31010:2021 descreve diversas técnicas qualitativas, semiquantitativas e quantitativas que podem ser usadas para melhor analisar os riscos. Algumas delas, como a Análise BowTie (BTA), a Matriz de Riscos e a LOPA, também abordadas em outras publicações deste blog, mostram as principais aplicações, pontos fortes e limitações de cada abordagem.

A norma fornece algumas considerações para se selecionar a técnica mais adequada:

"Ao decidir se é mais apropriada uma técnica qualitativa ou quantitativa, os principais critérios a serem considerados são a forma de saída mais útil para as partes interessadas e a disponibilidade e confiabilidade dos dados. Para fornecer resultados significativos, técnicas quantitativas geralmente requerem dados de alta qualidade. Contudo, em alguns casos em que os dados não são suficientes, o rigor necessário para aplicar uma técnica quantitativa pode fornecer uma melhor compreensão do risco, embora o resultado do cálculo possa ser incerto.

Geralmente há uma escolha de técnicas pertinentes para uma dada circunstância. Várias técnicas podem necessitar ser consideradas, e a aplicação de mais de uma técnica pode algumas vezes fornecer uma compreensão adicional útil. Técnicas diferentes também podem ser apropriadas na medida em que mais informação se torne disponível."

Assim, considerando os pontos favoráveis e limitadores de cada técnica e os pontos de vista de especialistas, gestores e tomadores de decisão, como então definir o melhor tipo de técnica para analisar os riscos?

Nova ISO/IEC 42001 e vieses de IA na navegação de carreiras

Publicada em dezembro de 2023, a ISO/IEC 42001 é a primeira norma internacional de sistemas de gestão voltada para o uso e desenvolvimento sustentáveis da Inteligência Artificial (IA) nas organizações.

A nova norma fornece diretrizes abrangentes para a gestão de sistemas de IA nas organizações e representa um passo importante para a padronização das práticas de IA. Além disso, ela possibilita a certificação das organizações interessadas e aborda os desafios enfrentados pela IA, incluindo questões éticas, de transparência e a necessidade de melhoria contínua.

Um dos principais pontos abordados pela norma, alinhado com a ISO 31000:2018 de gestão de riscos, diz respeito a orientações e melhores práticas para gerenciar riscos dos sistemas de IA. 

Na mesma linha, a norma NBR ISO/IEC 23894:2023, Tecnologia da Informação - Inteligência Artificial - Orientações sobre gestão de riscos, fornece orientações sobre como as organizações que desenvolvem, produzem, implantam ou usam produtos, sistemas e serviços que utilizam IA podem gerenciar riscos relacionados a essas tecnologias.

Uma das fontes de riscos destacadas por essa norma está relacionada ao aprendizado de máquina (machine learning ou ML), que acaba influenciando diversos avanços nas tecnologias de IA. O comportamento desses sistemas depende não apenas dos algoritmos em uso, mas também dos dados nos quais os modelos de ML são treinados.

De acordo com a norma, alguns efeitos dessa fonte de riscos sobre as características da IA incluem:

"Qualidade dos dados: A qualidade dos dados de treinamento e teste afeta diretamente a funcionalidade do sistema. A qualidade inadequada dos dados pode afetar vários objetivos, como justiça, segurança física e robustez.

- Para sistemas de IA que utilizam ML, os processos usados para coletar dados são uma fonte de riscos que são especialmente difíceis de diagnosticar e detectar. Por exemplo:

- Os dados podem se tornar não representativos do domínio de aplicação, levando a riscos para os objetivos de negócios.

- A origem e o armazenamento de dados podem incorrer em significativos riscos éticos e legais. Deixar de proteger o processo de coleta de dados pode levar a riscos de ataques adversários, envenenamento de dados ou outras manipulações."

Nesse contexto, como os algoritmos e a qualidade dos dados podem afetar o desempenho dos sistemas de IA, impactando os objetivos organizacionais?