E.SUN Bank e IBM estão colaborando para estabelecer um conjunto de diretrizes de governança de inteligência artificial (IA) no setor bancário. Este esforço reflete uma tendência mais ampla no setor financeiro, onde a IA já é utilizada para verificar fraudes e avaliar crédito, além de atender clientes. O desafio atual é gerenciar esses sistemas de forma a cumprir normas legais e de risco.
As instituições financeiras enfrentam várias questões ao implementar IA, como a necessidade de testar modelos antes de sua ativação, determinar responsabilidades em caso de erros e comprovar a segurança e equidade dos sistemas para os reguladores. Para enfrentar esses desafios, E.SUN Bank e IBM Consulting criaram uma estrutura de governança de IA específica para bancos, que inclui um documento orientador sobre como as instituições financeiras podem estabelecer controles internos para sistemas de IA.
A estrutura desenvolvida adapta normas globais, como o AI Act da União Europeia e o padrão ISO/IEC 42001, para serviços financeiros. Ela define como os bancos devem revisar modelos de IA antes de sua implementação e monitorar seu desempenho após a entrada em operação. Também estabelece regras para o uso de dados e revisões de risco.
A governança de IA é crucial, pois a confiança é um pilar do setor bancário, e os reguladores exigem que as instituições rastreiem como as decisões são tomadas. Modelos de IA frequentemente funcionam como “caixas-pretas”, dificultando a explicação dos resultados, o que pode ser problemático em decisões de crédito ou verificações de fraude.
Historicamente, os bancos utilizaram aprendizado de máquina para análise de riscos e detecção de fraudes. Atualmente, modelos mais avançados estão sendo aplicados em atendimento ao cliente e revisão de documentos, entre outros. Essa expansão requer novas necessidades de governança, especialmente para modelos que influenciam diretamente decisões financeiras.
A governança de IA pode influenciar a rapidez com que os bancos adotam novas ferramentas. Sem regras claras, muitas instituições hesitam em expandir além de pequenos experimentos. A estrutura desenvolvida por E.SUN Bank e IBM visa facilitar a expansão de projetos de IA, garantindo que atendam às exigências regulatórias.
