XAI: esclarecendo o problema da caixa preta com transparência e interpretabilidade

  • Gal Levy
  • Mario Henrique Adaniya

Resumo

A crescente presença de tecnologias de Inteligência Artificial (IA) tem levantado questões acerca da transparência e compreensibilidade dos processos decisórios tomados por essas máquinas. O termo "caixa preta" é frequentemente utilizado para descrever sistemas de IA que operam de forma opaca, sem fornecer explicações claras sobre suas decisões. O objetivo desta pesquisa é analisar os métodos utilizados para resolver o problema da caixa preta e discutir as questões éticas e de preconceito que podem estar presentes nesses sistemas. Para tanto, foi realizada uma revisão bibliográfica dos principais métodos de interpretação de modelos de IA, tais como análise de sensibilidade, decomposição de modelo e interpretabilidade por design. A metodologia utilizada incluiu a seleção de artigos com base em critérios pré-definidos, extração de dados e análise dos resultados. Além disso, discutimos a importância da abordagem de equidade e justiça para garantir que os sistemas de IA não reproduzam preconceitos existentes na sociedade. Concluímos que os métodos de interpretabilidade podem ajudar a resolver o problema da caixa preta, mas devem ser combinados com abordagens de equidade e justiça para garantir a confiabilidade e responsabilidade dos sistemas de IA.

Biografia do Autor

Gal Levy

Centro Universitário Filadélfia de Londrina - UniFil

Mario Henrique Adaniya

Centro Universitário Filadélfia de Londrina - UniFil

Publicado
2024-08-28
Como Citar
Levy, G., & Adaniya, M. (2024). XAI: esclarecendo o problema da caixa preta com transparência e interpretabilidade. Revista Terra & Cultura: Cadernos De Ensino E Pesquisa, 40(especial), 346-371. Recuperado de http://periodicos.unifil.br/index.php/Revistateste/article/view/3170/2920

##plugins.generic.recommendByAuthor.heading##