Итак, про XAI, он же eXplainable AI

Глубина глубин открываются с первого же найденного постера — 17 методов и 20 (!) метрик для сравнения в постере с последнего NIPS (декабрь 24го)

Summary of Navigating the Maze of Explainable AI: A Systematic Approach to Evaluating Methods and Metrics
LATEC is a new tool that helps researchers understand different methods of Explainable AI (XAI) by comparing 17 popular XAI methods across various settings and using 20 evaluation metrics. The study shows that previous evaluations of XAI methods were often inconsistent and biased because they used limited criteria. By analyzing a large number of combinations and making all results available, LATEC aims to help users pick the right XAI method for their needs, especially in areas involving images and 3D data.

Explaining explanations (рис 3 в самом свежем обзоре — январь 25го) тоже намекают что не все так просто 🤔

В итоге разобраться за выходные не получилось, «не шмогла» — недооценил куда наука ушла, сорян 🤷

Ухожу читать обзоры и смотреть туториалы 🤓🙈


Вроде такого: A Review of Multimodal Explainable Artificial Intelligence: Past, Present and Future от 18 декабря

Отдельно радует что есть попытки в метрики и бенчмаркисамого XAI (!)

Наметил себе еще «немного материалов»
https://neurips.cc/virtual/2024/tutorial/99520
https://www.youtube.com/watch?v=ObaXpJVqgt4
https://neurips.cc/virtual/2023/workshop/66529

PS
Пока искал встречал и очередное развитие SHAP
И реинкарнации градиентных методов
И attention maps / saliency maps (которую кстати и получают градиентными методами)
И модели, которые сразу учат и объяснения делать (еще и на фондовом рынке!)

Если кому-то тема тоже интересна — мб соберемся через недельку онлайн и обменяемся мнениями?

Например, вторник, 18 февраля, в 20 по мск?

По итогам саммари обсуждения выложу сюда

Если готовы собраться онлайн — ставьте 😄, 18го пришлю ссылку.

Если я все усложнил и PDP / ICE / H-stat / ALE / SG достаточно и вообще надо было начать с гайда 2024 года, в котором все уже достаточно структурировано и объяснена связь задач XAI и adversation attacks -- вы крутые, ставьте 😎