Улучшение способности ИИ-моделей объяснять свои предсказания Improving AI models’ ability to explain their predictions

Исследователи из MIT разработали новый метод для повышения объяснимости и точности компьютерных моделей зрения. Вместо использования заранее заданных человеком понятий, их подход автоматически извлекает релевантные концепции, которые модель уже изучила в процессе обучения, и переводит их в понятный человеку текст. Это позволяет создавать более точные и понятные объяснения решений ИИ, что критически важно для доверия в таких областях, как медицинская диагностика. Метод представляет собой шаг к повышению подотчетности "черных ящиков" ИИ и может найти применение в разработке ответственных систем искусственного интеллекта.

MIT researchers have developed a new method to improve the explainability and accuracy of computer vision models. Instead of relying on pre-defined human concepts, their approach automatically extracts relevant concepts the model has already learned during training and translates them into human-understandable text. This enables more accurate and precise explanations for AI decisions, which is crucial for trust in high-stakes fields like medical diagnostics. The method represents a step toward greater accountability for black-box AI models and could be applied in developing responsible AI systems.