Компании Open AI и Google создали новый инструмент под названием Activation Atlases для визуализации взаимодействий между нейронами в ИИ-системах. Он позволяет проникнуть в «сознание» машины, чтобы лучше понять внутренние процессы принятия решений искусственным интеллектом, а также выявить их ошибки и недостатки. Activation Atlases построен на методе визуализации возможностей. Он даёт представление о том, что собой представляют скрытые слои нейронных сетей, которые, в свою очередь, делают машинное обучение более доступным и интерпретируемым. Другими словами, с его помощью исследователи могут анализировать работу отдельных алгоритмов, понимая, каким образом они объединяют различные абстрактные элементы для идентификации конкретных объектов. title="Open AI и Google представили инструмент Activation Atlases, который позволяет узнать, что видит нейросеть" -->
Также по теме:
Stfw.Ru