Ученые «стерли» память ИИ и проверили, способен ли он рассуждать

Исследователи выяснили, что память и логика в нейросетях работают независимо. Даже если лишить ИИ части знаний, он продолжает рассуждать почти так же точно, как прежде. Команда из стартапа Goodfire.ai решила проверить, как устроено мышление у искусственного интеллекта. Они «отключили» часть памяти модели и посмотрели , изменится ли её способность к логическим выводам. Чтобы сделать это аккуратно, учёные использовали математический метод K-FAC — Kronecker-Factored Approximate Curvature. Он позволяет точечно удалить данные, не разрушая структуру нейросети. После такой «амнезии» ИИ...