Одинаковая работа нейросетей скрывает разную историю
Модели давали одинаковые ответы, но новое обучение выявило различия, не видимые по их результатам.
Если две системы справляются с одной проверкой одинаково хорошо, легко предположить, что и устроены они похоже. Для изучения мозга такой вывод может оказаться ловушкой. Совпадение результата ещё не объясняет, каким путём он получен — и как система поведёт себя при необходимости переучиваться.
Йоав Гер и профессор Омри Барак из Техниона исследовали не нейроны живых людей, а упрощённые компьютерные модели. Их объектом стали рекуррентные нейросети: в них сигналы проходят по повторяющимся связям, а прошлое состояние влияет на последующую реакцию. Такие модели используют, чтобы разбираться в механизмах памяти, принятия решений и обучения.
Исследователи создали математический способ описывать обучение через небольшое число параметров, хотя сама сеть может включать множество связей. Часть параметров определяет то, что мы наблюдаем прямо сейчас: активность сети, её ответы и ошибки. Другие на текущем результате не отражаются, зато влияют на то, как будут изменяться связи в дальнейшем.
Это различие проявилось в компьютерном опыте. Две сети одинаково реагировали на одни и те же входные сигналы. Затем их поставили перед одинаковой новой задачей. Одна некоторое время почти переставала улучшать результат, тогда как другая продвигалась заметно ровнее. Выходит, привычный тест показывал одинаковую способность, но скрывал разную готовность к следующему обучению.
Был и другой опыт. Сети сначала тренировали на разных заданиях, затем обучали общей задаче. К концу они демонстрировали схожее качество работы. Однако анализ скрытых параметров при определённых условиях позволял установить, чему каждую обучали раньше. Часть внутренней истории сохранялась даже после сближения результатов.
«Понимания того, как система ведёт себя сегодня, недостаточно, чтобы описать, как она будет учиться в будущем», — объяснил Омри Барак в сообщении Техниона. По его словам, изменения при обучении могут показать различия в устройстве сети, невидимые по её текущей работе.
Авторы называют такой подход исследованием структуры через обучение. Вместо того чтобы судить о нейросети исключительно по ответу, можно предложить новое задание и измерить траекторию изменений. Это особенно интересно нейробиологам: в реальном мозге устройство миллионов связей невозможно восстановить по одному наблюдению поведения.
Однако переносить вывод на людей пока рано. В работе использованы математические уравнения и компьютерные симуляции, а не опыты с человеческим мозгом. Модели были специально упрощены, а сохранение следов прежнего обучения зависело от их свойств и правил изменения связей. Исследование не доказывает, что два человека с одинаковыми навыками непременно учатся разными способами.
Первая версия статьи Йоава Гера и Омри Барака появилась в архиве arXiv в мае 2026 года, обновлённая — 16 октября. В ноябре Технион рассказал о работе после её отбора для устного доклада на конференции NeurIPS 2026. Следующий научный шаг — проверить предложенные предсказания на биологических нейронных цепях.
СОВЕТ ОТ РЕДАКЦИИ
Одинаковый результат не обязательно означает одинаковый механизм. Но пользоваться этой идеей как готовым тестом человеческих способностей нельзя: пока она проверена на компьютерных моделях, а не на людях.
Изображение: редакция ИЗНАНКИ.