Международная группа ученых заставила импульсную нейронную сеть чередовать тренировки со «сном» для выполнения двух разных операций без перезаписи связей, полученных в ходе первой задачи. Об этом пишет Motherboard.
«Сейчас существует огромная тенденция использовать идеи нейробиологии и биологии для улучшения работы алгоритмов машинного обучения. Сон — одна из них», — сказал соавтор исследования и специалист Калифорнийского университета в Сан-Диего Максим Баженов.
Искусственные нейросети часто достигают сверхчеловеческих высот. Однако, когда дело доходит до последовательного обучения или решения одной задачи за другой, они не способны получить новые знания, не потеряв старых.
«После качественной тренировки ИИ очень трудно научить выполнять совершенно новую операцию. А если это все же удастся, то повредится старая память», — отметил соавтор исследования и научный сотрудник Академии наук Чехии Павел Санда.
Он объяснил, что в нейромире такое действие называется «катастрофическим забыванием», которое можно решить только с помощью «консолидации памяти». Это процесс, который помогает преобразовать недавние краткосрочные воспоминания в долговременные, часто происходящие в периоды быстрого сна.
По словам ученого, реорганизация памяти играет большую роль в том, почему людям вообще нужно спать. Если этот процесс неправильно работает или прерывается, то у человека могут возникнуть серьезные умственные нарушения.
«Этот феномен можно наблюдать у пожилых людей, которые подробно рассказывают ситуации из детства, но с трудом [вспоминают], что они ели вчера на обед», — отметил Санда.
Исследователи использовали предыдущие наработки в области пластичности памяти и моделирования сна. Они задействовали нейросеть для имитации сенсорной обработки и обучения с подкреплением в мозгу животного.
Ученые поставили перед моделью две отдельные задачи, в которых та натренировалась различать наказание и вознаграждение.
Затем они проверили, будет ли ИИ демонстрировать «катастрофическое забывание». В результате каждая тренировочная сессия по второй задаче уничтожала знания, полученные в первой.
Но, заставив алгоритм имитировать биологический сон посредством активации искусственных нейронов в виде шумов, ученые обнаружили прогресс. Быстрое чередование фаз якобы отдыха с тренировками по второй задаче позволяет модели «вспомнить», как выполнять первую.
«Это еще одна хорошая демонстрация того, что незамысловатые принципы могут привести к не таким простым эффектам», — сказал Санда.
Напомним, в сентябре британский стартап создал модель машинного обучения для управления разными типами автомобилей.
В августе 2021 года DeepMind разработала универсальную архитектуру Perceiver IO для обработки всех типов входных и выходных данных.
В феврале Sonantic создал ИИ-алгоритм, имитирующий кокетливые речевые паттерны благодаря новым «несловесным звукам», включая вздохи, паузы и легкий смех.
Подписывайтесь на новости ForkLog в Telegram: ForkLog AI — все новости из мира ИИ!
