Разработан новый механизм самообучения ИИ
Выбор оптимального метода
SEAL позволяет модели выбирать способ усвоения информации. То есть LLM сама отбирает нужные синтетические данные, определяет темп обучения и количество циклов тренировки.
«Люди знают, как им лучше всего учиться. Мы хотим предоставить такую же возможность LLM. Наделяя модель способностью управлять тем, как она перерабатывает информацию, мы даем ей свободу определять наилучший способ анализа всех поступающих данных», — говорит Пари.
SEAL превзошла несколько базовых методов в ряде задач, включая освоение нового навыка на основе примеров и усвоение знаний из текстового отрывка. В ответах на вопросы самообучаемость улучшила точность модели почти на 15%, а в некоторых задачах освоения навыков повысила процент успешного выполнения более чем на 50%.
Одним из ограничений этого подхода стала проблема катастрофического забывания: по мере неоднократной адаптации к новой информации производительность модели на ранее освоенных задачах постепенно снижается. Исследователи планируют смягчить этот эффект в следующих версиях своего продукта. Они также намерены применить эту методику в среде с множеством агентов, где несколько LLM будут обучать друг друга.
«Полностью развернутые самоадаптирующиеся модели — пока дело далекого будущего, но мы надеемся, что системы, которые умеют учиться, в конечном итоге придут к этому», — заключил Цвайгер.
Искусственный интеллект провалил экзамен на целостное понимание мира
Как работает нейросеть: базовые принципы и словарь терминов
Подписывайтесь и читайте «Науку» в Telegram