Каждый день · проверено по первоисточникуВсе выпуски
Применяй ИИ
Новости ИИ и технологий каждый день
Главное

AWS добавила полное дообучение ИИ: в тестах точность достигла 90%

AWS, облачное подразделение Amazon, добавила полное дообучение в SageMaker AI — сервис для обучения ИИ-моделей. В опытах компания использовала 110 тысяч примеров по программированию.

Компаниям проще адаптировать модель под свои задачи: сервис сам выделяет вычислительные ресурсы. Но выигрыш в одной области может обернуться потерей других навыков.

Коротко

  • Заказывать графические процессоры и настраивать вычислительный кластер не нужно.
  • Сервис автоматически сохраняет обученные модели с номерами версий.
  • В одном из сравнений более экономный метод дообучения показал лучший результат.

Полное дообучение меняет все параметры модели

Дообучение — это дополнительное обучение готовой модели на материалах под конкретную задачу. Новый режим меняет все её параметры. Другой подход, LoRA, вносит изменения через небольшие добавочные блоки.

AWS сравнила оба метода на Qwen3-4B с одинаковыми заданиями и правилами оценки. Для обучения взяли 99 тысяч пар «задание — ответ». Ещё по 5500 пар оставили для проверки в ходе обучения и итогового теста.

Улучшение кода может сопровождаться потерей общих знаний

Оценку 90% дала другая модель, проверявшая логическую правильность решений. В опытах этот результат получили после трёх проходов по учебным примерам. Дальнейшее обучение ухудшало все проверенные варианты.

AWS отдельно измеряла сходство с эталонным кодом и сохранность общих знаний. Первая проверка оценивала усвоение структуры и стиля решений. Вторая помогала обнаружить потерю способностей за пределами программирования.

При слишком быстром изменении параметров точность в тесте общих знаний падала до 3,6%. На математических задачах оба метода уступили исходной модели. А в одном сравнении с оценкой другой моделью LoRA набрала 81,5% против 79,5% у полного дообучения.

Что это значит для вас

  • Для бизнеса с большим набором качественных примеров появился ещё один способ адаптировать ИИ.
  • Выбирать метод только по лучшей цифре AWS рискованно: результат зависит от задачи и настроек.

Что делать

  1. Выберите исходную модель и подготовьте учебные примеры.
  2. Оставьте отдельную часть примеров для итоговой проверки.
  3. Запустите полное дообучение через инструменты SageMaker для Python.
  4. Сравните качество с исходной моделью и проверьте сохранность общих знаний.

Чего пока неизвестно

В приведённом материале нет стоимости такого обучения и условий доступа из России.

Редакция «Применяй ИИ» · Как мы готовим новости

Ещё по теме