Notes

Генерация табличных данных с помощью языковых моделей: делаем правильно Хабр
Дата-сайентистам необходимо хорошо владеть языком Python и иметь уверенный математический бэкграунд. Например, на курсе «Специалист по Data Science» студенты учатся работать с pandas, Scikit-learn, Catboost — библиотеками для Python, которыми ежедневно пользуются специалисты. Языковые модели на основе n-грамм аппроксимировали вероятность следующего слова, используя счётчики n-грамм и методы сглаживания. Для улучшения этого подхода были предложены feedforward архитектуры нейронных сетей (feedforward neural networks), чтобы аппроксимировать вероятность слова. Эта модель представляет собой простую нейронную сеть, которая предсказывает следующее слово на основе фиксированного числа предыдущих слов.
Большие языковые модели
Модели также учатся определять отношения между разными сущностями в тексте, такими как люди, места, объекты и события. Может получиться, что увеличение выборки не даст никакого прироста в качестве модели. Все эти функции называются «Scaling Laws» — законы по которым меняется качество (ошибка) модели в зависимости от масштабирования разных факторов обучения. Языковые модели используют глубокие нейронные сети для построения текста, обучаясь на миллиардных объемах данных, чтобы обрабатывать естественный язык.
Эти модели предназначены для изучения паттернов, структур и семантики человеческого языка на основе огромных объемов данных. Приготовьтесь отправиться в приключение, которое раскроет тайны языковых моделей и их способность изменить наш цифровой мир. Например, vLLM, о которой рассказывали в статье, или другие популярные. http://planforexams.com/q2a/user/search-pioneer Гибридный подход, который сочетает использование CPU и GPU, позволяет эффективно работать с моделями, которые не помещаются в VRAM. Для быстрого инференса важно иметь SSD с высоким уровнем производительности и достаточно свободного места, так как некоторые модели могут занимать сотни гигабайт данных. Для обучения и инференса LLM нужен мощный сервер с высокопроизводительными процессорами и видеокартами.
При длительных диалогах с языковой моделью периодически возвращайтесь к исходной задаче. Это естественная практика — даже в профессиональных дискуссиях о моделях участники могут увлечься интересной деталью и потерять основную цель обсуждения. http://xn--l1ae1d.xn--b1agalyeon.xn--80adxhks/user/SERP-Insights/ В ходе диалога модели часто отклоняются от темы или теряют нить рассуждения. Мы разработали несколько эффективных техник для обучения модели и удержания фокуса на задаче. Также важно знать, что https://huggingface.co/blog маленькие изменения в заданиях могут сильно изменить результат работа ChatGPT.
Этические соображения и проблемы языковых моделей
Языковая модель — это алгоритм, который анализирует текст, понимает его контекст, обрабатывает и генерирует новые тексты. В его основе лежат нелинейные и вероятностные функции, с помощью которых модель предсказывает, какое слово может быть следующим, — рассчитывает вероятность для каждого из возможных слов. Для того, чтобы распознавать естественную человеческую речь, в машинном обучении используют специальные модели — языковые.
На этом этапе модель улучшается через механизмы наград и штрафов. В основе этого процесса лежит отдельная reward-модель, которая оценивает качество ответов основной модели. Этот этап помогает превратить просто умную модель в модель‑ассистента. Обучение с подкреплением позволяет не просто выучить «определённое поведение», но максимизирует удовлетворение пользователя от общения с моделью.

Самое интересное, что эта карта позволяет выполнять математические операции со смыслом. Если двигаться по карте в любом направлении, то можно встретить разные формы этого слова. Например, на карте языковой модели есть направление, соответствующее тому, чтобы быть актёром. Чем дальше вы продвигаетесь в этом направлении, тем больше вероятность того, что конструируемое вами слово относится к актёру. Самый прямолинейный способ создания синтетических данных с помощью языковой модели — это запросить у неё сразу весь набор данных нужного размера и структуры. В этом методе мы просто передаём модели параметры таблицы, включая названия колонок, возможные значения, ограничения и ожидаемый формат вывода.
Это повышает точность, так как позволяет модели учитывать контекст и корреляции. Внутренний вектор, с которым работает модель, описывает связи между исходными данными и позволяет модели обрабатывать и генерировать текст. Современные большие языковые модели, такие как BERT или GPT, основаны на структуре под названием «трансформер». Такая архитектура оказалась самой эффективной и давала лучшие результаты, чем статистические или RNN-модели. На практике «канонические» RNN редко используются для задач языкового моделирования. Вместо этого применяются улучшенные архитектуры RNN, https://lilianweng.github.io/lil-log/ такие как многоуровневые и двунаправленные сети, долгосрочная краткосрочная память (LSTM) и их вариации.
При этом компаниям в первую очередь интересен практический опыт специалиста. Особенно полезно, когда у человека есть специфический бэкграунд. Например, если компания работает в медицинской сфере, знание биологии или медицины может оказаться важнее, чем глубокие знания в IT. Потому что настройка и обучение специализированных моделей требуют понимания данных, которые она анализирует. Это когда нейросеть уверенно отвечает на заданный вопрос, но ее суждение не имеет отношения к реальности.
Website: https://lilianweng.github.io/lil-log/