Notes

Объяснение языковых моделей: как машины понимают и генерируют текст
Модель остаётся та же самая, но мы ей подсказываем, что вот эти факты связаны между собой, и она может это запомнить.Во-вторых, синтетика помогает, когда нет нужного объёма качественных данных. Для некоторых архитектур хорошо описаны законы масштабирования больших языковых моделей. Для других описаны чуть хуже, но в целом, если мы знаем, какого размера модель и сколько есть вычислительных мощностей, то знаем, сколько потребуется данных. Соответственно, у нас может быть техническая возможность масштабировать модель, но не будет достаточного количества качественных данных, на которых она сможет обучаться. Какого-то трэша из интернета с каждым днем становится всё больше, а фундаментальные данные национальных корпусов так быстро не растут. Успех в дообучении больших языковых моделей зависит от качества данных.
Обучение языковой модели: анализ данных и прогнозирование следующих слов
Одну и ту же модель можно использовать и для генерации кода, и для имитации живого диалога или придумывания историй. В последние годы в развитии искусственного интеллекта в виде LLM на первый план вышла программная архитектура «трансфор-мер», приведшая к значительным изменениям в области обработки естественного языка. Класс из библиотеки transformers для запуска модели CausalLM называется AutoModelForCausalLM. Их работы подчеркивают, что публичный дискурс не только выявляет социальные проблемы и предоставляет платформу для их обсуждения, но и определяет восприятие обществом самого себя и своего места в истории.
Активное внедрение Больших языковых моделей может привести к значительным и даже радикальным изменениям в науках о языке и обществе. Влияние LLM будет только усиливаться, поэтому так важны междисциплинарные исследования ИИ технологий - важно понимать, какое совместное будущее нас ожидает, какую максимальную пользу мы можем из них извлечь и как минимизировать потенциальные риски и угрозы. Важно учитывать, что характер материалов, генерируемых LLM, зависит от данных, на которых они обучались. Если эти данные несбалансированных или содержат предвзятые мнения или не основанные на научных фактах утверждения, модели могут воспроизводить и усиливать эти предвзятости и неточности в публичном дискурсе. Соответственно, на сегодняшнем уровне развития LLM существует необходимость в постоянном мониторинге и корректировке как входных, так и выходных данных (англ. Reinforcement Learning from Human Feedback, RLHF).
http://qa.doujiju.com/index.php?qa=user&qa_1=beadlung2 Архитектура трансформатора: кодер-декодер и механизм внимания
В отличие от этого, модели на основе трансформера используют механизм самовнимания, который позволяет обрабатывать все позиции в последовательности одновременно. На рисунке ниже — высокоуровневое представление модели трансформера с «LM‑головой» на выходе. При рассмотрении языковых моделей без их применения к конкретной задаче (например, машинному переводу) существует одна универсальная мера, которая может дать нам представление о том, насколько хороша наша языковая модель.
Обучающая программа тестирует модель и корректирует её в зависимости от того, насколько хорошо она работает. Существует множество отличных руководств о внутренних механизмах языковых моделей, но все они довольно техничны. (Заметным исключением является статья Нира Зичермана в журнале Every о том, что БЯМ — это еда.) Это обидно, потому что есть всего несколько простых идей, которые нужно понять, чтобы получить базовое представление о том, что происходит под капотом.

С точки зрения работы в профессии, в NLP ситуация лучше, чем во многих других областях, потому что к нам приходит много лингвистов, где традиционно девочек как раз больше. https://qa.holoo.co.ir/user/notifylung3 Все популярные лицензии на интеллектуальную собственность составлялись без учёта того, что кто-то будет их использовать для неполной репликации и создания нового. https://paperswithcode.com Пока ничего не переписали, существует большой перекос, когда крупным платформам всё можно, а создателям контента ничего нельзя. Например, vLLM, о которой рассказывали в статье, или другие популярные.
Метод смещения логита позволяет получить доступ ко всему дистрибутиву, но требует больше затрат при вызовах API. Книги хранят текст в статических единичных историях, но, когда текст читается, в воображении читателя создается динамическая виртуальная реальность. GeDi — это метод генерации логит-смещений для генерации смещений в пользу или против оценки атрибута, подобной тем, которые назначаются с помощью CTRL. Если вы думаете об атрибутивных переменных как об измерениях фазового пространства, метод постоянно подталкивает систему в определённом направлении в фазовом пространстве по мере её эволюции. Аттрактор — это состояние или набор состояний, к которым система имеет тенденцию эволюционировать и оставаться стабильной, когда она там окажется. Тонко настроенный GPT-3 в AI Dungeon имеет тенденцию переходить в стиль от второго лица в настоящем времени и оставаться в нём при случайных блужданиях.
Homepage: https://paperswithcode.com