Notes

Большие языковые модели: от предобучения до обучения на инструкциях Хабр
Декогерентные части волновой функции не оказывают никакого влияния, хотя технически они всё ещё включаются во входные данные гамильтониана на каждом временном шаге. Исключением являются явления интерференции, когда альтернативное прошлое не декогерировалось от наблюдателя и может взаимно влиять на настоящее. В этих моделях вероятность появления определённого слова зависит от предыдущих n слов. Например, в биграммной модели вероятность появления слова определяется только предыдущим словом. Это простой и эффективный метод, однако он имеет значительные ограничения, так как не учитывает дальние зависимости и может быстро становиться вычислительно неэффективным при увеличении размера n.● Марковские цепи.
Просто сначала взаимодействие с ней было не так удобно, как сейчас, потому что оно было не в формате диалога. Мы подбираем затравку (промпт), которую мы отправляем в статистическую модель таким образом, чтобы максимизировать вероятность желаемого. Естественный язык очень хорошо подходит для этой задачи, потому что мы и сами ходим и «промптим» окружающих, мы всё время максимизируем вероятность желаемого. А LLM имеет огромный аккумулированный опыт общения разных людей друг с другом и с моделью. Это быстрая и удобная библиотека для инференса и обслуживания больших https://eleuther.ai языковых моделей. Она моментально генерирует текст благодаря современным методам обработки запросов, эффективному управлению памятью и поддержке непрерывной пакетной обработки запросов.
[ссылка] инструментов для управления языковыми моделями
Современные передовые языковые модели используют механизм внимания, упомянутый в предыдущем абзаце, и, в частности, механизм самовнимания (англ. self-attention), который является неотъемлемой частью архитектуры трансформера. Я давно слышу, что большие языковые модели — это пузырь, который вот-вот лопнет. Я думаю, что ещё примерно год будем это слышать, а потом тема перейдет в другую область, в робототехнику или ещё куда-то. Наши ожидания от LLM остановятся на определённом уровне, как наши ожидания от интернет-поиска.
Мы с вами обсудили, как развивались языковые модели, какие приёмы и техники необходимы для успешного обучения инструкционных моделей. Здесь я рекомендую посмотреть статью New York Times в качестве наглядного примера, что происходит на этом шаге. Если мы сядем писать их сами, вряд ли сможем написать такие сложные запросы, которые придумал бы учёный, а тем более — идеальные ответы к ним. В исследовании 2020 года было показано, что, если обучить большую языковую модель на большом корпусе текстов, то модель приобретает способность решать самые разные задачи, включая приведенные выше.
Наконец, обсудив, как готовить обучающие данные, перейдем к прародителю ChatGPT. Инструкционная модель — это та, которая обучена отвечать на пользовательские запросы в режиме zero-shot (а вообще, и few-shot, и любой человекочитаемый формат) с высоким качеством. Получается, что можно оптимизировать подводку, или, другими словами, находить наиболее оптимальный промт, который лучше прочих решает поставленную задачу. Поэтому, в отличие от BPE, он способен работать с такими языками, как японский или китайский.
Надо понимать, что среда разработчиков ИИ стала очень закрытой. Всё находятся под несколькими слоями договоров о неразглашении, поэтому о том, что происходит, можно судить только по косвенным признакам. С одной стороны, этот продукт пока не столько зарабатывает, чтобы было экономически выгодно платить правообладателям за данные. С другой стороны, этот коммерческий продукт отнимает у живых людей заказы и создает упущенную прибыль для правообладателей тех данных, на которых он обучен. Все данные в интернете, которые автоматически были собраны для обучения нейросетей, находились под какой-то лицензией.
Как научиться работать с языковыми моделями
Это требует разработки новых стандартов и правил, гарантирующих подлинность и достоверность общественного диалога. Текущие исследования и разработки направлены на улучшение навыков языковых моделей, включая их понимание контекста, способность рассуждать и здравый смысл. Подходы к обобщению текста используют языковые модели для сжатия огромных объемов информации в краткие и полезные резюме.
Мне показалось интересным думать о языковых моделях как о стохастических динамических системах, а о мультивселенных, которые они порождают, как о совокупностях разветвляющихся траекторий в гипотетическом фазовом пространстве. https://medknigki-v-ulan-ude.ru/user/sortnumber04/ Насколько нам известно, наиболее точно мы можем предсказать любую систему, если смоделировать её с помощью квантовой механики. Будущее на самом деле еще не написано, за исключением вероятностей.
Составление карты языка с помощью математики
Модели учатся распознавать и воспроизводить устойчивые сочетания слов, такие как идиомы или фразеологизмы. Например, выражение «идти на поправку» понимается моделью как целостное, а не как набор отдельных слов.Другой ключевой задачей языковых моделей является освоение грамматики и синтаксиса — правил, по которым строятся предложения.● Порядок слов в предложении. Модель обучается определять правильный порядок слов для формирования грамматически корректных предложений. Например, в английском языке типичный порядок — «подлежащее — сказуемое — дополнение», тогда как в русском языке порядок может варьироваться в зависимости от контекста.● Согласование. Например, в русском языке существительные и прилагательные должны согласовываться по родам, числам и падежам.
Но этот объем далее взаимодействует с весами, сформированными терабайтами обучающей информации. Примерно то же и у человека – в краткосрочной памяти он удерживает небольшие данные, на порядки меньше, чем LLM, а они, эти данные, уже взаимодействуют с огромным опытом, накопленным за всю жизнь. Личное творчество и способность к инновациям – это важные аспекты человеческого мышления. Люди могут создавать новые идеи, концепции и решения, которые выходят за рамки обучающих данных.VS Языковые модели могут генерировать текст, который кажется творческим, но это основано на комбинациях и паттернах, найденных в обучающих данных. Уже только эти три упомянутые выше способности делают из LLM полноценного коммуниканта в диалоговых и полилоговых взаимодействиях на любые темы.
Человеческий мозг способен хранить и извлекать воспоминания в течение длительного времени vs LLM ограничены объемом входных данных. Эти два аргумента можно объединить, ведь интуиция (та, которая приводит к правильным выводам) невозможна без накопления огромной разнообразной информации – опыта. Аналогично, мы “нанимаем” нейросеть, “платим” в виде затрат электроэнергии или расходов на аренду мощностей, и ставим цели. Что касается социальных эффектов, то влияние LLM будет заключаться в изменении способов общения, появлении новых форм искусства и литературы, и самое главное - LLM могут изменить наше представление о мире как таковом и о нас самих.
В случае повествования мы можем сказать, что описание на естественном языке определяет определённое настоящее, но невозможно описать каждую переменную, которая может оказать влияние на будущее. В любой сцене неявно присутствуют объекты, которые не указаны, но которые предположительно могут играть роль в каком-то будущем или полностью отсутствовать в другом. блог Самый простой способ сделать это, который поддерживает API OpenAI, — это логит-смещения.
В процессе обучения языковая модель создаёт огромный словарь, содержащий все эти очень сложные, выдуманные суперслова. Она создаёт этот словарь, читая весь интернет и создавая суперслова из понятий, с которыми сталкивается. Если мы хотим использовать большие языковые модели (БЯМ) в своей работе и при этом называть результаты творческими, нам придётся понять, как они работают — по крайней мере, на высоком уровне. На прошлом шаге мы показывали модели, какой ответ нужен под конкретный запрос. Нам просто не хватит времени и ресурсов, чтобы собрать миллионы разных вариантов ответов и проверить их. Для этого мы обучаем другую языковую модель оценивать, как наша LLM справляется с задачами.
My Website: https://medknigki-v-ulan-ude.ru/user/sortnumber04/