Notes

Возможно ли все еще отличить сгенерированный текст от написанного человеком? Хабр
В этом контексте встраивания (embeddings) — это числовые представления слов и их взаимосвязей друг с другом. Они выражены в виде векторов в многомерном пространстве, каждый из которых имеет уникальный код. Например, текст с невыразительной тональностью, грамматическими ошибками и повторами с большей вероятностью будет отнесен к категории сгенерированных ИИ. Дело в том, https://ai.google/research/ что когда человек пишет, он объединяет случайные мысли в осмысленные предложения. Люди не следуют шаблонам, и одни предложения могут быть слишком длинными, а другие — короткими.
Почему нельзя публиковать сгенерированные тексты
Однако пока и им на сто процентов доверять тоже не стоит – иногда они говорят, что текст писал ИИ, а его писал человек, ну и наоборот. В сгенерированном тексте может отсутствовать оригинальный вклад или анализ, который типично ожидается в научных или литературных работах. В начале мая система Антиплагиат ВУЗ обновилась, добавив функцию распознавания текста, созданного нейронными сетями. https://www.webwiki.it/globalpolicy.ai
Многие клиенты, в том числе и наши, путают неестественный стиль изложения с определенным стилем речи – например, тем же подобием ОДС, когда сфера b2b. Однако смотреть нужно на весь текст последовательно, не на какие-то определенные показатели – иногда и человек может напортачить. По словам преподавателя, в некоторых текстах он замечает сразу несколько названных выше признаков, что вызывает сомнения в честности выполненной студентом работы. А в других случаях бывает сложно отметить конкретные индикаторы ИИ-генерации, но при чтении текста возникает стойкое чувство, что писал его не человек. Нейросети часто используют однотипные конструкции и повторяющиеся шаблоны. Это заметно в текстах, где каждая часть выглядит предсказуемо.
В другой публикации преподаватель рассказал об одном из случаев, когда его подозрения подкрепились и сторонними мнениями, и результатами ИИ-детекторов. Тогда, прежде чем оценить работу, он отправил студенту письмо с предложением обсудить его текст и ответить на несколько вопросов. И одновременно разослал всем другим ребятам напоминания, что злоупотребление https://fast.ai нейросетями против правил его курса. Студент, сдавший подозрительный текст, сообщение проигнорировал и поэтому не получил баллы за эту работу. Эрик Офганг преподаёт писательское мастерство, а значит, читает очень много студенческих работ. И по его опыту, если стиль конкретного текста значительно выделяется среди других текстов, которые сдавал учащийся, это может говорить о плагиате или ИИ-генерации.
СВЕЖИЕ СТАТЬИ
В таком случае использование машинно-сгенерированного текста будет считаться нарушением правил выполнения задания. — Компания «Антиплагиат» одна из первых в мире выпустила детектор текстов, написанных нейросетью. Сейчас он проверяет все документы подписчиков системы. Это инструмент, который проверяет тексты на наличие искусственно сгенерированных фрагментов и выносит в отчет информацию об этом.
Определяем ИИ-текст на примерах в рамках рекурсивного эксперимента
Нейросеть выдаст хороший поверхностный текст, но ни в какое сравнение с тем, который написал копирайтер, это не идет. Обычно списки делают для того, чтобы информацию было проще воспринимать. К примеру, если текст с инструкцией состоит на 80% из списков — это ок, но если столько же списков в сочинении или новости — то это уже сомнительно. Если одна и та же мысль упоминается несколько раз, возможно, текст написан ИИ. Происходит это потому, что многие нейросети «не осознают», что говорят одно и то же.
Конечно, повторяются (специально или случайно) и люди, поэтому важно «выносить вердикт» по совокупности признаков. Определить текст, созданный ИИ, можно по ряду признаков. Понимание признаков, которые отличают искусственный текст от «живого», важно для развития самых разных сфер, в том числе журналистики и образования. Существует много причин, по которым обнаружить созданный машиной контент все труднее. Сама идея подразумевает возможность ошибки, поскольку ориентируется лишь на уровни уверенности и вероятности. https://fravito.fr/user/profile/1480402
Homepage: https://fravito.fr/user/profile/1480402