Notes

Новая система ИИ помогает бороться с фейковыми новостями в интернете
Еще одной проблемой является точность меток, на которые алгоритм ИИ полагается в процессе обучения. «Шумные» данные – данные, в которых метки не обязательно точны – хорошо известная проблема в машинном обучении. https://rust-client.ru/index.php?subaction=userinfo&user=grillguilty7 В качестве простого примера, не связанного с информационными атаками, рассмотрим алгоритм машинного обучения, который пытается научиться автоматически отличать изображения автомобилей от изображений велосипедов. Для этого алгоритм может найти в интернете миллионы изображений с пометкой «автомобиль» и столько же изображений с пометкой «велосипед». Но в некоторых случаях метки будут неверными; изображение с пометкой «автомобиль» может показывать грузовик, велосипед или контент, https://lilianweng.github.io/lil-log/ совершенно не связанный с транспортными средствами. Чем выше доля неправильных меток, тем медленнее алгоритм будет учиться точно различать автомобили и велосипеды.
В результате, блокировка произойдет не раньше, чем проблему обнаружит алгоритм, либо информация поступит от пользователей через каналы обратной связи. Одним из способов применения ИИ является анализ контента новостей с использованием алгоритмов машинного обучения. Кроме того, ИИ может быть использован для анализа поведенческих данных пользователей, чтобы определить, насколько достоверными являются новости. От сенсационных заголовков до преувеличенных заявлений они предназначены для быстрого распространения в социальных сетях и других цифровых платформах. Алгоритмы машинного обучения могут обучаться на основе предыдущих примеров фейковых новостей и находить общие черты, которые могут указывать на то, что новость является недостоверной.
Знание того, насколько хорош экспертный детектор лжи, зависит https://huggingface.co/blog от того, как часто он выявляет ложь, когда она есть (попадание). https://www.webwiki.ch/t.me/dvmagic Но также и от того, что он не часто ошибочно принимает кого-то за правду, когда тот на самом деле лжет (промах). Это означает, что им нужно знать, что такое правда, когда они ее видят (правильное отклонение) и не обвинять кого-то во лжи, когда тот говорит правду (ложная тревога).
Знакомство с проблемой шейковых новостей в современных СМИ
Они должны быть измеримыми, конкретными и реалистичными, чтобы обеспечить эффективную работу команды и достижение результатов в заданные сроки. Раздел «Люди и компании» предназначен для развития нетворкинга, поиска единомышленников и расширения деловых связей. Верификация – проверка, подтверждение или опровержение массово и вирально (с большой скоростью подобно вирусу) распространяемых данных, на достоверность. Такие платформы, как Facebook и Twitter, воспользовались этими данными, удалив тысячи вводящих в заблуждение сообщений и пометив сомнительный контент для пользователей.
Ряд языковых моделей, таких как GPT, GPT-2 и GPT-Large от OpenAI, произвел фурор в средствах массовой информации благодаря своим возможностям генерации текста. В этом посте я всесторонне рассмотрю нейрофейковые новости — от определения того, что это такое, до понимания некоторых способов выявления этой дезинформации. Инструменты на базе искусственного интеллекта могут легко определить подлинность мультимедийного контента, например изображений и видео. Это поможет прекратить вводящую в заблуждение информацию посредством визуального контента, который способствует созданию фейковых новостей. Он может быть обучен на основе большого объема достоверных и недостоверных текстовых источников, чтобы научиться распознавать общие черты и паттерны, которые свойственны ложной информации.
Такие новости становятся все более распространенными в современных СМИ из-за желания привлечь большее количество читателей или зрителей. Алгоритмы распознавания образов могут анализировать содержимое и определять, была ли фотография изменена или сфабрикована. Эти меры могут значительно улучшить ситуацию, однако их реализация часто вызывает споры о правомерности вмешательства государства в свободу слова и риске цензуры. Найти баланс между свободой информации и защитой общества от дезинформации остается сложной задачей для правительств.
Значение искусственного интеллекта в борьбе с дезинформацией
Например, с помощью технологии фактчекинга была проверена новость о том, было или нет в Нижегородской области полярное сияние. Ребята собрали доказательства, статистику, взяли интервью у эксперта и выяснили, что это правда. Научные исследования в области проверки информации на достоверность в Институте филологии и журналистики ННГУ им. Сначала работа осуществлялась в партнерстве с зарубежными коллегами под эгидой Европейской ассоциации преподавания журналистики (EJTA).

Использование ИИ может значительно улучшить эффективность борьбы с этими проблемами и защитить общественное доверие к информации. Искусственный интеллект (ИИ) играет все более важную роль в борьбе с фейковыми новостями и дезинформацией. Он предоставляет мощные инструменты для обнаружения и анализа поддельных новостей, позволяя различать правдивую информацию от лжи. Такой подход работает, если предметом для разногласий является что-то конкретное — например, ложные рекомендации методов лечения, и – если нет дефицита времени на борьбу с дезинформацией. Для создания и использования полноценного набора обучающих данных требуется очень много времени. Но этот путь менее эффективен, если защиту нужно включить быстро, а объем данных для обучения алгоритма сильно ограничен.
Это сильно отличается от Grover, еще одной структуры, которую мы изучим в следующем разделе. Как видите, несмотря на то, что текст выглядит убедительно и связно, модель напрямую классифицирует его как «фейк» с точностью 99,97%. Еще одним преимуществом этой модели является то, что ее предсказания очень быстрые по сравнению с другими методами, которые мы обсуждали в этой статье. Если это так, и в данном тексте есть несколько таких слов, то это в основном подтверждает, что он был сгенерирован машиной. Поскольку мы уже знаем методы выборки слов из заданного распределения вероятностей, такие как максимальная выборка, выборка k-max, поиск луча, выборка ядра и т. Д., мы можем легко проверить, соответствуют ли слова в данном тексте определенному распределению.
В случае с медленными, долгоиграющими информационными атаками компаниям имеет смысл действовать консервативно в отношении блокировки контента. Вреда от длительного процесса проверки потенциально ложной информации куда меньше, чем от последствий блокировки реальных пользователей, чья информация является точной. Когда появился интернет на онлайн-форумах финансовых рынков было полно людей, которые стремились посеять ложную информацию об успехах и провалах публичных компаний и быстро на этом заработать. С тех пор изощренность инструментов, которые могут быть использованы для запуска кампаний по дезинформации, и охват платформ для ее распространения значительно возросли. Если нам порекомендуют систему проверки фактов на основе ИИ или человека на основе обнаружения сигнала, мы сможем лучше понять, насколько она хороша.
Website: https://huggingface.co/blog