Notes

ИИ в подборе персонала: как избавиться от предвзятости при найме
Например, в США компании, разрабатывающие алгоритмы для правоохранительных органов и финансовых структур, обязаны тестировать их на наличие расовой и гендерной предвзятости. Одним из ярких примеров является расовая предвзятость, выявленная в алгоритмах, применяемых для прогнозирования рецидивов в уголовных делах в США. Алгоритм COMPAS, предназначенный для оценки вероятности повторного преступления, ошибочно указывал на более высокий риск рецидива среди афроамериканцев. Исследование, проведённое журналистами ProPublica в 2016 году, показало, что COMPAS ошибочно предсказывал высокий риск рецидива для 45% афроамериканцев, тогда как среди белых этот показатель составлял 23%. Этот случай стал наглядным примером того, как алгоритмы могут усиливать существующие социальные стереотипы. Требования конфиденциальности данных и локализации немедленно ограничивают наборы данных, к которым организации могут получить доступ.
В качестве вице-президента по продукту, руководящего продуктом от создания до проникновения на рынок и роста. NTT Research разработала инновационный подход к преодолению предвзятости в глубоких нейронных сетях (DNN). Некоторые примеры предвзятости включают высокую вероятность диагностических ошибок у людей, которые не попадают в основные категории выборки. Вот почему за последние пару лет заметно обострилось внимание средств массовой информации к явлению, получившему название AI bias.
В частности, в выборках должны быть представлены разные социальные, этнические и гендерные группы. Например, при разработке систем распознавания лиц необходимо учитывать изображения людей с различным цветом кожи. Алгоритмическая предвзятость возникает, когда сам алгоритм вносит систематические ошибки, часто из-за несовершенного дизайна или предположений. Предвзятость выборки возникает, когда обучающие данные неточно представляют население, что приводит к тому, что модели плохо работают на недопредставленных группах. Например, система распознавания лиц, обученная в основном на изображениях представителей одной этнической группы, может иметь более низкую точность для других этнических групп. Предвзятость происходит, когда обучающие данные отражают существующие стереотипы и https://berkeley.edu/research/artificial-intelligence/ предрассудки, заставляя ИИ увековечивать эти предубеждения.
https://www.webwiki.it/cvpr.thecvf.com Искусственный интеллект в маркетинге: настоящее и будущее
Использование этих инструментов в процессе разработки может помочь проактивно устранить потенциальные предвзятости. Кроме того, создание инклюзивной среды разработки имеет https://mit.edu/~demos/ai/ решающее значение для выявления и снижения предвзятости. Вовлекая людей из различных слоев общества в процесс проектирования и тестирования ИИ, организации могут получить ценные перспективы, подчеркивающие потенциальные слепые зоны.
Инноваторы и стейкхолдеры должны оставаться в курсе событий через авторитетные платформы, такие как MIT Technology Review. Еще одной эффективной стратегией в борьбе с предвзятостью в ИИ является внедрение алгоритмических аудитов. Регулярные оценки ИИ-моделей могут помочь выявить предвзятости в их прогнозах и выходных данных. Анализируя, как алгоритмы принимают решения и какие факторы влияют на эти решения, разработчики могут определить области, которые требуют корректировки. Эта практика способствует прозрачности и ответственности, позволяя стейкхолдерам понять возможности и ограничения ИИ-систем. Алгоритмическая предвзятость возникает, когда решения, принимаемые автоматизированными системами, оказываются несправедливыми для отдельных групп людей.
Инновации в дизайне: Нейросеть Vercel v0 и революция ИИ-генерированных интерфейсов
Это может включать сбор большего количества данных от недостаточно обслуживаемых групп или корректировку веса, придаваемого определенным точкам данных. Кроме того, может помочь разработка алгоритмов с учетом справедливости; это может включать включение ограничений или целей справедливости непосредственно в процесс оптимизации модели. Наконец, необходим постоянный мониторинг решений ИИ на предмет предвзятости, поскольку это позволяет своевременно корректировать модели по мере развития социальных норм и ценностей. Первой задачей будет найти реальный набор данных для использования, поскольку для таких типов моделей это по своей сути конфиденциальные данные.
https://wikimapia.org/external_link?url=https://auslander.expert/seo-buduschego/ Использование ИИ предоставляет значительные преимущества при ответственном подходе, однако важно тщательно оценивать и контролировать потенциальные риски для этичного применения технологий. Аналогичные проблемы возникают при использовании ИИ в процессах найма, где потенциальные кандидаты могут быть несправедливо игнорированы. Исследование IBM показало, что 42% компаний применяют ИИ для «улучшения процесса набора», что по мнению BBC, может привести к отсеву наилучших кандидатов. Несмотря на достигнутые успехи, предстоит ещё много работы для исключения предвзятости в ИИ.
Учитывая нынешнее состояние этического ИИ, они не могут быть полностью автоматизированы, поэтому нам лучше искать ручные решения. Существование алгоритмической пристрастности (Algorithmic bias) нельзя назвать открытием. Об угрозе возможного «заражения машины человеческими пристрастиями» много лет назад впервые задумался Джозеф Вейценбаум, более известный как автор первой способной вести диалог программы Элиза, написанной им в еще 1966 году. Название программы адресует нас к Элизе Дулиттл, героине «Пигмалиона» Бернарда Шоу. С ней Вейценбаум одним из первых предпринял попытку пройти тест Тьюринга, но он изначально задумывал Элизу как средство для демонстрации возможности имитационного диалога на самом поверхностном уровне. «Когнитивные искажения являются примером эволюционно сложившегося ментального поведения.

Если код не тривиален, скажем, не формула записанная на Fortran, то такой код так или иначе отражает представления программиста о внешнем мире, поэтому не следует слепо доверять машинным результатам. То есть AI bias не собственное свойство ИИ, о следствие переноса в системы качеств, присущих их авторам. Способы снижения предвзятости в AI должны стать стандартом, чтобы обеспечить надёжность и точность научных выводов. Инвестирование в этическую сторону технологии может привести к положительным изменениям и новым открытиям в науке.
Они обнаружили, что наивная тонкая настройка не способна кардинально изменить механизм принятия решений модели, поскольку для этого требуется перейти в другую долину на ландшафте потерь. Вместо этого вам нужно провести модель через барьеры, разделяющие «стоки» или «долины» низких потерь. Авторы называют этот корректирующий алгоритм Connectivity-Based Fine-Tuning (CBFT). В последнее время DNN стали широко распространены в науке, технике и бизнесе, и даже в популярных приложениях, но иногда они полагаются на ложные атрибуты, которые могут передавать предвзятость.
Регулярно публикуясь в отраслевых журналах и выступая с основными докладами на глобальных конференциях по криптовалютам, Изабелла продолжает влиять на эволюцию цифровых валют. Выступайте за этические принципыВзаимодействуйте с политиками и стейкхолдерами, чтобы выступать за этические нормы в области ИИ. Поддерживайте инициативы, которые требуют от компаний оценивать и устранять предвзятости в своих системах. Сохранение информированности и участие в обсуждениях по вопросам этики ИИ могут помочь сформировать более справедливые практики в отрасли. Хотя это исследование является важным шагом в использовании всего потенциала ИИ, этические проблемы вокруг ИИ все еще могут быть восходящей битвой. Технологи и исследователи работают над борьбой с другими этическими слабостями ИИ и других крупных языковых моделей, такими как конфиденциальность, автономность, ответственность.
Homepage: https://wikimapia.org/external_link?url=https://auslander.expert/seo-buduschego/