Новая методика обучения ИИ уменьшает социальную предвзятость

источник: techxplore.com

Почему это важно:

• Наборы данных, собранные из интернета, часто содержат предвзятость, присутствующую в обществе.
• Эта предвзятость может кодироваться в обучающих моделях ИИ, что может привести к несправедливому поведению.
• FairDeDup помогает смягчить эти негативные эффекты, удаляя избыточные данные, которые могут усилить предвзятость.

Как работает FairDeDup:

• Алгоритм прореживает наборы данных с подписями изображений, собранных из интернета, через процесс, известный как обрезка.
• Обрезка позволяет выбрать подмножество данных, которое представляет весь набор данных, с учетом многообразия.
• FairDeDup удаляет избыточные данные, включая контролируемые, определяемые человеком меры многообразия, чтобы смягчить предвзятость.

Преимущества FairDeDup:

• Обучение ИИ становится более экономически эффективным и точным.
• ИИ становится более справедливым, уменьшая предвзятость.
• Это позволяет людям определять, что является справедливым в их контексте, а не основываться на интернете или других больших наборах данных.

Дальнейшие шаги:

• Исследователи планируют продолжать работу над FairDeDup, чтобы сделать его еще более эффективным.
• Они также планируют сотрудничать с другими исследователями и разработчиками, чтобы интегрировать FairDeDup в системы ИИ.
• Это исследование является важным шагом на пути к созданию более справедливого и этичного искусственного интеллекта.