Технология искусственного интеллекта может эффективно обрабатывать субтитры, идентифицировать электронные письма, личную информацию и т. д., изменяя традиционную модель алгоритма. Но алгоритмы ИИ также отражают проблемы реального мира, а устранение предвзятости ИИ — горячая область информатики.
Недавно Twitter спонсировал соревнование по поиску алгоритмических задач для выделения изображений. Алгоритм Image Saliency — это алгоритм временной шкалы фотографий для обрезки твитов. В отличие от предыдущего метода поиска ошибок и выплаты вознаграждений, Twitter предлагает вознаграждения за обнаружение алгоритмических предубеждений, что также является новым методом.
Аспирант в области искусственного интеллекта получил приз за то, что обнаружил, что алгоритм Twitter отдает предпочтение худым, молодым, светлокожим или теплым лицам. Ранее в этом году Twitter признал, что его система искусственного интеллекта предвзято относится к алгоритму обрезки изображений, отдавая предпочтение изображениям белых людей. Но в основе его лежат другие проблемы, выявленные победителями этого конкурса.
В исследовании победителя алгоритм искусственного интеллекта Twitter обнаружил, что он предпочитает изображения молодых, светлокожих, стройных, обработанных и отредактированных. Алгоритм заметности изображений в Твиттере предписывает определять, как обрезать фотографии. Теперь последовательности фотографий, соответствующие эстетике алгоритма, изменились, а заметность их изображений увеличилась примерно на 30%. Целевая модель ориентирована на людей стройных, моложе, ярче, теплее, ровнее, с более женственными чертами лица. Такого рода предрассудки могут легко исключить группы меньшинств из общепринятой эстетики, а большое количество изображений будет увековечивать стереотипную эстетику.
Когда мы делимся фотографиями, многие люди заранее используют ретушь красоты, добавляют фильтры красоты и т. д., такое поведение, вероятно, улучшит эстетику. Кроме того, Google также считает, что фильтры красоты оказывают определенное негативное влияние на психическое здоровье, поэтому она отключила функцию автоматического ретуширования по умолчанию в своей пиксельной камере, а соответствующая функция настройки больше не называется фильтром красоты.