04:22
Пробки:   1
$
91.1604
98.9366

Что заставило Facebook остановить распознавание лиц?

20 декабря 2021
3071
7 мин.
Что заставило Facebook остановить распознавание лиц?

В начале ноября руководство Facebook поделилось планами: в скором времени систему распознавания лиц отменят, и пользователи социальной сети не будут получать автоматические уведомления о присутствии на фотографиях. Чем продиктовано намерение Facebook и чего стоит ждать любителям цифровых технологий?

Что такое система распознавания лиц на Facebook?

Face Recognition – это технология, которая помогла социальной сети выстроить колоссальную базу данных с лицами пользователей. С ее помощью легко идентифицировать человека. Подход был представлен в декабре 2010 года. Юзерам предлагалось кликнуть на параметр и подтвердить, что это действительно они отмечены на фотографиях. Так иллюстрация соединялась с профилем.

По словам аналитиков Facebook, треть пользователей одобряют использование данной технологии. Особой популярностью пользовалась инновация Automatic Alt Text. Система работает на базе искусственного интеллекта и генерирует описания фотографий для людей, страдающих от проблем со зрением и слепоты. Automatic Alt Text сообщает о том, что один из указанных пользователей (или его друзей) изображен на снимке. Первая версия системы, представленная в 2016 году, распознавала 120 объектов. Но в январе нынешнего года разработчики Facebook продемонстрировали усовершенствованную версию программу со способностью определять 1200 лиц. Технология, основанная на нейронных сетях, также объясняла пользователям композицию фотографии: кто находится в центре кадра, а кто – по краям.

Сами разработчики системы распознавания лиц признают, что Face Recognition – уникальное изобретение:

- Оглядываясь назад, мы по-прежнему считаем, что это мощный инструмент, особенно для людей, которым нужно верифицировать личность, предотвратить мошенничество либо узнать, что кто-то выдает себя за другого. Мы верим, что распознавание лиц обладает характеристиками приватности, прозрачности и контроля. Ведь только вы решаете, будете ли отмечены на фотографии и каким образом используется ваш образ.

Однако в обществе все чаще звучит мнение против распознавания лиц. Особенно учитывая, что большинство пользователей сейчас в курсе, как страдает приватность в Интернете, и знает, что такое VPN. Как заявляет ExpressVPN, если наши отпечатки лиц попадают в компании, последние склонны мониторить поведение юзеров онлайн, следить за привычками и отслеживать предпочтения. А так как наши лица едва ли меняются на протяжении жизни, такая технология, как face recognition, обрекает пользователей на вечную слежку.

В общем, Facebook решил прислушаться к людям, которые беспокоятся об анонимности в Интернете, и убрать технологию из социальной сети.

Кому мешает Face Recognition?

Все началось с расследования The Wall Street Journal. Журналисты Кич Хэйги и Джефф Хорвиц написали, что Facebook стремится создать безопасное пространство, но платформа только становится агрессивнее. И пусть Цукерберг заявил, что делает все возможное, чтобы укрепить взаимоотношения пользователей. Репортеры обнаружили документы, где основатель Facebook отказывается от необходимых перемен, аргументируя это тем, что после нововведений в социальную сеть станут реже заходить. Корреспонденты считают, что Facebook использует искусственный интеллект не для удобства пользователей, а чтобы существенно расширить аудиторию, при этом не обращая внимания на тревожные знаки.

The Wall Street Journal не хочет быть голословным. Журналисты рассказывают, как пользователи заявили о том, что работорговцы на Среднем Востоке использовали Facebook для вовлечения женщин в оскорбительные ситуации, а вооруженные группировки Эфиопии разжигали ненависть по отношению к национальным меньшинствам в социальной сети. В ответ на заявление не последовало никакой реакции. Но когда журналисты адресовали вопрос представителям Facebook, те ответили, что компания разрабатывает глобальную программу поддержки и партнерства, чтобы все пользователи могли чувствовать себя в безопасности. Корреспонденты недоумевают, почему с помощью искусственного интеллекта нельзя вычислить провокаторов. Заявляют, что система распознавания лиц не оправдала себя.

На глаза журналистам попали внутренние документы Facebook, где в результате опросов демонстрировалось отрицательное влияние технологий на психологию ЦА. В итоге, Дипа Ситараман, Джефф Хорвиц и Джастин Шек заявили, что руководители социальной сети внедрили искусственный интеллект, чтобы справиться с хронической проблемой Facebook, связанной с грубой речью и проявлением агрессии на платформе. Но, в то же время, внутренние документы сообщают, что технологии искусственного интеллекта не могут определить видео с перестрелками на Facebook, расистские высказывания. Более того, журналисты заявляют, что ИИ не отличит петушиный бой от автомобильной аварии. А значит, система распознавания лиц используется не по назначения: чтобы сформировать огромную базу данных, адаптировать маркетинговую политику и составить цифровые портреты пользователей, не спросив их желания.

При этом, представители Facebook утверждают, что параллельно предпринимают другие меры, чтобы люди не могли просматривать контент, нарушающий политику безопасности социальной сети. Так это или нет, покажет время.

Утечка информации и прочие признаки кризиса

Как стало известно впоследствии, журналистам The Wall Street Journal (а потом и Конгрессу США) внутренние документы передала бывший продакт-менеджер Facebook Фрэнсис Хауген. Сотрудница заявила, что руководство социальной сети превыше всего ставило имидж и прибыльность компании. Так, Хауген утверждает, что Facebook не мониторит профили знаменитостей и позволяет им ставить агрессивные высказывания. Хотя, по идее, это главная задача искусственного интеллекта на страже приватности. Пример – страница Дональда Трампа, где цензура со стороны руководства Facebook была минимальной. Разное отношение к “простым смертным” и влиятельным личностям якобы зафиксировано в документе Facebook – XCheck. 

The Associated Press пишет о том, что руководство Facebook объяснило свои действия желанием лучше разобраться в том, что стоит за заявлениями известных политиков. А также заявило, что существует контент, требующий больше понимания. В то же время, Facebook не отрицал справедливость критики в свой адрес.

Как обозначает The Verge, все дело в том, что Facebook столкнулся с кризисом. С 2019 количество пользователей-подростков сокращается на 13% ежегодно. И, хотя юзеры младше 13 лет неохотно регистрируются на Facebook с 2012, именно в нынешнем году проблема приобрела угрожающие очертания. На данный момент основная аудитория Facebook – люди в возрасте 40-50 лет. И социальная сеть, несомненно, планирует справиться с проблемой. Для этого необходимо лучше понять потребности аудитории. А так как сегодня каждый стремится обеспечить анонимности в сети и не желает передавать персональные данные для маркетинговых целей, сделать это не так-то просто. Поборники конфиденциальности в Интернете считают, что система распознавания лиц – лишь удобный инструмент для маркетинга и продаж.

Реакция оказалась непредсказуемой

Тем не менее, Facebook нашел, что ответить на обвинения. Чтобы соответствовать требованиям демократического общества, руководство социальной сети прибегнет к серьезному шагу – устранить систему распознавания лиц. Решение аргументировано многочисленными возражениями против использования данной технологии в обществе на сегодняшний день.

Ожидается, что Facebook удалит базу данных с отпечатками лиц. Но сама технология DeepFace останется нетронутой. В сущности, этими действиями Facebook приближается к компаниям, которые с прошлого года заявили о желании прекратить использовать технологию распознавания лиц. После ряда экспериментов Amazon, IBM и Microsoft признали, что Face Recognition несет угрозу приватности и отказались от этой системы.

Раздел:
Источник фото:
https://www.stockvault.net/

Общественная редакция в Москве

Мы разработали способ поддержки региональных независимых сюжетов, волнующих местных жителей. Мы собираемся использовать его для развития "Общественной редакции", нового дома для лучших региональных журналистов.  Чтобы это сделать, мы нуждаемся в вашей помощи.
В рамках проекта планируется дальнейшее построение "Общественной редакции", членами которой становится каждый подписчик с правом голоса. Все важнейшие вопросы в деятельности Редакции решаются путем открытого голосования. Финансирование Редакции осуществляется за счет ежемесячных пожертвований подписчиков. Узнать больше
Потапова Алёна

Директор по развитию
Население
8112772108
Умерли за год
14348966
Родились за год
35300996