Мы залайкаем себя до смерти

02 августа 2019

2640

Мы залайкаем себя до смерти

Недавно правительство Индии начало работу над созданием гигантской базой данных, которая будет содержать отпечатки пальцев, радужную оболочку и фото всего населения страны, пишет журнал "Тиждень". Однозначное подтверждение права на получение социальной помощи на основе биометрического распознавания должно предотвратить злоупотребления.

Система социального кредита, которую разрабатывают в Китае, должна охватить социальное, экономическое и политическое поведение граждан, чтобы вознаграждать «хороших» и наказывать «плохих». Отрицательные баллы могут вылиться в большой залог в случае аренды авто или в невозможность купить билеты на определенные авиарейсы.

С помощью этой системы правительство Поднебесной, по его утверждению, хочет вознаграждать вежливость своих граждан и наказывать непорядочность, а в итоге средствами тотального социального контроля создать социальное доверие. Индия и Китай, наверное, являются самыми экстремальными примерами продвижения новых технологий слежения и управления на базе Big Data. Однако цифровые системы оценивания наступают и на Западе.

Так, некоторые предприятия на основе данных своих клиентов рассчитывают их ценность с точки зрения пользования товаром или услугой (Customer Lifetime Value). Этот показатель позволяет оценить доходы, которые им обеспечит клиент в будущем. Те, кто часто звонит на горячие линии с целью пожаловаться, вероятно, будут иметь более низкую ценность.

В США рейтинги уже используют, когда назначают социальную помощь. Нидерланды и Австрия планируют ввести систему баллов на рынке труда, чтобы с помощью индивидуальной классификации предоставлять одни возможности и отказывать в других. Эти страны усиленно интегрируют данные в муниципальных администрациях и сфере публичных услуг, чтобы определять претензии, искать «рискованные семьи» или выявлять социальные злоупотребления.

В полиции испытывают «оценивание рисков», чтобы повысить эффективность работы правоохранителей. Уже есть проекты виртуальных пограничных постов, которые с помощью искусственного интеллекта должны проводить опросы и выяснять, намерены ли мигранты ввести в заблуждение.

Данные как часть нашей повседневности

Радикальные преобразования общества в связи с использованием данных трудно переоценить. Возможности фиксирования уровня активности и жизнедеятельности стремительно растут: привычки в потреблении, финансовые транзакции, профили, друзья, здоровье, образовательная активность, результаты труда - все это можно охватить цифровыми сетями, сенсорами, инструментами оценки и мобильными устройствами.

Данные всегда были важной составляющей самоопределения, организации общества и инструментом осуществления власти, однако сегодня это повседневная практика, часть наших социальных будней нашего сосуществования. Данные, которые мы оставляем и храним, создают все большую цифровую тень каждого из нас. В мире Big Data информация о пользователях или просто граждан кв конце концов становится сырьем, из которого можно получить прибыль. Однако интерпретировать этот процесс только как технологический недостаточно, поскольку для развития общей культуры использования данных он требует активного соучастия многочисленных субъектов.

В конце концов, известно, что люди очень щедро делятся личными данными. К этому их подталкивают потребность в общении, небрежность, а также интерес к новым возможностям потребления информации и коммуникации. Кроме того, растет спрос на самоквантификацию, которую осуществляют индивиды, становясь таким образом добровольными поставщиками данных.

Такой культ данных имеет далеко идущие последствия: он влияет на формирование и понимание обществом ценностей. Мы называем это валоризацией. Индикаторы, данные и алгоритмы представляют специфические концепты социальной ценности как ввиду того, что может считаться релевантным, так и в виду того, что является значимым с точки зрения общества. Использование данных, или же датализация общества, сочетается с изменением в определении ценности. В результате выработки данных возникает общество, в котором за нами не только наблюдают, но и оценивают, классифицируют и сравнивают нас друг с другом. Цифровые статусные данные становятся «знаками различия» (Пьер Бордье), которые делают людей лучше или хуже, более или менее ценными.

И здесь я хочу выделить две проблемы, которые, по моему мнению, являются особенно значимыми: все больше асимметрия прозрачности общественных отношений и толчок к индивидуализации, обусловленный прогрессом цифровых технологий. 

Асимметрия прозрачности: благодаря прогрессу цифровых технологий и все большему значению Big Data алгоритмы стали ключевыми инструментами общественной маркировки. Возможность общественной маркировки - это способность устанавливать определенные категории или классификации и таким образом влиять на наше восприятие и толкование. Кому же принадлежат эти полномочия, кто их инсценирует?

С одной стороны, это программисты, которые прописывают синтаксис, с другой - те, кто дает им поручения. А еще те, кто использует эти алгоритмы. Они решают, что релевантно, а что нет, и подают картину мира, которая соответствует их отбору и обработке и которую мы охотно понимаем как отражение реальности. 

Ограничения уничтожаются

Алгоритмы в принципе являются тайными практиками, которые могут не соответствовать требованиям прозрачности и понятности. Такой вывод можно сделать уже по тому, что многие предприятия откровенно делает свои алгоритмы коммерческой тайной. Чтобы влиять на рынок, умело скрываются за завесой. То есть государство и бизнес устанавливают новый режим видимости для граждан, но сами остаются невидимыми. Формируются асимметричные отношения открытости между нами и теми, кто собирает эти данные и владеет ими.

Способность смотреть сквозь стены и до сих пор закрытые двери, а также возможность наблюдать независимо от местонахождения подрывают установленные общественные ограничения, которые ранее были следствием разделения на публичное и частное. Не ссылаясь на теорию заговоров, вполне трезво можно утверждать, что сегодня мы мало контролируем сбор и использование наших данных. Инициативы защитить их кажутся беспомощными. Граждане, потребители или клиенты часто не могут однозначно сказать, что такое личные данные и какие данные на самом деле необходимы компании или организации для оказания услуг.

Многие алгоритмы преобразования информации в данные имеют целью контроль, в частности - вознаграждение за желаемые формы поведения и наказание за нежелательные. Компании, которые собирают Big Data, пытаются целенаправленно влиять на решения людей - будь-то в потреблении, будь-то на выборах. Это может иметь токсичные последствия, если, например, речь идет о манипулировании демократическим волеизъявлением.

Должны осознать, что прогрессирующий перевод информации в данные и все большее социальное слежение - это феномен двуликого Януса. С одной стороны, возрастают шансы для самоуправляемости и прозрачности, а с другой - появляются риски надзора и часто незаметного манипулирования общественным жизнью. Big Data может сделать людей здоровыми, но ценой потери их информационного самоопределения и всеобъемлющего технологического контроля.

Каждый наш шаг, каждый наш показатель - вплоть до артериального давления, распорядка дня и физических нагрузок собирается в цифровом виде и используется для управления, прогнозирования и классификации. Уже даже технологические гуру из Кремниевой долины заговорили о необходимости в большем регулировании и глобальных стандартах защиты данных, а следовательно, некоторых из них уже беспокоит связанный с такими массивами данных и новыми способами их анализа колоссальный рост влияния алгоритмов.

Расщепление общества (толчок к индивидуализации): развитие цифровых технологий приводит к «революции различия» (Кристоф Куклик), в ходе которой крупные коллективные категории разделяются на основании полученной информации на основе мелких различий. Это можно представить себе как увеличение, благодаря которому отдельного человека на большом групповом фото становится легче узнать и соответственно найти путь к контакту с нем.

Страховые компании уже давно ориентированы на индивидуализированные тарифы и системы бонусов, связанные с определенными моделями поведения. Под лозунгом «Возвращаем деньги в обмен на данные» они пытаются убедить клиентов присоединиться к отслеживанию данных. И тогда шагомеры контролируют пройденное ежедневно дистанцию и при необходимом баланса возвращают средства. Такое наблюдение позволяет отказываться от общих тарифных планов, основанных на немногих категориях риска, что подтачивает солидарное общество, выдавая его за старомодное.

Автоматическим следствием отказа страхователя от предоставления доступа к данным становится повышение стоимости услуги. Чем больше людей, готовых перейти к ориентированным на конкретные модели поведения тарифам (можно предположить, что это прежде всего молодое, здоровое и технически продвинутое поколение), то тем менее выгодными будут тарифы групповые.

Человек как матрица данных

Этот процесс форсируют не только коммерческие предприятия. В конце концов, клиенты тоже хотят индивидуального подхода. Многим кажется справедливым, когда людям, которые заботятся о здоровье и занимаются спортом, предлагаются лучшие условия страхования. Кто же не хочет вознаграждения за здоровый образ жизни? Какая страховая компания откажется от того, чтобы все больше дифференцировать группы риска и побудить к поведению, которое экономит средства?

Как можно охарактеризовать весь этот процесс преобразований? Переходим ли мы к «цифровому классовому обществу», как считают некоторые? Однозначно нет, потому что в обществе данных вероятность образования классов в традиционном понимании приближается к нулю. Нас, скорее всего, ожидает гипериндивидуализации, которые будут основываться на бескрайних дифференцированных наблюдениях с бесконечным количеством возможных комбинаций. Датализация общества означает одновременно и его расщепление.

Это означает также, что цифровая индивидуализация - это не освобождение и эмансипация, а сепарация отдельных лиц на основании цифрового распознавания. На передний план выходит человек как матрица данных, как индивидуальный профиль, как носитель пригодной для использования информации, а не сообщество. Поэтому капитализм данных является всеобъемлющей, ориентированной на использование машиной, которая не останавливается даже перед нашими привязанностями и самыми сокровенными устремлениями.

Кроме того, мы наблюдаем - я нарочно акцентирую на этом - переключение общественного режима неравности из конфликта классов на конкуренцию индивидов. Конфликт означает непосредственный спор между сторонами, конкуренция - индивидуальное противостояние в достижении специфических целей.

Табели о рангах, показатели здоровья в баллах, фитнес-рейтинги, оценки, ругательства усиливают социальное сравнение, непосредственным следствием которого является соревнование или конкуренция. В конкурентном обществе продолжаются индивидуальные соревнования за места, признание или лучшие результаты в работе, а также борьба за власть или справедливое распределение, которое теперь уже перестала быть коллективной.

Итак, что дальше? Сейчас происходит противостояние между теми, кто клеймит всех критиков оцифровки как врагов инноваций, и теми, кто в каждом таком шаге видит заговор темных сил. Однако, наверное, не все так просто.

Речь идет не о выборе между «цифровым раем» и «хитроумной диктатурой», а о вариантах в создании общества цифрового будущего. Однако для этого нужны мощные творческие идеи и открытый дискурс о праве на данные, демократизацию работы алгоритмов и границах частного. Как насчет регулярной цифровой выписки из лицевого счета?

Варианты решений по общественному сосуществованию выглядят еще более сложными. Нам следует обдумать, как в новых условиях приобретать навыки взаимности, эмпатии и толерантности. Теми, кем мы есть сегодня, нас сделало не то, что разделяет, а то, что объединяет.

Поэтому приглашение формулировать идеи относительно общественного договора в цифровую эпоху касается всех нас. Иначе есть риск, что оцифровка обернется против нас самих, а общественный доход от нее останется в руках немногих бенефициаров. 

* * *

Штеффен Мау, профессор макросоциологии Гумбольдтского университета Берлина. Этот текст был произнесен как доклад на организованном Гете-Институтом симпозиуме культуры в Веймаре

Штеффен Мау, опубликовано в издании  Тиждень