/ предиктивностьУже классический случай с сетью американских магазинов Target описан
в этой статье New York Times (кстати, она очень интересна тем, что там речь идёт вовсе не только о количественных данных, а также здорово показано то, как работают вместе анализ данных, антропология, видеоэтнография и интервью).
Суть истории в том, что сеть магазинов решила разработать механизм, позволяющий определить, какие покупки делают беременные женщины на самых ранних сроках. А потом — привлечь их внимание к товарам для новорождённых и детей, тем самым делая их лояльными покупателями с высоким спросом (детям нужно немало вещей) на несколько лет вперёд. И вот, изучив разные способы взаимодействия людей с покупками, аналитики смогли сделать такую модель. Её эффективность была доказана не только ростом продаж, но и реакцией потребителей.
About a year after Pole created his pregnancy-prediction model, a man walked into a Target outside Minneapolis and demanded to see the manager. He was clutching coupons that had been sent to his daughter, and he was angry, according to an employee who participated in the conversation."My daughter got this in the mail!" he said. "She's still in high school, and you're sending her coupons for baby clothes and cribs? Are you trying to encourage her to get pregnant?"The manager didn't have any idea what the man was talking about. He looked at the mailer. Sure enough, it was addressed to the man's daughter and contained advertisements for maternity clothing, nursery furniture and pictures of smiling infants. The manager apologized and then called a few days later to apologize again.On the phone, though, the father was somewhat abashed. "I had a talk with my daughter," he said. "It turns out there's been some activities in my house I haven't been completely aware of. She's due in August. I owe you an apology."Что вызывает тут удивление и возмущение людей? Что-то знает о происходящем в их жизни, раньше чем их близкие и порой — даже они сами.
Похожие вопросы возникали и к проектам скандально известной Cambridge Analytica. Подробный и толковый разбор этой истории есть в
этой статье Гардиан. И можно посмотреть короткое видео, где это объясняется:
Скандал с выборами Трампа и брекзитом заставил и пользователей, и регулирующие органы обратить внимание на то, что Фейсбук и другие компании продают данные своих пользователей, чтобы они использовались для самой разной рекламы.
Конечно, если мы приводим пример Cambridge Analytica, всегда есть сомнения: что если дело не в самих алгоритмах, а в том, что они используются для какой-то конкретной цели? Это аргумент о том, что сам инструмент вроде бы нейтрален.
Но это не так. Чтобы разобраться с этим контраргументом, мы советуем вам статью Kate Crawford "
Can algorithms be agonistic?". Это статья с серией зарисовок на тему того, как разные случаи использования механизмов голосования, алгоритмов и онлайн-краудсорсинга сталкиваются с проблемами, разобраться с которыми помогает политическая философия
(чтение этой статьи напоминает чтение сказки, где на помощь герою в сложных ситуациях приходят волшебные помощники, но в данном случае они не решают проблему, а показывают её сложность).
В целом, статья Кроуфорд, отчасти метафорично показывает, что работа многих алгоритмов построена на принципе плоскости, общности явлений, которые на деле вовсе не однообразны и не могут сталкиваться в одном поле. Но алгоритмы заставляют их оказываться рядоположенными, и уже поэтому они не нейтральны. Ведь вне оценки алгоритмов какие-то явления могут быть абсолютно разными.
Например, в оценке образовательных результатов и процессов сложно превратить в основание для алгоритма разнообразные явления. Как учитывать одновременно и результаты вроде применения усвоенных методов, и эмоциональное восприятие работы студентов (и, наоборот, преподавателя), и социальные отношения (поддержку или, наоборот, конкуренцию внутри студенческой группы). Если бы пришлось оценивать всю деятельность студента, то нам пришлось бы признать это всё — равными друг другу источниками однообразной информации. Конечно, они взвешиваются в формулах, но при этом становятся сопоставимыми и взаимодополняющими (а в каких-то случаях — взаимозаменимыми).
Так проявляется политическое свойство алгоритма — уравнивать то, что может быть разным для самих участников взаимодействия.
Итак, у предиктивности есть несколько причин быть проблемой этого курса: - Эпистемологическая сомнительность (она часто устроена как астрология: работает и предсказывает, значит, верна, но сути ещё мы не понимаем).
- Этическая сомнительность (есть противоречие: в качестве данных и объекта исследования зачастую выбираются именно те аспекты жизни, которыми люди и вовсе не хотели бы делиться; самое секретное оказывается раскрыто и доступно третьим лицам.
- Политическая сложность (потому что выбор того, что изучать — это новая, не вполне понятная, но очень привлекательная форма власти)
- Социальные перемены неясного свойства (потому что очень большая часть алгоритмов непрозрачна, порой даже для самих создателей, а значит непонятно, что могут другие участники социальной жизни ждать от мира, где есть алгоритмы)
Подробнее об этом и не только вы можете прочитать в статье Mittelstadt, Allo, Taddeo, Wachter, Floridi (2016)
