/ правила и алгоритмы

Героиня нашего предыдущего занятия, Лоррейн Дастон, после «Объективности» выпустила ещё одну интересную для нас книгу, рассказывающую историю одного понятия. Книга называется Rules: A Short History of What We Live By и посвящена наблюдению за правилами в различных воплощениях и культурах.

Лоррейн делит правила на два основных типа — это толстые (thick) и тонкие (thin) правила.

• тонкие правила — это строгие, четко определенные и универсальные нормы, которые оставляют мало места для интерпретации. Они просты в применении, но могут быть слишком жесткими, не учитывать контекст или уникальные обстоятельства. Например, правила, которые автоматически определяют наказание за нарушение без учета мотивов или ситуации, можно отнести к «тонким».

• толстые правила, напротив, более гибкие и контекстуальные. Они допускают интерпретацию и учитывают нюансы ситуации, предоставляя больше свободы для принятия решений. Такие правила требуют от человека или системы способности анализировать обстоятельства и применять суждение. В книге Дастон называет эту способность discreation.

Пользоваться «толстыми» правилами кажется сложным. Нужно не только понимать и чувствовать контекст и ситуацию, но уметь и не бояться на него реагировать, а значит, иметь достаточные опыт и знания. При этом сами правила могут оставаться неопределёнными за счёт их ситуативности, и люди, к которым они применяются, не будут знать, как именно.

При этом Лоррейн предостерегает насчёт «тонкости» тонких правил:

«... у тонких правил нечистая совесть; они никогда не бывают такими тонкими, какими притворяются. Мы всегда применяем их mauvaise foi (недобросовестно), потому что нам приходится так часто их корректировать, сгибать и даже нарушать. Например, любой преподаватель постоянно сталкивается со студентами, у которых особые обстоятельства, особые потребности, которые спрашивают, можно ли если не сгибать или нарушать правила, то хотя бы корректировать их. То есть, мы все в душе казуисты, и казуисты, притворяющиеся, что применяем недвусмысленные, непреклонные тонкие правила».

Daston, Lorraine, Plotz, John (2023). «Сooking, monasteries, arithmetic: Lorraine Daston on the history of rules». https://www.publicbooks.org/cooking-monasteries-arithmetic-lorraine-daston-on-the-history-of-rules/

Как мы поняли, между тонкими и толстыми правилами существует напряжение. Конкретные правила или наборы правил часто пересматриваются и меняются в пользу одного или другого типа.

Примером может выступить история кулинарных рецептов. Со временем рецепты в кулинарных книгах претерпели значительные изменения, став более детализированными и доступными для широкой аудитории. В XVII веке кулинарные книги были рассчитаны на опытных поваров, прошедших обучение у мастеров. Они содержали минимум инструкций, так как предполагалось, что читатели уже знают, как правильно взбивать яичные белки или засахаривать апельсиновую цедру. Основное внимание уделялось точному перечню ингредиентов и их количеству. Однако со временем рецепты стали более «защищёнными от ошибок», включая подробные инструкции для начинающих. Например, если раньше не упоминалось, что нужно помешивать пудинг, чтобы он не пригорел, то позже такие детали стали обязательными. Современные кулинарные книги даже указывают на очевидные вещи, вроде того, что мешочек для пудинга не должен быть мыльным, — то, что раньше считалось само собой разумеющимся. Это отражает эволюцию от специализированных руководств для профессионалов к универсальным инструкциям, рассчитанным на любого читателя.

/ алгоритмизация, автоматизация и труд

Алгоритмы — как самый очевидный пример тонких правил — могут усиливать эту непрозрачность, поскольку их логика и принципы принятия решений часто остаются «чёрным ящиком», зарытых в недра платформы, даже для тех, кто их использует.

Читать подробнее — в беседе Полины Колозарили и Оксаны Синявской «Мой парень вернулся в айти: как меняются рынки труда».

/ алгоритмы в платформах

В статье The history of Amazon’s recommendation algorithm Amazon приоткрывает «чёрный ящик» своих технологий, объясняя, как эти системы эволюционировали. Например, в начале 2000-х рекомендации основывались на коллаборативной фильтрации, которая анализировала поведение похожих пользователей. Со временем алгоритмы стали учитывать больше контекста, таких как временные паттерны покупок и сезонность.

Ещё две статьи про рекомендательные алгоритмы в платформах:
(читать тем, кто злится на свою Алису, когда она включает не ту музыку, которую вам сейчас хотелось бы)

Folk theories of algorithmic recommendations on Spotify: Enacting data assemblages in the global South.

‘Don’t mess with my algorithm’: Exploring the relationship between listeners and automated curation and recommendation on music streaming services.

/ история технологий и власти

Проект Calculating Empires: A Genealogy of Technology and Power Since 1500 (2023), Kate Crawford and Vladan Joler — исследование, представленное в формате визуализации, истории технологий в связи с их влиянием на социальные и культурные процессы.