امیرحسین صالحی
بخش اول: مقدمه
یکم: کمبریج آنالیتیکا (Cambridge Analytica)
شرکت کمبریج آنالیتیکا، شرکتی بریتانیایی بود که در سال ۲۰۱۳ تاسیس شد و خدمت اصلی خود را مشاوره سیاسی دادهمحور به دولتها و سازمانهای نظامی در جهان تعریف کرده بود.[1] در مارچ ۲۰۱۸، آبزرور آو لاندن[2] و نیویورک تایمز[3] گزارش دادند که این شرکت بدون اخذ رضایت اشخاص، به دادههای شخصی بیش از ۵۰ میلیون (این عدد در ادامه به ۸۷ میلیون رسید) رایدهنده آمریکایی و علايق و سلایق آنها-از طریق محتوایی که با آن در تعامل بودهاند یا لایک کردهاند و همچنین روابط شبکه دوستان و آشنایان این افراد- دست پیدا کرده است. در ابتدا الکساندر کوگن، روانشناسی از دانشگاه کمبریج، با طراحی تست شخصیتی تخت عنوان «این زندگی دیجیتال ماست» به طور مستقیم دادههای شخصی بیش از ۲۷۰ هزار کاربر فیسبوک را جمع آوری کرد. این افراد، برای شرکت در این برنامه پژوهشی، با رضایت خود، مبلغی را نیز از جانب شرکت کوگن دریافت کرده بودند. دادههای این ۲۷۰ هزار نفر و همچنین دادههای مربوط به دوستان و آشنایان آنها (که عدد ۸۷ میلیون کاربر متاثر از این اتفاق را توضیح میدهد) از طریق کوگان با کمبریج آنالتیکا به اشتراک گذاشته شد[4] که در آن زمان با کمپین انتخاباتی دونالد ترامپ، تد کروز و همچنین دولت ترینیداد و توباگو همکاری میکرد. این دادهها در ادامه توسط تیم انتخاباتی ترامپ استفاده شد تا تبلیغات هدفمندی را برای رایدهندگان آمریکایی ارسال کند و از آن چه که کمبریج آنالتیکا در مورد «آنها و شیطانهای درونشان» میدانست سوء استفاده کند.[5] دونالد ترامپ پیروز انتخابات ۲۰۱۶ آمریکا شد و در همان سال هم به طور یکطرفه از برنامه جامع اقدام مشترک (برجام) خارج شد که تبعات آن تا همین امروز گریبانگیر ماست.
دوم: بهار عربی
شبکههای اجتماعی با فراهم کردن ابزارهای نوین، فرصتهای بیشماری را برای بسیج کردن طبقه ناراضی و جوان در کشورهایی مانند مصر، تونس و لیبی فراهم کردند. در این پلتفرمها، به دور از چشم دولتهایی که تا پیش از این به جزئیترین و خصوصیترین مراودات شهروندان خود دسترسی داشتند، شرایط جدیدی برای اعتراض هماهنگ و دستهجمعی شکل گرفت.[6]
در این شبکهها، دسترسی دولتها به اطلاعات کاربران کاهش یافت. پلتفرمهایی مانند فیسبوک با ندادن اطلاعات هویتی مخالفان و بستن حسابهای کاربری، در برابر فشار دولتها مقاومت کردند.[7] این مقاومت توانست به شکلگیری موجی از انقلاب علیه حکومتهای خودکامه در خاورمیانه کمک کند. با این حال، نقش این پلتفرمها هیچگاه کمرنگ نشده است. سیستمهای توصیهگر که کاربران را به فعالیت در پلتفرم ترغیب میکنند، بیش از پیش به جعبههای سیاه[8] تبدیل شدهاند که هیچکس به قطعیت از نحوه عملکرد آنها اطلاعی ندارد.[9] به همین دلیل، علیت و قصدمندی که شرط لازم برای انتساب مسئولیت است، از بین میرود و شکاف بزرگی در انتساب مسئولیت، هنگامی که ضرر قابل توجهی توسط این سیستمها وارد میشود، ایجاد خواهد شد.[10]
سوم: نسلکشی مسلمانان میانمار
پلتفرمهای دیجیتال همیشه، برخلاف آن چه معمولا دوست دارند وانمود کنند، به ایجاد انقلاب و همبستگی علیه خودکامگی منجر نشدهاند. در سال ۲۰۱۷، فیسبوک با وجود هشدارهای قبلی مبنی بر رواج محتوای نفرتپراکنی علیه مسلمانان میانمار، اجازه داد این محتوا بر روی پلتفرم باقی بماند[11] و در نهایت به کشته شدن و آوارگی میلیونها نفر منجر شود.[12] نسلکشی و جنایت علیه بشریت در جهان امروز اتفاق نادری نیست و نقش دروازهبانان دیجیتال در این زمینه نیز پدیدهای جدید و بیسابقه نیست.[13]
مهمترین دفاع پلتفرمهایی مانند فیسبوک در قبال محتوای مجرمانه که حتی میتواند به نسلکشی منجر شود، استناد به اصل «عدم مسئولیت پلتفرم در قبال محتوا و اعمال کاربران» است.[14] دروازهبانان و پلتفرمهای دیجیتال معتقدند که تنها یک واسطه هستند و هیچ کنترلی بر این محتوا ندارند.[15] با این حال، پلتفرمهایی مانند فیسبوک، اینستاگرام، تیکتاک و یوتیوب همگی اسنادی با ماهیت شبهقراردادی تدوین کردهاند که به مثابه قانون حاکم[16] بر این پلتفرمها عمل میکند.[17] تأثیر این قوانین زمانی بیشتر میشود که اندازه رو به رشد بازارهایی که این دروازهبانان خود را واسط آن معرفی میکنند، در نظر بگیریم. اندازه بازار جهانی تولید محتوا در سال ۲۰۲۳ حدود ۱۲۷ میلیارد دلار تخمین زده شد که این عدد در سال ۲۰۲۵ به ۱۹۰ میلیارد دلار رسید و پیشبینی میشود که تا سال ۲۰۳۰ این بازار تا حدود ۵۳۰ میلیارد نیز رشد کند.[18] از بین تولیدکنندگان محتوا در یوتیوب، «مستر بیست» به تنهایی ۸۵ میلیون دلار در سال ۲۰۲۴ از کانال خود درآمد داشته است.[19] اندازه بازار محتوای تبلیغاتی توسط اینفلوئنسرها نیز حدود ۲۱ میلیارد دلار در سال ۲۰۲۴ تخمین زده شد که پیشبینی میشود این مقدار در سال ۲۰۳۰ به حدود ۷۰ میلیارد دلار برسد.[20] این بازار حتی به صورت غیررسمی در کشورهایی مانند ایران که یوتیوب و اینستاگرام در آنها به طور رسمی فعالیت نمیکنند نیز گسترش یافته است؛ به عنوان مثال، نرخ تبلیغات پست و استوری در اینستاگرام بر اساس اطلاعات منتشر شده در پلتفرم جریان یکتانت، معمولا به تعداد افراد دنبالکننده اینفلوئنسرها، تعداد افرادی که اینفلوئنسر آنها را دنبال میکند، تعداد پست، میانگین مشاهده هر پست و همچنین نرخ تعامل مخاطبان با این پستها-که همه توسط اینستاگرام اعلام میشود- بستگی خواهد داشت.[21] برای مثال کانال ورزش ۳، با شش میلیون دنبالکننده و نرخ تعامل کمی بیشتر از یک درصد، برای هر پست مشترک ۲۴ ساعته، پنجاه میلیون تومان دریافت میکند. آمار دقیقی از اندازه این بازار در ایران در دسترس نیست، با این حال در روند صعودی داشتن اندازه این بازار در ایران شکی نیست.
متا، در اقدامی که از نظر بسیاری، تنها ژستی خیرخواهانه داشت، در پی فشار روزافزون بر این پلتفرم مبنی بر افزایش شفافیت و مسئولیت پذیری در قبال محتوای زیانبار قابل مشاهده در این پلتفرمها، اقدام به تاسیس اولین نهاد مستقل شبه قضائی با صلاحیت بسیار محدود برای اتخاذ تصمیمات الزامآور برای متا مبنی بر حذف محتوا کرد.[22] در عمل آنچه اینستاگرام و سایر دروازهبانان دیجیتال انجام میدهند، قانونگذاری، اجرای این قوانین و همچنین قضاوت بر اساس آنها است. حذف پست یا حساب کاربری تنها راه پلتفرم برای تنبیه خاطی نیست. تصور کنید شخصی که میلیونها فالوور در اینستاگرام دارد و از این راه امرار معاش میکند، روزی از خواب بیدار شود و دریابد که هرچه پست و استوری میگذارد به هیچ عنوان به کسی نمایش داده نمیشود. تنها چیزی که احتمال رخدادن چنین اتفاقی را در نزد ما کماهمیت میکند، اعتماد ما به پلتفرم و الگوریتمهای آن است، اعتمادی که در پشت آن هیچ تعهدی برای پلتفرم مبنی بر نشاندادن این محتوا به دیگران نیست.
یکی از اقدامات تنبیهی این پلتفرمها، علاوه بر حذف محتوا یا حساب کاربری، حذف در سایه یا شدوبنینگ است.[23] این تنبیه زمانی اعمال میشود که پلتفرم دلیل کافی برای حذف یک پست ندارد یا ترجیح میدهد از حساسیت این کار اجتناب کند. در این روش، محتوای کاربر به هیچکس نمایش داده نمیشود و او بدون هیچ سر و صدایی عملاً از صحنه دیجیتال نامرئی میشود. با این حال آنچه تحت عنوان «قدرت رسانهای[24] دروازهبانان دیجیتال» یاد میشود، تمام ماجرا نیست.
چهارم: آمازون و پروژه نسی (Nessie)
کمیسیون تجارت فدرال ایالات متحده در شکایتی علیه آمازون، این پلتفرم را به تبانی برای افزایش قیمت به ضرر کاربران عادی متهم کرد.[25] ایده اصلی این پروژه برای اکثر بازاریان و کسبوکارهایی که در شرایط نزدیک به رقابت کامل، در سمت عرضه بازار فعالیت میکنند، آشنا است. یک بازاری پیش از اینکه قیمت کالایی را به مشتری بگوید، از او میپرسد که دیگران چه قیمتی را به او گفتهاند؛ اگر قیمت آنها بالاتر باشد، او میتواند با خیال راحت قیمت خود را افزایش میدهد و اگر پایینتر باشد، آستانه رقابت مشخص شده و امکان تحقق بیشترین سود نیز فراهم میشود.
آمازون در پروژه نسی به دنبال این بود که بفهمد اگر قیمتها ناگهان افزایش پیدا کنند، مشتریان چگونه رفتار خواهند کرد.[26] مطابق با شهود طبیعی اقتصادی و نظریههای اقتصاد خرد، اگر قیمت تعیینشده توسط آمازون را رقبا نیز دنبال کنند، آمازون میتواند با خیال راحت قیمتها را بالا نگه دارد. آنچه آمازون را از سایر شرکتهای با موقعیت مسلط در بازار متمایز میکند دانش بیرقیب آمازون از دو سمت عرضه و تقاضای بازاری به ارزش میلیاردها دلار در طی ۳۰ سال فعالیت این پلتفرم در سراسر دنیاست.[27] فارغ از اینکه ارجاع به فردریش هایک بخواهد موضعگیری پنهانی را آشکار کند، وی در جایی استدلال میکند که مهمترین دلیلی که به موجب آن برنامهریزی مرکزی برای اختصاص منابع محدود مانند آنچه که در شوروی سابق رایج بود ره به جایی نمیبرد این است که اطلاعات مورد نیاز برای چنین برنامهریزی به هیچ عنوان نزد برنامهریزی مرکزی جمع نخواهد شد چرا که این اطلاعات در گوشه گوشه بازار و در هر تراکنش میان سمت عرضه و تقاضا جای دارد.[28] از همین رو به زعم هایک، تنها بازار میتواند تخصیص منابع را به نحو بهینه انجام دهد چرا که حتی اگر این اطلاعات هم به نحوی در جایی جمع شود پردازش این اطلاعات آنطور که برای برنامهریزی مرکزی لازم است به هیچ عنوان ساده و چه بسا اصلاً ممکن نخواهد بود. دقیقاً به همین خاطر است که آمازون از سایر شرکتهایی که به نحوی از موقعیت مسلط خود در بازار سوء استفاده میکنند متمایز است چرا که شاید برای اولین بار موجودی ظاهر شده که امکان دسترسی و پردازش بیدرنگ اطلاعاتی را دارد که به هیچ عنوان پیش از این ممکن نبود.
پنجم: نظریه سیستمهای اجتماعی
همه مثالهای بالا در این نکته مشترکاند که دروازهبانان دیجیتال در بخشهای مختلف زندگی هرروزهٔ نقشی پررنگ دارند و بر تقریبا تمامی ابعاد زندگی اجتماعی ما تاثیر گذارند. در سالهای اخیر، ادبیات پژوهشی در زمینه مطالعه نقش این دروازهبانان روزبهروز گستردهتر شده است. بر مبنای همین قدرت تاثیرگذاری غیرمنتظره و بیسابقه دروازهبانان دیجیتال در تقریبا اکثریت قریب به اتفاق سیستمهای اجتماعی، یکی از نظریههای[29] جامعی که برای مشروعیت بخشیدن به این قدرت پلتفرمی از سوی حقوقدانان و پژوهشگران مطرح شده، نظریه اساسیگرایی اجتماعی[30] است که بر پایه نظریه سیستمهای اجتماعی[31] نیکلاس لومان، جامعهشناس برجسته آلمانی، بنا شده است.
بر اساس نظر لومان، جهان اجتماعی، همانند جهان طبیعی، تنها از سیستمهای اتوپایوتیک تشکیل شده است.[32] مفهوم «اتو پایسیس» اولین بار توسط ماتورانا و وارلا برای توضیح سیستمهای زیستی به کار رفت تا خودفرمانی و بستهبودن فرآیندهای آنها را توضیح دهد.[33] لومان در سال ۱۹۸۸ این نظریه را به سیستمهای اجتماعی گسترش داد و بیان کرد که این سیستمها از عناصری تشکیل شدهاند که خود را بازتولید میکنند و از لحاظ عملکردی بسته هستند.[34]
جامعه از منظر لومان به مجموعهای از ارتباطات[35] با کارکردهای[36] مختلف تقسیم میشود[37] که ارتباطات روزمره انسانها با یکدیگر و با سایر سیستمهای کارکردی جامعه مانند اقتصاد، سیاست، حقوق و بهداشت را در بر میگیرد. همه سیستمهای جامعه از محیط بیرون خود تأثیر میپذیرند و آن را به زبان و منطق خاص خود بازتعریف میکنند.[38] آنچه لومان را به عنوان یک جامعهشناس محافظهکار در مقابل یورگن هابرماس مارکسیست قرار میدهد، این است که لومان بر خلاف مارکس که اقتصاد را زیربنای جامعه میداند، معتقد است هیچ سیستمی (نه اقتصاد، نه سیاست و نه جز آن) بر دیگری اولویت ندارد[39] و همه میتوانند بر یکدیگر تأثیر بگذارند. لومان باور دارد که نه تنها منطق یک سیستم از پیش بر منطق دیگری فروکاسته نشده، بلکه این اتفاق از لحاظ هنجاری نیز نباید رخ دهد.
ششم: اساسیگرایی دیجیتال
همین جزء هنجاری در نظریه لومان باعث میشود هابرماس معتقد باشد که این نظریه میتواند استثمار و استعمار منطق یک سیستم، مثلاً اقتصاد سرمایهداری، را بر منطق سایر سیستمها بپوشاند و پنهان کند.[40] از منظر لومان، جامعه مدرن به صورت خاصی ساختار یافته است، به این معنا که سیستمهای آن حول کارکردهای خاصی شکل گرفتهاند.[41] برای مثال، کارکرد اصلی نظام سیاسی، گرفتن تصمیمات جمعی و الزامآور است، در حالی که کارکرد نظام اقتصادی، تخصیص منابع محدود است.[42]
نظام حقوقی نیز کارکرد منحصربهفرد خود را دارد: تثبیت توقعات هنجاری افراد.[43] به عبارت دیگر، کارکرد اصلی نظام حقوقی، تثبیت این مسئله است که من انتظار دارم دیگری مال من را به ناحق غصب نکند یا حاکم خودسرانه من را زندانی نکند. لومان یک پوزیتیویست رادیکال است[44] و معتقد است هیچ حق یا قاعدهای به صورت طبیعی یا خدادادی وجود ندارد، بلکه تنها فرایندها و عناصری برساخته در داخل همین سیستم حقوقی بسته هستند.
متاثر از این چارچوب نظری، گونتر تیوبنر با پرشی لومانی در نظریه حقوق اساسی، بیان داشت همانطور که قانون اساسی به صورت سنتی وظیفه کنترل و محدود کردن منطق تمامیتخواه نظام سیاسی را داشته، حقوق (و به طور خاص حقوق خصوصی)[45] میتواند امکان «اساسیشدن» هر سیستمی را، به معنای مشروعیتبخشی به فرآیندها و عملکرد آن، فراهم کند و از نابودشدن منطق یک سیستم در منطق تمامیتخواه سیستم دیگر جلوگیری کند.[46]
جدول زیر شروط اصلی اساسیشدن از منظر تیوبنر و معادل آنها در حقوق اساسی کلاسیک و همچنین کاربرد این نظریه در اساسیسازی دروازهبانان دیجیتال را نشان میدهد:
| اساسیگرایی اجتماعی[47] | حقوق اساسی سنتی | اساسیگرایی دیجیتال |
| کارکردهای اساسی: کارکردهای تجمیعی، نمادین، و محدود کننده برای مثال در نظام اقتصادی، کارکردهایی شکل گرفته است که اولا استقلال منطق پول (نماد و مدیوم نظام اقتصادی) را تضمین میکنند و همچنین محدودیتهایی را مشخص میکنند که این منطق تمامیتطلب را کنترل میکند. | کارکردهای تجمیعی، بخشهای مختلف را ذیل یک عنوان جمع میکند. از منظر نمادین، قانون اساسی نمادی از هویت و ارزشهای سیاسی هر جامعه است و منطق اصلی هر سیستم را بازنمایی میکند. در نتیجه کارکردهای اساسی، استقلال این منطق در برابر منطق سایر سیستمها تضمین میشود. کارکردهای محدودکننده، به دنبال کنترل و محدودکردن این منطق تمامیتطلب هستند و فرایندهایی را ترسیم میکنند که مطابق آن این منطق از حد مجاز خود عدول نکند. | شکلگیری منشور حقوق دیجیتال[48]، شکلگیری اسنادی توسط دروازهبانان دیجیتال که بیش از پیش از زبانی استفاده میکنند که یادآور زبان حقوق اساسی است. |
| حوزههای اساسی: شکلگیری و تفکیک حوزه منظم و ساختیافته و حوزه غیرمنظم: مثلا نظام اقتصادی متشکل از دو حوزه منظم شامل نهادهای رسمی (بانکها، بورس، شرکتها) و بخشی غیرمنظم است که شامل تعاملات غیررسمی بازیگران غیرساختیافته است. بخش غیرساختیافته به بخش ساختیافته فشار وارد میکند. | بخش عمومی معادل حوزه ساختیافته و منظم سیاست (نهادها و سازمانهای سیاسی) و بخش خصوصی معادل حوزه غیرمنظم نظام سیاسی است. | دروازهبانان دیجیتال و تمامی سیستمهایی که این دروازهبانان از آنها تشکیل شدهاند میتواند جزء حوزه ساختیافته و منظم قلمداد شود و در عوض تعاملات کاربران این پلتفرمها حوزه غیرساختیافته و نامنظم را شکل خواهد داد. |
| فرایندهای اساسی: شکلگیری قواعد اولیه و ثانویه (معادل قواعد اولیه و ثانویه هارتی) قواعد اولیه هنجارهای اصلی رفتاری را ترسیم میکنند و قواعد ثانویه چگونگی ایجاد، تغییر و اجرای این قواعد اولیه را مشخص میکنند. | قواعد اولیه که شامل قواعد رفتاری جامعه میشوند و قواعد ثانویه که بیان میدارند قوانین اولیه چگونه به وجود میآیند (مثلا از طریق مجلس)، چگونه تغییر میکنند و چگونه اجرا میشوند (از طریق قوه مجریه) | شرایط استفاده از خدمات دروازهبانان دیجیتال و همچنین دستورالعملهای محتوای مجاز شکلدهنده قواعد اولیه این پلتفرمها هستند. این که شرایط استفاده از خدمات و دستورالعملهای محتوای مجاز بر اساس چه فرایندهای مدیریتی به وجود میآیند یا تغییر میکنند و این که چه کسی وظیفه اجرای این قواعد را برعهده دارد قواعد ثانویه این پلتفرمها را شکل میدهند. |
| ساختارهای اساسی:شکلگیری نهادهای رابط به عنوان محل جفتشدن ساختاری سیستمهای مختلف: با وجود این که سیستمهای مختلف از لحاظ عملکردی بسته هستند، با این حال میبایست میان فرایندها و عملکرد آنها نوعی هماهنگی به وجود بیاید. دستهای از وقایع وجود دارند که توامان در هنگام رخ دادن سیستمهای مختلف را به نحو متمایزی، بر اساس منطق درونی این سیستمها تحتالشعاع قرار میدهند. در اساسیگرایی اجتماعی، میبایست نهادی شکل گیرد که همزمان در سیستمهای مختلف بازتعریف و تفسیر شود. | مثال این نهادهای رابط در حقوق اساسی سنتی مجلس و یا دادگاه قانون اساسی است. هنگامی که لایحهای در مجلس تصویب میشود، این لایحه به طور مستقل معنای سیاسی خود را در داخل فرایندها و ساختارهای نظام سیاسی پیدا میکند (مثلا این که منافع چه کسی را نمایندگی میکند و چگونه قدرت را باز تولید میکند) و در نظام حقوقی نیز به عنوان قانونی جدید وارد ساختار و برنامههای نظام حقوقی میشود. تصمیمات دادگاههای قانون اساسی نیز از ویژگی مشابهی برخوردار است: این تصمیمات هم بار حقوقی مستقلی دارند و در نظام حقوقی جایگاه خود را پیدا میکنند و هم برای نظام سیاسی معنای سیاسی مختص خود را دارند. این جفتشدنها اگر از طریق شکلگیری نهادی پایدار و تثبیت شود، نهادی رابط را از طریق جفتشدن ساختاری به وجود میآورد که از شروط اصلی اساسیگرایی است. | شاید مهمترین مثالی که از نهادهای رابط در اساسیگرایی دیجیتال میتوان ارائه کرد تاسیس هیئت ناظر فیسبوک است. تصمیمات این هیئت همزمان در نظام بینالمللی حقوق بشر و آزادی بیان معنا پیدا میکند و هم (خوشبینانه) به بخشی از فرایندهای سیستم دروازهبانان دیجیتال بدل میشود. |
دروازهبانان دیجیتال، هرچه از لحاظ نظری باشند، به وضوح بر سیستمهای بیشماری تأثیرگذارند، بدون اینکه این قدرت را به نحو مسئولانه و مشروعی به کار گیرند. نظریه سیستمهای اجتماعی میتواند ابزار لازم برای مطالعه تأثیر این سیستمها بر سایر سیستمها را فراهم کند و نظریه اساسیگرایی اجتماعی نیز ابزاری برای مشروعیتبخشی به تصمیمات پلتفرمهاست.[49] در ادامه این پژوهش، به این سؤال باز خواهم گشت که سیاستگذار یا قانونگذار برای کنترل این منبع جدید قدرت و حدود مسئولیت دروازهبانان دیجیتال چه باید بکند. در قسمت بعد، قوانینی که کشورهای مختلف در واکنش به ظهور دروازهبانان دیجیتال وضع کردهاند را بررسی خواهم کرد.
[1] I Manokha, ‘Surveillance: The DNA of Platform Capital — The Case of Cambridge Analytica Put into Perspective’ (2018) 21 Theory and Event <https://ora.ox.ac.uk/objects/uuid:15e74c10-225f-4bd7-b086-8e1fdb1b79e8> accessed 12 August 2025.
[2] Carole Cadwalladr and Emma Graham-Harrison, ‘Revealed: 50 Million Facebook Profiles Harvested for Cambridge Analytica in Major Data Breach’ The Guardian (17 March 2018) <https://www.theguardian.com/news/2018/mar/17/cambridge-analytica-facebook-influence-us-election> accessed 12 August 2025.
[3] Matthew Rosenberg, Nicholas Confessore and Carole Cadwalladr, ‘How Trump Consultants Exploited the Facebook Data of Millions’ The New York Times (17 March 2018) <https://www.nytimes.com/2018/03/17/us/politics/cambridge-analytica-trump-campaign.html> accessed 12 August 2025.
[4] Cambridge Analytica Whistleblower: ‘We Spent $1m Harvesting Millions of Facebook Profiles’ (Directed by The Guardian, 2018) <https://www.youtube.com/watch?v=FXdYSQ6nu-M> accessed 12 August 2025.
[5] Cadwalladr and Graham-Harrison (n 2).
[6] Zeynep Tufekci and Christopher Wilson, ‘Social Media and the Decision to Participate in Political Protest: Observations from Tahrir Square’ (2012) 62 Journal of communication 363; Zeynep Tufekci, ‘The Road from Tahrir to Trump’ (2018) 121 MIT Technology Review 10.
[7] Zeynep Tufekci, Twitter and Tear Gas: The Power and Fragility of Networked Protest (Yale University Press 2017) <http://ebookcentral.proquest.com/lib/oxford/detail.action?docID=4849027> accessed 18 July 2023.
[8] Margaret Hu, ‘Cambridge Analytica’s Black Box’ (2020) 7 Big Data & Society 2053951720938091; Warren J von Eschenbach, ‘Transparency and the Black Box Problem: Why We Do Not Trust AI’ (2021) 34 Philosophy & Technology 1607.
[9] Zeynep Tufekci, ‘Facebook Said Its Algorithms Do Help Form Echo Chambers, and the Tech Press Missed It’ (2015) 32 New Perspectives Quarterly 9.
[10] Yavar Bathaee, ‘The Artificial Intelligence Black Box and the Failure of Intent and Causation’ [2018] Harvard Journal of Law & Technology <https://www.semanticscholar.org/paper/The-Artificial-Intelligence-Black-Box-and-the-of-Bathaee/b19f203a45443136333e879b467705d2fc0a62cb> accessed 12 August 2025.
[11] ‘Meta Must Pay Reparations to Rohingya for Role in Ethnic Cleansing’ (Amnesty International, 25 August 2023) <https://www.amnesty.org/en/latest/news/2023/08/myanmar-time-for-meta-to-pay-reparations-to-rohingya-for-role-in-ethnic-cleansing/> accessed 12 August 2025; ‘Myanmar: Facebook’s Systems Promoted Violence against Rohingya; Meta Owes Reparations – New Report’ (Amnesty International, 29 September 2022) <https://www.amnesty.org/en/latest/news/2022/09/myanmar-facebooks-systems-promoted-violence-against-rohingya-meta-owes-reparations-new-report/> accessed 12 August 2025; Matt Schissler, ‘Beyond Hate Speech and Misinformation: Facebook and the Rohingya Genocide in Myanmar’ [2024] Journal of Genocide Research 1.
[12] Neriah Yue, ‘The “Weaponization” of Facebook in Myanmar: A Case for Corporate Criminal Liability Notes’ (2019) 71 Hastings Law Journal 813.
[13] Michael Kwet, ‘How US Big Tech Supports Israel’s AI-Powered Genocide and Apartheid’ Al Jazeera (12 May 2024) <https://www.aljazeera.com/opinions/2024/5/12/how-us-big-tech-supports-israels-ai-powered-genocide-and-apartheid>.
[14] Nicolas P Suzor, Lawless: The Secret Rules That Govern Our Digital Lives (First edition, Cambridge University Press 2019) Chapter 4.
[15] برای روشن شدن این مطلب کافی است نگاهی به متن قراردادهای شرایط استفاده این پلتفرمها بیندازیم. برای مثال:
Instagram Terms of Use: “You can’t post someone else’s private or confidential information without permission or do anything that violates someone else’s rights, including intellectual property rights (e.g., copyright infringement, trademark infringement, counterfeit, or pirated goods)… You represent you own or have obtained all necessary rights to the content you post or share.” Youtube on its “Creator Responsibilities,” states that “Creators should only upload videos that they have made or that they have permission to use. That means that no one should upload videos they didn’t make, or use content in their videos that someone else owns the copyright to, such as music tracks, snippets of copyrighted programmes, or videos made by other creators without permission.”. Equally Amazon, in its “Business Solutions Agreement (BSA)” states that “You will defend, indemnify, and hold harmless Amazon, and our officers, directors, employees, and agents, against any third-party claim, loss, damage, settlement, cost, expense, or other liability… arising from or related to (a) your non- compliance with applicable Laws.”
این مسئله مختص پلتفرمهای خارجی نیز نیست. در ایران هم تمامی پلتفرمهای بزرگ، مفاد مشابهی را در قرارداد شرایط استفاده خود گنجاندهاند. مثلا « تپسی که بهعنوان واسط میان مسافر و سفیر از طریق اپلیکیشن متعلق به خود و نیز وباپ و خدمات تلفنی به ارائه خدمات هوشمند جابجایی مسافر میپردازد…کاربر متعهد است که در استفاده از خدمات تپسی تمامی قوانین جمهوری اسلامی ایران را رعایت کند، نرمافزار را برای اهداف قانونی بهکار گیرد و در همه حال… مرتکب رفتاری نشود که اعتبار نرمافزارهای تپسی را خدشهدار نماید» یا «اسنپ ارائهدهندهٔ خدماتی است که ارتباط بین کاربران مسافر یا راننده را جهت توافق بر انجام یک سفر فراهم میکند… با استفاده از خدمات اسنپ و سوپر اپ اسنپ، کاربران میپذیرند و موظف هستند که از خدمات ارائهشده برای انجام هیچ فعالیت غیرقانونی طبق قوانین جمهوری اسلامی ایران، خلاف شرع و مخالف با عرف جامعه استفاده نکنند.» در شرایط استفاده از دیجیکالا «مسئولیتهای مربوط به کیفیت، قیمت، محتوا، شرایط و همچنین خدمات پس از فروش محصول بر عهده فروشندگان است» یا دیوار که میگوید «۱. منظور از پلتفرم واسطی الکترونیکی و مجازی است که با ایجاد فضای برخط، امکان معاملات بیواسطه را برای کاربران فراهم میکند… ۳.۴ ارائهدهنده خدمت اعلام و اقرار مینماید که از قوانین حوزه فعالیت خود از جمله قوانین صنفی، قانون تجارت الکترونیکی، قانون تجارت، قانون حمایت از حقوق مصرف کنندگان اطلاع کامل دارد. ادعای جهل در مقابل دیوار یا ثالث رافع مسئولیت وی نیست…. ۴.۲ دیوار صرفاً یک پلتفرم ارائهدهنده خدمات میزبانی است و هیچگونه مسئولیتی در قبال فعالیت ارائهدهنده خدمت در دیوار نخواهد داشت. بدیهی است در صورت بروز هرگونه تخلف و جرم در این فرایند، دیوار هیچگونه مسئولیتی نخواهد داشت و در صورت درخواست مقام قضایی، اطلاعات لازم را در اختیار ایشان قرار خواهد داد…۴.۳ دیوار هیچگونه دخل و تصرفی در انتشار، عرضه و پالایش محتوای تولیدشده توسط ارائهدهنده خدمت ندارد. بنابراین مسئولیت هرگونه محتوا بر عهده ارائهدهنده خدمت خواهد بود…۴.۴ دیوار هیچگونه مسئولیتی در خصوص کامل بودن یا صحت و جامعیت و اصالت اطلاعات منتشرشده توسط کاربران اعم از کاربران عادی و ارائهدهنده خدمت ندارد. مسئولیت صحت اطلاعات با کاربری است که محتوا را منتشر میکند. دیوار هیچگونه مسئولیتی در خصوص هرگونه تقلب یا رفتار متقلبانه کاربران نداشته و حق رجوع به دیوار بابت این موارد وجود ندارد…۵.۴ مشکلات احتمالی در استفاده از درگاههای پرداخت اینترنتی به دیوار مربوط نبوده و دیوار مسئولیتی در قبال آنها نخواهد داشت… ۶.۴ دیوار هیچگونه مسئولیتی در خصوص هرگونه زیان ارائهدهنده خدمت، از جمله و نه محدود به از دست دادن سود، درآمد، تولید، پسانداز پیشبینیشده، کسب و کار، قراردادها و فرصتهای تجاری ندارد.
۷-۴ الصاق افزونه ممکن است علاوه بر تغییر در خود صفحهی آگهی، منجر به تغییر نحوهی نمایش آگهی (برای مثال، الصاق برچسب) در سایر فضاهای دیوار (مثل لیستهای جستجو) شود. با این وجود تصمیم در این موارد بر عهدهی دیوار است و ضمانتی در این زمینه وجود ندارد…۸.۴ دیوار هیچگونه مسئولیتی در خصوص هک شدن احتمالی سایت یا قطع شدن آن، اختلال موقت خدمات به دلایل فنی یا قطعی اینترنت، از دست رفتن سوابق و اطلاعات کاربران به دلایل مشابه و ایراد خسارت به کاربران ناشی از موارد مندرج در این ماده بدون قید انحصار ندارد. این بند ربطی به اقدامات معقول و متعارف دیوار جهت صیانت از حقوق کاربران نداشته و شامل موضوعات غیر قابل پیشبینی و خارج از کنترل و موارد فورس ماژور میشود. با این حال ما در تلاشیم در صورت بروز نقص در دیوار، در حدود امکانات و تواناییهای خود برای رفع نقص و پشتیبانی فنی اقدام کنیم.»
[16] Lee A Bygrave, ‘Lex Facebook’ in Lee A Bygrave (ed), Internet Governance by Contract (Oxford University Press 2015) <https://doi.org/10.1093/acprof:oso/9780199687343.003.0005> accessed 15 January 2025.
[17] Bea Hajek, ‘Online Platform Service Providers on Platform 9¾: A Call for an Update of the Unfair Contract Terms Directive’ (2020) 28 European Review of Private Law <https://kluwerlawonline.com/api/Product/CitationPDFURL?file=Journals\ERPL\ERPL2020066.pdf> accessed 12 August 2025. Vanessa Mak, ‘Regulating Online Platforms – The Case of Airbnb’ in Stefan Grundmann (ed), European Contract Law in the Digital Age, vol 3 (Intersentia 2018) 91 <https://www.cambridge.org/core/books/european-contract-law-in-the-digital-age/regulating-online-platforms-the-case-of-airbnb/309F298351704966303A5DBC0C4E6F52> accessed 12 August 2025; Przemyslaw Jacek Palka, ‘Terms of Service Are Not Contracts – Beyond Contract Law in the Regulation of Online Platforms’ in Stefan Grundmann (ed), European Contract Law in the Digital Age, vol 3 (Intersentia 2018) 140 <https://www.cambridge.org/core/books/european-contract-law-in-the-digital-age/terms-of-service-are-not-contracts-beyond-contract-law-in-the-regulation-of-online-platforms/06837F552C19D1F4BB8F2A1D63445AFF> accessed 12 August 2025.
[18] Naveen Kumar, ‘32+ Creator Economy Statistics of 2025 (Market Size Data)’ (DemandSage, 25 June 2025) <https://www.demandsage.com/creator-economy-statistics/> accessed 13 August 2025.
[19] Business of Apps, ‘YouTube Revenue and Usage Statistics (2025)’ Business of Apps (2025) <https://www.businessofapps.com/data/youtube-statistics/>.
[20] Grand View Research, ‘Influencer Marketing Platform Market Size Report, 2030’ Grand View Research (2024) <https://www.grandviewresearch.com/industry-analysis/influencer-marketing-platform-market>.
[21] آرمان صفایی، «اینفلوئنسر مارکتینگ چیست؛ بازاریابی اینفلوئنسر چه مزایایی دارد؟» (یکتانت, 15 January 2019) <https://www.yektanet.com/blog/2742/اینفلوئنسر-مارکتینگ-چیست/> accessed 13 August 2025.
[22] Brenda Dvoskin, ‘Expertise and Participation in the Facebook Oversight Board: From Reason to Will’ (2023) 47 Telecommunications Policy 102463; Angelo Jr Golia, ‘The Transformative Potential of Meta’s Oversight Board: Strategic Litigation within the Digital Constitution? Digital Constitution: On the Transformative Potential of Societal Constitutionalism’ (2023) 30 Indiana Journal of Global Legal Studies 325; Kate Klonick, ‘The Facebook Oversight Board: Creating an Independent Institution to Adjudicate Online Free Expression’ (2019) 129 Yale Law Journal 2418; Monroe E Price and Joshua M Price, ‘Building Legitimacy in the Absence of the State: Reflections on the Facebook Oversight Board’ (2023) 17 International Journal of Communication 11; Pamela San Martin, ‘Meta’s Oversight Board. Challenges of Content Moderation on the Internet’ (2023) 16 Erasmus Law Review 124.
[23] Marten Risius and Kevin Marc Blasiak, ‘Shadowbanning: An Opaque Form of Content Moderation’ (2024) 66 Business & Information Systems Engineering 817.
[24] Orla Lynskey, ‘Grappling with “Data Power”: Normative Nudges from Data Protection and Privacy’ (2019) 20 Theoretical Inquiries in Law 189, 192.
[25] Federal Trade Commission and others, ‘Complaint – Federal Trade Commission, et al. v. Amazon.Com, Inc. (Revised Redactions)’ <https://www.ftc.gov/system/files/ftc_gov/pdf/1910134amazonecommercecomplaintrevisedredactions.pdf> [419].
[26] John Ward, ‘Shadow Agreements: How Project Nessie Evades Consumer Law Through Code’ <https://aura.american.edu/articles/journal_contribution/Shadow_Agreements_How_Project_Nessie_Evades_Consumer_Law_Through_Code/28836452/1> accessed 13 August 2025.
[27] Vili Lehdonvirta, Cloud Empires: How Digital Platforms Are Overtaking the State and How We Can Regain Control (The MIT Press 2022) 93.
[28] FA Hayek, ‘The Use of Knowledge in Society’ (1945) 35 The American Economic Review 519.
[29] For other competing theories, see e.g. Andrew Murray, Information Technology Law: The Law and Society (Fifth edition, Oxford University Press 2023) 56 Chapter 4.
[30] Gunther Teubner, ‘Societal Constitutionalism: Alternatives to State-Centered Constitutional Theory?’; Gunther Teubner, Constitutional Fragments: Societal Constitutionalism and Globalization (Oxford University Press 2012).
[31] Christian Borch, Niklas Luhmann (Taylor & Francis Group 2011) <http://ebookcentral.proquest.com/lib/oxford/detail.action?docID=683939> accessed 17 September 2024; Mathias Albert, ‘Luhmann and Systems Theory’ in Mathias Albert, Oxford Research Encyclopedia of Politics (Oxford University Press 2016) <https://oxfordre.com/politics/view/10.1093/acrefore/9780190228637.001.0001/acrefore-9780190228637-e-7> accessed 28 August 2024.
[32] Claudio Baraldi, Giancarlo Corsi and Elena Esposito, Unlocking Luhmann : A Keyword Introduction to Systems Theory (Transcript Verlag 2021) 37 <https://directory.doabooks.org/handle/20.500.12854/116776> accessed 14 February 2025 Autopoiesis; F Geyer, ‘Sociocybernetics’ in Neil J Smelser and Paul B Baltes (eds), International Encyclopedia of the Social & Behavioral Sciences (Pergamon 2001) <https://www.sciencedirect.com/science/article/pii/B0080430767020271> accessed 13 August 20252.5; Niklas Luhmann, Theory of Society Volume 1 (1st ed., Stanford University Press 2012) Discussed mostly in Chapter 1: Society As a Social System.
[33] Humberto R Maturana and Francisco J Varela, Autopoiesis and Cognition: The Realization of the Living, vol 42 (Springer Netherlands 1980) <http://link.springer.com/10.1007/978-94-009-8947-4> accessed 13 August 2025.
[34] Luhmann, Theory of Society Volume 1 (n 32) 49.
[35] Baraldi, Corsi and Esposito (n 32) 45 Communications.
[36] ibid 99 Functional Analysis.
[37] Luhmann, Theory of Society Volume 1 (n 32) 83 World Society; Borch (n 31) 32.
[38] Baraldi, Corsi and Esposito (n 32) 157 Operation/Observation. On how meaning is formed in each system according to its own logic, see ibid 137; Luhmann, Theory of Society Volume 1 (n 32) 37.
[39] Loet Leydesdorff, ‘Luhmann, Habermas and the Theory of Communication’ (2000) 17 Systems Research and Behavioral Science 273; Gorm Harste, The Habermas-Luhmann Debate (Columbia University Press 2021). Inger-Johanne Sand, ‘The Interaction of Society, Politics and Law: The Legal and Communicative Theories of Habermas, Luhmann and Teubner’, Luhmann and Law (Routledge 2017).
[40] Mattias Iser, ‘44. Colonization’ in Hauke Brunkhorst, Regina Kreide and Cristina Lafont (eds), The Habermas Handbook (Columbia University Press 2018) <https://www.degruyter.com/document/doi/10.7312/brun16642-046/html> accessed 19 February 2025.
[41] Niklas Luhmann, ‘10. The Differentiation of Society’, The Differentiation of Society (Columbia University Press 2019) <https://www.degruyter.com/document/doi/10.7312/luhm90862-013/html> accessed 28 August 2024.
[42] For example see Baraldi, Corsi and Esposito (n 32) 171 and 79.
[43] Niklas Luhmann, Law as a Social System (University Press 2004); Michael King and Chris Thornhill, ‘Society’s Legal System’, Luhmann and Law (Routledge 2017).
[44] Christopher Thornhill (ed), Luhmann and Law (Routledge 2022) 24.
[45] Gunther Teubner, ‘My Numerous Detours – Toward Private Law as Society’s Constitution’ (2024) 44 Zeitschrift für Rechtssoziologie 213.
[46] Gunther Teubner and Angelo Jr Golia, ‘Societal Constitutionalism in the Digital World: An Introduction Digital Constitution: On the Transformative Potential of Societal Constitutionalism’ (2023) 30 Indiana Journal of Global Legal Studies 1; Angelo Jr Golia and Gunther Teubner, ‘Societal Constitutionalism: Background, Theory, Debates’ (2021) 15 ICL Journal 357; Gunther Teubner and Diana Göbel, Critical Theory and Legal Autopoiesis: The Case for Societal Constitutionalism (Manchester University Press 2019) <http://ebookcentral.proquest.com/lib/oxford/detail.action?docID=6371483> accessed 19 November 2024; Gunther Teubner, ‘The Project of Constitutional Sociology: Irritating Nation State Constitutionalism’ (2013) 4 Transnational Legal Theory 44.
[47] Golia and Teubner (n 46).
[48] Edoardo Celeste, Clara Iglesias Keller and Dennis Redeker, ‘Digital Bills of Rights’ in Giovanni De Gregorio, Oreste Pollicino and Peggy Valcke (eds), The Oxford Handbook of Digital Constitutionalism (Oxford University Press 2024) <https://doi.org/10.1093/oxfordhb/9780198877820.013.17> accessed 30 September 2024; Edoardo Celeste, ‘Terms of Service and Bills of Rights: New Mechanisms of Constitutionalisation in the Social Media Environment?’ (2019) 33 International Review of Law, Computers & Technology 122; Dennis Redeker, Lex Gill and Urs Gasser, ‘Towards Digital Constitutionalism? Mapping Attempts to Craft an Internet Bill of Rights’ (2018) 80 International Communication Gazette 302.
[49] For a dissenting argument see Marta Maroni, ‘“Mediated Transparency”: The Digital Services Act and the Legitimisation of Platform Power’, (In) visible European Government (Routledge 2023) <https://www.taylorfrancis.com/chapters/edit/10.4324/9781003257936-19/mediated-transparency-marta-maroni> accessed 20 June 2025.
