در عصر هوش مصنوعی، قدرت فقط در اختیار دولتها یا نهادهای رسمی نیست؛ بخشی از آن در دست پلتفرمهایی قرار گرفته که با جمعآوری دادههای رفتاری، انتخابهای انسان را پیشبینی و حتی هدایت میکنند. آنچه شوشانا زوبوف از آن با عنوان سرمایهداری نظارتی یاد میکند، امروز با هوش مصنوعی به مرحله تازهای رسیده است؛ مرحلهای که در آن داده، پیشبینی و مهندسی رفتار به ابزارهای اصلی قدرت تبدیل میشوند.
در نگاه اول، همه اینها فقط شخصیسازی به نظر میرسد. اما پشت این تجربه راحت و سریع، یک منطق اقتصادی گستردهتر قرار دارد. شوشانا زوبوف در کتاب عصر سرمایهداری نظارتی توضیح میدهد که اقتصاد دیجیتال طی دو دهه گذشته به سمت مدلی حرکت کرده که در آن تجربه روزمره انسان به ماده خام تبدیل میشود. هر جستوجو، هر حرکت موس و هر توقف کوتاه روی صفحه، دادهای تولید میکند که میتواند برای پیشبینی رفتار آینده به کار رود.
در این مدل، داده صرفاً برای بهبود خدمات جمعآوری نمیشود. بخشی از دادهها به چیزی تبدیل میشوند که زوبوف آن را مازاد رفتاری مینامد. این مازاد، خوراک اصلی سامانههای تحلیل داده و هوش مصنوعی است. نتیجه، محصولاتی است که هدفشان پیشبینی رفتار کاربران در لحظه بعدی، فردا یا حتی هفته آینده است. این پیشبینیها در واقع کالاهایی هستند که در بازارهای تبلیغات و تحلیل رفتار معامله میشوند.
سرمایهداری نظارتی چیست و چرا با هوش مصنوعی مهمتر شده است؟
سرمایهداری نظارتی مدلی از اقتصاد دیجیتال است که در آن دادههای رفتاری انسان به منبع اصلی خلق ارزش تبدیل میشود. پلتفرمها با جمعآوری داده از جستوجوها، کلیکها، مکثها، خریدها و تعاملات روزمره، الگوهایی میسازند که میتواند رفتار آینده کاربران را پیشبینی کند. هوش مصنوعی این فرآیند را سریعتر، دقیقتر و گستردهتر کرده و قدرت پیشبینی را به قدرت اثرگذاری بر رفتار نزدیکتر کرده است.
چرا دادههای رفتاری به ابزار پیشبینی تبدیل شدهاند؟
در دنیای سنتی، کسبوکارها با بررسی آمار فروش گذشته، سعی میکردند رفتار آینده را حدس بزنند. اما سرمایهداری نظارتی این معادله را وارونه کرده است. اینجا دیگر لازم نیست منتظر بمانید تا مصرفکننده عملی را انجام دهد؛ سیستمها چنان حجمی از اطلاعات جزئی را در اختیار دارند که میتوانند احتمال بروز آن عمل را قبل از وقوع محاسبه کنند.
این مازاد رفتاری که زوبوف از آن حرف میزند، همان چیزی است که به شرکتها قدرت میدهد. وقتی شما در یک موتور جستوجو چیزی را تایپ میکنید، هدفِ اصلیِ آن شرکت صرفاً پیدا کردن لینک برای شما نیست. هدف، ثبت این است که شما در چه ساعتی، با چه حالتی، از چه موقعیت مکانی و با چه روحیهای به دنبال آن محتوا گشتید. این جزییات اضافه، به همان منبع اصلی تبدیل میشود که مدلهای پیشبینی را تغذیه میکند.
در این اقتصاد، کاربر نه مشتری است و نه کالا؛ کاربر در واقع منبع استخراج مواد اولیه است. مشتری واقعی، شرکتهای بزرگی هستند که برای خرید این پیشبینیهای رفتاری با هم رقابت میکنند. هدف این است که بدانند شما چه زمانی، چه چیزی را، با چه قیمتی و تحت چه شرایطی خواهید خرید.
چگونه الگوریتمها از مشاهده رفتار به مهندسی انتخاب میرسند؟
ماجرا وقتی پیچیدهتر میشود که بدانیم این سیستمها فقط به مشاهده و پیشبینی بسنده نمیکنند. در مرحله بعد، آنها وارد فاز اثرگذاری یا همان مهندسی رفتار میشوند. اگر یک الگوریتم هوش مصنوعی با دقت بالایی پیشبینی کند که شما در چه شرایطی ممکن است خرید کنید، گام بعدی چیست؟ گام بعدی ایجاد همان شرایط است.
این همان تغییرِ ظریفی است که بسیاری از ما نادیده میگیریم. وقتی اپلیکیشنی اعلان میفرستد، وقتی شبکه اجتماعی ترتیب پستها را تغییر میدهد، یا وقتی سایت فروشگاهی پیشنهادات لحظهای ارائه میکند، همگی در حال هل دادن ما به سمت یک تصمیمِ خاص هستند. زوبوف این وضعیت را نوعی قدرت ابزارمند مینامد؛ قدرتی که با فریاد زدن و دستور دادن عمل نمیکند، بلکه با تنظیمِ محیط انتخاب، رفتار را به شکلی نامحسوس هدایت میکند.
کاربر در چنین محیطی تصور میکند که آزادانه انتخاب کرده است، اما در واقع انتخابِ او درون معماری دیجیتالی شکل گرفته که از قبل برای افزایشِ نرخِ تبدیل طراحی شده است. دیگر مسئله این نیست که آیا این فناوریها خوب هستند یا بد؛ مسئله این است که آنها بر اساس منطقی عمل میکنند که تأثیرگذاری بر رفتاررا به عنوان تنها راه رشد سودآوری تعریف کرده است.
هوش مصنوعی چگونه سرمایهداری نظارتی را شتاب میدهد؟
هوش مصنوعی در این میان نقش کاتالیزور را بازی میکند. پیش از ظهور مدلهای پیشرفته هوش مصنوعی، تحلیل این حجم عظیم از رفتار انسانی زمانبر و دشوار بود. اما اکنون، ماشینها میتوانند الگوهای پیچیده رفتاری را در لحظه تشخیص دهند و بر اساس آن، واکنش بعدی کاربر را نه تنها حدس بزنند، بلکه تغییر دهند.
هرچه هوش مصنوعی قویتر میشود، امکان شخصیسازیِ تهاجمی نیز بیشتر میشود. مدلهای جدید میتوانند خستگی، اضطراب یا حتی تغییرِ سلیقه لحظهای کاربر را از روی نحوهی کار با دستگاه تشخیص دهند و بلافاصله استراتژی فروش یا جذب توجه را تغییر دهند. این سرعت عمل، یعنی بازگشت سرمایه بیشتر برای شرکتها و البته فرسایش بیشتر قدرت تصمیمگیری برای فرد.
ما در حالِ ورود به دورهای هستیم که در آن، مرز میانِ خواست درونی و تحریکِ بیرونی بیش از هر زمان دیگری تار شده است. وقتی سیستمها با دقتی وسواسگونه سلیقه و نیازِ ما را میشناسند، به تدریج تمایز قائل شدن بین چیزی که واقعاً میخواهم و چیزی که الگوریتم میخواهد من بخواهم دشوار میشود.
آیا انتخاب آزاد در عصر هوش مصنوعی کمیاب میشود؟
در نهایت، آنچه زوبوف هشدار میدهد، فراتر از حریم خصوصی است. بحث اصلی، درباره حق ما برای داشتن آینده است؛ حقی که زوبوف آن را حق زمان آینده مینامد. یعنی اینکه فرد باید این توانایی را داشته باشد که آیندهاش را خودش بنویسد، نه اینکه پیشبینیهای الگوریتمی، آیندهاش را به شکلی محدود و قابلپیشبینی، از قبل ترسیم کنند.
سرمایهداری نظارتی با کمک هوش مصنوعی، آینده را به یک کالا تبدیل کرده که خرید و فروش میشود. اگر این روند بدون ایجاد قواعد تازه و مرزگذاریهای شفاف ادامه یابد، مفهوم استقلال فردی در فضای دیجیتال به تدریج رنگ میبازد. امروز، بیش از هر زمان دیگری، نیاز است که به این پرسش فکر کنیم: آیا ما از فناوری استفاده میکنیم، یا این فناوری است که با تحلیل دقیق رفتارهای ما، در حال استفاده از ما برای رسیدن به اهداف سودآور خودش است؟
سوالات مهم درباره هوش مصنوعی و سرمایهداری نظارتی
سرمایهداری نظارتی چیست؟
سرمایهداری نظارتی مدلی از اقتصاد دیجیتال است که در آن دادههای رفتاری کاربران جمعآوری، تحلیل و برای پیشبینی یا اثرگذاری بر رفتار آینده آنها استفاده میشود.
هوش مصنوعی چه نقشی در سرمایهداری نظارتی دارد؟
هوش مصنوعی توانایی تحلیل حجم عظیمی از دادههای رفتاری را افزایش میدهد و به پلتفرمها کمک میکند رفتار کاربران را سریعتر و دقیقتر پیشبینی یا هدایت کنند.
مازاد رفتاری یعنی چه؟
مازاد رفتاری به دادههایی گفته میشود که فراتر از نیاز مستقیم یک خدمت دیجیتال جمعآوری میشود و میتواند برای ساخت مدلهای پیشبینی رفتار کاربران به کار رود.
آیا الگوریتمها انتخاب انسان را کنترل میکنند؟
الگوریتمها لزوماً انتخاب انسان را بهصورت مستقیم کنترل نمیکنند، اما با تنظیم محیط انتخاب، ترتیب نمایش محتوا، اعلانها و پیشنهادهای شخصیسازیشده میتوانند رفتار و تصمیمهای کاربران را هدایت کنند.
نظر شما در مورد این مطلب چیه؟