به گزارش گروه رسانهای شرق،
حمید کردبچه-صاحبنظر حوزه اقتصاد دیجیتال: یکی از پیامدهای گسترش هوش مصنوعی در فعالیتهای اقتصادی و اداری، تغییر رابطه میان قدرت تصمیمگیری و مسئولیت پیامدهای آن است. الگوریتمها به تدریج در ارزیابی اعتبار مشتریان، انتخاب نیروی انسانی، تخصیص منابع و ارائه خدمات عمومی و صدور با ابطال مجوزها نقش بیشتری پیدا میکنند، اما سازوکار پاسخگویی متناسب با این تغییر هنوز شکل نگرفته است. در چنین شرایطی، ممکن است یک تصمیم بر زندگی و فرصتهای اقتصادی افراد اثر بگذارد، بدون آنکه مسئولیت آن بهروشنی متوجه بازیگر مشخصی باشد.
برای مثال، وقتی بررسی امکان صدور یک مجوز فعالیت کسبوکاری بر مبنای سامانه هوشمند بررسی درخواست متقاضی را رد میکند، سازمان متولی ارائه خدمت ممکن است به امتیاز محاسبهشده توسط مدل استناد کند، شرکت فناور توسعهدهنده مسئولیت را متوجه مشخصات اعلامشده از سوی کارفرما بداند و کارمند نیز صرفا مجری خروجی سامانه باشد. در این فرایند، تصمیم گرفته شده و پیامد اقتصادی آن نیز واقعی است، اما مسیر پاسخگویی میان چند بازیگر توزیع شده است. مسئله را میتوان «گمشدن مسئولیت در اقتصاد الگوریتمی» نامید.
این وضعیت صرفا ناشی از پیچیدگی فناوری نیست، بلکه به تغییر ماهیت تصمیمگیری مربوط میشود. الگوریتمها دیگر فقط ابزار پردازش اطلاعات و اجرای دستور نیستند؛ آنها در تعیین اولویتها، محدودکردن گزینهها و تخصیص فرصتها نیز نقش دارند. در نتیجه، بخشی از قدرتی که پیشتر در اختیار مدیران و کارشناسان بود، به ساختارهای محاسباتی منتقل میشود.
یکی از نکات مهم در این تحول، تصور بیطرفی الگوریتمهاست. خروجی یک مدل ممکن است از دقت آماری بالایی برخوردار باشد، اما این ویژگی به معنای بیطرفی آن نیست. انتخاب دادهها، متغیرهای اثرگذار، معیار موفقیت و میزان خطای قابل قبول، همگی پیش از اجرای الگوریتم و به وسیله انسان تعیین میشوند. بنابراین، یک مدل ممکن است از نظر فنی عملکرد موفقی داشته باشد، اما هدفی را دنبال کند که از منظر اقتصادی یا اجتماعی مطلوب نباشد. در نتیجه، ارزیابی کیفیت تصمیمهای الگوریتمی باید علاوه بر دقت فنی، هدفگذاری و پیامدهای اقتصادی آنها را نیز در بر گیرد.
این مسئله با گسترش کاربرد هوش مصنوعی در سازمانها اهمیت بیشتری پیدا میکند. در ساختارهای متعارف، معمولا امکان شناسایی مدیر، واحد یا کارشناس مسئول یک تصمیم وجود دارد، اما در سامانههای الگوریتمی، نتیجه حاصل تعامل چندین بازیگر است؛ سازمان سفارشدهنده، شرکت فناور توسعهدهنده، تأمینکننده داده، طراح مدل و واحد بهرهبردار. هرکدام بخشی از فرایند را کنترل میکنند و ممکن است در زمان بروز خطا، مسئولیت را به حلقه دیگری منتقل کنند.
در چنین شرایطی، فاصله میان محل تصمیمسازی و محل تجربه پیامد افزایش مییابد. طراح مدل با داده و شاخص آماری مواجه است، مدیر با گزارش عملکرد و اپراتور با خروجی سامانه سروکار دارد، در حالی که فرد متأثر از تصمیم، هزینه واقعی آن را پرداخت میکند. این فاصله را میتوان نوعی فاصله شناختی در اقتصاد الگوریتمی دانست؛ وضعیتی که در آن، تصمیمساز به تدریج از واقعیت پیامد تصمیم خود دور میشود.
مفهوم «منطقه مچاله اخلاقی» (Moral Crumple Zone) که مادلین الیش در مطالعات خود درباره سامانههای خودکار مطرح کرده است، بخشی از همین مسئله را توضیح میدهد. در این وضعیت، هنگام بروز خطا در یک سامانه پیچیده، مسئولیت ممکن است به فردی منتقل شود که در نزدیکترین سطح عملیاتی قرار دارد؛ فردی که نه در طراحی سامانه نقش تعیینکنندهای داشته است و نه اختیار کافی برای تغییر تصمیم آن. به این ترتیب، مسئولیت در سطح اجرا متمرکز میشود، در حالی که قدرت تصمیمسازی در سطوح بالاتر قرار دارد.
با ظهور سامانههای عاملمحور هوش مصنوعی، این مسئله از تصمیمهای پیشنهادی فراتر میرود. این سامانهها میتوانند علاوه بر تحلیل اطلاعات، مجموعهای از اقدامات را برنامهریزی و اجرا کنند و با سامانههای دیگر تعامل داشته باشند. در چنین شرایطی، اتکا بر این فرض که تصمیم نهایی همواره توسط انسان گرفته میشود، برای تعیین مسئولیت کافی نیست. باید مشخص شود انسان در کدام مرحله اختیار مداخله داشته و آیا امکان توقف، اصلاح و بازبینی تصمیم را در اختیار داشته است.
برای اقتصاد ایران، این تحول از دو جهت اهمیت دارد: نخست، سازمانها و دستگاههای اجرائی به منظور کاهش هزینه و افزایش بهرهوری، انگیزه بیشتری برای خودکارسازی فرایندها خواهند داشت. دوم، در محیطهایی که کیفیت داده، شفافیت فرایندها و سازوکارهای نظارتی با محدودیت مواجه است، استفاده از الگوریتمها میتواند خطاهای موجود را در مقیاس بزرگتری بازتولید کند. بنابراین، دیجیتالیشدن فرایندها بدون اصلاح مبانی تصمیمگیری، الزاما به بهبود کیفیت مدیریت منجر نمیشود.
از سوی دیگر، اگر امکان توضیح و اعتراض به تصمیمهای الگوریتمی وجود نداشته باشد، پیچیدگی فناوری میتواند به ابزاری برای کاهش پاسخگویی تبدیل شود. سازمان به خروجی سامانه استناد میکند و فرد متأثر از تصمیم، امکان شناسایی منشأ خطا را ندارد. این وضعیت در بلندمدت علاوه بر افزایش هزینههای اجتماعی، اعتماد به سازمانها و خدمات دیجیتال را نیز تضعیف میکند. اصلاح این وضعیت به معنای محدودکردن استفاده از هوش مصنوعی نیست، بلکه به تعریف سازوکار حکمرانی متناسب با قدرت آن نیاز دارد.
مسئولیت باید در تمام چرخه عمر سامانه، از تعریف مسئله و انتخاب داده تا طراحی، استقرار، پایش و اصلاح، مشخص باشد. سازمان بهرهبردار باید بتواند مبنای تصمیم را توضیح دهد و امکان اعتراض و بازبینی انسانی را فراهم کند. شرکت توسعهدهنده نیز باید در قبال کیفیت فنی، محدودیتهای شناختهشده و مخاطرات طراحی محصول خود پاسخگو باشد. همچنین ارزیابی عملکرد این سامانهها نباید به شاخصهایی مانند سرعت پردازش، دقت آماری و کاهش هزینه محدود شود.
میزان خطا در گروههای مختلف، نحوه توزیع منافع و هزینهها و تعداد تصمیمهایی که امکان بازبینی ندارند، بخشی از معیارهای سنجش کیفیت اقتصادی و اجتماعی آنهاست.
اقتصاد الگوریتمی به تدریج ساختار قدرت در سازمانها و بازارها را تغییر میدهد. در این ساختار، ممکن است اختیار تصمیمسازی از انسان به ماشین منتقل شود، اما مسئولیت پیامدهای آن همچنان باید در قلمرو حکمرانی انسانی باقی بماند. مسئولیت مشترک میان بازیگران مختلف نیز نباید به مسئولیت مبهم و بدون صاحب تبدیل شود.
توسعه اقتصاد دیجیتال فقط به داده بیشتر، مدلهای دقیقتر و زیرساخت محاسباتی قدرتمندتر نیاز ندارد؛ به سازوکاری نیاز دارد که میان قدرت تصمیمگیری و مسئولیت پیامدهای آن تناسب برقرار کند. الگوریتمی که منابع را تخصیص میدهد، فرصتها را محدود میکند یا درباره دسترسی افراد به خدمات تصمیم میگیرد، بخشی از قدرت اقتصادی را در اختیار دارد و این قدرت باید قابل نظارت و پاسخگویی باشد.
در اقتصاد الگوریتمی، مسئله فقط این نیست که چه کسی تصمیم میگیرد؛ مسئله این است که چه کسی هزینه تصمیم را میپردازد و چه کسی مسئولیت آن را میپذیرد.
منبع: شبکه شرق


