به گزارش خبرگزاری صدا و سیما، آقای طاهری در برنامه گفتگوی ویژه خبری گفت: بیش از ۸۰ تا ۹۰ درصد مواد این قانون بر توسعه فناوری، توجه به لایههای بنیادین و عمیق و مواجهه با پدیدههای نوظهور متمرکز است.مشروح این گفتگو به شرح زیر است:مقدمه مجری: می خواهیم راجع به یکی از مهم ترین و کاربردی ترین علوم و فنونی که امروز در سراسر جهان از جمله در کشورمان رواج پیدا کرده صحبت کنیم یعنی هوش مصنوعی، هوش مصنوعی در کشور ما در چه جایگاهی قرار گرفته؟ برنامه ریزی ها نسبت به گسترش آن و البته استفاده از زوایای آن به صورت مثبت چگونه در حال انجام است؟
از آخرین خبرها در خصوص قانون هوش مصنوعی اطلاعاتی را در اختیار شما قرار خواهیم داد و به شما خواهیم گفت که در کشور ما یعنی جمهوری اسلامی ایران قرار است چه برنامه ریزی هایی طبق هوش مصنوعی صورت بگیرد؟
سوال: قبل از این که راجع به اهمیت هوش مصنوعی که بر همگان تقریبا آشکار شده صحبت کنیم و راجع به محورها و برنامه های عملیاتی، آقای طاهری از قانون هوش مصنوعی برای ما بگویید قانونی که تقریبا قانون جدیدی در کشورمان است موضوعات مختلفی را هم در بر گرفته، به چه موضوعاتی اشاره می کند و قرار است چه افق راهی را در کشور ترسیم کند؟طاهری: همانطور که فرمودید خود کلمه این که یک کشور در هوش مصنوعی قانون دارد موضوعیت دارد.
یعنی در تقسیم بندی هایی می آیند می گویند کدام کشورها در هوش مصنوعی قانون دارند حالا خارج از این که محتوایش چقدر غنی و خوب است خودش یک پارامتر است ما وقتی که می خواستیم قانون هوش مصنوعی را تکلیف کنیم که دولت لایحه آن را در برنامه هفتم بیاورد، آن زمان بررسی می کردیم شاید مثلا سه سال قبل دو سال و نیم قبل مثلا سی و خورده ای کشور قانون داشتند. روزی که ما قانون مان به طول انجامید و لایحه از طرف دولت نیامد و ما طرح را شروع کردیم جلو بردن،حدود صد تا کشور در هوش مصنوعی قانون داشتند.
الحمدالله در کشور ما هم الان در مورد هوش مصنوعی یک قانون خیلی مترقی و قابل دفاع و خوبی انجام شده،دولت هم علیرغم این که در بخشی از فرآیند این قانون در ایجاد سازمان نکاتی را داشت ولی بعد از این که قانون شد اقای دکتر عارف موضع گیری خیلی خوبی کردند و گفتند با توجه به این که قانون شده ما این را جدی می خواهیم پیگیری کنیم.بحث سر این است که این طور نیست که یک فناوری جدید آمده ما باید برای آن قانون بنویسیم ما برای این فناوری باید تشکیلات جدید ایجاد کنیم این فناوری با خیلی از فناوری هایی که الان یا در حال بروز هستند یا بروز کردند یا در آینده می آیند یک تفاوت جدی دارد.
از جنس انقلاب صنعتی است. متفاوت است شما مثلا ممکن است بگویید چرا برای میکروالکترونیک این کار را نکردید؟ مگر آن اهمیتش کم است؟ یا برای کوآنتوم یا بحث های دیگر،بحث سر این بود که این انقلاب صنعتی است.
اگر صحبت های ترامپ ملعون و گور به گور را در سازمان ملل می شنیدید دقیقا همین را گفت اشاره کرد که هوش مصنوعی از انقلاب صنعتی اول که ماشین بخار و این همه تحولات ماشین و این ها مربوط به انقلاب صنعتی اول است مهم تر و حتی از اینترنت، بنابراین اهمیت داشت که ما این کار را انجام بدهیم رهبر شهیدمان خواسته بود که ما جزو 10 کشور برتر دنیا باشیم، هنوز رقابت در هوش مصنوعی به اتمام نرسیده شما ممکن است الان به یک… سوال: اصلا شروع شده؟ طاهری: بله، خیلی عقب هستیم، سوال: می خواهم بگویم چون رفتیم سراغ انتها می خواهم بگویم ما کجای این مسیر هستیم؟
طاهری: شروع شده و این که بگوییم تمام شده و الان آمدن مان حتما می خواهیم بعنوان یک مستعمره و کاربر فقط باشیم نیست ظرفیت هایی که ما می توانیم از سهم بگیریم از دنیا برای ما وجود دارد در مدل های جدید، می بینید مثلا بعضی کشورها خیلی وقت است شروع کردند و جلو هستند ولی یک دفعه یک کشوری که از یک کشور دیگر عقب بود یک مدل جدیدی را ارائه می دهد و تحول ایجاد می کند که از قبلی ها هم جلو می زند مشابه آن در کشور چین و جاهای دیگر، بنابراین ما قانون هوش مصنوعی را با این رویکرد بعنوان یک طرح آوردیم یک قانون 12ماده ای که از ایجاد ساختار شروع می شود بین دو رویکرد توسعه ای و تنظیم گری بیشتر به توسعه می پردازد لایه های بنیادین و عمیق را می بیند که یک وقت غفلت نشود از آن، در عین حال به پدیده های نوظهور، به بحث این که این فناوری بعدها و در عین حال الان طوری شده که ممکن است عاملیت انسانی را به حدی کم بکند که اختیار از دست انسان خارج بشود، آسیب هایش، بحث فلسفه هوش مصنوعی به همه این ها پرداختیم از بین 12 ماده تقریبا بالای 80-90 درصد آن به حوزه توسعه و رو به جلو نگاه می کند یک ماده در حوزه مدیریت مخاطرات است یعنی یک جور نباشد که ما از این طرف بیفتیم وآسیب هایش دامنگیر ما بشود ولی کلیت اگر بخواهم در یک جمله جمع بندی کنم یک: ما الان باید سرعت مان را به حدی زیاد کنیم که تبدیل نشویم به یک کشور مونتاژکار و استفاده کننده مثل انقلاب صنعتی های دیگر، ماشین بیاوریم، ماده اولیه بیاوریم دانش فنی را هم از آنها بگیریم این ها سر هم کنیم و بگوییم چند تا کارگر بیایند این جا بایستند سر این ماشین یک چیزی را تولید کنند این نباید بشود ما بایستی حتما سهم بگیریم از این اکوسیستمی که در هوش مصنوعی است و در قانون این ها را ما مفصل دیدیم.سوال: هر کدام از این موارد خودش طرح یک سوال را به همراه دارد.آقای دکتر زارع پور خاطرم هست که ابتدا هوش مصنوعی اصلا موضوع آن در کل دنیا شکل گرفت و متداول شد و داشت به یک موضوع رایج تبدیل می شد کارشناسان این حوزه بسیار این مبحث را دنبال می کردند که یک شمشیر دولبه است هم ایجاد فرصت خواهد کرد در سراسر دنیا و دنیا را بر اساس تکنولوژی و فناوری های روز و نیازهای به روز پیش خواهد برد هم ممکن است تهدید ایجاد کند الان در کشور ما تقریبا یک موضوع رایج است و ما چقدر بر اساس این موضوع داریم پیش می رویم؟زارع پور: همانطور که آقای دکتر طاهری هم اشاره کردند شما در مقدمه فرمودید این موضوع موضوع بسیار مهمی است یعنی فناوری که الان شما پیش از شروع این جلسه فرمودید که بچه های کوچک گرفته که مشورت می گیرند از این مدل های زبانی که ما هم عمدتا هوش مصنوعی و عموم مردم با این مدل های زبانی بزرگی که اسم هایشان را نمی خواهیم بگوییم همه آشنا هستند می شناسند تا حوزه های مختلفی که حوزه آموزش، حوزه صنعت و حوزه پزشکی مان درگیر شده فرصت های بی نظیری ایجاد کرده هوش مصنوعی برای جامعه جهانی، که میتواند واقعا منجر به اتفاقات بسیار بزرگی بشود موتور محرک رشد اقتصادی بشود موتور محرک در بحث های فرهنگی، اجتماعی، اقتصادی،اوضاع پزشکی ولی همانطور که شما اشاره کردید می تواند مخاطراتی هم به دنبال داشته باشد ساده ترین آن این است که شکل زندگی را دارد تغییر می دهد خیلی از کسب و کارها شکل شان تغییر می کند الان شما بعضا مردم عزیزمان در دنیا هم این طور است البته، می خواهند به پزشک مراجعه کنند اول سوالات شان را از این مدل های بزرگ زبانی هوش مصنوعی سوال می کنند با یک نوت از آنها می روند پیش پزشک،خیلی از مشاغل از این متاثر می شوند داده هایی که از ما در این جمع می شود در مدل های بزرگ زبانی که تا خصوصی ترین اطلاعات افراد به این اعتماد می کنند ارائه می کنند این ها همه مسائلی است که باید به آن پرداخته شود.
من می خواستم کسب اجازه کنم چون قبل از این که به سوالات شما بپردازیم یک کم چون در این نشست به من گفتند که درمورد راهکارهای ارتقاء توان جمهوری اسلامی در حوزه هوش مصنوعی بپردازیم برای این که ببینیم ما کجای این زنجیره می توانیم مزیت نسبی داشته باشیم می خواهم یک کم در مورد هوش مصنوعی صحبت کنم بعنوان یک معلم و بهرحال عضو هیئت علمی دانشگاه، یکی از کاربردها همین عرض کردم مدل های بزرگ زبانی است که شما پرسشی را مطرح می کنید هوش مصنوعی در کمترین زمان پاسخ لازم را به شما می دهد اما هوش مصنوعی محدود به این نمی شود اما اگر بخواهیم لایه های مختلف را بشکافیم در پایین ترین لایه زیرساخت های پردازشی بسیار عظیمی است که در این سال های اخیر بوجود آمده که این می تواند اگر بخواهم قیاس کنیم تعداد دستورالعمل هایی که می توانید در واحد ثانیه پردازش کند مقیاس میلیون میلیارد است یعنی 10 به توان 15 دستورالعمل در واحد ثانیه را این جی پی او هایی که الان دارد استفاده می شود می تواند پردازش کند نسخه های جدید آن چند ده برابر شده در همین شش ماه اخیر یک سال اخیر، این یک زیرساختی که الان متاسفانه در انحصار شرکت های آمریکایی است چینی ها هم شروع کردند در این حوزه و دارند کارهایی انجام می دهند اما تا الان که خدمت شما هستیم در انحصار آمریکا است.
روی این لایه ما زیرساخت های ابری و ارتباطی را داریم که وقتی شما می خواهید ارتباط بگیرید با این زیرساخت های پردازشی که در یک نقطه دیگر از عالم است نیاز به یک زیرساخت ارتباطی قوی دارید بعد می رسیم به این مدل های مبنایی زبانی که ما داریم که قبلا فقط پردازش متن را داشتند مدل های بزرگ زبانی الان تصویر،فیلم،صوت، اصطلاحا مولتی مودال به آن گفته می شود، این ها در واقع می توانند حجم عظیمی از اطلاعات را با استفاده از زیرساخت های پردازشی برای شما تحلیل کنند این اتفاق بزرگی است که هوش مصنوعی در این یک دهه اخیر آورده روی صحنه، ما این قابلیت های پردازشی را ما قبل از این نداشتیم، من یادم هست سال 79-80 دوره لیسانس ما درس هوش مصنوعی را پاس می کردیم اصلا قابل قیاس نیست با چیزی که الان می بینیم و روی این لایه سوم لایه چهارمی وجود دارد ابزارکی هایی که طراحی شده به صورت تخصصی یا حتی مدل های زبانی کوچک تر به شکل تخصصی برای تولید عکس،فیلم، در حوزه های تخصصی
، صنعتی و در نهایت لایه های کاربردی.
ما اگر بخواهیم در مورد این صحبت کنیم که جمهوری اسلامی ایران می خواهد چه کار کند که در این حوزه توان خودش را ارتقا بدهد اول باید مشخص کنیم که ما می خواهیم چه کار کنیم آیا می خواهیم یک بهره بردار خوب برای هوش مصنوعی باشیم یعنی از لایه آخری که عرض کردم یک دستور العملی بنویسید که من پزشک من جراح من معلم می خواهم اطلاعات خودم را افزایش بدهم می خواهم داده های دقیق تری تولید کنم یک پرسشی که من مطرح میکنم می رود کنار حجم عظیمی از اطلاعات تحلیل می شود با استفاده از این زیرساختی که عرض کردم و بهترین جواب را به من می دهد می توانم تحول در بخش خودم ایجاد کنم چون هوش مصنوعی یکی از کارکردهایش این است که می تواند واقعا بهره وری را در همه حوزه ها افزایش بدهد دقت کار را بالا ببرد سرعت کارها را بالا ببرد اگر ما بخواهیم بگوییم که جمهوری اسلامی ایران چه کار باید بکند که در حوزه هوش مصنوعی قدرتمند بشود، یک نگاه این که می گوید ما یک بهره بردار خوب باشیم برویم هوش مصنوعی را در معدن مان، در صنعت مان، در کشاورزی مان در پزشکی مان استفاده کنیم بتوانیم بهره وری کشورمان را افزایش بدهیم، بتوانیم رقابت پذیری مان را افزایش بدهیم این یک نگاه است.سوال: این یک نگاه را نگه داریم،آقای دکتر ما الان اقای دکتر زارع پور اشاره کردند که یک نگاه این است که ما یک بهره بردار خوب باشیم.
ایا شما که الان عضو کمیسیون صنایع و معادن هستید ما الان در بحث صنایع، در بحث معادن توانستیم بهره بردار خوبی از هوش مصنوعی در کشور باشیم توانستیم زیرساخت ها و نکاتی را که در نگاه بخش نخست آقای زارع پور بود به آن جواب بدهیم؟ طاهری: توسعه ما در هوش مصنوعی متقارن نبوده، در بعضی از این منظومه را لحاظ کنیم رتبه های خیلی خوبی داریم مثلا رتبه دوم، سوم منطقه را داریم، در بعضی جاها مثلا رتبه مان در دنیا 60-70 است یعنی به صورت کاریکاتوری است یکنواخت نیست.
البته این که بگوییم در همه این ها ما باید به یک اندازه رشد کنیم هم انتظار نداریم حتما ما مثلا در تولید جی پی یو نمی توانیم آن دانش و تکنولوژی را داشته باشیم ولی مثلا در حوزه مدل ها ما وضع مان بد نبود نباید عقب بمانیم یک زمانی ما مقالات متعددی در دانشگاهها داشتیم جزو یکی دو تا کشور برتر منطقه بودیم.
این ها خودشان هم لایه های بنیادین و مهمی هستند مثلا در مدل های پهپادی ما جزو افرادی هستیم که حرف در دنیا برای گفتن داریم یعنی می توانیم سهم بگیریم در حوزه هایی که صنعت و معدن فرمودید، متوسط شاید هم ضعیف باشیم یعنی هنوز در صنعت ما خیلی نتوانستیم از این تکنولوژی استفاده کنیم.سوال: آقای زارع پور برگردیم به نگاه دیگر، ما برای این که بتوانیم سهمی داشته باشیم در این موضوع و بحث بسیار مهم باید نخست شاید بهره بردار خوبی باشیم.
زارع پور: شناخت مسئله بخشی از حل مسئله است که شما می دانید کجا هستید و فضای کاری که می خواهید در آن پیشرفت کنید چه است من از این جهت عرض کردم باز کنیم به چه شکل است. یک نکته ای من یادم رفت بالاخره این مسئله هوش مصنوعی خوراک اصلی و سوخت اصلی اش داده است و الان داده مثل نفت قدیم تعبیر می کنند از آن و یک سرمایه عظیم است که با این زیرساخت براحتی قابل پردازش می شود و به شما می تواند نتایج و تحلیل های دقیق تری را ارائه کند.
عرض کردم یک نگاه این است که بهره بردار خوبی باشیم اتفاقا برای بهره برداری با همکاری دوستان در مجلس در قانون برنامه هفتم توسعه بندهای بسیار خوبی آورده شد تبدیل به تکلیف قانونی شده یعنی در همه دستگاهها در ماده فکر می کنم 106-107 قانون برنامه هفتم توسعه دستگاهها مکلف شدند بروند برنامه خودشان را ظرف یک سال بیاورند در دولت تصویب کنند چه کار می خواهند بکنند با این فناوری های نوین مانند هوش مصنوعی برای افزایش بهره وری، افزایش سرعت کارهایشان، افزایش رضایتمندی مردم ارباب رجوع چه کار باید بکنند که بخش خودشان را مبتنی بر این فناوری ها متحول کنند.
این یک موضوعی که خیلی از کشورها سراغ این مسئله رفتند اما نکته مهم این است که اگر ما صرفا بهره بردار خوبی باشیم و بخواهیم از این فناوری استفاده کنیم داریم همه کشور را وابسته به این می کنیم یک فناوری مشاغل مختلفی متاثر می شوند ولی در نهایت… سوال: که زیرساخت آن برای ما نیست.
زارع پور: دقیقا ما در این چرخه نقشی نداریم غیر از این که یک روزی ممکن است این به روی ما بسته شود و امکان استفاده وجود نداشته باشد ما داریم کشور را وابسته می کنیم در حالی که به تعبیر امام شهید مان که فرمودند شما نباید صرفا یک بهره بردار باشید باید به لایه های عمیق هوش مصنوعی ورود کنید ما می توانیم هنوز فرمودند این رقابت بسته نشده مثل خیلی از فناوری های دیگر، ما می توانیم نقش آفرینی کنیم برای خودمان بیاییم یک جایی غیر از این که داریم توسعه می دهیم وابستگی هم ایجاد کنیم یعنی ما هم در زنجیره ارزش جهانی هوش مصنوعی سهم داشته باشیم، که دیگر نه این امکان را برای ما فراهم می کند که نه آنها بتوانند این فضا را به روی ما ببندند وهم این که ما هم قدرت ویژه ای را در این حوزه برای خودمان ایجاد کردیم این نقطه کجاست؟
سوال: یک سوال قبل از این که برویم سراغ نکته ای که شما می خواهید بگویید مستلزم این صحبت های شما این است که سرعت و شتاب ما سرعت و شتاب مناسبی باشد در این بین و در این مسیر، هست؟
زارع پور: در مسیریم ما شاید جزو کشورهایی باشیم که اولین کشورهایی باشیم که در این موضوع ورود پیدا کردیم بالاخره در عالی ترین سطح رهبر شهیدمان در سال های 1400-1401 خودشان شخصا ورود پیدا کردند و دنبال کردند حتی پیش از این که مسئولین دولتی شاید یا نخبگان، افراد تاثیرگذار در کشور، اهمیت این موضوع را آنچنان که امروز درگیر آن هستیم درک کنند رهبر شهیدمان مثل خیلی از موضوعات دیگر که ایشان شخصا راهبری می کردند و الحمدالله جزو نقاط افتخار آمیز ما است ورود پیدا کردند، در خیلی از حوزه ها ما جلو هستیم فرمودند در حوزه دانشی ما رتبه یک بعضی از سال ها بودیم در منطقه،رتبه دو جزو سه کشور برتر هستیم در دنیا جزو 15-16کشور برتر حداکثر دیگر جزو 20 کشور برتر هستیم اما صرفا مقاله کفایت نمی کند این باید تبدیل به فناوری بشود، ما بتوانیم در لایه های مختلف ورود پیدا کنیم بعنوان مثال بالاخره در زیرساخت پردازشی عرض کردم که الان شرکت های امریکایی یکه تازی می کنند الان رقابت های سنگینی دارد شکل می گیرد بین بلوک شرق و غرب، چینی ها دارند ورود پیدا می کنند و خیلی هم خوب دارند جلو می روند ما شاید نتوانیم در این پارادایم ورود جدی داشته باشیم بخاطر سرمایه گذاری عظیمی که می خواهد و زنجیره بسیار طولانی و گسترده ای که تولید جی پی یو دارد اما در همین هم ما می توانیم بیاییم یک ورودی داشته باشیم الان یکی از مسائل مهمی که وجود دارد این است که یک کاری که شما می خواهید انجام بدهید چقدر انرژی مصرف می کند با چند دستورالعمل اجرا می شود الان یک رقابتی در دنیا دارد شکل می گیرد که از همین سخت افزاری که فعلا در انحصار آمریکا است ما چطور می توانیم به شکل بهینه تری استفاده کنیم این میان افزارهایی که طراحی میشود این جا ما می توانیم ورود کنیم برای خودمان یک ساز و کاری فراهم کنیم دنیا به ما وابسته بشود این یک مثال کوچک است عرض می کنم لایه بالاتر آن عرض کردم مدل های مبنایی که الان وجود دارد حتما می توانیم ورود پیدا کنیم چون بسته و خلاقیت و نوآوری و الحمدالله ما در جمهوری اسلامی ایران نخبگان فراوانی داریم یکی از توانمندسازهای حوزه هوش مصنوعی که بسیار بسیار مهم است در کنار داده که عرض کردم خوراک اصلی آن است نیروی انسانی است چون بهرحال خلاقیت حرف اول را می زند.
شما بتوانید یک مدل زبانی توسعه بدهید که با زمان کمتر و با مصرف انرژی کمتر با جی پی یو کمتر بتواند همان بهره وری و کارایی را برای شما داشته باشد یک اتفاق بسیار بزرگ است.سوال: نکته نیروی انسانی و استفاده از دانش و استفاده از میانبرها نکته مهمی است ادامه اش را با هم پی بگیریم.آقای طاهری یک نکته مهم که آقای زارع پور من از نگاه نظارتی شما در مجلس شما و همکاران شما سوال بپرسم، برنامه دستگاهها و سازمان ها براساس هوش مصنوعی است قرار بود و مکلف هستند طبق برنامه هفتم، انجام دادند؟ پیش رفتند؟
طاهری: هم برنامه هفتم هم خود قانون هوش مصنوعی کلا موضوع هوش مصنوعی با توجه به سرعت تحول، عدم قطعیت، پیچیدگی، عوامل نوظهوری که داریم، چند بعدی بودن، نیازمندی هایی که خاص است یعنی استاتیک نیست، به صورت داینامیک و در حال تغییر است ما در تدوین قانون هم خیلی به بروزرسانی و این ها خیلی اهمیت می دادیم. هم در قانون برنامه هفتم هم در قانون هوش مصنوعی برای این که غفلت نشود از این ها عوامل نوظهوری که داریم، چندبعدی بودن، نیازمندیهایی که خاص است؛
یعنی خیلی استاتیک نیست، به صورت داینامیک و مدام در حال تغییر است، ما در تدوین قانون هم خیلی به بهروزرسانی اهمیت میدادیم، هم در قانون برنامه هفتم، هم در قانون هوش مصنوعی برای این که از اینها غفلت نشود که پدیدههای نوظهوری قرار است بیاید، بحث عاملیت فناوری؛ یعنی فناوری در هوش مصنوعی کلاً در دنیا ممکن است جایی برسد که دیگر از اراده بشر خارج شود، یا بحث فروبستگی فناورانه؛ یعنی این که این قدر وابستگی آدمها به هوش مصنوعی زیاد شود که اگر این را بگیریم دیگر هیچ کاری نتوانند انجام دهند و موارد متعدد دیگری که هست، در مورد دستگاهها هم همینطور؛
یعنی برنامهای که دستگاهها به عنوان اولویت و پیشران خودشان خارج از این که آن دستگاه باید فکر کند که متخصص است، ما در سازمان هوش مصنوعی که در قانون پیشبینی کردیم، در نظر گرفتیم که یک مرکز؛ مرکز مدیریت و مطالعاتی انجام شود که برای کل کشور اگر خلئی پیش بیاید، به جای آن بتواند فکر کند.
سؤال: یعنی ما با تقویت هوش مصنوعی، نیروی انسانی را حذف نمیکنیم؟ طاهری: آن که سر جای خود؛ نیروی انسانی که دکتر مدنظرشان است، بیشتر تربیت نیروی انسانی است که ما دو ماده مفصل در قانون برای این دیدیم که توضیح هم میدهم، ولی آن چیزی که الان سؤال شما بود و درست هم هست؛ بخش خصوصی در این قانون تولیدکننده دیده شده است. بخش زیادی از مصرفکننده؛
دولت دیده شده، ما برای این که دولت را بهرهور کنیم، در برنامه هفتم و به ویژه در قانون هوش مصنوعی در نظر گرفتیم که حتماً طرحهای ملی، اولویتدار و پیشران را سازمان هم نظارت کند، هم اگر یک جایی عقب ماندگی دارد، بنا به این که مدیریت آن بخش خیلی در این فاز نیست، همچنان کار را سنتی جلو میبرد، برای آن برنامه ابلاغ کند، مثلاً بگوید وزارت نیرو تو اگر در انرژی و برق مشکل داری و نرفتی به سراغ این کار، من این برنامه را به تو ابلاغ میکنم و در قانون دیده شده که وظیفه دارد آن دستگاه از منابع خودش برای این هزینه کند ولی بتواند نظارت کند؛
بنابراین یکی از کارهای جدی و اگر واقعاً بخواهیم بگوییم از اولویتهای مهم کشور؛ که این را نگه داشته بودم در جمعبندی بگویم؛ تشکیل سریع این سازمانی که قانون شده و دولت هم اعلام کرده که استقبال میکند، با قدرت با فردی با سواد و متمرکز روی این کار، نه این که فردی باشد یک جای دیگر مسئولیت دارد، چون بعضی وقتها اینها را میشنویم علیرغم این که آنجا این کار هم به عهده بگیرد؛ یعنی کار، کار سبک و ساده و ویترینی نیست، واقعاً یکی از جاهایی که هم ما در مجلس باید نظارت کنیم، هم شما در صداوسیما انشاءالله به ما باید کمک کنید؛
در خود شکلگیری این سازمان سرعتی داشته باشد، خیلی بار مالی ندارد، انگار یک هنرستان، یک مدرسه یا مثلاً یک فرمانداری؛ یعنی یک حالت ستادی است، این طور نیست که مثلاً در کل کشور قرار است نیرو، ساختمان و ماشین باشد؛ یک جایی به نام سازمان است؛ انگار که یک مدرسه را با معلم تجهیز میکنیم. سؤال: حتی اختصاص منابع هم به نظر میرسد در حوزه هوش مصنوعی جای دوری نخواهد رفت؟ طاهری: منابع آن هم دیده شده؛ هم اداره خودشان، هم برای کل بخش خصوصی که میخواهد دیده شود؛
اپراتورهایی که دیده شده برای داده و تجمیع پردازشهای توزیع شده که در کشور وجود دارد، واقعاً روی کلمه به کلمه این قانون فکر شده، اگر دولت اراده کند، بالأخره دولت الان سرش شلوغ و در جنگ است؛ ما قبول داریم، ولی به محض این که یک فرد و مجموعه را به عنوان سازمان شکل بدهد که متمرکز روی این قضیه باشد، ما هم انشاءالله در مجلس حاضریم با جدیت کمک کنیم و کار جلو برود، حتی یک ساعت هم نباید غفلت کنیم، حتماً اگر به این قانون عمل شود، کشور را ما میتوانیم به قبل و بعد از این تقسیم کنیم؛ یعنی جهشی را شاهد خواهیم بود که آن خلأها را میتواند پر کند.
سؤال: عمل به قانون را شما در مجلس باید نظارت کنید؟ طاهری: بله، از همین جا من از دکتر عارف، چون معمولاً این حوزههای فناوری هم تخصص ایشان است، از ایشان خواهش میکنیم سرعت بدهند و شنیدم مثلاً ممکن است دستگاهها یا بخشهایی که وظایف دیگری دارند را مثلاً شاید بخواهند برای این کار مأمور کنند، ما خواهشمان این است که نه مستقل سازمان را انشاءالله شکل بدهند و آن ویژگیهایی که در قانون آمده، قطعاً مشکلاتی هم که الان دولت دارد میتوانند به این سازمان بسپارند. سؤال: چند دستگاه برنامه آن را دارد بر اساس…؟
طاهری: نه، الان فعلاً برنامهای که دستگاهی بیاید بگوید من برای هوشمصنوعی این برنامه و پیشنهاد را دارم، حتی یک مورد هم ندارد. سؤال: مگر طبق قانون، مکلف نیستند؟ طاهری: عرض کردم در قانون برنامه هفتم، در بحث هوشمندسازی هست، ولی این که برای هوش مصنوعی برنامهای داشته باشند، این در قانون هوش مصنوعی دیده شده، هنوز سازمان شکل نگرفته که این برنامهها را انجام دهد. سؤال: آقای زارعپور مطمئناً برای ارتقای جایگاه هوش مصنوعی در کشور در جمهوری اسلامی ایران نیازمند این هستیم که چالشها و نقاط ضعف یا نیازمندیها را در مسیر بشناسیم؛
الان چند مورد را اشاره کردید، رسیدیم به نکته مهم نیروی انسانی؛ بحث دانش و توانمندیهای بومی، کجای راه هستیم، میتوانیم خودمان را با سرعت و شتاب پیش ببریم؟ عیسی زارعپور؛ وزیر سابق ارتباطات و فناوری اطلاعات: سؤال دکتر را که اشاره کردید تا آنجا که اطلاع دارم، دستگاههای زیادی در آن ستادی که تشکیل شده، برنامههای خود را آوردند برای آن برنامه هفتم؛ بحث هوشمندسازی که دنبال میکنند، به هر حال، چون بخش دولتی بخش قابل توجهی از اقتصاد کشور؛
با واسطه و بیواسطه، مصرف کننده بزرگی هستند، اگر اولویتهایش را تعیین کند، برنامههایش مصوب شود، تغییراتی را در بخش خصوصی ایجاد میکند که میتواند برای همان نیروی انسانی انگیزه ایجاد کند. ما الحمدلله در حوزه نیروی انسانی؛ جزو کشورهای پیشرو در تولید دانش هستیم و الان دانشگاههای زیادی در حوزه تربیت نیروی انسانی در حوزه هوش مصنوعی کار میکنند.
البته هوش مصنوعی هم صرفاً حوزه فنی نیست، ما الان موضوعات دیگری هم داریم که بسیار مهم است، از جنبههای جامعهشناسی، بحث امنیت، حوزههای اجتماعی، بالأخره باید روی این کار شود که هوش مصنوعی که الان به اعتقاد من زندگی بشر را تا الان تبدیل به قبل و بعد آن شاید بشود کرد و یک تحول جدی ایجاد میکند، در همه جنبهها باید مورد بررسی قرار بگیرد، صرفاً یک موضوع فنی نیست که ما از جنبه فنی به آن نگاه کنیم، اما برای توسعه ابزارهای مبتنی بر هوش مصنوعی و لایههای عمیق آن، دانشگاههای ما الحمدلله شرکتهای دانشبنیان و نخبگان ما پای کار هستند؛
اما باید برای اینها ایجاد انگیزه کرد و به آنها امید داد، مخصوصاً در شرایط فعلی که شرایط پیچیدهای در کشور حاکم است که ناشی از اتفاقات دو سال گذشته است؛ به تعبیر امام شهیدمان، کودتایی که اتفاق افتاد، دو جنگ به کشور تحمیل شد؛ در شرایط خاصی هستیم، ایجاد امید و انگیزه برای نیروها و این که بقیه هم به این حوزه بپیوندند، نیروهای انسانی متخصصی که داریم، بحث مهمی است که انشاءالله با تشکیل سازمان هوشمصنوعی و متمرکز کردن همه ظرفیتهایی که در کشور وجود دارد و میتواند ایجاد انگیزه کند، امیدوارم این مسیر هموار شود. سؤال: این که میگویید انگیزه مالی؛
تخصیص منابع یا نه همراهیهای مسیر؛ تسهیل راه؟ زارعپور: هوش مصنوعی در واقع توانمندسازهای متعددی دارد؛
یکی، سرمایهگذاری است، زیرساختهایی که باید فراهم شود، بالأخره یک مدلی توسعه میدهند یک جمع و گروهی نیاز پردازشی دارد، الان متأسفانه یک رقابت شاید بگویم منفی در کشور راه افتاده که هر کسی دنبال این است که یک زیرساخت پردازشی ویژه برای خود راهاندازی کند، چند روز پیش من میهمان یکی از معاونان دانشگاهها بودم، برگشت به من گفت ما اینجا میخواهیم یک جیپییو فاین راه بیندازیم، شما کمک کنید مثلاً از فلانجا میخواهیم فلانقدر اعتبارات بگیریم در حالی که شاید آن دانشگاه اصلاً چنین چیزی نیاز نداشته باشد، حتی اگر فراهم کند.
الان همه دنبال این هستند که این را فراهم کنند، در حالی که این منبع یک منبع فعلاً کمیاب در دنیاست، حتی اگر پول هم وجود داشته باشد، تحریم هم نباشد، به خاطر محدودیتهایی که وجود دارد و عمدتاً از سمت آمریکا وضع شده، تأمین آن سخت است، این که به هر حال یک زیرساخت پردازشی مناسب در کشور وجود داشته باشد و همه به آن دسترسی داشته باشند، یک عامل انگیزش است. این که من بتوانم ایدههایی که میدانم برای افزایش بهرهوری و ایجاد تحول در بخشهای مختلف دولتی مفید است، بتوانم اینها را دنبال کنم و ایجاد انگیزه میکنم یا دسترسی به دادهها؛
الان مسأله داده، بسیار بسیار بحث جدی است که در این قانون به آن پرداخته شده، ولی به اعتقاد من نیازمند یک قانون مجزا هم هست. بالأخره ما میخواهیم با دادهها چه کنیم؟ دادههایی که در اختیار بخش خصوصی است، شما همین سکوهایی که روزانه از آنها استفاده میکنید، از جابهجایی مسافر، خرید، تماشای آنلاین تلویزیون گرفته تا انواع سکوهای خدماتی که هست شما دادههایتان را در آنجا قرار میدهید، برنامه ما برای این دادههایی که هم در بخش خصوصی و هم در بخش دولتی است؟
بخش دولتی را باز به همت دکتر طاهری سال ۱۴۰۱ یک قانونی در مجلس شورای اسلامی به نام قانون داده و اطلاعات ملی تصویب شد که به اعتقاد من، قانون بسیار خوب و کارگشایی بود، اگر امروز شما بسیاری از خدمات را میبینید باهم یکپارچه شدند، به خاطر جرمانگاری است که در آن قانون برای ندادن دادن و عدم تبادل داده بین دستگاهها پیشبینی شده بود، قبل از این توصیه بود، الان به هر حال یک شمشیر تیز از سمت مجلس روی سر دستگاههای دولتی گذاشته شده، باهم دادههای خود را به اشتراک بگذارند.
در بخش دادههای دولتی، تدبیر خوبی در بخش دادههای خصوصی شده و کلاً داده به نظرم یک دوره آزمایشی با این قانون باید جلو برویم، ولی حتماً نیازمند یک تحول جدی هستیم، ما دادهها را باید تبدیل به یک سرمایه ملی کنیم که در عین حال که از حریم خصوصی مردم حفاظت میکنیم، بخش خصوصی بتواند با این دادهها خلق ارزش جدید کند؛ نوآوریهای جدید داشته باشد.
رئیس جمهور جنایتکار آمریکا بارها اشاره کرده، این دفعه هم گفتم ما اصلاً الان دنبال تنظیمگری و قاعدهگذاری هوش مصنوعی نیستیم، باید تخته گاز جلو برویم که بتوانیم راهبر و رهبر هوش مصنوعی در دنیا باشیم و همه را وابسته به خودمان کنیم.
در چنین شرایطی به هر حال شاید لازم باشد یک دورهای ما صرفاً به فکر توسعه باشیم، نه فقط بهرهبرداری با این نگاه که ما بتوانیم در زنجیره ارزش جهانی یک جای پایی را برای جمهوری اسلامی ایران و جوانان خوشفکر ایرانی ایجاد کنیم که دنیا یک محصول ایرانی را حتماً لازم داشته باشد، اگر بخواهد به شکل بهرهور از این زنجیره استفاده کند و این دور از دسترس نیست. به اعتقاد من، همیشه عرض کردم جوانهای ایرانی چند سر و گردن از جوانهای کشورهای دیگر بالاتر هستند، هر جا شما یک نوآوری میبینید در شرکتهای با دانش و فناوری بالا؛
اصطلاحاً هایتک در هر جای کره خاکی، بروید نگاه کنید حتماً در هسته اصلی آنها جوانان ایرانی حضور دارند و این یک افتخار است، ما میتوانیم حرف برای گفتن داشته باشیم و این فناوری هم همانطور که اشاره کردم، جزو فناوریهایی است که هنوز دیر نشده، ولی خیلی زود دیر میشود، باید همه دست به دست هم دهیم و همه ظرفیتها را هماهنگ جلو ببریم که انشاءالله این تحول با سرعت و شتاب لازم جلو برود. اخیراً هم مجمع تشخیص مصلحت نظام به دنبال این است که سیاستهای کلان نظام را هم در این حوزه مشخص کند، فکر میکنند که اصلاً به سیاست کلی نیاز داریم؟
مشورت تهیه میکنند برای رهبر معظم انقلاب که حتی اگر لازم باشد ایشان ورود پیدا کنند و جهتگیریهای کلان کشور در این موضوع را مشخص کنند که همه بدانند در این موضوع باید با شتاب لازم و با در نظر گرفتن همه جوانب امنیتی، سیاسی، اجتماعی، فرهنگی و اخلاقی؛
الان بحث اخلاق در هوش مصنوعی مسأله جدی در دنیاست که باید به آن پرداخته شود، ولی شاید الان مثلاً اولویت یک ما اینها نباشد، در هر صورت، در این موضوع هم ورود پیدا کردند که انشاءالله بتوانیم یک منظومه اولاً نظریه مبنای جمهوری اسلامی ایران را در این حوزه تدوین کنیم که برمیگردد به آن سؤالی که ابتدا عرض کردم که میخواهیم در هوش مصنوعی چه کاره شویم؟
متناسب با آن جهتگیریهای کلی کشور را مشخص کنیم که علاوه بر این قانونی که با زحمت دوستان در مجلس شورای اسلامی تصویب شد، پیش از آن دوستان در شورای انقلاب فرهنگی طرح ملی هوش مصنوعی را تصویب کردند، همتی که در دولت وجود دارد و ستاد هوش مصنوعی تشکیل شده، انشاءالله همه اینها همگرا شود که ما بتوانیم کشور را در حوزه هوش مصنوعی به جایگاه شایسته برسانیم.
سؤال: در پیام مقام معظم رهبری به مناسبت هفته فراجا و نیروی انتظامی هم نگاهی به موضوع هوش مصنوعی شده که این خود اهمیت این حوزه و نگاه دقیقتر به این حوزه را در موضوعات مختلف ازجمله نیروی انتظامی و هفته فراجا متوجه میکند، آقای طاهری یک نکتهای گفتند و من را کمی در فکر فرو بردند، جدای از مباحث فنی، ما به شدت نیازمند این هستیم که مراقبتهایی در خصوص موضوعات فرهنگی و همچنین انسانی در هوش مصنوعی در کشورمان اتفاق بیفتد، چون شما ابتدا اشاره کردید یک بند و یک بخش از قانون هوش مصنوعی که مصوب شده، بخش تنظیمگری مخاطرات است، به ما بگویید که چقدر نگرانیها را در این حوزه برطرف میکند، چون الان جدای از این که خوشحال میشویم از این که هوش مصنوعی استفاده میکنیم و بخشی از نیازهای ما را جواب میدهد، نگرانیهایی پشت آن هم به وجود میآید.
طاهری: در تکمیل فرمایش دکتر، این نکته را عرض کنم؛ در حوزه نیروی انسانی ما هم برای وزارتین، هم برای حوزههای علمیه، هم آموزش و پرورش و هم برای فنی و حرفهای تکالیف خوبی را آوردیم که از سرفصلهای آموزشی بگیر تا تقویت آزمایشگاهها و پایاننامهها و… و برای حوزه داده هم به جز بحث کارگروه تعاملپذیری و این که اجباری باشد در این که از دادهها بتوانند استفاده کنند، مشوقی هم برای بخش خصوصی؛ یعنی این را در نظر گرفتیم که کاربرهای بخش خصوصی برای حوزه داده تشکیل شود؛ یعنی اپراتورها و کاربرهایی باشند، در حوزه دولتی هم ممکن است یک بخش دولتی باشد؛
مثلاً کتابخانه ملی، قوه قضائیه یا صداوسیما؛ شاید یکی از جاهایی که بیشترین داده را دارد، خود صداوسیما باشد، ولی یک وقت من به اجبار میگویم باید این دادهها را در اختیار جایی بگذاری، یک وقتی میگویم این اجازه را به شما میدهم که کاربر درست کنی و این دادهها را با آن نرخی که مورد تأیید سازمان تنظیم مقررات است؛ یعنی یک منافعی را هم برای آن در نظر گرفتیم. بخش دولتی که دادههای زیادی؛
بیگدیتا دارد، برای این که منتفع هم شود و دادههایش را بتواند بعد از این که بینشان میکند و قابل استفاده است بدون این که به هویت افراد آسیب بزند، یا در قوه قضائیه یا جاهای دیگر اینها را استفاده کنند. در مورد مخاطرات که فرمودید؛ عرض کردم با این که رویکرد ما؛ رویکرد توسعهای است، در دنیا ما وقتی میخواستیم این طرح را بنویسیم، قوانین کشورهای مختلف را مطالعه میکردیم، دیدیم مثلاً اروپا رفته به حوزه تنظیمگری خیلی پرداخته، یک قانونی دارد بالای شاید ۴۰ تا ۵۰ ماده، اکثر آن در حوزه تنظیمگری است که اینجا یک مخاطره است، چطور جلوی آن را بگیریم، الی آخر.
بعضی کشورها مثل چین و آمریکا در حوزه توسعه جلو رفتند، ما در این برهه از زمان تصمیممان را به حوزه توسعه گذاشته بودیم و عموم موادی که نوشتیم برای اینجاست، ولی آن مادهای که برای مخاطرات لحاظ کردیم به این شکل ساماندهی کردیم. سؤال: پس این نگاهی که الان گفتید نگاه توسعهای است، پاسخ آقای زارعپور بود در آن سؤال نخست؟ طاهری: بله، ما سعیمان بر این است؛ بیش از ۸۰ درصد نگاه به آن بود، برای این که این قسمت غفلت نکنیم، کشوری هستیم که بحثهای فرهنگی و ارزشی برای ما مهم است؛ از آن فلسفه هوش مصنوعی بگیر، علیرغم این که دو ماه کلاً در سازمان دو مرکز لحاظ کردیم؛
یک مرکز برای این که بتواند آن آیندهنگریها و چیزهایی که ممکن است بعد از یک مدتی بگوییم این قرار بود پیش بیاید، ما حواسمان نبود؛ پدیدههای نوظهور، از این جنس چیزها مثل مواردی که هنوز مبتلابه نیستیم، ممکن است در آینده مبتلا شویم را زودتر پیشبینی کند، راه چارهای برای آن دیده شود، یک مرکز هم گذاشتیم برای هم کار امنیت و هم مهمتر از آن؛
مدیریت مخاطرات، یعنی اگر شما یک برنامهای در هوش مصنوعی مینویسید یک کاری اقدامی میخواهید انجام بدهید بایستی حتما در این آزمایشگاههایی که مربوط به آزمایشگاههای معتبری که وجود دارند گواهی تایید و گواهی اخلاق آن را بگیرند یعنی این طور نیست که صرف توسعه ما سرمان را بیاندازیم بگوییم هر کاری در هوش مصنوعی انجام شد مورد تایید است بدون تاییدیه و جلو برویم، نه، در عین حالی که نگاه نگاه توسعهای بوده حتما این قسمت را هم در بحث مدیریت مخاطرات به صورت فنی و علمی دیده شده که بتواند آن گواهیهای لازم را در بخشهای مختلف مربوط به هوش مصنوعی اخذ کنند و کار را جلو ببرند.
سوال: آقای زارع پور در جنگ دنیای پیچیده هوش مصنوعی جمهوری اسلامی ایران میتواند جزو قدرتهای برتر باشد؟ زارع پور: حتما این طور است بحث توانایی اش که یادی کنیم از شهید رئیسی که همیشه میگفتند ما اصحاب میتوانیم هستیم، با توجه به این نیروی انسانی خلاقی که در کشور ما است و عزم و ارادهای که وجود دارد حتما میتوانیم همانطور که اشاره کردند ما یک روزی سیم خاردار را هم وارد میکردیم سادهترین تجهیزات نظامی را به ما نمیدادند امروز در کشورهای پیشرفته دنیا برای کپی کردن پهپادهای ایرانی صف کشیدند.
طاهری: آقای دکتر در بحث هوش مصنوعی در پهپاد هم جزو الان صاحب سبکها هستیم؛ که یعنی مثلا شما یک انبوهی از پهپاد را استفاده کنید پردازش کند یعنی در این جا هم الان که گفتید در برخی از زنجیرهها باید جا پیدا کنیم… سوال: یعنی در میدان و فضای امنیت کشور هم… طاهری: بله، ما در قانون هم دیدیم که سرریز هوش مصنوعی در حوزههای نظامی مان را در کشور بشود استفاده کرد حتما یکی از جاهای پیشرو نظامی ما است.
زارع پور: بله، منتها الان یکی از جاهایی که اتفاقا در دو جنگ اخیر از آن آسیب خوردیم دست برتر دشمن در بعضی از ابزارهای مبتنی بر هوش مصنوعی بود به ویژه در تکمیل بانک اهدافش که ابزارهای بسیار پیشرفتهای دارد که مبتنی بر جمع آوریهای آشکار و پنهانی که از اطلاعات انجام میدهد میتواند بانک اطلاعاتی اش را به شکل خودکار به روز کند حتی بعضی جاها سیستمهایی عملیاتی اش را هم وصل کرده به همین سیستمهای پردازشی اش که بتواند در لحظه تصمیم بگیرد که سیستم خودش اتوماتیک کسی را مورد هدف قرار بدهد یا جایی را مورد هدف قرار بدهد یا نه، در این حوزهها ضعفهایی وجود دارد که میدانم دوستان ما در نیروهای مسلح دارند تلاش میکنند در کنار این دستهای برتری که در استفاده از هوش مصنوعی در رزم پیدا کردیم در این یکی دوسال اخیر انشاالله در این حوزهها هم ما بتوانیم نیروهای مسلح ما تقویت شوند و ما هم دست برتر داشته باشیم که بتوانیم از این فناوری که دشمن دارد استفاده میکند برای ضربه زدن هر کجا لازم بود ما هم مقابله به مثل کنیم.
سوال: هوش مصنوعی افق و چشم انداز؟
طاهری: اگر میخواهیم واقعا حرفهایی که میزنیم در حد حرف باقی نماند و عمل به آن بشود خواسته رهبر شهیدمان جزو ۱۰ کشور برتر باشیم، عرض کردم سریعترین کاری که الان بایستی دولت انجام بدهد و ما در مجلس نظارت کنیم تشکیل سازمان با یک مدیر باثبات و متمرکز روی این کار، عمل به بند بند و نقطه به نقطه این جا که هم بحثهای مالی دیده شده هم آینده نگری شده هم بحث دولت دیده شده هم بخش خصوصی دیده شده یعنی میثاق ما باشد، من تضمین میکنم قول میدهم که یک جهش فوق العادهای در هوش مصنوعی در کشور انشاالله داشته باشیم با عمل به این قانون هوش مصنوعی.
سوال: آقای زارع پور جمع بندی بفرمایید: زارع پور: ما ظرفیتهای کم نظیری در حوزه نیروی انسانی عزم و ارادهای که در مدیران کشور وجود دارد و زیرساختهایی که در کشور وجود دارد صرفا هم زیرساختهای سخت افزاری نیست حتما میتوانیم که نقش جدی وویژهای را در زنجیره جهانی هوش مصنوعی ایفا کنیم این را باید به سرعت پیدا کنیم تا قبل از این که این پنجره فرصت بسته نشده که ما دیگر مثل فناوریهای دیگر نتوانیم یا به سختی بتوانیم یا با سرمایه گذاری زیاد، الان فرصتی است که مامی توانیم با سرمایه گذاری کمتر نسبت به آینده با سرعت بیشتری این نقش را پیدا کنیم امیدواریم که با همدلی و همراهی که بین مجلس، دولت، بخشهای مختلف حاکمیت دارد شکل میگیرد انشاالله این فضا را ما بتوانیم به شکل بهینه مدیریت کنیم که این اثرگذاری را در زنجیره ارزش جهانی داشته باشیم در عین حال که عرض کردم بحث بهره برداری، بحث استفاده، توسعه هوش مصنوعی در همه بخشها البته با در نظر گرفتن مخاطرات و چارچوبهایی که وجود دارد و تحولهایی که در همه بخشها ایجاد میکند، الان شما آموزش به شکل عجیبی متاثر از هوش مصنوعی شده دانشگاهها، مدارس باید برای آن تدبیر کرد که در عین حال که از این ابزارها به بهترین شکل ممکن استفاده میکنیم یک وقت خدایی نکرده مخاطراتش هم دامن گیر کشور نشود.
سوال: اصلا موضوع هوش مصنوعی در مدارس، آموزش عالی، آموزش و پرورش، در صنایع، در حوزههای مختلف خودش میتواند سرفصل هر کدام از گفتوگوهای ما باشد. سرعت و شتاب مان را باید در حوزه هوش مصنوعی همزمان با یپشرفتها تنظیم کنیم وگرنه نکتهای میشود که شما اشاره کردید زود دیر میشود.
منبع: خبرگزاری صدا و سیما



