رفتن به محتوای اصلی
علمی و فناوریاقتصاد نیوز3 دقیقه مطالعه

علت جواب‌های اشتباه هوش مصنوعی چیست؟ | پاسخ‌های غلط بخاطر ضعف مدل است؟ | آیا با دانش متناقض مواجهیم؟

به گزارش اقتصادنیوز به نقل از فوربز، ساگی الیاهو، مدیرعامل KMS Lighthouse، در تحلیلی برای فوربس می‌نویسد که بسیاری از شرکت‌ها بر پایه دانشی کار می‌کنند که با خودش تناقض دارد: سیاست بازگشت کالا در مرکز راهنما ۳۰ روز است، متن راهنمای کارشناس برای مشتریان وفادار…

علت جواب‌های اشتباه هوش مصنوعی چیست؟ | پاسخ‌های غلط بخاطر ضعف مدل است؟ | آیا با دانش متناقض مواجهیم؟

به گزارش اقتصادنیوز به نقل از فوربز، ساگی الیاهو، مدیرعامل KMS Lighthouse، در تحلیلی برای فوربس می‌نویسد که بسیاری از شرکت‌ها بر پایه دانشی کار می‌کنند که با خودش تناقض دارد: سیاست بازگشت کالا در مرکز راهنما ۳۰ روز است، متن راهنمای کارشناس برای مشتریان وفادار ۴۵ روز و سندی که سال گذشته منتشر شده ۳۰ روز مگر برای کالاهای حراجی. به گفته او، این تناقض‌ها معمولاً یک‌باره ساخته نشده‌اند و طی سال‌ها و اغلب با دلایل موجه انباشته شده‌اند. کارکنان باتجربه یاد می‌گیرند کدام سند قدیمی است و در تعارض میان سیستم و تجربه، معمولاً تجربه میدانی را ملاک می‌گیرند.

اما هوش مصنوعی این لایه اصلاح غیررسمی را ندارد؛ وقتی مدل بر پایه محتوای سازمان به مشتری پاسخ می‌دهد، نمی‌داند کدام نسخه معتبر است، یکی را انتخاب می‌کند و آن را با اطمینان بیان می‌کند. دانش متناقض، مشکل تازه‌ای نیست نویسنده پرونده ایر کانادا (Air Canada) در سال ۲۰۲۴ را مثال می‌زند؛ دیوانی در کانادا این شرکت را مسئول دانست چون چت‌بات وب‌سایتش به مسافری داغدار گفته بود می‌تواند پس از سفر برای بازپرداخت کرایه سوگواری درخواست بدهد، هرچند صفحه سیاست رسمی شرکت چیز دیگری می‌گفت.

ایر کانادا استدلال کرد اطلاعات درست جای دیگری از سایت موجود است، اما دیوان نپذیرفت، چون چت‌بات بخشی از وب‌سایت و وب‌سایت متعلق به شرکت بود. به نوشته الیاهو، این پرونده بیش از آنکه شکست هوش مصنوعی باشد، شکست مدیریت دانش است. وقتی هوش مصنوعی مستقیم به مشتری پاسخ می‌دهد، تناقض دانش از یک مزاحمت داخلی به تعهدی بیرونی تبدیل می‌شود و شرکت ممکن است ناچار باشد پشت آنچه سیستم گفته است بایستد. چرا مدل بهتر کافی نیست واکنش اولیه به پاسخ اشتباه، مقصر دانستن مدل و خرید مدل بهتر است. به تجربه نویسنده، مشکل معمولاً مدل نیست؛

لایه دانش زیر آن است که کیفیت هر پاسخ را تعیین می‌کند. بسیاری از سازمان‌ها در لایه قابل‌مشاهده سرمایه‌گذاری کرده‌اند، اما کمتر پرسیده‌اند آیا همه محتوایشان در یک اتاق با هم توافق دارند. دانش در سازمان‌ها میان ویکی‌ها، درایوهای مشترک، یادداشت تیکت‌ها، اسناد سیاست، اسلایدهای آموزشی و رشته‌های ایمیل پخش است. هر قطعه هنگام نوشتن درست بوده، اما امروز کمتر مالکی دارد و بسیاری از آن‌ها هرگز منقضی نمی‌شوند. ابزارهای بازیابی محتوا را پیدا می‌کنند، اما تصمیم نمی‌گیرند کدام سند معتبر است؛ این داوری تحریریه‌ای باید پیش از رسیدن پرسش به هوش مصنوعی انجام شود.

راه‌حل: دانش را مانند محصول مدیریت کنیم شرکت‌هایی که این کار را درست انجام می‌دهند، دانش را بیشتر شبیه محصول می‌بینند تا کتابخانه و به مدیریت دانش همان توجهی را می‌دهند که به خود هوش مصنوعی. در این رویکرد، برای هر پرسش یک پاسخ وجود دارد، هر بخش دانش مشتری‌محور مالک مشخص و تاریخ بازبینی دارد، انسان و ماشین از یک پاسخ تأییدشده می‌خوانند، دانش پیش از گسترش هوش مصنوعی به موضوع یا کانال تازه بازبینی می‌شود و شکاف‌های دانش به‌عنوان نشانه ضعف یا نبود محتوا دیده می‌شوند.

در بخش پایانی، نویسنده می‌گوید همه می‌خواهند بدانند کدام مدل باهوش‌تر است، اما مدل‌ها به هم نزدیک می‌شوند و رقبا می‌توانند همان هوشمندی را بخرند. آنچه خریدنی نیست، دانش سازمان و نظمی است که آن را منسجم، تأییدشده و یکدست نگه می‌دارد.

منبع: اقتصاد نیوز

منبع خبراقتصاد نیوز
نمای زنده فرهاببه‌روزرسانی 02:41
204,260مطلب نمایه‌شده
174,357موضوع و برچسب
30منبع خبری
14حوزه موضوعی