بی‌اعتمادی کارکنان بزرگ‌ترین مانع گسترش هوش مصنوعی در سازمان‌ها

گزارش جدید TeamViewer نشان می‌دهد که بی‌اعتمادی کارکنان به هوش مصنوعی به یکی از مهم‌ترین موانع گسترش این فناوری در سازمان‌ها تبدیل شده است.

به گزارش سیلاد به نقل از Ciodive، این گزارش که با همکاری مؤسسه Sapio Research و بر اساس نظرسنجی از ۴۲۰۰ مدیر و کارمند در کشورهای مختلف تهیه شده، نشان می‌دهد اگرچه استفاده روزانه از هوش مصنوعی به سرعت در حال افزایش است، اما اعتماد به تصمیم‌گیری مستقل این فناوری همچنان پایین باقی مانده است.

طبق یافته‌های این پژوهش، حدود ۷۵ درصد از مدیران و کارکنان دست‌کم روزی یک بار از ابزارهای هوش مصنوعی استفاده می‌کنند، اما ۶۱ درصد ترجیح می‌دهند هوش مصنوعی بدون تأیید انسان قادر به انجام اقدامات مستقل نباشد. همچنین بیش از نیمی از پاسخ‌دهندگان اعلام کرده‌اند که همیشه یا اغلب خروجی‌های هوش مصنوعی را قبل از استفاده بررسی می‌کنند و تقریباً همین تعداد نیز گفته‌اند که همیشه نمی‌دانند چه زمانی می‌توان به پاسخ‌های هوش مصنوعی اعتماد کرد و چه زمانی باید آن‌ها را راستی‌آزمایی کرد.

این گزارش نشان می‌دهد شکاف اعتماد میان مدیران و کارکنان قابل توجه است. مدیرانی که مسئول اجرای پروژه‌های هوش مصنوعی هستند، نسبت به کارکنان خط مقدم اعتماد بیشتری به این فناوری دارند و راحت‌تر وظایف را به آن واگذار می‌کنند. در مقابل، کارکنان احساس می‌کنند کنترل چندانی بر نحوه استفاده از هوش مصنوعی ندارند و در صورت بروز خطا، ممکن است مسئولیت پیامدهای آن متوجه آن‌ها شود.

در حال حاضر بیشتر افراد از هوش مصنوعی برای کارهای کم‌ریسک مانند خلاصه‌سازی اطلاعات، تولید پیش‌نویس اولیه، پاسخ‌گویی به پرسش‌ها یا انجام وظایف تکراری استفاده می‌کنند؛ زیرا این نوع خروجی‌ها پیش از استفاده قابل بازبینی هستند. در مقابل، تنها ۱۱ درصد از پاسخ‌دهندگان اعلام کرده‌اند که با عملکرد کاملاً خودکار و مستقل هوش مصنوعی بدون نظارت انسانی احساس راحتی می‌کنند.

کارشناسان TeamViewer تأکید می‌کنند که موفقیت سازمان‌ها در توسعه هوش مصنوعی به جای «اتوماسیون کامل»، به ایجاد «اعتماد» وابسته است. برای دستیابی به این هدف، سازمان‌ها باید چارچوب‌های شفاف حاکمیت، مسئولیت‌پذیری و مدیریت ریسک ایجاد کنند، حدود اختیارات سیستم‌های هوش مصنوعی را مشخص سازند و کارکنان را در تصمیم‌گیری درباره میزان استقلال این سیستم‌ها مشارکت دهند.

این گزارش همچنین توصیه می‌کند سازمان‌ها ابتدا وظایف کم‌ریسک را برای اجرای خودکار انتخاب کرده و پس از اثبات عملکرد ایمن و قابل اعتماد هوش مصنوعی، به‌تدریج دامنه اختیارات آن را افزایش دهند. به گفته کارشناسان، آینده هوش مصنوعی سازمانی نه با افزایش قدرت فناوری، بلکه با ایجاد اعتماد، شفافیت و نظارت انسانی رقم خواهد خورد.